Pioniere IA lascia: "Tecnologia pericolosa"

[Andris]

Geoffrey Hinton, informatico di 75 anni considerato il pioniere dell'Intelligenza Artificiale per i suoi studi sull'apprendimento profondo e le reti neurali, ha rilasciato un'intervista al New York Times che ieri ha fatto il giro del mondo

"In questo momento, quello che stiamo vedendo è che cose come GPT-4 eclissano una persona nella quantità di conoscenza generale che ha e le eclissa di gran lunga
Il timore è che dato il ritmo dei progressi, ci aspettiamo che le cose migliorino abbastanza velocemente.
Quindi dobbiamo preoccuparcene

in questo momento, non sono più intelligenti di noi, per quanto ne so.
Ma penso che presto potrebbero esserlo

Il tipo di intelligenza che stiamo sviluppando è molto diverso dall'intelligenza che abbiamo.
Siamo sistemi biologici e questi sono sistemi digitali.
E la grande differenza è che con i sistemi digitali hai molte copie dello stesso set di pesi, lo stesso modello del mondo
è come se avessi 10.000 persone e ogni volta che una persona ha imparato qualcosa, tutti lo sapessero automaticamente.
Ed è così che questi chatbot possono sapere molto di più di qualsiasi essere umano

Certe persone potrebbero usare questa tecnologia per ottenere più potere

Google è stato molto responsabile
In realtà voglio dire alcune cose positive su Google e sono più credibili se non lavoro per Google”.

 

[Alkampfer]

tutti questi allarmi puzzano da miglia di distanza ....

 

[Andris]

tutti questi allarmi puzzano da miglia di distanza ....

nel senso che ormai la tecnologia è scappata loro di mano e non si può tornare indietro ?

 

[Alkampfer]

nel senso che ormai la tecnologia è scappata loro di mano e non si può tornare indietro ?

ma no, secondo me stanno facendo solo pubblicità, non me lo spiego altrimenti , al momento.

 

[Andris]

ma no, secondo me stanno facendo solo pubblicità, non me lo spiego altrimenti , al momento.

non mi convince questa spiegazione, almeno nel suo caso dato che ha 75 anni
non è uno in rampa di lancio che deve pubblicizzare un suo prodotto
anche se le parole finali su Google, dove ha lavorato per tanto, fanno storcene il naso...

 

[Djici]

nel senso che ormai la tecnologia è scappata loro di mano e non si può tornare indietro ?

Esattamente quello che penso.
Rischiamo tanto a livello di società.
A livello lavorativo sarà un disastro e forse sarà addirittura il problema minore.

 

[Andris]

Esattamente quello che penso.
Rischiamo tanto a livello di società.
A livello lavorativo sarà un disastro e forse sarà addirittura il problema minore.

quello che mi preoccupa è quando dice "hai molte copie dello stesso modello di mondo", cioè possono conoscere all'infinito ma è come se guardi il mondo con gli stessi occhi e non c'è diversità

 

[pazzomania]

Geoffrey Hinton, informatico di 75 anni considerato il pioniere dell'Intelligenza Artificiale per i suoi studi sull'apprendimento profondo e le reti neurali, ha rilasciato un'intervista al New York Times che ieri ha fatto il giro del mondo

"In questo momento, quello che stiamo vedendo è che cose come GPT-4 eclissano una persona nella quantità di conoscenza generale che ha e le eclissa di gran lunga
Il timore è che dato il ritmo dei progressi, ci aspettiamo che le cose migliorino abbastanza velocemente.
Quindi dobbiamo preoccuparcene

in questo momento, non sono più intelligenti di noi, per quanto ne so.
Ma penso che presto potrebbero esserlo

Il tipo di intelligenza che stiamo sviluppando è molto diverso dall'intelligenza che abbiamo.
Siamo sistemi biologici e questi sono sistemi digitali.
E la grande differenza è che con i sistemi digitali hai molte copie dello stesso set di pesi, lo stesso modello del mondo
è come se avessi 10.000 persone e ogni volta che una persona ha imparato qualcosa, tutti lo sapessero automaticamente.
Ed è così che questi chatbot possono sapere molto di più di qualsiasi essere umano

Certe persone potrebbero usare questa tecnologia per ottenere più potere

Google è stato molto responsabile
In realtà voglio dire alcune cose positive su Google e sono più credibili se non lavoro per Google”.

Lo capisce anche un bambino che se creeremo qualcosa di più intelligente di noi, quella cosa ci fregherà, o quantomeno non la potremo prevedere del tutto.

Ma anche i bambini sanno che l' uomo non si FERMA MAI, anche quando rischia di ritorcersi contro.

Quindi fatica sprecata.

Vedremo che accade.

 

[Andrea Red&Black]

nel senso che ormai la tecnologia è scappata loro di mano e non si può tornare indietro ?

per me il concetto è abbastanza semplice. Il nostro cervello è uguale da 200 mila anni, l' AI migliora esponenzialmente ogni anno. Non è che ci vuole un genio a capire che un giorno noi umani non saremo più in grado di capire cosa fa l'AI. Un piccione che defeca sul Duomo, capisce cosa rappresenta quel monumento? No, è parte dell'ambiente circostante. E noi saremo come i piccioni che defecano sulle guglie un giorno.

 

[Alkampfer]

non mi convince questa spiegazione, almeno nel suo caso dato che ha 75 anni
non è uno in rampa di lancio che deve pubblicizzare un suo prodotto
anche se le parole finali su Google, dove ha lavorato per tanto, fanno storcene il naso...

no io intendevo pubblicità alla tecnologia ...