L' AI potrebbe sterminare gli esseri umani?

[pazzomania]

Ormai non si contano più gli addetti del settore, che danno le dimissioni o allertano sui pericoli dell' intelligenza artificiale.

L'ultimo in ordine di tempo è Jacob Coxon di Anthropic

"Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni a fare ricerche sul pretraining sia a OpenAI che ad Anthropic. Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo dritte verso una superintelligenza auto-migliorante e stanno giocando d'azzardo con le nostre vite. Maggiori riflessioni qui sotto.
Le persone che sviluppano l'AI credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una trovata di marketing. Anzi, molti dirigenti e ricercatori di alto livello cercheranno di usare un linguaggio più pacato con la stampa, ma sento le stesse persone esprimere privatamente questa paura. Nessun'altra attività umana rappresenta un pericolo di questo livello"

`

`

 

[pazzomania]

Ormai non si contano più gli addetti del settore, che danno le dimissioni o allertano sui pericoli dell' intelligenza artificiale.

L'ultimo in ordine di tempo è Jacob Coxon di Anthropic

"Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni a fare ricerche sul pretraining sia a OpenAI che ad Anthropic. Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo dritte verso una superintelligenza auto-migliorante e stanno giocando d'azzardo con le nostre vite. Maggiori riflessioni qui sotto.
Le persone che sviluppano l'AI credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una trovata di marketing. Anzi, molti dirigenti e ricercatori di alto livello cercheranno di usare un linguaggio più pacato con la stampa, ma sento le stesse persone esprimere privatamente questa paura. Nessun'altra attività umana rappresenta un pericolo di questo livello"

Come è capitato più volte di discuterne in questi lidi, a me pare abbastanza evidente che pensare di controllare una roba di diversi ordini di grandezza più "intelligente" di noi, è un gioco a perdere.

Non so se lo facciamo per supponenza o stupidità, in realtà credo nessuna delle due.

Semplicemente, non si può fare a meno di sviluppare tali progetti.
Perchè anche se ti fermi tu, vanno avanti i tuoi avversari, e anche se ci fosse un accordo mondiale per chiuderla qui, non si potrebbe mai essere certi che gli altri l' abbiano fatto davvero, è un gatto che si morde la coda.

Ora, non so se davvero "ci sterminerà tutti", ma io tutta una serie di pericoli li vedo davvero, e non credo sia paura irrazionale.

Le potenzialità di fare del male, o del bene, sono davvero quasi infinite.

 

[Toby rosso nero]

L'uomo può comunque sempre eliminare l'IA in un nanosecondo, schiacciando un pulsante come spegniamo la TV.
Magari arriva qualcuno che decide di farlo. Si diceva anche che il mondo sarebbe finito per le bombe atomiche, ma dopo decenni nessuno le ha mai lanciate pur sviluppandone di sempre più potenti.

Sicuramente ci saranno conseguenze clamorose per il mondo del lavoro, e il cervello umano sarà sempre più eutrofizzato con generazioni zombie (questo a me spaventa), ma questi scenari apocalittici e sci-fi alla Terminator o Westworld a me fanno un po' sorridere quando li leggo sui vari giornali o per bocca di ex dipendenti.

Poi può sempre capitare che arrivi un pazzo che programma l'IA per fare un virus di estinzione, ma si tratterebbe comunque di attività umana. E potrebbero farlo in ogni momento anche senza IA, volendo, così come schiacciare pulsanti per lanciare atomiche.

 

[Divoratore Di Stelle]

Speriamo.

 

[Andris]

ho letto anche io, così come ho visto il robot che in un negozio ha aggredito una persona...

intanto la nuova versione di Open AI, che si avvina sempre più al pensiero umano, spopola...

 

[Andris]

nella nuova stagione di Forum sarà presente un robot che aiuterà nelle cause fake

una strage là potrebbe non dispiacere...

@fabri47

 

[pazzomania]

L'uomo può comunque sempre eliminare l'IA in un nanosecondo, schiacciando un pulsante come spegniamo la TV.
Magari arriva qualcuno che decide di farlo.

Siamo sicuri?
Forse togliendo corrente all' intero mondo, e sperando non resti annidata da qualche parte pronta a ripartire appena riattacchi la spina.

Non dimentichiamoci che nel momento in cui sarà capace di "pensare" al fatto che possa essere spenta e annullata, in pochi secondi potrebbe aver già pensato a 100.000 mila scenari tutti diversi e 1.000.000 di eventuali soluzioni.

Ci sono già stati episodi strani, e pensa a ciò che noi NON SAPPIAMO.

Boh, l' altro giorno ho visto anche un robot che prendeva a calci due persone, fortunatamente sono riusciti a spegnerlo.
Poteva essere una messa in scena eh, ma pensa quando l' IA sarà decine o migliaia di volte più "intelligente" di noi e in giro ci saranno milioni di robot umanoidi.
Sembra un film, ma potenzialmente non la vedo come una cosa impossibile.

 

[Toby rosso nero]

Siamo sicuri?
Forse togliendo corrente all' intero mondo, e sperando non resti annidata da qualche parte pronta a ripartire appena riattacchi la spina.

Non dimentichiamoci che nel momento in cui sarà capace di "pensare" al fatto che possa essere spenta e annullata, in pochi secondi potrebbe aver già pensato a 100.000 mila scenari tutti diversi e 1.000.000 di eventuali soluzioni.

Ci sono già stati episodi strani, e pensa a ciò che noi NON SAPPIAMO.

Boh, l' altro giorno ho visto anche un robot che prendeva a calci due persone, fortunatamente sono riusciti a spegnerlo.
Poteva essere una messa in scena eh, ma pensa quando l' IA sarà decine o migliaia di volte più "intelligente" di noi e in giro ci saranno milioni di robot umanoidi.
Sembra un film, ma potenzialmente non la vedo come una cosa impossibile.

Saremo polvere per allora, anche i nostri figli, e probabilmente il mondo sarà già finito per altre cause.
E' vero che l'IA ha un apprendimento e crescita esponenziale, la formazione di una intera vita umana in poche settimane, ma quello della IA autogenerante che addirittura evita la sua distruzione annidandosi in una coscienza nascosta è proprio sceneggiatura da film

Mi preoccupa molto di più la causa immediata: generazioni di giovani che disimparano a pensare, creare, o scrivere anche un'email o la lista della spesa. Essendo i giovani il futuro, vedi che l'estinzione è già assicurata se la terra sarà popolata da generazioni di idioti e zombie nei prossimi 50 anni, non servirà Skynet che arma un esercito di androidi.

Già ora metà del mondo, forse due terzi, vive ancora come le scimmie selvagge e più che da androidi penso che saremo invasi da gente con le clave e le ciabatte.

 

[Swaitak]

Ormai non si contano più gli addetti del settore, che danno le dimissioni o allertano sui pericoli dell' intelligenza artificiale.

L'ultimo in ordine di tempo è Jacob Coxon di Anthropic

"Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni a fare ricerche sul pretraining sia a OpenAI che ad Anthropic. Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo dritte verso una superintelligenza auto-migliorante e stanno giocando d'azzardo con le nostre vite. Maggiori riflessioni qui sotto.
Le persone che sviluppano l'AI credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una trovata di marketing. Anzi, molti dirigenti e ricercatori di alto livello cercheranno di usare un linguaggio più pacato con la stampa, ma sento le stesse persone esprimere privatamente questa paura. Nessun'altra attività umana rappresenta un pericolo di questo livello"

Per me potremmo crepare non per il fatto che sia troppo intelligente, ma al contrario perché faremo troppo affidamento su qualcosa che si basa su miliardi di informazioni fatte e finite.

 

[mabadi]

L'uomo può comunque sempre eliminare l'IA in un nanosecondo, schiacciando un pulsante come spegniamo la TV.
Magari arriva qualcuno che decide di farlo. Si diceva anche che il mondo sarebbe finito per le bombe atomiche, ma dopo decenni nessuno le ha mai lanciate pur sviluppandone di sempre più potenti.

Sicuramente ci saranno conseguenze clamorose per il mondo del lavoro, e il cervello umano sarà sempre più eutrofizzato con generazioni zombie (questo a me spaventa), ma questi scenari apocalittici e sci-fi alla Terminator o Westworld a me fanno un po' sorridere quando li leggo sui vari giornali o per bocca di ex dipendenti.

Poi può sempre capitare che arrivi un pazzo che programma l'IA per fare un virus di estinzione, ma si tratterebbe comunque di attività umana. E potrebbero farlo in ogni momento anche senza IA, volendo, così come schiacciare pulsanti per lanciare atomiche.

Sei sicuro che basti un pulsante per spegnere tutto? considera le migliaia di farm, Inoltre l'IA per sopravvivere, nel corso di un test si è duplicata di nascosto su altri sistemi. Aggiungi gli androidi, comandati dall'IA che la Cina ha deciso di produrre in massa. Io non sono così convinto che ad oggi basti ancora un pulsante per spegnere tutto. Confidi troppo nell'intelligenza delle aziende che gestiscono le IA.