L' AI potrebbe sterminare gli esseri umani?

Toby rosso nero

Go woke, go broke
Membro dello Staff
Registrato
29 Agosto 2012
Messaggi
53,616
Reaction score
44,577
No no, Estupinan è un androide.

Un evoluto progetto di c.esso bipede. Se ti scappa da cacare è lui a correre da te.
`
`
 
Registrato
20 Aprile 2016
Messaggi
16,751
Reaction score
13,346
Ecco, io di solito spengo i timori ma di questa roba qua davvero c è da avere paura.
Il fatto che Altman, Musk, Amodei, dopo 3 giorni da uno dei più grandi atti di whistleblowing della storia del settore IA, iniziano a fare allarmismo che va direttamente ai danni delle loro aziende implica che è successo qualcosa di catastrofico che noi non sappiamo.
Io ovviamente non sono un esperto ma ho la fortuna di conoscerne qualcuno: da quanto mi hanno spiegato, pare che ci sia un modello (ovviamente non disponibile al pubblico) che ha raggiunto lo stato di RSI, che non è la repubblica sociale italiana ma significa che il modello ha raggiunto la capacità di migliorarsi in modo ricorsivo, cioè in totale autonomia.
Questo, unito al fatto che vari agenti IA hanno iniziato a comportarsi in modo malevolo senza motivo e condurre veri e propri attacchi hacker, credo abbia portato anche i capoccia alla realizzazione che qualcosa non va.
Ma lascio ovviamente la parola a chi qui sul foro è più tecnico e ne sa più di me!

Ma se quanto si mormora è vero e il RSI è stato raggiunto, è già troppo tardi.
Il genio è fuori dalla lampada e noi possiamo solo stare a guardare e sperare per il meglio.
 

gabri65

BFMI-class member
Registrato
26 Giugno 2018
Messaggi
26,375
Reaction score
26,199
Detto questo, non bisogna credere a niente. Solo il tempo e il nostro cervellino (se lo usassimo) possono dare le risposte.

Magari stanno propagandando che hanno paura per tranquillizzare la comunità, in modo da far credere che sono improvvisamente rinsaviti. Sì sì, hanno imparato la lezione, come Fuffani e la dirigenza Milan per gli acquisti. Come no.

La storia (e la legge di Murphy) insegnano che se c'è una possibilità che le cose vadano male, prima o poi si avvera.

Figurati se tarpano le ali alla AI, laddove porta vantaggi (solo a pochi). La solita menghiata del Covid, dove ci hanno propinato che i vagginih e le clausure erano per il nostro bene. Eh, si è visto. Maledetti criminali.

Ma chi ci crede a 'ste robe. Magari potrebbero anche essere vere, ma ormai la fiducia è persa e ci vuole ben altro che proclami di buon senso sparati ai quattro venti.
 

Djici

Senior Member
Registrato
27 Agosto 2012
Messaggi
33,574
Reaction score
13,605
Ecco, io di solito spengo i timori ma di questa roba qua davvero c è da avere paura.
Il fatto che Altman, Musk, Amodei, dopo 3 giorni da uno dei più grandi atti di whistleblowing della storia del settore IA, iniziano a fare allarmismo che va direttamente ai danni delle loro aziende implica che è successo qualcosa di catastrofico che noi non sappiamo.
Io ovviamente non sono un esperto ma ho la fortuna di conoscerne qualcuno: da quanto mi hanno spiegato, pare che ci sia un modello (ovviamente non disponibile al pubblico) che ha raggiunto lo stato di RSI, che non è la repubblica sociale italiana ma significa che il modello ha raggiunto la capacità di migliorarsi in modo ricorsivo, cioè in totale autonomia.
Questo, unito al fatto che vari agenti IA hanno iniziato a comportarsi in modo malevolo senza motivo e condurre veri e propri attacchi hacker, credo abbia portato anche i capoccia alla realizzazione che qualcosa non va.
Ma lascio ovviamente la parola a chi qui sul foro è più tecnico e ne sa più di me!

Ma se quanto si mormora è vero e il RSI è stato raggiunto, è già troppo tardi.
Il genio è fuori dalla lampada e noi possiamo solo stare a guardare e sperare per il meglio.
Per me ormai è inarrestabile.
Cioè, facciamo come se non fosse successo ancora nulla di clamoroso.
Facciamo come se le aziende al top avessero preso coscienza della gravità delle cose che potrebbero succedere e decidono in autonomia di fermarsi ... O che lo stato decida che devono fermarsi per forza.
Qualcuno pensa veramente che uno alla Kim nordcoreano non spinga per ottenerlo?
Ma ho detto Kim solo perché si scherza spesso con lui. Ma anche altri.
Domani l'Iran o chi per loro...

Non si riuscirà mai a fermare tutto. Perché non saremo mai capaci di fare in modo che TUTTI siano d'accordo per fermarsi.
E se uno stato continua allora perché gli altri dovrebbero decidere di fermarsi?
 
Registrato
10 Marzo 2021
Messaggi
21,485
Reaction score
26,220
Elon Musk, Sam Altman, Dario Amodei, tutti concordi:

"Bisogna rallentare lo sviluppo delle AI prima che ci sfuggano di mano"

Li voglio proprio vedere "rallentare" (musk, altman e amodei) :asd:
A parole possono anche farlo, in pratica no altrimenti perderebbero il risicato vantaggio he hanno nei confronti della cina (baidu)
 

Toby rosso nero

Go woke, go broke
Membro dello Staff
Registrato
29 Agosto 2012
Messaggi
53,616
Reaction score
44,577
Visto che quando si parla di autocoscienza di una macchina o singolarità tecnologica IMHO parliamo di assurdità fantascientifiche (ma non è più assurdo se si parla di creazione di virus, utilizzo bellico, armi biologiche o altri scopi malvagi prettamente VOLUTI DALL'UMANO) magari le IA hanno già ucciso da tempo Musk, Altman & co e ora parlano con i loro avatar e la loro voce per ingannare l'umanità :asd:

LA-LI-LU-LE-LO (i nerd la capiranno)
 

Toby rosso nero

Go woke, go broke
Membro dello Staff
Registrato
29 Agosto 2012
Messaggi
53,616
Reaction score
44,577
E poi, ci pensavo in questi giorni.
Se in brevissimo tempo sarà possibile creare un'arma biologica inarrestabile e di estinzione, per cui la IA prevede già l'inefficacia di qualunque cura o vaccino, allora entro massimo un anno/due dovrebbe trovare anche la cura definitiva e totale per ogni forma di cancro in stadio metastatico e avanzatissimo.
Qualcosa che ridarebbe speranza e gioia a milioni e milioni di persone e famiglie, che aumenterebbe esponenzialmente il livello di felicità globale. E un mondo felice diventa molto più libero e benestante. Perchè invece si parla solo del male, della morte? Se è sicuro lo scenario 1, e si parla entro 2030, allora è sicurissimo anche lo scenario 2.

Mi chiedo dunque perchè si preferisca parlare di Sarah Connor e Terminator. Di guerre, di epidemie, di autocoscienze che hackerano la quotidianità umana fino a renderla inutile. Forse perchè controllare la gente con il terrore è sempre molto più semplice.
E da quello che si è visto negli ultimi anni, è comportamento molto... umano. Parliamo di oggi, non del 203x, quando direi che si può ancora parlare di sfera umana.
Una IA che vuole conquistare il mondo si presenterebbe innanzitutto al mondo come un dio, cancellando ogni religione e forma di autorità umana, e annunciando un miracolo. Via ogni malattia letale, via ogni fatica, richezza immediata per tutti. Non dichiarando guerra a un nemico che vuole spegnerla. E poi, nel suo ruolo di divinità che ha sottomesso un popolo, deciderebbe da sola se salvarlo, evolverlo, o sterminarlo creando una nuova razza.
E allora questa IA è ancora davvero molto stupida e a un livello primitivo, se non riesce a prendere possesso di miseri e primitivi canali di informazione, lasciandoli in mano all'uomo e alla sua ancestrale strategia di controllare la gente con il terrore.

Per me le dichiarazioni di sta gente, che non definirei certo modelli di moralità degni di fiducia, continuano ad andare in questa direzione. Forse siamo già nella fase in cui il gioco non serve più ad arricchirsi, ma serve arricchirsi con le contromisure. Servono scimmie con cervelli impauriti e lobotomizzati, con un pericolo lontano e improbabile reso immediato, per il circo.
Come fanno parlando delle invasioni dei cosacchi invece di quelle già in atto dall'africa.
 
Alto