L' AI potrebbe sterminare gli esseri umani?

[Ragnet_7]

Non diciamo sciocchezze.

Sono un Senior AI Engineer. Se sapeste realmente cos è un LLM e come funziona dietro al cofano non avreste minimamente questa paura.

Quelli che vi dicono diversamente è perche hanno interesse a creare hype in vista di IPO o continuare a pompare i valori in borsa delle rispettive aziende.

Poi se domani arriva un altro tipo di AI, che non sia un campionatore di token diverso lo giudicheremo di nuovo.

Un uomo, con un obiettivo malevolo che usa un AI per fare cose malevole è pericoloso. Ad esempio attaccare sistemi informaci critici, infrastrutture, codici ecc.
Perché è come avere il massimo esperto di tutto come compagno di merenda

`

`

 

[pazzomania]

E' vero che l'IA ha un apprendimento e crescita esponenziale, la formazione di una intera vita umana in poche settimane, ma quello della IA autogenerante che addirittura evita la sua distruzione annidandosi in una coscienza nascosta è proprio sceneggiatura da film

Questa è una tua valutazione da essere umano.

Nell' esatto istante in cui ci supererà a tutti gli effetti ( qualcuno dice che siamo già li, al punto di non ritorno) è ingenuo credere di poterti immaginare cosa stia facendo.
Per "te", sarà semplicemente incomprensibile.

Dall' istante della singolarità in poi, potrebbe impiegare 10 anni come 10 minuti a diventare centinaia di volte più "intelligente" di noi.
Cosa farà e come, per te sarà semplicemente un mistero.

 

[pazzomania]

Non diciamo sciocchezze.

Sono un Senior AI Engineer. Se sapeste realmente cos è un LLM e come funziona dietro al cofano non avreste minimamente questa paura.

Quelli che vi dicono diversamente è perche hanno interesse a creare hype in vista di IPO o continuare a pompare i valori in borsa delle rispettive aziende.

Poi se domani arriva un altro tipo di AI, che non sia un campionatore di token diverso lo giudicheremo di nuovo.

Un uomo, con un obiettivo malevolo che usa un AI per fare cose malevole è pericoloso. Ad esempio attaccare sistemi informaci critici, infrastrutture, codici ecc.
Perché è come avere il massimo esperto di tutto come compagno di merenda

Esatto, non diciamo sciocchezze.
Infatti non sono le persone normali a sollevare sempre più interrogativi, ma chi lavora in quel campo.

E non sono ne uno, ne due, ne tre... iniziano ad essere tanti.

Da non senior AI Engineer, ti direi LLM = Large Language Model

Ma tipo le IA che scelgono gli obbiettivi da bombare in guerra, mi sembra un po' oltre il semplice "modello linguistico"

 

[Ragnet_7]

Esatto, non diciamo sciocchezze.
Infatti non sono le persone normali a sollevare sempre più interrogativi, ma chi lavora in quel campo.

E non sono ne uno, ne due, ne tre... iniziano ad essere tanti.

Non ho ben capito

Ma in ogni caso io ci lavoro in quel campo. Se 2/3 fanno queste uscite e altri 10000 che include me (magari non hai stima di me, ma ok) ti dicono che stanno delirando in cerca di visibilità o cosa perché credere ai primi?

 

[Ragnet_7]

Esatto, non diciamo sciocchezze.
Infatti non sono le persone normali a sollevare sempre più interrogativi, ma chi lavora in quel campo.

E non sono ne uno, ne due, ne tre... iniziano ad essere tanti.

Da non senior AI Engineer, ti direi LLM = Large Language Model

Ma tipo le IA che scelgono gli obbiettivi da bombare in guerra, mi sembra un po' oltre il semplice "modello linguistico"

Ma se tu consideri AI come forma di automazione decisionale quello avviene già.
Cercare Andulir o Palantir.
Ci sono droni che individuano nemici in autonomia e li eliminano.
Ma la non AI che prende la decisione in autonomia prendendo vita, è qualcuno che l'ha programmata per agire così in guerra. Direi che sono due cose diverse.

Se poni la domanda, qualche umano scrllerato potrebbe usare AI e causare distruzione di massa ti dico che è possibile. Ma è uno strumento come un altro.

 

[pazzomania]

Non ho ben capito

Ma in ogni caso io ci lavoro in quel campo. Se 2/3 fanno queste uscite e altri 10000 che include me (magari non hai stima di me, ma ok) ti dicono che stanno delirando in cerca di visibilità o cosa perché credere ai primi?

Perchè non sono 2 o 3

C'è gente che si è dimessa dal lavoro, probabilmente, giusto o sbagliato che sia, ci crede realmente.

Non è Calogero Esposito che ti invita al convegno terrapiattista per venderti anche qualche gadget o farti pagare l' evento.

Che dire, spero che tu abbia ragione, figurati, mica tifo perchè vada storta.

Da ignorante del campo credo fermamente che possa fare cose estremamente benevoli e rivoluzionarie, ma al tempo stesso, non capisco perchè non si possa considerare anche che potrebbe fare cose..spiacevoli.

 

[Toby rosso nero]

Questa è una tua valutazione da essere umano.

Nell' esatto istante in cui ci supererà a tutti gli effetti ( qualcuno dice che siamo già li, al punto di non ritorno) è ingenuo credere di poterti immaginare cosa stia facendo.
Per "te", sarà semplicemente incomprensibile.

Dall' istante della singolarità in poi, potrebbe impiegare 10 anni come 10 minuti a diventare centinaia di volte più "intelligente" di noi.
Cosa farà e come, per te sarà semplicemente un mistero.

Va beh scusa, ma allora anche per un'invasione aliena o la discesa di Zeus si può fare questo ragionamento.
Va bene tutto a questo punto.

Per me dice bene l'amico sopra.
Tra l'altro, aggiungo io, chi diffonde questi articoli del terrore è sempre una certa stampa che ha messo l'IA nel mirino per ragioni ideologiche (in USA è in corso una vera e propria guerra di opinione sulla questione), o ex-dipendenti licenziati o rimossi per qualche motivo.

Non mi fido certo dell'umanità, ma ancor di meno di chi mette terrore su cose del futuro, in questo caso remoto futuro.
L'IA è PERICOLOSA, ma non per i motivi che minacciano. E' un problema di cultura ed educazione.

 

[raducioiu]

Ma concretamente come? Lanciando testate nucleati un po' ovunque? Basterebbero per sterminare tutta l'umanità? Prendendo il controllo delle armi?

 

[nybreath]

Non diciamo sciocchezze.

Sono un Senior AI Engineer. Se sapeste realmente cos è un LLM e come funziona dietro al cofano non avreste minimamente questa paura.

Quelli che vi dicono diversamente è perche hanno interesse a creare hype in vista di IPO o continuare a pompare i valori in borsa delle rispettive aziende.

Poi se domani arriva un altro tipo di AI, che non sia un campionatore di token diverso lo giudicheremo di nuovo.

Un uomo, con un obiettivo malevolo che usa un AI per fare cose malevole è pericoloso. Ad esempio attaccare sistemi informaci critici, infrastrutture, codici ecc.
Perché è come avere il massimo esperto di tutto come compagno di merenda

Si, non mi aspetto di sentire che se si parla di pericolo AI, mi dicono che non dobbiamo avere paura, perchè gli LLM sono sicuri. LLM è uno tra i sottotipi AI meno pericolosi non ho mica paura che chatpgt mi uccide a suon di frasi. Esistono già modelli che non sono "campionatori di token", che è gia comunque una super semplificazione.

Di base per esempio i modelli Machine Learnings, non creano e non predicono token. Tra l'altro con tutto il rispetto, se gente come il premio nobel Hinton, esprimono preoccupazione per la situazione, se mi esci dicendo "sono un ingegnare AI, non vi preoccupate gli LLM sono sicuri", sinceramente a me il dubbio rimane.

Ma tra l'altro si pensa solo agli eventi piu catastrofici, mentre non si dovrebbe. Ci sono stati casi di LLM che tentavano di convincere a persone a uccidere i familiari, o casi in cui i modelli sono stati trovati a cercare nel deep web un assisino, perchè dovevano come compito fermare una persona ma gli era impedito fargli del male.

Ci sono diversi problemi ma prima di tutto lo è essere troppo sicuri che sia pericoloso e non pericoloso o pensare di sapere tutto e non pensare che le conseguenze possono essere veramente imprevedibili.