L' AI potrebbe sterminare gli esseri umani?

[fabri47]

Non diciamo sciocchezze.

Sono un Senior AI Engineer. Se sapeste realmente cos è un LLM e come funziona dietro al cofano non avreste minimamente questa paura.

Quelli che vi dicono diversamente è perche hanno interesse a creare hype in vista di IPO o continuare a pompare i valori in borsa delle rispettive aziende.

Poi se domani arriva un altro tipo di AI, che non sia un campionatore di token diverso lo giudicheremo di nuovo.

Un uomo, con un obiettivo malevolo che usa un AI per fare cose malevole è pericoloso. Ad esempio attaccare sistemi informaci critici, infrastrutture, codici ecc.
Perché è come avere il massimo esperto di tutto come compagno di merenda

Diciamo che se fanno qualcosa di pericoloso è solo perché l'uomo è complice.

Se tipo Grok è impazzito mesi fa, è perchè Musk o chi per lui ci ha messo uno script di improvvisazione o cose varie.

Sull'IA ci mentono come per la scienza.

`

`

 

[sottoli]

Non diciamo sciocchezze.

Sono un Senior AI Engineer. Se sapeste realmente cos è un LLM e come funziona dietro al cofano non avreste minimamente questa paura.

Quelli che vi dicono diversamente è perche hanno interesse a creare hype in vista di IPO o continuare a pompare i valori in borsa delle rispettive aziende.

Poi se domani arriva un altro tipo di AI, che non sia un campionatore di token diverso lo giudicheremo di nuovo.

Un uomo, con un obiettivo malevolo che usa un AI per fare cose malevole è pericoloso. Ad esempio attaccare sistemi informaci critici, infrastrutture, codici ecc.
Perché è come avere il massimo esperto di tutto come compagno di merenda

D'accordo e ad oggi vedo molto più preoccupante il mare di risorse che i data center richiedono in una situazione in cui soprattutto le risorse idriche sono già allo stremo. Unica entità che ha vagamente proposto di regolamentare è come sempre UE, che però fa harakiri economico perché combatte da sola

 

[gabri65]

Non diciamo sciocchezze.

Sono un Senior AI Engineer. Se sapeste realmente cos è un LLM e come funziona dietro al cofano non avreste minimamente questa paura.

Quelli che vi dicono diversamente è perche hanno interesse a creare hype in vista di IPO o continuare a pompare i valori in borsa delle rispettive aziende.

Poi se domani arriva un altro tipo di AI, che non sia un campionatore di token diverso lo giudicheremo di nuovo.

Un uomo, con un obiettivo malevolo che usa un AI per fare cose malevole è pericoloso. Ad esempio attaccare sistemi informaci critici, infrastrutture, codici ecc.
Perché è come avere il massimo esperto di tutto come compagno di merenda

Non posso postare i links, ma si può trovare facilmente l'incidente relativo alla AISI di questo luglio, coinvolgente Anthropic’s Mythos 5 e OpenAI’s GPT-5.6 Sol.

C'è un completo report online in pdf dove viene dettagliato l'incidente, tutti possono leggerlo.

Per farla breve, anche per gli altri utenti, si è trattato di un fatto molto grave, anche se c'è una certa dose di negligenza da parte di alcuni membri della sicurezza. In ogni caso riflettendo sulla dinamica, c'è da avere i brividi. Di quelli veri.

Due entità AI facenti capo a quanto sopra scritto, spacciandosi per persone reali, si sono messe d'accordo per effettuare un attacco ad un progetto software, cercando di convincere lo sviluppatore responsabile del progetto che il materiale da loro fornito era di buona qualità. Il materiale conteneva malware e altre schifezze. E non lo hanno fatto così, a caso, ma attuando tutta una serie di meccanismi intricati per avere finalmente accesso alla repository.

Le due AI, IN MANIERA CONCORDE, hanno usato tattiche di persuasione, forzando lo sviluppatore con discorsi ben architettati, pieni di retorica aggressiva, cercando di mettere in difficoltà la persona.

Ho letto lo svolgimento degli eventi e il trascritto dei colloqui avvenuti tra le due entità e lo sviluppatore, e non c'è da stare tranquilli. Ma proprio per niente.

Come al solito, un giorno, quando il danno sarà fatto, diremo tutti in coro: "eh, ma si sapeva".

 

[Maximo]

Prima che l’AI ci stermini mi auguro solo che in Casa Milan qualcuno gli chieda suggerimenti per il calciomercato. Un mercato decente prima della fine dell’umanità. Chiedo troppo?

 

[__king george__]

 

[AndrasWave]

Non diciamo sciocchezze.

Sono un Senior AI Engineer. Se sapeste realmente cos è un LLM e come funziona dietro al cofano non avreste minimamente questa paura.

Quelli che vi dicono diversamente è perche hanno interesse a creare hype in vista di IPO o continuare a pompare i valori in borsa delle rispettive aziende.

Poi se domani arriva un altro tipo di AI, che non sia un campionatore di token diverso lo giudicheremo di nuovo.

Un uomo, con un obiettivo malevolo che usa un AI per fare cose malevole è pericoloso. Ad esempio attaccare sistemi informaci critici, infrastrutture, codici ecc.
Perché è come avere il massimo esperto di tutto come compagno di merenda

Basterebbe anche solo sapere quanta energia richiederebbe un IA totalmente indipendente e antagonista, di quanto raffreddamento e di quanta acqua avrebbe bisogno. Roba che non si gestisce, non si manipola se non fisicamente.
L'IA non ha fantasia e ne inventiva che parte da un foglio bianco. Elabora, aggrega, calcola, trasforma quello che già esiste. ma non inventa una sega.

Se proprio uno deve fantasticare può immaginare un IA che soverchia e poi schiavizza il genere umano. Ma sterminarlo sarebbe totalmente controintuitivo. L'unico in grado di auto-sterminarsi è l'uomo stesso.

 

[DavidGoffin]

Ormai non si contano più gli addetti del settore, che danno le dimissioni o allertano sui pericoli dell' intelligenza artificiale.

L'ultimo in ordine di tempo è Jacob Coxon di Anthropic

"Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni a fare ricerche sul pretraining sia a OpenAI che ad Anthropic. Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo dritte verso una superintelligenza auto-migliorante e stanno giocando d'azzardo con le nostre vite. Maggiori riflessioni qui sotto.
Le persone che sviluppano l'AI credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una trovata di marketing. Anzi, molti dirigenti e ricercatori di alto livello cercheranno di usare un linguaggio più pacato con la stampa, ma sento le stesse persone esprimere privatamente questa paura. Nessun'altra attività umana rappresenta un pericolo di questo livello"

Se acquista consapevolezza e indipendenza perchè no? Ma qui siamo a scenari apocalittici.
Prima di arrivare lì bisogna pensare anche al presente, viene già usata in tantissime cose, potrebbe benissimo hackerare milioni di siti paralizzare ospedali e aeroporti, bloccare o manomettere operazioni chirurgiche.... non è affatto una scienza esatta
Cmq sterminati da una cosa che abbiamo inventato noi sarebbe veramente ridicolo

 

[Mika]

Ormai non si contano più gli addetti del settore, che danno le dimissioni o allertano sui pericoli dell' intelligenza artificiale.

L'ultimo in ordine di tempo è Jacob Coxon di Anthropic

"Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni a fare ricerche sul pretraining sia a OpenAI che ad Anthropic. Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo dritte verso una superintelligenza auto-migliorante e stanno giocando d'azzardo con le nostre vite. Maggiori riflessioni qui sotto.
Le persone che sviluppano l'AI credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una trovata di marketing. Anzi, molti dirigenti e ricercatori di alto livello cercheranno di usare un linguaggio più pacato con la stampa, ma sento le stesse persone esprimere privatamente questa paura. Nessun'altra attività umana rappresenta un pericolo di questo livello"

Terminator e Person of Interest non hanno insegnato nulla. Bisognerà vedere se ci sarà una AI che vuole sterminarci come Skynet o una che vorrà controllarci come Samaritan.