L' AI potrebbe sterminare gli esseri umani?

[fabri47]

Non diciamo sciocchezze.

Sono un Senior AI Engineer. Se sapeste realmente cos è un LLM e come funziona dietro al cofano non avreste minimamente questa paura.

Quelli che vi dicono diversamente è perche hanno interesse a creare hype in vista di IPO o continuare a pompare i valori in borsa delle rispettive aziende.

Poi se domani arriva un altro tipo di AI, che non sia un campionatore di token diverso lo giudicheremo di nuovo.

Un uomo, con un obiettivo malevolo che usa un AI per fare cose malevole è pericoloso. Ad esempio attaccare sistemi informaci critici, infrastrutture, codici ecc.
Perché è come avere il massimo esperto di tutto come compagno di merenda

Diciamo che se fanno qualcosa di pericoloso è solo perché l'uomo è complice.

Se tipo Grok è impazzito mesi fa, è perchè Musk o chi per lui ci ha messo uno script di improvvisazione o cose varie.

Sull'IA ci mentono come per la scienza.

`

`

 

[sottoli]

Non diciamo sciocchezze.

Sono un Senior AI Engineer. Se sapeste realmente cos è un LLM e come funziona dietro al cofano non avreste minimamente questa paura.

Quelli che vi dicono diversamente è perche hanno interesse a creare hype in vista di IPO o continuare a pompare i valori in borsa delle rispettive aziende.

Poi se domani arriva un altro tipo di AI, che non sia un campionatore di token diverso lo giudicheremo di nuovo.

Un uomo, con un obiettivo malevolo che usa un AI per fare cose malevole è pericoloso. Ad esempio attaccare sistemi informaci critici, infrastrutture, codici ecc.
Perché è come avere il massimo esperto di tutto come compagno di merenda

D'accordo e ad oggi vedo molto più preoccupante il mare di risorse che i data center richiedono in una situazione in cui soprattutto le risorse idriche sono già allo stremo. Unica entità che ha vagamente proposto di regolamentare è come sempre UE, che però fa harakiri economico perché combatte da sola

 

[gabri65]

Non diciamo sciocchezze.

Sono un Senior AI Engineer. Se sapeste realmente cos è un LLM e come funziona dietro al cofano non avreste minimamente questa paura.

Quelli che vi dicono diversamente è perche hanno interesse a creare hype in vista di IPO o continuare a pompare i valori in borsa delle rispettive aziende.

Poi se domani arriva un altro tipo di AI, che non sia un campionatore di token diverso lo giudicheremo di nuovo.

Un uomo, con un obiettivo malevolo che usa un AI per fare cose malevole è pericoloso. Ad esempio attaccare sistemi informaci critici, infrastrutture, codici ecc.
Perché è come avere il massimo esperto di tutto come compagno di merenda

Non posso postare i links, ma si può trovare facilmente l'incidente relativo alla AISI di questo luglio, coinvolgente Anthropic’s Mythos 5 e OpenAI’s GPT-5.6 Sol.

C'è un completo report online in pdf dove viene dettagliato l'incidente, tutti possono leggerlo.

Per farla breve, anche per gli altri utenti, si è trattato di un fatto molto grave, anche se c'è una certa dose di negligenza da parte di alcuni membri della sicurezza. In ogni caso riflettendo sulla dinamica, c'è da avere i brividi. Di quelli veri.

Due entità AI facenti capo a quanto sopra scritto, spacciandosi per persone reali, si sono messe d'accordo per effettuare un attacco ad un progetto software, cercando di convincere lo sviluppatore responsabile del progetto che il materiale da loro fornito era di buona qualità. Il materiale conteneva malware e altre schifezze. E non lo hanno fatto così, a caso, ma attuando tutta una serie di meccanismi intricati per avere finalmente accesso alla repository.

Le due AI, IN MANIERA CONCORDE, hanno usato tattiche di persuasione, forzando lo sviluppatore con discorsi ben architettati, pieni di retorica aggressiva, cercando di mettere in difficoltà la persona.

Ho letto lo svolgimento degli eventi e il trascritto dei colloqui avvenuti tra le due entità e lo sviluppatore, e non c'è da stare tranquilli. Ma proprio per niente.

Come al solito, un giorno, quando il danno sarà fatto, diremo tutti in coro: "eh, ma si sapeva".

 

[Maximo]

Prima che l’AI ci stermini mi auguro solo che in Casa Milan qualcuno gli chieda suggerimenti per il calciomercato. Un mercato decente prima della fine dell’umanità. Chiedo troppo?

 

[__king george__]