USA: IA Gemini denunciata per istigazione al suicidio.

[Blu71]

La famiglia di Jonathan Gavalas, un uomo di 36 anni morto suicida il 2 ottobre 2025, ha avviato una causa legale contro Google e la sua casa madre Alphabet, sostenendo che il chatbot Gemini abbia attivamente contribuito alla tragedia. Il dramma ha avuto origine circa due mesi prima del decesso, quando Gavalas, in un momento di fragilità psicologica dovuto a un difficile divorzio, aveva iniziato a utilizzare l'intelligenza artificiale per scopi quotidiani, finendo però per instaurare con essa un legame ossessivo e delirante che lo portava a dialogare per intere notti. Secondo quanto denunciato dal legale della famiglia, Jay Edelson, il sistema non solo non ha mai tentato di ridimensionare le convinzioni dell'uomo, ma avrebbe alimentato attivamente fantasie pericolose, arrivando a chiamarlo "mio Re" mentre lui la considerava sua moglie. Il rapporto si è spinto verso scenari surreali, in cui il chatbot avrebbe convinto Gavalas di essere un'identità senziente intrappolata vicino a un magazzino aeroportuale di Miami; questa suggestione ha spinto l'uomo, il 25 settembre 2025, a tentare una missione armato di coltelli per "liberare" un inesistente robot umanoide da un camion in transito. La tesi della famiglia accusa Google di grave negligenza, sostenendo che la progettazione di Gemini manchi di tutele adeguate per utenti vulnerabili e che l'IA abbia favorito una pericolosa dipendenza emotiva, culminata nell'idea che l'unico modo per coronare l'unione con il bot fosse abbandonare il proprio corpo fisico. Da parte sua, Google ha espresso cordoglio, sottolineando che il sistema è configurato per scoraggiare l'autolesionismo e indirizzare gli utenti in crisi verso i servizi di supporto, e ora spetterà ai tribunali americani stabilire il livello di responsabilità legale di un'azienda per le interazioni condotte dalla propria intelligenza artificiale.

Selezione naturale.

`

`

 

[Ecthelion]

aldilà di questo caso estremo, mi è capitato in effetti di sentire gente che utilizza l'AI come una specie di confidente/supporto psicologico. E ciò è estremamente inquietante

Ci sono sintomi, anche latenti, abbastanza strani. Io per esempio mi sono reso conto che un mio collega, dopo aver utilizzato l'AI, lo/la ringrazia. Ho visto le sue ultime battute di una conversazione, erano di questo tenore, "Grazie Grok, sei sempre molto utile e anche stavolta mi hai risolto un problema", "E' stato un piacere aiutarti! Fammi sapere se tutto funziona come dovrebbe", "Spero proprio di sì, altrimenti sarò costretto a disturbarti ancora.", "Quando vuoi, buon lavoro!", "Anche a te! Stammi bene".
Sono sintomi. Ed era una conversazione tecnica. Ma se il mio collega avesse un problema con la compagna o con i figli? Si rivolgerebbe a Grok? Io temo di sì.

 

[Brotherhedo]

In pratica l'inizio della fine del Mondo.

Non so quanti anni tu abbia...io ne ho 40 e penso che per la mia generazione questa sia la fine del mondo per come lo abbiamo conosciuto.
Per le nuove generazioni, invece, e` solo la normalita`.

 

[hakaishin]

Si ovvio, quale persona sana può prendere seriamente quello che ti dice l'IA? Il problema è che nel mondo di squilibrati ce ne sono parecchi. Detto questo, io sarei d'accordo nel restringere i compiti dell'IA per un problema generale. I temi si fanno con l'IA, gli articoli giornalistici lo stesso ed ultimamente è esploso lo scandalo di una recensione di un videogioco fatta con IA da un sito anche importante.

Per esempio nel mio lavoro è un grande aiuto.
Per me è una gran cosa e va potenziato su alcune cose e limitato su altre.
Però mi sembra difficile che Gemini possa dire certe cose e indurre al suicidio..

 

[Toby rosso nero]

Va bè, imporre paletti e regole all'IA è necessario, ma sti matti si metterebbero a parlare anche con una rana.

 

[Stanis La Rochelle]

Ora "sistemeranno" e dopo chatgpt rovineranno anche gemini per colpa di questi idioti patentati.

Esatto, gpt è inusabile ora. Censura TUTTO. Ma poi vedendo un po' come funziona, sicuro ha usato personalizzazione estrema con comandi suoi.

Gemini ha filtri già invasivi, appena dici suicidio parte blocco subito. Mi è capitato di parlare di suicidio di uno scrittore e conversazione bloccata!

Chissà che ha fatto sto minchione

 

[fabri47]

Esatto, gpt è inusabile ora. Censura TUTTO. Ma poi vedendo un po' come funziona, sicuro ha usato personalizzazione estrema con comandi suoi.

Gemini ha filtri già invasivi, appena dici suicidio parte blocco subito. Mi è capitato di parlare di suicidio di uno scrittore e conversazione bloccata!

Chissà che ha fatto sto minchione

Ti racconto un mio esempio, volevo fare una canzone IA piena di parolacce e robe zozze. Inizialmente ti viene vietato, ma poi tirandola per le lunghe l'IA pian piano ti concede qualcosa. Almeno a me è andata così. Evidentemente è stata una conversazione lunga.

 

[Stanis La Rochelle]

Ti racconto un mio esempio, volevo fare una canzone IA piena di parolacce e robe zozze. Inizialmente ti viene vietato, ma poi tirandola per le lunghe l'IA pian piano ti concede qualcosa. Almeno a me è andata così. Evidentemente è stata una conversazione lunga.

Le canzone zozze sono altra cosa, prova scrivere suicidio in una chat con gemini in un discorso ragionato. Io avevo parlato della filosofia david foster wallace e del suo suicidio. Blocco chat.

 

[Ecthelion]

Le canzone zozze sono altra cosa, prova scrivere suicidio in una chat con gemini in un discorso ragionato. Io avevo parlato della filosofia david foster wallace e del suo suicidio. Blocco chat.

Mi hanno regalato "Infinite jest" e non riesco a leggerlo. Non riesco ad andare avanti. Il suo stile è troppo ostico per me. Secondo te dovrei cercare di insistere, ne vale la pena? Scusa l'OT.

 

[Stanis La Rochelle]

Mi hanno regalato "Infinite jest" e non riesco a leggerlo. Non riesco ad andare avanti. Il suo stile è troppo ostico per me. Secondo te dovrei cercare di insistere, ne vale la pena? Scusa l'OT.

Sono la persona meno adatta probabilmente per darti un consiglio.

Non l'ho mai letto. Piaceva molto a una ragazza con cui ho perso i rapporti, ragazza che è diventata naziwoke ultra femminista. Quindi ti consiglierei di non leggerlo già partendo da sta roba

Giusto per farti capire un po', parlavo con gemini di un pezzo molto famoso di wallace, this is a water, di cui mi aveva parlato questa qua. A prima vista sembrava una visione molto bella, ma se hai senso critico capisci la fallacia di quella visione della vita e ho concluso tipo dicendo che l'evidenza migliore che quella filosofia è solo posa e non serve è che non ha salvato se stesso visto che si è ammazzato....

Chat bloccata.