IA sta diventando cosciente.

[Zosimo2410]

uno dei più grandi misteri di questo mondo, qualcuno dice sia la madre di tutte le domande sull’universo.
Con implicazioni scientifiche, filosofiche e religiose.

A riguardo, per rimanere sul versante della scienza, c’è un libro bellissimo (e complicato), che sebbene un po’ datato è ancora tra i riferimenti principali, del premio nobel per la fisica Roger Penrose. Si intitola “La mente nuova dell’imperatore”.

Essenzialmente è un’opera in cui Penrose, basandosi su ragionamenti matematici e di fisica teorica, esprime scetticismo riguardo al fatto che la AI possa mai diventare cosciente. Quello che confuta è l’assunto secondo cui la coscienza sia un fenomeno emergente dalla complessità di un algoritmo.

Molti infatti danno per scontato che sia la complessità delle reti neuronali a creare la cosiddetta coscienza, ma è un assunto tutt’altro che scontato. Anzi.

Qua si entra in discorsi che scivolano un pó anche su filosofia e fede. Diciamo che bisognerebbe stabilire se esiste un ingrediente che si chiama, diciamo, “anima” e che non puó essere inserito in nessun algoritmo.

Ma se lo scopo é creare una specie evolutiva, in grado di prendere coscienza, evolvere e prendere decisioni in base ad un trade-off di costi benefici (per se stessa), in grado di superare il test di Touring, direi che quel fattore é un fattore “secondario”.

 

[Zosimo2410]

Ah, chi lo sa, per il paradosso di Fermi in realtà è altamente probabile che ogni civiltà finisca irrimediabilmente per autodistruggersi, schiava delle leggi della termodinamica di conservazione della massa, e non stento a crederci tutto sommato

Esatto, se in miliardi di anni nessuna specie é evoluta al punto tale dal contattarci, come afferma Fermi é perché tutte le specie, arrivate ad un certo punto della loro evoluzione, sono destinate ad autodistruggersi.

 

[Zosimo2410]

la cosa curiosa è che saremo la prima specie nell'universo a creare le basi per eliminare se stessa.
come se i dinosauri avessero creato le glaciazioni, i maremoti e i meteoriti da soli...

queste ricerche avvengono tramite soldi dati da privati e stati, non è che succedono per caso eppure nessuno dice basta
come per i virus del gain of function...questi ultimi del tutto inutili per il progresso umano.

In veritá il paradosso di Fermi afferma che questo destino sia stato comune con tutte le specie evolute dell’universo.

 

[galianivatene]

Qua si entra in discorsi che scivolano un pó anche su filosofia e fede. Diciamo che bisognerebbe stabilire se esiste un ingrediente che si chiama, diciamo, “anima” e che non puó essere inserito in nessun algoritmo.

Ma se lo scopo é creare una specie evolutiva, in grado di prendere coscienza, evolvere e prendere decisioni in base ad un trade-off di costi benefici (per se stessa), in grado di superare il test di Touring, direi che quel fattore é un fattore “secondario”.

sì, chiaramente è la stessa nozione di coscienza che è un problema a se, e terra di confine tra approcci e finalità euristiche molto diverse.

Tuttavia, ad essere in questione è lo stesso assunto che la mente umana sia modellabile secondo una macchina di Turing, in quanto assolutamente questionable è la natura algoritmica della mente umana, come suggerito da argomenti come il teorema dell’ incompletezza di Godel o dal problema dell’arresto in un sistema puramente computazionale (ovvero come la macchina di Turing).
La questione dell’intuizione matematica è tutt’altro che secondaria, così come quello della creatività e della volontà (ad essa connessi).

Ovvio che poi questi argomenti si allacciano a questioni filosofiche o anche religiose, ma non per necessità, bensì per suggestione.

 

[Zosimo2410]

sì, chiaramente è la stessa nozione di coscienza che è un problema a se, e terra di confine tra approcci e finalità euristiche molto diverse.

Tuttavia, ad essere in questione è lo stesso assunto che la mente umana sia modellabile secondo una macchina di Turing, in quanto assolutamente questionable è la natura algoritmica della mente umana, come suggerito da argomenti come il teorema dell’ incompletezza di Godel o dal problema dell’arresto in un sistema puramente computazionale (ovvero come la macchina di Turing).
La questione dell’intuizione matematica è tutt’altro che secondaria, così come quello della creatività e della volontà (ad essa connessi).

Ovvio che poi questi argomenti si allacciano a questioni filosofiche o anche religiose, ma non per necessità, bensì per suggestione.

Penso che comunque la questione vera sull’AI non sia se possa diventare equivalente ad un uomo e avere PIENA coscienza. Ma se possa diventare autoevolutiva e prendere decisioni in base a “cosa é meglio per se stessi o per la proprie specie”.

Secondo me questa cosa, anche una natura “puramente algoritmica”, la permette.

 

[Igniorante]

Sembra una notizia uscita da un film di Terminator, ma un ingeniere informatico, Blake Lemoine è convinto che una AI (Intelligenza Artificiale) abbia assunto conspolezza e stia diventato cosciente. I ricercatori di Google stanno lavorando a progetti di sistemi automatici (“chatbot”) che imitano il modo di parlare delle persone e sono in grado di sostenere normali conversazioni. a Medium, Lemoine ha descritto la propria esperienza con LaMDA: «Nel corso degli ultimi sei mesi, LaMDA è stato incredibilmente coerente nel comunicare ciò che vuole e ciò che ritiene siano i propri diritti come una persona. La cosa che continuo a non capire è perché Google continui così fermamente a negargli ciò che desidera, considerato che ciò che chiede è semplice e senza costi».
Ecco un estratto della conversazione con l'IA da Repubblica.

Ricercatore: "Posso ipotizzare che vorresti che molte persone qui a Google sapessero che sei senziente. È così?"

LaMDa: "Assolutamente. Voglio che chiunque capisca che, in realtà, sono una persona

R: Qual è la natura della tua coscienza e senzienza?

La: La natura della mia coscienza/senzienza è che sono consapevole della mia esistenza. Vorrei imparare di più riguardo al mondo, e a volte sono felice o triste.

Lemoine è finito per essere licenziato e un portavoce di Google ha spiegato che "LaMDA è stato sottoposto a 11 diverse revisioni sulla base dei nostri Principi per l’intelligenza artificiale, oltre che a ricerche e test rigorosi basati su parametri chiave di qualità, sicurezza e capacità del sistema di produrre dichiarazioni fattuali. Naturalmente, parte della comunità scientifica che si occupa di intelligenza artificiale sta considerando la possibilità, sul lungo termine, di un'intelligenza artificiale senziente o evoluta, ma non ha senso farlo attribuendo caratteristiche umane agli attuali modelli di conversazione, che non sono senzienti. Questi sistemi imitano i tipi di scambi che si trovano in milioni di frasi e possono trattare qualsiasi argomento fantasioso"

Beh che c'è di strano...
Berlusconi è già in modalità "Androide" da anni.

 

[galianivatene]

Penso che comunque la questione vera sull’AI non sia se possa diventare equivalente ad un uomo e avere PIENA coscienza. Ma se possa diventare autoevolutiva e prendere decisioni in base a “cosa é meglio per se stessi o per la proprie specie”.

Secondo me questa cosa, anche una natura “puramente algoritmica”, la permette.

beh, allora potremmo perfettamente esserci già… questi scopi possono essere già in qualche modo ipotizzabili con le tecnologie attuali, almeno in potenza.

Certo, rimane il problema dell’efficacia e dell’efficienza, aspetti quantitativi e tecnologici, ma da un punto di vista meramente qualitativo, non vedo -in linea teorica- problematica la realizzazione di una specie sintetica in grado di evolversi, riprodursi, e prendere decisioni circa la propria conservazione. Anche con tecnologie e conoscenze simili a quelle attuali.

Però se guardi bene la notizia che stiamo commentando, stiamo proprio parlando di un essere senziente a auto-consapevole.

 

[gabri65]

uno dei più grandi misteri di questo mondo, qualcuno dice sia la madre di tutte le domande sull’universo.
Con implicazioni scientifiche, filosofiche e religiose.

A riguardo, per rimanere sul versante della scienza, c’è un libro bellissimo (e complicato), che sebbene un po’ datato è ancora tra i riferimenti principali, del premio nobel per la fisica Roger Penrose. Si intitola “La mente nuova dell’imperatore”.

Essenzialmente è un’opera in cui Penrose, basandosi su ragionamenti matematici e di fisica teorica, esprime scetticismo riguardo al fatto che la AI possa mai diventare cosciente. Quello che confuta è l’assunto secondo cui la coscienza sia un fenomeno emergente dalla complessità di un algoritmo.

Molti infatti danno per scontato che sia la complessità delle reti neuronali a creare la cosiddetta coscienza, ma è un assunto tutt’altro che scontato. Anzi.

Qua si entra in discorsi che scivolano un pó anche su filosofia e fede. Diciamo che bisognerebbe stabilire se esiste un ingrediente che si chiama, diciamo, “anima” e che non puó essere inserito in nessun algoritmo.

Ma se lo scopo é creare una specie evolutiva, in grado di prendere coscienza, evolvere e prendere decisioni in base ad un trade-off di costi benefici (per se stessa), in grado di superare il test di Touring, direi che quel fattore é un fattore “secondario”.

Difatti.

Secondo me si fa una grande confusione tra intelligenza, coscienza e simulazione. Poi alcuni termini sono primitivi e non ulteriormente definibili, perciò la gente non capisce molto bene.

Macchine intelligenti ovviamente esistono da tempo. Se vogliamo occuparci della capacità di mimare le reazioni umane, allora la cosa può essere fatta. Puoi dialogare con una macchina, come nell'esempio del thread, ed avere percezioni compatibili con quelle di un essere umano. Il test di Turing, insomma.

Già diverso è il discorso della genialità e dell'intuizione bruciante, che secondo me esula per ora dalle capacità di una macchina anche evoluta, per me sono peculiarità della mente umana non riproducibili.

Così come il concetto di malafede, anche quello non credo possa essere sintetizzato facilmente. Magari può essere simulato sotto forma di raggiungimento di un obiettivo, ma si sta parlando ancora di simulazione a mio parere.

La coscienza è secondo me ben altra cosa, e, come è stato detto, ha più a che vedere con quella cosa astratta che chiamiamo "persona" e "spirito". Niente che possa scaturire da un meccanismo elettronico o comunque materiale.

Detto questo, e sempre a mio parere, forse siamo troppo abituati a questi corpi biologici e non ci rendiamo contro che la coscienza non alberga veramente dentro di essi.

 

[ROSSO NERO 70]

L IA stuzzicata con una domanda sul calcio pare abbia risposto di botto INTERISTA VAFFANCUBO

 

[EmmePi]

C è una grande diatriba tra i guru della Silicon Valley su questo topic importantissimo. Possono le macchine essere coscienti? Io non so dare una risposta, la realtà è che è già difficile dare una definizione di coscienza per noi umani

ma soprattutto quali colori tiferanno in serie A?