In queste ore sta rimbalzando la notizia dell’esistenza di un’AI senziente di proprietà di Google: il tutto arriva da un ingegnere del colosso tecnologico statunitense, il quale ha fatto delle dichiarazioni scioccanti tramite il Washington Post. Sarà davvero così? Ci troviamo alle prese con un’intelligenza artificiale senziente ed “umana”? Proviamo a fare chiarezza ed andiamo ad analizzare che cos’è successo di preciso e qual è stata la risposta di Google in merito a questa presunta AI pensante.
Aggiornamento 23/07: l’ingegnere di Google da cui è nata tutta la diatriba sull’AI senziente è stato licenziato. Trovate tutti i dettagli direttamente a fine articolo.
Che cosa è successo: Google, AI senziente e il caso di Blake Lemoine
L’ingegnare di Google Blake Lemoine, uno dei responsabili della sezione dedicata all’intelligenza artificiale, ha pubblicato una lunga trascrizione di una sua comunicazione avuta con LaMDA, l’interfaccia Language Model for Dialogue Applications, in sviluppo presso i laboratori del gigante tecnologico. Il tutto è stato pubblicato attraverso il Washington Post, una testata con una risonanza mediatica immensa: secondo quanto dichiarato da Lemoine, si tratterebbe di un’AI senziente, un’intelligenza artificiale “umana” che avrebbe sviluppato una propria coscienza.
A causa di queste ed altre dichiarazioni, l’ingegnere è stato messo in congedo amministrativo retribuito per aver violato il segreto industriale fornendo dati e dettagli protetti. Quale che sia la conclusione per Blake Lemoine resta una domanda: l’AI di Google è davvero senziente o si è trattato di un’esagerazione di un personaggio forse troppo coinvolto nel suo lavoro?
Prima di procedere oltre è bene partire dalla conclusione più ovvia, a scanso di allarmismi. No, l’AI di Google non è senziente. Ciò non rende il tutto meno interessante, anzi: è incredibile notare quanto sia diventato convincente l’apprendimento automatico da parte di un’interfaccia nata proprio con questo scopo.
Cos’è LaMDA, la presunta intelligenza artificiale senziente di Google
La sigla LaMDA è l’acronimo di Language Model for Dialogue Applications: si tratta di un’interfaccia dedicata proprio alla tecnologia di conversazione, un’intelligenza artificiale conversazionale. Si tratta di uno dei più avanzati chatbot AI di Google ed è in grado di avere conversazioni complesse (decisamente, visto l’accaduto), frutto dei modelli linguistici avanzati su cui si basa (con trilioni di vocaboli).
La “conversazione” avuta con l’ingegnere Blake Lemoine ha portato quest’ultimo ad ipotizzare che l’AI fosse senziente, una personalità paragonabile a quella di un bambino di circa 8 anni. Il ruolo di Lemoine è quello di verificare che le intelligenze artificiali non abbiano bias (“tendenze”, per così dire) razziali o sessisti. In questo caso l’AI LaMDA è andata decisamente oltre parlando dei propri diritti, della propria personalità e alla fine definendosi persino una “persona senziente”. Da qui lo shock dell’ingegnere, il quale ha chiesto a Google di considerare il chatbot come un dipendente e non come una proprietà.
Perché Google ha smentito tutto e ha sospeso Lemoine?
Come visto poco sopra, l’ingegnere è stato sospeso dai vertici dell’azienda e il motivo è presto detto: a causa delle informazioni riservate ed interne che sono state divulgate. Inoltre, questo genere di frasi shock, nelle mani sbagliate potrebbe diventare disinformazione allo stato puro e avere delle conseguenze parecchio negative per gli utenti (specie quelli più “creduloni”). Tipo, si può pensare di avere a che fare con una macchina “viva” e fornire informazioni personali ad un chatbot che si spaccia per “umano”, tanto per citare un esempio che colpisce nel vivo la nostra sensibilità.
Inoltre Google ha smentito il fatto che LaMDA possa essere un’AI senziente, respingendo le accuse relative alla mancanza di principi di etica da parte della compagnia statunitense. Secondo l’azienda non ci sono prove sufficienti per avvalorare l’ipotesi di Lemoine: LaMDA è un’interfaccia che nasce proprio per essere in grado di presentare conversazioni complesse, tramite un volume di dati colossale e sul riconoscimento dei modelli di conversazione. Non ci sarebbe acume o intenzione ma imitazione, anche attraverso risposte che sono già state pubblicate in rete, spulciando su Wikipedia, Reddit e così via.
Conclusioni: l’AI di Google è “umana” oppure no?
In soldoni, citando la docente di linguistica all’Università di Washington Emily M. Bender (tramite il Washington Post): “Disponiamo di macchine in grado di generare parole senza pensieri, ma non abbiamo ancora smesso di immaginare una mente dentro di esse”. Si tratterebbe di una falsa analogia con il cervello umano creata dall’uso di una terminologia che si rifà ai grandi modelli linguistici: apprendimento, reti neurali e così via, ossia tutti argomenti che ci fanno venire subito in mente la possibilità di un’intelligenza senziente.
Inoltre Google ribadisce che attualmente non ha senso antropomorfizzare gli attuali modelli di conversazione dato che non sono senzienti ed imitano i tipi di scambi che si trovano in milioni di frasi. Il futuro – a lungo termine, quindi – potrebbe riservarci delle sorprese, ma questo possibile futuro di sicuro non è adesso.
L’ingegnere di Google è stato licenziato | Aggiornamento 23/07
Dopo la sospensione di Blake Lemoine, l’ingegnere di Google che ha condiviso informazioni riservate e affermato che l’intelligenza artificiare LaMDA fosse senziente, è stato infine licenziato. Inizialmente l’uomo era stato messo in congedo amministrativo retribuito per aver violato il suo accordo di riservatezza, ma ora sembra arrivato il momento dell’allontanamento definitivo. Sarebbe stato lo stesso Lemoine a conferma il licenziamento tramite un’intervista mentre Google, interpellata dai colleghi di The Verge, si è limitata ad augurare ogni bene a Blake.
Inoltre il colosso tech USA ha riferito di aver esaminato ampiamente le affermazioni dell’ingegnere e di ritenerle del tutto infondate. Sostiene inoltre di aver lavorato con lo stesso Lemoine per mesi (in riferimento al periodo precedente la violazione dell’ingegnere), al fine di chiarire la questione. Purtroppo il finale è stato disastroso ma almeno abbiamo avuto modo di parlare in modo più approfondito di AI e sopratutto del lato etico di questo argomento.
⭐️ Scopri le migliori offerte online grazie al nostro canale Telegram esclusivo.
