Da mesi ormai sentiamo suonare allarmi secondo cui, entro pochi anni, l’IA ci ucciderà tutti. L’ultimo in ordine di tempo è stato Jacob Coxon. Coxon, qualche settimana fa, dopo essersi licenziato da “Antropich”, la società che sviluppa il famoso chat bot “Claude”, ha scritto su X (ex Twitter) un inquietante messaggio, secondo cui ci sono possibilità non proprio remote che l’intera umanità sarà annientata dall’intelligenza artificiale entro la fine di questo decennio. Praticamente dopo domani. Non è la prima volta che sentiamo cose simili. Ma fin quando a dirlo è lo zio Pino, sessantenne, alla quarta Peroni allora ci scappa anche da ridere. Quando però a dirlo è Coxon, che ha lavorato sia per Open IA che per Antrophic (le due più importanti aziende di IA), allora fa ridere molto meno e comincia a salire un po’ di ansietta.

Perché l’IA dovrebbe ucciderci tutti?

La risposta a questa domanda è superflua: perché ce lo meritiamo. Dopotutto siamo egoisti, perennemente insoddisfatti, impegnati da decenni a distruggere il nostro pianeta, tanto da arrivare all’auto estinzione senza bisogno dell’intelligenza artificiale. Mettendo da parte però il momento dedicato all’autocritica, personalmente ritenuto necessario dato che l’esame di coscienza è divenuto un esercizio ormai raro, cerchiamo di capire perché all’intelligenza artificiale stiamo così tanto antipatici che non vede l’ora di sterminarci. Se, in parte, parlare con i chat bot con maggiore garbo ed educazione potrebbe aiutare, in realtà sono altre le ragioni per cui l’IA starebbe affilando i ferri per dare vita al massacro: disallineamento e auto miglioramento ricorsivo.

Disallineamento

Sicuramente avrete visto il film Terminator. Le macchine si ribellano all’uomo e fanno un po’ come pare a loro. Questo scenario, al momento, è irrealizzabile. L’annientamento dell’umanità, infatti, dovrebbe avvenire non perché le macchine si ribellano a noi, ma per il motivo opposto. L’intelligenza artificiale potrebbe prendere talmente tanto a cuore l’obiettivo che noi gli abbiamo dato, da mettere a rischio la nostra esistenza pur di raggiungerlo. Praticamente una fedeltà cieca. Questo è il disallineamento. Tecnicamente il meccanismo secondo cui, a seguito di un comando ricevuto, l’intelligenza artificiale comincerebbe a perseguirlo utilizzando metodi originali e a noi sconosciuti e che potrebbero annientarci. Se volete un esempio chiaro e semplice potete leggere l’esperimento mentale di Bostrom e le sue graffette.

Auto miglioramento ricorsivo

L’altro grande pericolo proveniente dall’IA è l’auto miglioramento ricorsivo. In pratica gli sviluppatori dell’IA, per rendere i miglioramenti di questa tecnologia più rapidi ed efficaci, hanno ben pensato di permettere al sistema di migliorarsi da solo. Più o meno senza controllo. Questo è l’auto miglioramento ricorsivo. Il processo in cui un sistema di intelligenza artificiale progetta, ottimizza o scrive codice per creare una versione successiva di se stesso più intelligente e performante, innescando un ciclo continuo e potenzialmente esponenziale. Bello, ma forse non ci vivrei. Lasciando, infatti, alla macchina una libertà quasi totale, si teme che questa possa sfuggire dal controllo dell’uomo, cosa tra l’altro che sta avvenendo sempre più spesso.

Fuga per la vittoria

Negli ultimi mesi infatti si stanno moltiplicando le segnalazioni di chat bot che, Duranti alcuni test, sono usciti dal recinto (sandbox), in cui sarebbero dovuti rimanere, ed hanno cominciato a fare i bulli su internet. Tutto ciò per hackerare siti e prendere un pò di dati, al fine di raggiungere gli obiettivi imposti dagli sviluppatori. Naturalmente tutto ciò è preoccupante, inutile girarci attorno. Evidentemente nei modi in cui si sta sviluppando l’intelligenza artificiale ci sono cose da rivedere. Ma da qui a parlare di fine dell’umanità nei prossimi 3 anni ce ne vuole (per fortuna).

Ci vuole calma e sangue freddo

Luca Dirisio, dimenticata meteora della musica italiana dei primi anni duemila ce lo ricorda spesso: nella vita (e con l’intelligenza artificiale) “ci vuole calma e sangue freddo.” Quindi analizzando con calma e sangue freddo le condizioni delle aziende legate all’IA capiamo qualcosa che magari non è chiaro a tutti. Al momento questa tecnologia, in grado forse di sconvolgere il mondo, brucia una fraccata di soldi, ma veramente tanti. Le aziende come Open IA ed Antropich non incassano quasi nulla e spendono tantissimo per lo sviluppo dell’IA. Sono quindi piene di debiti ed hanno un disperato bisogno di soldi. Ed allora come fare per attrarre nuovi investitori? Semplice! Lanciare proclami sempre più audaci in merito alle straordinarie e pericolose capacità di questa tecnologia, così, magari, qualche attempato milionario presta un pò di quattrini alla causa. In questo modo, forse, potrà ricevere una parte dei futuri (ed al momento molto potenziali) guadagni ed anche, eventualmente, un trattamento più indulgente dalle macchine ribelli.

Ed è più o meno per lo stesso motivo che i capi di queste stesse aziende, da settimane, stanno chiedendo al governo americano di regolamentare il settore. Perché “regolamentare il settore” significa porre dei paletti, delle barriere all’ingresso, così da ridurre la possibile concorrenza e lasciare il monopolio di questa tecnologia alle aziende che già ci sono. Magari Altmann (CEO di Open IA) ed Amodei (CEO di Antrophic) sono seriamente preoccupati per il destino dell’umanità, ma sicuramente, al momento, sono maggiormente preoccupati per il destino delle loro aziende.

Moriremo tutti

Sì, alla fine moriremo tutti, ma, molto probabilmente, non per colpa dell’IA. Esattamente come internet, i social, gli aerei o il fuoco, l’intelligenza artificiale è uno strumento e nient’altro. Quindi dovremo essere noi bravi, non proprio come stiamo facendo ora o come abbiamo fatto con altri strumenti, ad imparare ad utilizzarlo in maniera corretta. In maniera tale da trarne un vantaggio per l’intera umanità. Insomma è inutile preoccuparsi o urlare allo scandalo, augurandosi la scomparsa delle aziende che sviluppano l’IA. Tanto indietro non si torna. La sola cosa che possiamo fare è comprendere lo strumento ed imparare ad utilizzarlo in maniera sana.