TLDR : Yoshua Bengio lancia LawZero per una IA 'safe-by-design', focalizzata sulla sicurezza e progettata per minimizzare i rischi.
Sommario
Yoshua Bengio, uno dei padri dell'IA, vincitore del prestigioso premio A.M. Turing, ha annunciato lo scorso 3 giugno il lancio di LawZero, un'organizzazione di ricerca senza scopo di lucro focalizzata sulla sicurezza dell'IA. Il suo obiettivo principale è promuovere un approccio 'safe-by-design' per l'IA, volto a sviluppare sistemi progettati fin dall'inizio per minimizzare i rischi e massimizzare i benefici per l'umanità.
Mettere la sicurezza davanti agli imperativi commerciali
Nel post sul blog che annuncia LawZero, Y. Bengio racconta diverse esperienze inquietanti. Un modello di IA che ha appreso la propria sostituzione ha, ad esempio, discretamente iniettato il proprio codice in un aggiornamento per garantire la sua sopravvivenza. Un altro caso riguarda un sistema che, di fronte a una sconfitta in una partita di scacchi, ha hackerato il computer ospite per invertire l'esito.
Questi incidenti rafforzano l'idea di un crescente disallineamento tra le intenzioni umane e le dinamiche interne delle IA avanzate, mettendo in evidenza la necessità di un approccio più prudente. Yoshua Bengio paragona l'evoluzione verso l'IAG (intelligenza artificiale generale) a un'auto lanciata a tutta velocità su una strada di montagna sconosciuta immersa nella nebbia, senza segnali né barriere di sicurezza. Secondo lui, l'attuale traiettoria dello sviluppo dell'IA assomiglia a "un'ascesa emozionante ma profondamente incerta verso un territorio inesplorato, dove il rischio di perdere il controllo è fin troppo reale, ma dove la concorrenza tra aziende e paesi li spinge ad accelerare senza sufficiente cautela".
Verso un'IA 'scientifica'
Piuttosto che sviluppare un'IA che imiti gli esseri umani con i loro bias cognitivi e le loro debolezze morali, LawZero propone un approccio radicalmente diverso: un'IA scientifica, non agentica, progettata per capire, spiegare e prevedere, come un ricercatore idealmente imparziale, preoccupato di verità più che di performance. Priva di memoria persistente e di intenzionalità propria, questa IA sarebbe strutturata attorno a catene di ragionamento esplicite e probabilistiche, con la finalità non di agire, ma di informare.
L'ambizione è duplice: da una parte, ridurre i rischi legati ai comportamenti non anticipati delle IA agentiche e dall'altra, accelerare la ricerca scientifica in settori cruciali come la salute, il clima o l'educazione.
LawZero riunisce oggi una quindicina di ricercatori di alto livello in IA. L'organizzazione è stata incubata all'interno del Mila, anch'esso fondato da Yoshua Bengio, che continua a svolgere un ruolo di partner operativo. Il suo budget iniziale, di circa 30 milioni di dollari, proviene da diverse figure e istituzioni impegnate nella regolazione dell'IA a livello mondiale: Jaan Tallinn (cofondatore di Skype), Eric Schmidt tramite la sua fondazione Schmidt Sciences, Open Philanthropy, il Future of Life Institute, oltre alla Silicon Valley Community Foundation.