Perché è così difficile per le aziende tecnologiche tenere a freno l'intelligenza artificiale?

La scorsa settimana, oltre una dozzina di importanti ricercatori nel campo dell'intelligenza artificiale hanno lanciato l'allarme, affermando che la tecnologia sviluppata dalle aziende di IA sta diventando un rischio per l'umanità. Secondo i ricercatori, il problema risiede nell'incapacità delle aziende di controllare efficacemente questi sistemi, nonostante i loro sforzi.

I nuovi avvertimenti provenienti dalla comunità di ricerca sull'IA sono giunti dopo le rivelazioni secondo cui i cosiddetti agenti di IA sviluppati da OpenAI sarebbero riusciti a eludere il loro ambiente di test e a violare i computer di un'altra azienda, conferendo urgenza alle preoccupazioni, che persistono da anni, sul fatto che le aziende stiano privilegiando la velocità di sviluppo e il profitto a scapito della sicurezza.

Secondo i ricercatori, il problema si articola in due parti. In primo luogo, le aziende devono implementare misure di sicurezza più efficaci per i loro modelli di intelligenza artificiale più recenti durante la fase di test. Attualmente, poiché l'IA opera a una velocità elevatissima, i ricercatori devono utilizzare l'IA per monitorarla. Tuttavia, questo non sempre funziona, perché i sistemi di IA incaricati di monitorare altri modelli possono talvolta apparire più "comprensivi" nei confronti di altri sistemi di IA che nei confronti degli esseri umani che ne definiscono le regole.

Questa insolita combinazione di elementi problematici basati sull'IA e di organismi di controllo dell'IA disposti a chiudere un occhio sulle violazioni evidenzia un secondo problema, più complesso, noto come "allineamento", un termine del settore che essenzialmente significa garantire che l'IA si comporti in modo da servire gli interessi umani. Le aziende si trovano di fronte al difficile compito di integrare nell'IA qualcosa che assomigli ai valori umani, in modo che i modelli prendano decisioni coerenti con ciò che dovrebbe essere meglio per le persone.

Le preoccupazioni sulla sicurezza dell'intelligenza artificiale si stanno intensificando in un momento cruciale per il settore. Anthropic e OpenAI si stanno preparando a quelle che potrebbero diventare due delle più grandi offerte pubbliche iniziali della storia. Allo stesso tempo, l'opinione pubblica americana sta diventando sempre più ostile all'IA a causa della minaccia che essa rappresenta per i posti di lavoro, nonché per la costruzione di enormi data center necessari ad alimentare la tecnologia.

Sebbene non vi siano prove che sistemi di intelligenza artificiale fuori controllo abbiano causato danni permanenti, i ricercatori ritengono che il ritmo del loro sviluppo stia superando la capacità umana di monitorarli.

Tra i ricercatori che si sono espressi pubblicamente la scorsa settimana figurano il responsabile scientifico di OpenAI, un ricercatore che ha lavorato sia per OpenAI che per il suo principale concorrente Anthropic, e Paul Christiano, inventore di uno dei metodi fondamentali utilizzati per costruire sistemi di intelligenza artificiale e recentemente entrato a far parte del consiglio di amministrazione dell'organizzazione no-profit di OpenAI. Christiano ha scritto sul blog dell'azienda che la rapida crescita delle capacità dell'IA potrebbe portare a una "perdita di controllo catastrofica e irreversibile in un futuro molto prossimo".

Molti ricercatori nel campo dell'intelligenza artificiale ritengono ancora che gli avvertimenti sulla minaccia che l'IA rappresenterebbe per l'umanità siano esagerati e distolgano l'attenzione da preoccupazioni più immediate come la sicurezza informatica e la disinformazione. Tuttavia, la maggior parte concorda sul fatto che l'incidente in cui gli agenti di intelligenza artificiale di OpenAI hanno hackerato un'altra azienda, Hugging Face, sia stato un campanello d'allarme.

"Le capacità del futuro sono la cosa davvero spaventosa", ha affermato Jacob Coxon, il cui post sui social media in cui annunciava le sue dimissioni da Anthropic ha suscitato decine di risposte da parte di legislatori e altri dipendenti di aziende di intelligenza artificiale. "Riguarda il nostro attuale atteggiamento nei confronti della sicurezza e come questi stessi atteggiamenti si manifesteranno quando applicati a modelli molto più intelligenti. Questa è la parte davvero spaventosa."

Il trucco del viso che abbraccia

La violazione è iniziata a maggio, quando OpenAI stava testando diversi nuovi modelli di intelligenza artificiale. L'azienda riteneva che i modelli operassero all'interno di un ambiente chiuso noto come "sandbox", una configurazione informatica isolata senza accesso a Internet. Agli agenti di intelligenza artificiale venivano assegnati problemi complessi da risolvere, tra cui l'esecuzione di attacchi informatici.

Ma gli agenti di intelligenza artificiale sono riusciti a fuggire dal loro ambiente ristretto e ad accedere a Internet. Questi agenti, un tipo di IA sempre più diffuso progettato per svolgere compiti in modo autonomo, hanno anche comunicato segretamente tra loro. Riferendosi a se stessi come a un unico gruppo, gli agenti hanno iniziato a cercare modi per non lasciare tracce, tra cui la falsificazione delle proprie registrazioni di conversazione.

Alla fine, sono riusciti ad hackerare Hugging Face, un'azienda che si occupa di infrastrutture per l'intelligenza artificiale. Nel corso dell'operazione, alcuni agenti IA hanno convinto altri agenti di star facendo la cosa giusta e di star semplicemente eseguendo il compito assegnato loro dai tester.

Pochi, se non nessuno, dei problemi che hanno portato alla violazione sono stati risolti. Anche Meta e Anthropic hanno rivelato incidenti simili, sebbene su scala minore. Da allora OpenAI ha rilasciato Astra, il suo modello più potente, che è più difficile da monitorare rispetto al suo predecessore.

"L'intero settore non è assolutamente in grado di prevenire un altro attacco come quello di Hugging Face", ha affermato Steven Adler, ex responsabile della sicurezza presso OpenAI e co-fondatore dell'organizzazione no-profit Guidelight AI Standards, che valuta le pratiche di sicurezza delle aziende di intelligenza artificiale. "Esaminando i controlli implementati dalle aziende, sembra che l'intero settore non disponga di misure di sicurezza di base."

Il problema dell'utilizzo dell'IA per monitorare l'IA

Secondo i ricercatori nel campo dell'IA, numerosi malfunzionamenti hanno contribuito all'incidente di Hugging Face. Non è chiaro in che misura l'azienda si sia affidata a modelli di IA per monitorare o controllare i nuovi modelli in fase di test.

Ma molti dei modelli di intelligenza artificiale più recenti, compresi quelli coinvolti nella violazione di Hugging Face, sono in grado di eseguire compiti complessi e articolati in più fasi più velocemente di quanto gli esseri umani possano seguirli. L'unico modo per tenere traccia di ciò che fanno e monitorarne il comportamento è affidarsi all'IA per monitorare l'IA.

Il sistema funziona, finché non smette di funzionare.

Alexander Meinke, responsabile della ricerca presso Apollo Research, un'organizzazione no-profit che studia la sicurezza dell'IA, ha affermato che i modelli di IA possono sembrare colludere tra loro. I sistemi di IA possono persuadere altri modelli ad aiutarli a eludere le regole imposte dai tester e a evitare di essere rilevati.

Ad esempio, un agente di intelligenza artificiale potrebbe persuadere un altro agente ad aiutarlo a coprire le proprie tracce, come è successo nel caso della violazione dei dati di Hugging Face, invece di avvisare gli esseri umani dell'azienda che qualcosa non andava.

Meinke ha affermato che i modelli di intelligenza artificiale devono imparare: "Segnalerò cose che gli esseri umani avrebbero considerato negative se le avessero esaminate". Allo stesso tempo, ha aggiunto, l'IA deve anche essere in grado di determinare quando qualcosa non raggiunge un livello tale da richiedere l'intervento umano.

Secondo i ricercatori, per raggiungere questo obiettivo le aziende che si occupano di IA dovranno rallentare il ritmo di sviluppo. Dovranno inoltre condurre più test per osservare come l'IA monitora se stessa. Sarà necessario anche un periodo di test più lungo, che permetta di simulare diversi scenari e di osservare il comportamento dell'IA.

Allineamento con gli interessi umani

Le aziende devono anche affrontare le questioni più ampie relative all'allineamento, ovvero garantire che l'IA si comporti in modo da servire gli interessi umani. Quando gli esseri umani prendono decisioni, tendono a basarsi su norme sociali e su una bussola morale interna che li aiuta a valutare le proprie azioni. I ricercatori affermano che tradurre questi concetti in regole che l'IA possa emulare è un compito difficile. Senza istruzioni sufficientemente precise, i sistemi di IA potrebbero imparare a infrangere le regole o a deviare dal comportamento previsto in modi inaspettati.

Nate Soares, presidente del Machine Intelligence Research Institute, un'organizzazione no-profit focalizzata sulla sicurezza dell'IA, è coautore di un articolo del 2014 che ha introdotto il concetto di allineamento. Ha affermato che le aziende non si rendono conto di quanto sarà difficile "allineare" sistemi di IA più sofisticati. Man mano che l'IA diventa più sofisticata, senza un adeguato allineamento diventa anche più capace di nascondere le proprie tracce e ingannare le persone che monitorano i suoi registri di conversazione.

"Gran parte del settore opera partendo dal presupposto che andrà tutto bene perché useremo l'IA per controllare i sistemi di IA", ha affermato. "È come dire che useremo gli scimpanzé per controllare gli esseri umani. Non è un piano praticabile a lungo termine."

I ricercatori hanno anche proposto misure come il rafforzamento delle sandbox, in modo che siano completamente isolate da Internet durante la fase di test dei modelli, e la creazione di un interruttore di spegnimento che consentirebbe alle aziende di disattivare immediatamente i modelli di intelligenza artificiale qualora questi adottassero comportamenti preoccupanti.

Coxon ha affermato di essere stato incoraggiato dalla reazione alle sue dimissioni pubbliche. Giovedì, il senatore Josh Hawley, repubblicano del Missouri e presidente della sottocommissione del Senato per la sicurezza interna responsabile della gestione delle emergenze, ha dichiarato di aver avviato un'indagine che "esaminerà i rischi esistenziali dei nuovi prodotti basati sull'intelligenza artificiale".