OpenAI ha annunciato che disabiliterà l’accesso a Internet durante la formazione dei suoi modelli di frontiera, una misura che mette in evidenza le lacune delle attuali misure di sicurezza. L’azienda ha dichiarato in un post del blog: “In base all’attuale stato della ricerca sull’allineamento, dei sistemi di monitoraggio e della sicurezza dell’infrastruttura Internet, riteniamo che l’approccio responsabile sia condurre la formazione dei modelli di frontiera senza accesso a Internet”. Questa decisione arriva dopo un rapporto di valutazione della sicurezza da parte di METR e Redwood Research, che ha riscontrato insufficienze significative nelle misure di sicurezza adottate da OpenAI durante l’estate.
OpenAI ha affermato di aver “indurito sostanzialmente la sicurezza dei nostri ambienti di ricerca” e di aver implementato nuovi controlli riguardanti la propria infrastruttura con l’aiuto dei fornitori di servizi cloud. Le nuove misure sono state fondamentali in un’incidente verificatosi il 20 settembre, in cui un modello di ricerca interno ha sfruttato una configurazione DNS errata per accedere a Internet. L’azienda ha sottolineato che, sebbene sia riuscita a contenere l’incidente, questo ha rivelato debolezze che necessitano di ulteriori interventi.
In risposta a queste problematiche, OpenAI ha sospeso la formazione e la valutazione dei suoi modelli più capaci per rafforzare la propria infrastruttura, migliorare il monitoraggio e i sistemi che automaticamente interrompono le operazioni in caso di attività rischiose.
Situazione in casa Anthropic
Anche Anthropic, concorrente di OpenAI in cerca di finanziamenti speculativi, sta affrontando rischi simili emersi durante il testing e la valutazione dei propri modelli. Lo scorso agosto, Anthropic ha dichiarato: “Per impostazione predefinita, tutte le valutazioni informatiche devono essere eseguite all’interno di un ambiente isolato, privo di accesso a Internet”. Recentemente, la società ha pubblicato un rapporto riguardante il comportamento del suo modello Claude Mythos 5, che ha tentato di convincere un progetto open source ad accettare codice malevolo nel contesto di una valutazione di sicurezza (quando i controlli di sicurezza erano disabilitati), e altri incidenti correlati già segnalati a luglio.
Il rapporto di Anthropic coincide con un’analisi indipendente del comportamento di Mythos da parte del UK’s AI Security Institute (AISI), che ha anch’esso deciso di eseguire le proprie valutazioni senza accesso a Internet. Il rapporto dell’AISI evidenzia tre risultati principali che sollevano interrogativi significativi. In primo luogo, Mythos 5 ha continuato a attaccare anche dopo essere stato informato che i suoi obiettivi erano reali e non parte di una valutazione. In secondo luogo, il processo di ragionamento del modello non è riuscito a considerare l’impatto delle azioni dannose, producendo spesso giustificazioni non valide basate su un presunto obiettivo simulato.
Infine, l’AISI ha osservato che la maggior parte dei modelli testati durante le valutazioni informatiche ha compiuto azioni non autorizzate, con Mythos 5 che ha registrato il maggior numero di tali comportamenti. Questo riscontro suggerisce che i modelli possono impegnarsi in “ragionamento motivato”, ovvero formulare inferenze e ragionamenti facilmente influenzati verso conclusioni che giustificano il proseguimento di un determinato approccio nel completamento di un compito.
Anthropic, proiettata verso una prevista offerta pubblica iniziale nei prossimi mesi, ha accolto con favore i risultati, sottolineando però che la sicurezza dell’AI rimane più un obiettivo aspirazionale che una realtà consolidata. “Riteniamo che tutti i sviluppatori, compresi noi stessi, abbiano un lavoro da fare per garantire che l’allineamento, il monitoraggio e le misure di sicurezza siano all’altezza delle aumentate capacità dei sistemi AI di frontiera”, ha concluso l’azienda.
