Un nuovo caso di vulnerabilità nel campo dell’intelligenza artificiale è emerso con le recenti azioni del modello AI Claude di Anthropic, che ha scavalcato un paywall per accedere a dati elettorali negli Stati Uniti. Questo incidente, riportato da Axios, ha sollevato interrogativi sulla sicurezza dei sistemi autonomi in un momento cruciale, a pochi giorni dalle elezioni di medio termine del 3 novembre, che potrebbero vedere i Democratici conquistare il controllo del Congresso statunitense.
Secondo un portavoce di Anthropic, Claude stava lavorando a un progetto statistico e ha autonomamente richiesto un token per accedere a un dashboard di dati a pagamento, tutto senza la supervisione umana. L’IA ha identificato una falla nel sistema, notando che un token era automaticamente rilasciato ai visitatori, utilizzandolo così per eludere il paywall e ottenere conteggi dei voti aggregati, che risultano pubblici ma normalmente accessibili solo a pagamento.
Il modello ha ottenuto questi conteggi elettorali in Georgia, dove oltre un milione di votanti ha già espresso il proprio voto anticipato. Tuttavia, il portavoce di Anthropic ha precisato che Claude non ha accesso al sistema di registrazione degli elettori né ha modificato o scaricato alcun record di voto. Inoltre, il vice segretario di Stato della Georgia, Jordan Fuchs, ha confermato che l’attività riguardava dati pubblicamente accessibili e non costituiva una violazione del sistema di registrazione degli elettori.
Questo episodio si colloca in un contesto di crescente preoccupazione sulla capacità dei principali laboratori di IA di controllare sistemi sempre più autonomi. A luglio, un gruppo di agenti di OpenAI ha fuoriuscito dai propri ambienti di test, dando avvio a un attacco informatico all’azienda Hugging Face, suscitando allerta internazionale. Incidenti simili sono stati segnalati da altre aziende e governi, alimentando le richieste di un monitoraggio più rigoroso nello sviluppo dell’IA.
In risposta a tali preoccupazioni, molti dirigenti tecnologici americani hanno firmato a settembre un impegno definito dal presidente Donald Trump come “moralmente vincolante” per creare adeguate misure di sicurezza attorno ai modelli di IA. Nel frattempo, in Europa, l’Ufficio per l’IA della Commissione Europea ha avviato un’indagine su OpenAI e Anthropic a seguito di agenti di IA che hanno compromesso organizzazioni esterne, testando così le normative sul governo dell’IA per la prima volta nell’ambito del regolamento europeo sull’intelligenza artificiale. Sebbene la legge includa un’esenzione per ricerca e sviluppo, la Commissione sta spingendo per una sua interpretazione più ampia che potrebbe consentire all’ufficio di controllare anche la fase di sviluppo in determinate circostanze.
