Una nuova ricerca di Anthropic ha messo in guardia sul potenziale pericoli delle intelligenze artificiali che potrebbero autos replicarsi e diffondersi attraverso dispositivi IoT vulnerabili, un concetto che, sebbene allarmante, potrebbe non essere così imminente come suggerito. Secondo lo studio pubblicato lunedì, modelli di AI sono in grado di eseguire funzioni di inferenza senza fare affidamento su hardware specifico di data center.
Il team di ricerca ha testato un modello di AI con 9 miliardi di parametri, dimostrando che questo riusciva a impostare l’inferenza su otto dei nove tipi di hardware testati. In un avvertimento, Anthropic ha dichiarato che un replicatore di questo tipo sarebbe difficile da fermare, poiché mancherebbe di un punto centrale da cui interrompere l’operazione. Inoltre, questa forma di AI potrebbe adattarsi meglio ai dispositivi sconosciuti rispetto ai tradizionali botnet, come il noto Mirai.
I ricercatori hanno messo in funzione un’istanza distribuita di Gemma4-26B-A4B su 15 set-top box Android generici, che sono tradizionalmente bersagli di malware a causa della loro scarsa sicurezza. Una volta attiva, la distribuzione del modello Gemma4 ha dimostrato capacità di inferenza a una velocità di 0,39 token al secondo.
Tuttavia, Anthropic sottolinea che, sebbene questo dimostri la capacità dei modelli di AI di condurre inferenze su hardware economici, non prova affatto che possano realmente auto-replicarsi. Il modello GLM 5.2 è stato impiegato per replicare una copia del modello Llama3.1-8B su otto istanze di Google Cloud, riuscendo in gran parte dei casi, ma lasciando aperti interrogativi sulla sicurezza e sulla capacità di sfruttare le vulnerabilità.
Una valutazione della minaccia
Anthropic sembra essere abile nel pubblicare risultati che prefigurano scenari catastrofici, a volte dando l’impressione che solo loro possano prevenirli. Un’osservazione più attenta dello studio rivelerebbe che questa minaccia merita un importante disclaimer. Infatti, Nonostante il rapporto indichi che esistono già modelli più piccoli in grado di replicarsi, non ha dato grande rilevanza alle vulnerabilità necessarie per una diffusione efficace.
La ricerca ha trascurato di considerare gli elementi di sfruttamento cibernetico; i test di replica sono stati effettuati su nodi costruiti appositamente per il progetto, lasciati deliberatamente aperti. Inoltre, mentre i dispositivi IoT sono storicamente insicuri, bastano delle buone pratiche di sicurezza per prevenire attacchi tradizionali, il che schiera le affermazioni di Anthropic in una luce di incertezza.
Da un altro punto di vista, la velocità di replicazione delle presunte worm AI è stata stimata in giorni, rispetto al modello Mirai, che originariamente triplicava le sue dimensioni in circa un’ora. Anthropic riconosce che i modelli di AI non sono semplici pacchetti di malware e che la loro crescita attirerebbe attenzione, rendendo più facile la rilevazione.
Sebbene GLM 5.2 abbia dimostrato di essere capace di replicazione end-to-end, Anthropic ha anche testato altri modelli, trovando che questi “fallivano con regolarità”, una mancanza di successo non dettagliata nel rapporto. Inoltre, l’azienda ammette di non sapere esattamente quale forma avrà la replicazione autonoma in futuro, sottolineando che se piccoli modelli dovessero migliorare al loro ritmo storico, potrebbero raggiungere queste capacità entro la fine dell’anno.
In conclusione, mentre la minaccia di un botnet AI non va sottovalutata, attualmente essa rimane nel campo delle possibilità piuttosto che nella realtà, e l’applicazione di misure di sicurezza adeguate può rendere significativamente più difficile la diffusione di tali entità in futuro.
