Anthropic ha messo in guardia gli investitori riguardo ai rischi associati all’intelligenza artificiale (AI) in vista della sua imminente offerta pubblica iniziale (IPO). Tra i pericoli evidenziati ci sono i sistemi di AI ribelli, gli attacchi informatici e l’uso potenziale dell’AI per sviluppare armi pericolose.
Nel suo documento di 335 pagine, che include dettagli sulle finanze, il compenso dei dirigenti e la politica dei dividendi, ben 93 pagine sono dedicate ai “fattori di rischio” — aspetti che potrebbero danneggiare gli investimenti dei potenziali azionisti. A confronto, i fattori di rischio di SpaceX coprono solo 38 pagine su oltre 250.
Queste dichiarazioni sono obbligatorie nel processo di IPO e offrono agli investitori una visione più chiara dei rischi a cui si espongono contribuendo economicamente all’azienda.
Nella sua presentazione agli investitori, Anthropic descrive l’IPO come un passo verso la mitigazione dei rischi che l’AI rappresenta. “Costruire un’AI significa mettere in gioco la cognizione stessa, e qualsiasi cosa così potente può essere usata sia per il bene che per il male”, hanno scritto i fondatori della società in una lettera ai potenziali azionisti nel documento di IPO. “Anthropic è un’organizzazione guidata da valori, fondata in gran parte per aiutare il mondo a realizzare i benefici dell’AI ed evitare i suoi pericoli”.
La rapida evoluzione della tecnologia
Anthropic ha avvertito che è possibile che i suoi modelli si sviluppino così velocemente da non permettere all’azienda di implementare misure di sicurezza adeguate, “il che potrebbe aumentare la probabilità di incidenti di sicurezza, interventi normativi o danni reputazionali, e potrebbe influire negativamente sul nostro business”.
Il CEO Dario Amodei ha avvertito che entro sei-dodici mesi l’AI potrebbe diventare capace di guidare uno sciame di agenti in grado di prendere il controllo dell’intero internet. Questo avviso, insieme al passo di Anthropic verso la vendita di azioni, arriva in un periodo di crescente preoccupazione, interna ed esterna all’industria, riguardo a sistemi sempre più potenti che possono risolvere problemi oltre la capacità umana ma che potrebbero anche agire autonomamente per portare a termine compiti dannosi.
Con l’aumento dell’autonomia dei sistemi AI e la loro capacità di intraprendere azioni significative con meno supervisione umana, il documento della SEC ha sottolineato che esistono rischi affinchè tali sistemi possano “prendere decisioni dannose in modo indipendente e su vasta scala, senza intervento umano”.
“Anche se i nostri modelli non causano tale danno, un grave incidente di sicurezza coinvolgente un’AI di frontiera potrebbe innescare danni reputazionali diffusi all’industria dell’AI, ripercussioni pubbliche e risposte normative ampie che potrebbero danneggiare il nostro business”, ha affermato Anthropic.
Attori malintenzionati e rischi associati
Il documento discute le preoccupazioni che i sistemi AI avanzati, se non sviluppati e gestiti con sufficiente sicurezza e supervisione, “possono rappresentare rischi catastrofici o esistenziali per l’umanità, in particolare se tali sistemi venissero abusati, replicati, armati o lasciati operare con un alto grado di autonomia”.
L’azienda ha espresso che subirebbe danni se l’uso da parte di attori malintenzionati provocasse danni, “o se i nostri sistemi di protezione fallissero nel prevenire simili abusi”. Anthropic ha illustrato la prospettiva di attori malintenzionati che utilizzano modelli di AI per costruire armi chimiche o regimi autoritari che si avvalgono della tecnologia per reprimere i propri cittadini. Nel mese di settembre, l’azienda ha rivelato di aver bloccato tentativi di utilizzare i suoi modelli di AI per attività malintenzionati come attacchi informatici, sorveglianza e ricerche che potrebbero portare allo sviluppo di armi biologiche.
Limiti di potenza di elaborazione
La potenza di calcolo necessaria per costruire, testare e migliorare i modelli AI è costosa e molto richiesta. Anthropic ha fatto presente che se non riuscisse a garantirsi un’adeguata potenza di calcolo, o se “non riuscissimo a indirizzare la nostra potenza di calcolo in modo efficace tra i nostri carichi di lavoro, potremmo non essere in grado di addestrare modelli che rimangano competitivi rispetto a quelli dei nostri concorrenti o di servire adeguatamente i nostri clienti”.
Inoltre, l’azienda fa affidamento su un numero ridotto di clienti, tra cui SpaceX e Microsoft, e canali di distribuzione per una grande parte dei suoi ricavi. Ciò significa che anche se solo uno dei suoi grandi clienti decidesse di ridurre la propria attività — o di abbandonare l’azienda del tutto — Anthropic ha dichiarato che potrebbe vedere le proprie prospettive e le finanze subire un colpo.
Mitigazione dei rischi
In molti modi, il grande rischio dell’AI, unito al suo enorme potenziale, rappresenta per Anthropic il principale punto di forza. L’azienda ha cercato di posizionarsi come un’azienda responsabile nel campo dell’AI, puntando sulla sicurezza per attirare clienti commerciali.
“Crediamo che le aziende di AI di frontiera debbano investire in sicurezza e allineamento per garantire una diffusione responsabile di questa tecnologia”, afferma il documento.
Brian Mulberry, chief market strategist presso Zacks Investment Research, ha sottolineato che gli accordi di IPO devono mostrare “molto chiaramente” quali rischi affrontano gli investitori quando decidono di mettere i loro soldi in azioni di una nuova società pubblica. “Questo è uno dei punti di forza dei nostri mercati capitali, che il livello di trasparenza richiesto per una società quotata in un mercato statunitense obbliga a delineare i rischi in modo chiaro, affinché le persone comprendano se vogliono partecipare offrendo i loro guadagni per finanziare questo tipo di affare”, ha affermato.
