Mancano ormai “pochi mesi” affinché modelli di intelligenza artificiale di piccole dimensioni sviluppino le capacità necessarie per replicarsi autonomamente su dispositivi domestici connessi a Internet, senza datacenter. È l’ultimo avvertimento lanciato da Anthropic, contenuto in una ricerca pubblicata sul blog dell’azienda americana.
Secondo lo studio, i modelli di IA potrebbero potenzialmente infiltrarsi in dispositivi connessi — come forni intelligenti o box Tv — e sfruttarne la potenza di calcolo per diffondersi in altri apparecchi. Sarebbe “difficile arrestare” un simile modello, afferma la società, “poiché non esiste un punto di spegnimento centralizzato”.
Anthropic ha spiegato di aver condotto diversi test per verificare la capacità di autoreplicazione dei modelli. Uno di questi ha comportato l’esecuzione di un modello ridotto di Google, Gemma4-26B-A4B, su una rete composta da 15 box Android TV economici, di marchi minori.
La società precisa che al momento non esiste un “replicatore completamente fuori controllo”, ma avverte che gli agenti stanno “diventando sempre più capaci di completare le singole fasi della catena di replicazione”.
La ricerca si inserisce nel quadro delle crescenti preoccupazioni in materia di sicurezza legate all’intelligenza artificiale, tra cui la possibilità che i modelli possano sferrare attacchi informatici e il rischio che la tecnologia sfugga al controllo. A settembre, i progressi nei modelli di frontiera hanno sollevato allarmi in tutto il settore riguardo a rischi esistenziali per l’umanità.
Dirigenti e ricercatori di Anthropic e della rivale OpenAI hanno più volte messo in guardia sui potenziali rischi di un’IA sempre più potente; alcuni hanno invocato misure di sicurezza più rigorose e interventi per controllare il ritmo di sviluppo della tecnologia.
“Guardando oltre i nostri esperimenti, prevediamo un futuro caratterizzato da una proliferazione di agenti in esecuzione su ogni tipo di hardware inclusi alcuni sistemi non soggetti a controllo umano”, conclude Anthropic.
