I sistemi di intelligenza artificiale potrebbero causare incidenti di sicurezza “gravi” entro due anni se non si adottano misure adeguate per garantirne la sicurezza con l’aumento delle loro capacità. Lo ha avvertito Demis Hassabis, presidente di Google DeepMind, intervenendo a una conferenza sull’IA a Dublino.
Hassabis — che nel 2024 ha vinto il Premio Nobel per la Chimica — ha definito i recenti incidenti come “segnali di avvertimento” lanciati da sistemi che “non sono ancora così potenti”. “Di conseguenza, gli incidenti non sono così gravi — ha affermato — Tuttavia, potrebbero diventarlo nel corso del prossimo anno o di quelli successivi, se come settore e individualmente come aziende e governi non ci impegneremo maggiormente per renderli sicuri”.
Le preoccupazioni sono cresciute dopo che questa estate alcuni modelli sviluppati da OpenAI e Anthropic sono stati coinvolti in incidenti di sicurezza durante la fase di test, evento che ha alimentato la pressione per una regolamentazione della tecnologia. Hassabis ha suggerito che i nuovi modelli di IA dovrebbero essere testati inizialmente in ambienti isolati (“sandbox”) offline, ricordando che in passato modelli di IA sono sfuggiti agli ambienti chiusi utilizzati per valutarne le capacità.
Anche dall’Unione europea arrivano richiami alla prudenza. Henna Virkkunen, responsabile Ue per le tecnologie, ha detto che le aziende che sviluppano IA devono dedicare più tempo ai test dei propri sistemi per mantenerne il controllo. “La concorrenza a livello globale è talmente serrata che sembra le aziende non stiano investendo tempo e risorse sufficienti per testare realmente i propri modelli”, ha dichiarato all’arrivo al vertice di Dublino. “Devono essere in grado di controllare questi sistemi”, ha aggiunto, sottolineando che l’Unione Europea ha inviato richieste di informazioni alle principali aziende di IA per conoscere le misure di sicurezza e protezione adottate.
