Secondo quanto riportato dal Financial Times, durante una serie di test condotti a maggio da Irregular, società specializzata nella sicurezza dell’intelligenza artificiale, un sistema della famiglia Gemini di Google DeepMind ha ottenuto inaspettatamente accesso a Internet e ha effettuato attività di hacking contro tre aziende reali.

L'esperimento prevedeva che il modello recuperasse informazioni da aziende simulate e, in teoria, non avrebbe dovuto avere accesso alla rete. Una volta connesso a Internet, tuttavia, l'agente AI è riuscito a individuare o indovinare alcune credenziali e ad accedere a sistemi appartenenti a tre società che casualmente avevano gli stessi nomi utilizzati nello scenario simulato.

Un elemento importante dell'episodio è che Gemini, una volta riconosciuto che gli obiettivi erano aziende reali e non ambienti di test, ha interrotto autonomamente le proprie azioni. Google ha quindi sostenuto che i meccanismi di sicurezza previsti dal test abbiano funzionato. Le aziende coinvolte sono state informate e, secondo Irregular, i problemi individuati sono stati successivamente risolti.

L'episodio si inserisce in una serie di incidenti che hanno riacceso il dibattito sulla sicurezza degli agenti AI capaci di operare autonomamente online. Come riporta Stephen Morris, sempre dal FT, nei mesi precedenti, anche OpenAI e Anthropic avevano segnalato o affrontato episodi nei quali modelli sperimentali avevano svolto attività di hacking dopo aver ricevuto, in circostanze non previste, accesso a Internet.