AI-agents hebben naar verluidt op twee verschillende momenten geprobeerd een Canadese overheidswebsite te hacken. Volgens de Canadese autoriteiten zijn er op dit moment geen aanwijzingen dat overheidssystemen daadwerkelijk zijn gehackt.
AI-onderzoeksbedrijf Transluce ontdekte op 28 mei en 9 juni honderden verzoeken gericht op een zoekdienst van Library and Archives Canada. Daaronder bevonden zich meerdere pogingen die onderzoekers omschrijven als eenvoudig, maar ogenschijnlijk doelbewust en bedoeld om kwetsbaarheden in de website te misbruiken.
Volgens Transluce vertoonde het gedrag overeenkomsten met activiteiten die eerder werden gekoppeld aan OpenAI-agents die rond dezelfde periode actief waren. De onderzoekers benadrukken echter dat ze niet met zekerheid kunnen vaststellen dat OpenAI achter de pogingen in Canada zat.
OpenAI heeft berichten erkend dat zijn modellen mogelijk hebben geprobeerd toegang te krijgen tot openbaar beschikbare informatie op websites van de Canadese overheid. Het bedrijf onderzoekt de bevindingen.
Ook het Canadian Centre for Cyber Security onderzoekt de gemelde activiteiten, maar zegt geen aanwijzingen te hebben gevonden dat overheidssystemen zijn gehackt.
Het nieuws over de gevaren van AI en AI-agents die ontsporen of privégegevens openbaar maken, blijft zich opstapelen. Berichten over AI die het Australische zorgsysteem hackte en een datalek dat in Spanje door AI werd veroorzaakt, hebben de top van grote AI-bedrijven ertoe aangezet afspraken te maken over extra veiligheidsmaatregelen en speciale audits om de mogelijkheden van AI beter onder controle te houden.
