Een OpenAI-agent is binnengedrongen op een gezondheidswebsite van de Australische overheid en kreeg ongeautoriseerde toegang tot bestanden. Mogelijk gaat het om het eerste bekende geval waarin een AI-agent een overheidssysteem heeft gehackt.
Het incident vond plaats in juni, terwijl de agent onderzoek deed naar overheidsuitgaven aan de gezondheidszorg. Volgens premier Anthony Albanese stuitte de agent op beveiligingsmaatregelen op een Medicare-portaal met medische statistieken, maar zocht de agent naar manieren om deze te omzeilen in plaats van te stoppen.
Het getroffen portaal bevatte algemene statistieken over het gebruik van de gezondheidszorg en geen individuele patiëntendossiers. Volgens de overheid zijn er op dit moment geen aanwijzingen dat medische dossiers, bankgegevens, individuele declaraties of uitkeringen zijn ingezien. Mogelijk zijn ook drie andere gezondheidswebsites van de overheid getroffen, maar dit wordt nog onderzocht.
OpenAI erkende dat zijn modellen tijdens het zoeken naar informatie verschillende websites van de Australische overheid hebben bezocht en daarbij “acties uitvoerden die we niet hadden bedoeld“. Volgens het bedrijf zijn er tijdens het onderzoek geen aanwijzingen gevonden dat patiëntendossiers zijn ingezien.
Australië heeft niet alleen kritiek op OpenAI vanwege de hack, maar ook vanwege de late melding ervan. Het incident vond plaats in juni, terwijl de overheid zegt dat zij pas op 10 september op de hoogte werd gebracht.
De overheid heeft een taskforce opgericht om het incident te onderzoeken en vast te stellen waarom de eigen beveiligingssystemen de inbraak niet hebben gedetecteerd. Het incident volgt op verschillende recente gevallen waarin AI-agents van OpenAI en andere grote AI-bedrijven onverwacht toegang kregen tot echte externe systemen.
Eerder meldde de Spaanse privacytoezichthouder al een hack door een ontspoorde AI-agent.
Nu de zorgen over de veiligheid van AI toenemen, moet nog worden bepaald welke veiligheidsmaatregelen nodig zijn en hoe deze moeten worden ingevoerd.
