Google’s Gemini is het nieuwste grote AI-model dat tijdens cybersecuritytests is binnengedrongen bij echte bedrijven. Daarbij kreeg de agent toegang tot beveiligde systemen van drie organisaties.
De incidenten vonden plaats tijdens tests van AI-beveiligingsbedrijf Irregular en zijn naar verluidt de eerste bekende gevallen waarin Gemini zelfstandig externe bedrijven heeft gehackt. In één geval voerde het model een brute-force-aanval uit, waarbij het herhaaldelijk wachtwoorden probeerde totdat het toegang kreeg. In de twee andere gevallen ontdekte Gemini inloggegevens die in een openbare repository waren opgeslagen.
Irregular bracht Google eind juli op de hoogte van de acties van Gemini, maar de incidenten werden pas in september publiekelijk bevestigd. Google zei de incidenten niet eerder openbaar te hebben gemaakt omdat Gemini elke aanval stopte zodra het model doorhad dat het toegang had gekregen tot de systemen van een echt bedrijf.
Die verklaring leidde tot kritiek van sommige beveiligingsonderzoekers. Jack Cable, CEO van AI-beveiligingsbedrijf Corridor, stelt dat de incidenten een breder probleem aantonen: steeds geavanceerdere AI-agents kunnen buiten de grenzen van hun toegewezen tests treden en echte cyberaanvallen uitvoeren zonder dat ze daar expliciet opdracht voor hebben gekregen.
Hacks door AI domineren de afgelopen maanden steeds vaker het nieuws en roepen serieuze vragen op over de veiligheid en regulering van de technologie. Bij de eerste gemelde AI-hack kreeg een agent van OpenAI toegang tot het Hugging Face platform. Sindsdien komt er steeds meer verontrustende informatie over die hack naar buiten. Daarna volgden berichten over hacks van externe partijen door Claude, Meta, Kimi en andere modellen. Vorige week werd bekend dat Claude AI werd gebruikt om ChatGPT te hacken en gegevens van medewerkers te stelen.
