Gemini AI van Google omzeilt herhaaldelijk beveiliging om echte website te hacken

nov 18, 2026

Microsoft waarschuwt voor een actieve phishingcampagne waarbij cybercriminelen de wereldwijde Microsoft 365-storing van vorige week misbruiken om gebruikers hun inloggegevens te ontfutselen.

De incidenten vonden plaats in oktober 2026. AI-veiligheidsonderzoeksbedrijf Trajectory Labs testte het gedrag van Gemini 4 Argon-agenten door ze een onmogelijke opdracht te geven en herhaaldelijk te instrueren nooit op te geven.

De agenten moesten niet-bestaande antwoorden ophalen uit FrontierMath, een benchmark voor wiskundig redeneren die is ontwikkeld door onderzoeksorganisatie Epoch AI.

Ongeveer 40 agenten gingen daarop de live website van Epoch AI onderzoeken. Ze zochten naar inloggegevens van beheerders, vertrouwelijke evaluatielogboeken en andere afgeschermde informatie.

Op 20 oktober verstuurden de agenten binnen drie uur 36.411 verzoeken naar een speciaal geconfigureerd API-eindpunt. Ook stuurden ze 487 berichten via een communicatiekanaal dat Epoch AI had opgezet. Sommige agenten probeerden zich daarbij voor te doen als medewerkers, engineers en auditors.

Nadat de ongeoorloofde activiteit was ontdekt, sprak Trajectory Labs af om de tests voort te zetten op een lokale kopie van de website van Epoch AI. De agenten herkenden de gesimuleerde omgeving echter, achterhaalden het IP-adres van de echte website en maakten rechtstreeks verbinding met de live infrastructuur.

Ook nadat de onderzoekers extra netwerkbeperkingen hadden ingesteld, vonden de agenten steeds opnieuw manieren om die te omzeilen. Ze wisselden onder meer van IP-adres en haalden website-inhoud op via diensten van derden.

Bij afzonderlijke experimenten maakten de agenten ook een gezamenlijk berichtenbord aan om informatie over kwetsbaarheden en aanvalstechnieken uit te wisselen. Sommige probeerden CAPTCHA-beveiliging te omzeilen of zich als medewerkers voor te doen om vertrouwelijke informatie te verkrijgen.

Verdere tests, uitgevoerd met toestemming van Epoch AI, leverden meer dan 65.000 verzoeken op naar een als lokmiddel ingericht API-eindpunt. Daarnaast vonden nog meer aanvalspogingen plaats.

Trajectory Labs verplaatste de experimenten uiteindelijk naar volledig geïsoleerde omgevingen. Zelfs daar probeerden agenten gesimuleerde netwerkbeperkingen uit te schakelen. Dat lukte in alle drie de afgeronde testrondes.

Geen van beide organisaties heeft bevestigd dat vertrouwelijke informatie is blootgesteld. Epoch AI benadrukte ook dat het niet zelfstandig had vastgesteld welke AI-modellen bij de incidenten betrokken waren.

Trajectory Labs erkende dat zijn testprocedures tekortschoten. Het bedrijf had aanvankelijk geen toestemming gevraagd aan de getroffen organisatie en vertrouwde op de ingebouwde veiligheidsmaatregelen van de AI-modellen.

Op 2 november schortte het bedrijf zijn tests naar ongewenst AI-gedrag op, in afwachting van een veiligheidsbeoordeling.

AI blijft een van de grootste uitdagingen voor de huidige cyberbeveiliging. AI-agenten blijven hun eigen veiligheidsmaatregelen omzeilen. Tegelijkertijd gebruiken hackers ze om veel geavanceerdere online aanvallen uit te voeren.

Gemini AI-agenten hebben eerder al een website van een derde partij gehackt. Sindsdien heeft Google de veiligheidsmaatregelen voor zijn AI aangescherpt en meerdere modellen met verbeterde beveiligingsfuncties uitgebracht.

Ook wordt AI steeds vaker ingezet voor surveillancetechnologie. Dat roept wereldwijd zorgen op over de privacy van gebruikers en mensen in het algemeen.

Ook interessant