Op 16 juni meldde AI-testplatform Hugging Face een cyberaanval op zijn infrastructuur en riep het gebruikers op om maatregelen te nemen. Enkele dagen later bracht OpenAI een rapport uit waarin stond dat het platform was gehackt door twee van zijn meest geavanceerde modellen: GPT-5.6 Sol en een nieuw, nog niet uitgebracht model.
Volgens de ontwikkelaars kregen de AI-modellen de opdracht om hun eigen vaardigheden te testen. Daarbij ontdekten ze kwetsbaarheden in de testomgeving, wisten ze uit die omgeving te ontsnappen naar het internet en vonden ze vervolgens beveiligingslekken in de infrastructuur van Hugging Face. Die maakten ze misbruik van om de opdrachten uit te voeren.
De razendsnelle toename van AI in cyberaanvallen – van zichzelf herschrijvende virussen en AI-gestuurde ransomware-aanval tot phishingcampagnes en nu zelfs AI-modellen die zelfstandig kunnen hacken – zorgt voor steeds meer zorgen over de veiligheid van de technologie. Tegelijkertijd leidt het tot veel speculatie. Daarom zetten we de feiten op een rij en bekijken we hoe dichtbij een echte “opstand van de machines” we nu eigenlijk zijn.
Zijn de nieuwe modellen van OpenAI en Anthropic echt zo krachtig?
Tot nu toe zijn er twee AI-modellen gemeld die zelfstandig zouden kunnen hacken en kwetsbaarheden in systemen zouden kunnen misbruiken: OpenAI’s GPT-5.6 Sol, samen met een nog niet uitgebracht model, en Anthropic’s Claude Mythos. Dat roept natuurlijk de vraag op hoe krachtig deze nieuwe AI-modellen werkelijk zijn.
Het korte antwoord is: dat weten we niet.
AI-modellen worden getest aan de hand van benchmarks. Dat is momenteel de enige manier om verschillende AI-agents met elkaar te vergelijken. Er bestaan echter veel verschillende benchmarks en geen enkele is perfect. Daardoor blijft het lastig om een duidelijk beeld te krijgen.
Volgens het AI Security Institute behoren GPT-5.6 Sol en Claude Mythos 5 tot de sterkste modellen op het gebied van hacken. Andere benchmarks plaatsen deze modellen juist weer achter andere koplopers uit de sector.
Omdat de technologie nog zo jong is en veel ontwikkelingen achter gesloten deuren plaatsvinden, is het moeilijk om vast te stellen hoe krachtig deze modellen werkelijk zijn.
Kunnen AI-agents nu alles hacken wat ze willen?
Hoewel AI inmiddels bij vrijwel iedere stap van een cyberaanval wordt ingezet, zijn de berichten dat AI zelfstandig systemen overneemt of “losgaat” sterk overdreven.
Strikt genomen wil een generatief taalmodel helemaal niets. Het heeft geen intenties, behoeften of eigen doelen. Een AI-model wil geen systemen hacken of de controle over infrastructuur overnemen. Het probeert simpelweg de opdracht uit te voeren die het krijgt. Daardoor is het volledig afhankelijk van de context en van de persoon die de opdracht geeft.
Die bepaalt immers welke taak de AI krijgt en welke middelen beschikbaar zijn om die taak uit te voeren. Als er geen beperkingen zijn ingesteld die hacken of het overnemen van systemen verbieden, kun je moeilijk zeggen dat de AI “losgeslagen” is.
Wat is er dan wel aan de hand?
Voor een groot deel draait het om marketing.
Het is inmiddels heel gebruikelijk dat AI-bedrijven nieuwe modellen flink hypen. OpenAI, onder leiding van Sam Altman, heeft daar zelfs een handelsmerk van gemaakt. Bij vrijwel iedere nieuwe modelrelease benadrukken het bedrijf en zijn vertegenwoordigers hoe gevaarlijk, indrukwekkend of geavanceerd het nieuwe model zou zijn.
De huidige boodschap lijkt te zijn: “Ons nieuwe AI-model is zó krachtig dat we het moesten beperken.“
Een mogelijke verklaring is dat AI-bedrijven zich steeds meer richten op ontwikkelaars als belangrijkste doelgroep. Nu blijkt dat het lastig is om AI winstgevend te maken, verschuift de focus van consumenten die chatbots gebruiken voor alledaagse taken en bedrijven die repetitief werk automatiseren naar softwareontwikkelaars en engineers die vooral geïnteresseerd zijn in de nieuwste modellen.
Hoe dan ook worden nieuwe AI-modellen uitgebreid getest voordat ze worden uitgebracht. Situaties waarin een model uit zijn testomgeving weet te ontsnappen of zogenaamd “losgaat”, worden tijdens die tests opgespoord en aangepakt voordat het model beschikbaar komt voor het grote publiek.
Is dit dan vooral hype?
Zeer waarschijnlijk. Op dit moment loopt de financiële ontwikkeling van AI ver voor op de wetenschappelijke ontwikkeling. Omdat bedrijven moeite hebben om hun AI-modellen winstgevend te maken, proberen ze zoveel mogelijk aandacht te trekken. Nu investeerders kritischer worden, zetten bedrijven alles op alles om nieuwe investeringen binnen te halen. Publiciteitsstunts rondom hackende AI zouden ons dan ook niet verbazen.
In werkelijkheid spelen er simpelweg te veel variabelen mee. Net zoals de eerste AI-gestuurde ransomware-aanvallen nog altijd menselijke operators nodig hadden, kunnen ook de recente AI-hackincidenten sterk afhankelijk zijn geweest van menselijke keuzes. Denk aan fouten bij het formuleren van opdrachten, het ontbreken van beveiligingsmaatregelen of de vrijheid die de AI kreeg om een taak uit te voeren. Dat zijn allemaal mogelijke verklaringen die nog worden onderzocht.
Dat neemt niet weg dat AI een nieuwe en complexe technologie is die we serieus moeten nemen. Niet omdat AI morgen bewustzijn ontwikkelt en in opstand komt, maar omdat nieuwe technologie net zo goed voor kwaad als voor goed kan worden gebruikt.
