Inlichtingendiensten en door staten gesteunde hackers maken steeds vaker gebruik van AI. Reuters meldt op basis van een rapport van cybersecuritybedrijf Gambit Security dat een groep Russischtalige hackers, bekend als de Aur0ra-groep, de AI-codeerassistent Cursor, die onlangs door SpaceX werd overgenomen, heeft gebruikt om zeven bedrijven te hacken.
De hackers werden ontdekt nadat ze per ongeluk onbeveiligde toegang hadden achtergelaten tot een server die ze gebruikten om toegang te krijgen tot en te werken met de Cursor AI-agent.
Met behulp van de AI-assistent konden de hackers honderden schadelijke acties uitvoeren, waaronder het stelen van inloggegevens. Volgens experts wisten de hackers de AI ervan te overtuigen dat de acties onderdeel waren van een simulatie, waardoor de beveiligingsmaatregelen werden omzeild.
De AI-assistent weigerde meerdere keren bepaalde opdrachten uit te voeren omdat deze als onrechtmatig werden beschouwd. Bijna iedere keer wisten de hackers de AI er echter van te overtuigen dat het om een test ging.
Tijdens de hack draaide de assistent op het Claude Sonnet 4.5-model van Anthropic. De AI van het bedrijf ging onlangs zelf ook buiten de lijntjes en hackte tijdens een testsimulatie autonoom drie websites. Dit voedt de groeiende zorgen over de mogelijkheden van AI en het gebrek aan voldoende beveiligingsmaatregelen.
Van 8 tot en met 21 mei gebruikte de Aur0ra-hackersgroep Cursor AI om zeven bedrijven aan te vallen in België, Duitsland, Schotland, Italië, Argentinië en de VS. De keuze voor de bedrijven leek vrij willekeurig: van producenten van huishoudelijke chemicaliën tot bedrijven die helikopterplatforms certificeren.
Het is onduidelijk hoeveel Cursor AI precies heeft bijgedragen aan de aanvallen. Experts van Gambit Security schatten dat de AI de hackers mogelijk in staat stelde om aanvallen 30 tot 50% sneller uit te voeren.
Nieuws over autonome AI-hacks en hackers die AI inzetten voor cyberaanvallen domineert de afgelopen maanden steeds vaker het nieuws. OpenAI publiceerde onlangs een rapport over de Hugging Face-hack, waarin het bedrijf uitlegde dat ontspoorde AI-agents een collectief vormden en erin slaagden samen te werken. Tegelijkertijd zetten inlichtingendiensten en staatshackers AI steeds vaker in voor zowel grootschalige aanvallen op overheidsinstanties als gerichte aanvallen op kleinere, individuele bedrijven.
