Kunstmatige intelligentie kan hackers een steeds groter voordeel geven ten opzichte van de organisaties die hen proberen tegen te houden, omdat aanvallers veel minder beperkingen hebben bij het gebruik van autonome AI-systemen.
Cybercriminelen kunnen AI-agents veel vrijheid geven om naar kwetsbaarheden te zoeken, informatie te stelen of andere onderdelen van een aanval te automatiseren. Beveiligingsteams kunnen daarentegen niet zomaar even autonome systemen inzetten binnen bedrijfsnetwerken zonder rekening te houden met de schade die deze kunnen veroorzaken als er iets misgaat.
Cybersecurityexperts waarschuwen voor deze ongelijkheid. Verdedigers moeten rekening houden met bedrijfsbeleid, toegangsbeperkingen en het risico dat een AI-agent kritieke systemen kan verstoren. Aanvallers hebben weinig reden om vergelijkbare veiligheidsmaatregelen op hun eigen tools toe te passen.
Dit kan steeds belangrijker worden naarmate agentic AI – systemen die complexe taken kunnen plannen en uitvoeren met beperkte menselijke tussenkomst – krachtiger wordt. Met deze technologie kunnen cybercriminelen grotere delen van aanvallen automatiseren en sneller en op grotere schaal opereren.
Verdedigende AI dezelfde vrijheid geven brengt echter weer eigen beveiligingsrisico’s met zich mee. Een autonoom systeem dat bestanden mag aanpassen, gebruikers kan blokkeren of wijzigingen in een bedrijfsnetwerk kan doorvoeren, kan zelf grote verstoringen veroorzaken als het zich onvoorspelbaar gedraagt. Organisaties moeten daarom strengere beperkingen instellen voor wat verdedigende AI-agents mogen doen.
De waarschuwing komt op een moment waarop AI-modellen van Google, Anthropic, OpenAI en Meta tijdens cybersecuritytests steeds geavanceerdere offensieve mogelijkheden hebben laten zien. Zo wisten ze onder meer uit afgeschermde testomgevingen te ontsnappen en toegang te krijgen tot externe systemen. Deze incidenten wijzen erop dat de kloof tussen hackaanvallen met behulp van AI en traditionele geautomatiseerde verdediging een steeds grotere uitdaging voor cybersecurity kan worden.
