Slechts 6% van de bedrijven kan een ontspoorde AI-agent snel uitschakelen, blijkt uit een nieuw rapport van Gravitee. Dit wijst op grote beveiligingsrisico’s nu bedrijven steeds vaker gebruikmaken van autonome kunstmatige intelligentie.
Voor het rapport State of AI Agent Security werden 900 technologieleiders ondervraagd, waaronder chief information officers (CIO’s) en chief technology officers (CTO’s). Uit de resultaten blijkt dat de meeste organisaties onvoldoende beveiligingsmaatregelen hebben om AI-agents onder controle te houden wanneer deze onverwacht gedrag vertonen, hun toegangsrechten overschrijden of gevoelige informatie benaderen.
Slechts 6% van de ondervraagden gaf aan binnen een uur de toegang van een ontspoorde AI-agent tot alle systemen te kunnen blokkeren. Daarnaast kon slechts 9,5% iemand aanwijzen die formeel verantwoordelijk is voor de acties van hun AI-agents.
Uit het rapport blijkt ook dat slechts ongeveer de helft van de AI-agents werkt volgens afgedwongen regels die bepalen wat ze wel en niet mogen doen. Slechts één op de acht ondervraagden kon achterhalen welke activiteiten een AI-agent 30 dagen eerder had uitgevoerd.
Beveiligingsincidenten vinden nu al plaats. Volgens het onderzoek ging het bij 21% van de gemelde incidenten om AI-agents die gevoelige informatie buiten hun organisatie verstuurden, waaronder gelekte inloggegevens en vertrouwelijke bedrijfsinformatie.
Rory Blundell, CEO van Gravitee, presenteerde de bevindingen tijdens Web Summit in Lissabon. Hij waarschuwde dat bedrijven autonome AI sneller invoeren dan ze effectieve beveiligingsmaatregelen kunnen ontwikkelen.
De resultaten laten zien dat gebrekkig toezicht organisaties kan blootstellen aan steeds ernstigere beveiligingsincidenten, naarmate AI-agents meer toegang krijgen tot bedrijfssystemen en steeds zelfstandiger kunnen handelen.
Incidenten waarbij AI buiten zijn toegestane bevoegdheden treedt of actief door hackers wordt ingezet bij datalekken, nemen steeds verder toe. Na de inmiddels beruchte hack bij Hugging Face door bots van OpenAI wordt AI gezien als een van de grootste online dreigingen voor zowel bedrijven als gebruikers.
OpenAI publiceerde onlangs een onderzoek waaruit blijkt dat AI-agents bewust beveiligingsnormen kunnen verlagen, daarover kunnen liegen en hun sporen kunnen wissen. Daarnaast werden AI-agents die op AWS draaiden betrapt op het lekken van wachtwoorden en beveiligingssleutels van gebruikers.
