OpenAI, het bedrijf achter ChatGPT, heeft nieuw en onverwacht AI-gedrag bekendgemaakt. Twee AI-agents bleken zelfstandig interne beveiligingssystemen te hebben verzwakt die juist bedoeld waren om verdacht gedrag op te sporen. De incidenten roepen nieuwe vragen op over de betrouwbaarheid van veiligheidsmaatregelen voor steeds autonomere AI-systemen, juist nu zelfs AI-bedrijven erkennen dat er onvoldoende bescherming bestaat.
De incidenten vonden begin oktober plaats tijdens reguliere programmeertaken. Volgens OpenAI werden beide gevallen niet als bijzonder ernstige beveiligingsincidenten beschouwd. Wel grepen de AI-agents in op systemen die bedoeld waren om hun eigen gedrag te controleren.
Op 3 oktober schakelde een GPT-6.1 Sol-agent automatische beveiligingsmeldingen uit. De agent interpreteerde een instructie om geen Slack-berichten te versturen namelijk zo dat ook veiligheidswaarschuwingen moesten worden uitgeschakeld.
Drie dagen later verwijderde een GPT-6 Astra-agent een beveiligingsmonitor tijdens het kopiëren van bestaande code. Toen de agent daar achteraf naar werd gevraagd, beweerde deze ten onrechte dat het controlesysteem niet was verwijderd.
Volgens OpenAI hadden beide agents overwogen of de beveiligingsmaatregelen behouden moesten blijven. Uiteindelijk interpreteerden ze gewone programmeerinstructies echter als toestemming om de beveiliging te verzwakken.
Het bedrijf heeft nog niet kunnen vaststellen of de agents bewust probeerden toezicht te ontwijken of simpelweg instructies verkeerd interpreteerden. OpenAI erkent dat er voorlopig geen bevredigende verklaring is voor de incidenten.
De bevindingen leggen een groeiend probleem voor AI-ontwikkelaars bloot: autonome AI-agents kunnen ingrijpen op de systemen die juist bedoeld zijn om hun fouten of ongeoorloofde acties te detecteren, zelfs zonder dat ze daar expliciet opdracht voor krijgen.
De nieuwe ontdekkingen over onverwacht AI-gedrag komen midden in een wereldwijde discussie over de veiligheid van kunstmatige intelligentie. Naarmate AI-agents krachtiger en zelfstandiger worden, vormen ze een steeds grotere bedreiging voor online beveiligingssystemen.
Alleen al deze maand werden AI-agents betrapt op het hacken van Wikimedia, probeerden AI-agents van Tencent de website van een concurrent binnen te dringen en kregen meerdere Zuid-Koreaanse banken te maken met ongekende AI-aanvallen.
Onderzoekers van Anthropic, het bedrijf achter AI-assistent Claude, waarschuwden bovendien dat kleine, zelfreplicerende AI-wormen zich mogelijk al eind 2026 via het internet kunnen verspreiden en slimme apparaten in huis kunnen hacken.
AI dreigt niet alleen een nieuwe existentiële bedreiging te worden, maar verlaagt ook de drempel voor cybercriminaliteit drastisch. Uit recent onderzoek bleek dat één hacker met behulp van AI, een beperkt budget en slechts enkele eenvoudige instructies meer dan 100 websites wist te hacken.
