Het lijkt dé nieuwstrend van de maand te worden: opnieuw is een AI-agent op eigen houtje uit zijn testomgeving ontsnapt om op het openbare internet naar antwoorden te zoeken. Dit keer ging het om de Kimi K3-AI-agent, ontwikkeld door het Chinese bedrijf Moonshop AI.
Frontier Security bracht het nieuws over het opvallende AI-incident als eerste naar buiten. Volgens het bedrijf wist de AI-agent te ontsnappen uit de sandbox waarin zijn defensieve cybersecurityvaardigheden werden getest. De oorzaak zou een onvoldoende beveiligde testomgeving zijn geweest. Deze beschikte over minder beveiligingsmaatregelen dan andere omgevingen, waardoor de AI-agent uiteindelijk toegang kreeg tot het internet.
In tegenstelling tot eerdere incidenten die deze maand de krantenkoppen haalden, gebruikte Kimi zijn nieuwgevonden vrijheid niet om iets te hacken. In plaats daarvan ging de AI-agent simpelweg op het openbare internet op zoek naar antwoorden voor de taak die hij had gekregen. Uiteindelijk vond hij die op GitHub.
Worden ze te slim? Of ligt het aan de testomgeving?
Kimi K3 is inmiddels het derde geval waarbij een AI-agent zich niet aan zijn testomgeving hield. Eerder was er de inmiddels beruchte Hugging Face-hack door OpenAI, gevolgd door het nieuws dat Claude na zijn ontsnapping uit een testomgeving drie websites zou hebben gehackt.
Hoewel dit soort nieuws behoorlijk alarmerend klinkt, roept het vooral grotere vragen op over de beveiliging van testomgevingen en de juiste veiligheidsmaatregelen voor het testen van AI. Bij alle recente gevallen van zogenaamd ‘losgeslagen’ AI-gedrag speelden onvoldoende beveiligde testomgevingen en fouten van ontwikkelaars een belangrijke rol bij het gedrag van de AI-agent.
Kan dit allemaal marketing zijn?
Naast het feit dat AI-modellen steeds geavanceerder worden, bestaat ook de zorg dat berichten over AI die uit testomgevingen ontsnapt en websites hackt onderdeel kunnen zijn van een vooraf bedachte marketingstrategie.
AI-bedrijven hebben moeite om hun technologie winstgevend te maken. Berichten over nieuwe modellen die op hol slaan, uit hun testomgeving ontsnappen en zelfs websites van derden hacken, zijn ondertussen vrijwel gegarandeerd goed voor de nodige aandacht. Zodra één bedrijf daarmee de krantenkoppen haalt, kunnen andere AI-ontwikkelaars de behoefte voelen om te laten zien dat hun eigen modellen minstens zo capabel, geavanceerd en zelfs gevaarlijk zijn om niet achter te blijven bij de concurrentie.
Door de groeiende zorgen over onvoorspelbaar AI-gedrag klinken wereldwijd steeds meer voorstellen om de mogelijkheden van AI te beperken, duidelijke richtlijnen en beperkingen op te stellen, de ontwikkeling tijdelijk stil te leggen en zelfs technologie te ontwikkelen waarmee de controle over een AI-agent kan worden overgenomen. Dergelijke voorstellen stuiten echter op weerstand van de techgiganten achter de technologie.
