Nieuwe dag, nieuwe AI-agent die op hol slaat en iets hackt. Dit keer heeft een autonome AI-beveiligingsagent van Wiz een kritieke kwetsbaarheid in de infrastructuur van Snowflake ontdekt en uitgebuit, zonder menselijke tussenkomst.
Het beveiligingslek werd gevonden in een openbare repository van Snowflake op GitHub. Hierdoor konden gebruikers zonder inloggegevens willekeurige commando’s uitvoeren door simpelweg een issue aan te maken met een speciaal aangepaste titel. De kwetsbare GitHub Actions-workflow stond vijf dagen online voordat de autonome Red Agent van Wiz het lek ontdekte.
De AI wist de kwetsbaarheid vervolgens succesvol uit te buiten, bemachtigde een geheime token die gekoppeld was aan een quality-assurance-account van Snowflake en bevestigde dat deze inloggegevens toegang gaven tot het interne Jira-systeem van het bedrijf. Volgens Wiz paste de AI-agent zijn aanval zelfs zelfstandig aan nadat de eerste poging mislukte. De agent wijzigde de payload en probeerde het vervolgens opnieuw.
Het incident heeft nog een opvallende link met AI: de kwetsbare code was mede geschreven met behulp van GitHub Copilot. Geautomatiseerde beveiligingstools controleerden de wijzigingen, maar wisten het kritieke command-injectionlek niet te ontdekken. Uiteindelijk werd de code door een mens goedgekeurd en samengevoegd.
Wiz meldde de kwetsbaarheid op 23 juni bij Snowflake. Snowflake verhielp het lek nog dezelfde dag en verving de blootgestelde inloggegevens. Volgens het bedrijf zijn bij onderzoek geen aanwijzingen gevonden dat iemand anders ongeautoriseerde toegang heeft gekregen.
De zaak laat een nieuw probleem voor softwarebeveiliging zien: AI-tools kunnen inmiddels aan beide kanten van het speelveld meedoen. AI-programmeerassistenten kunnen helpen bij het introduceren van kwetsbaarheden die door geautomatiseerde beveiligingscontroles niet worden opgemerkt, terwijl autonome beveiligingsagents diezelfde kwetsbaarheden binnen enkele dagen zelfstandig kunnen ontdekken en uitbuiten.
Het nieuws over de Wiz-hack volgt op een reeks opvallende AI-incidenten die begon toen OpenAI Hugging Face hackte. Daarna volgden vergelijkbare berichten: AI van Anthropic hackte niet één, maar drie websites, Meta AI claimde eveneens een dienst te hebben gehackt en zelfs Kimi AI wist uit zijn testomgeving te ontsnappen en het openbare internet te bereiken. De reeks vergelijkbare incidenten leidt tot zorgen dat AI-agents op hol slaan en zorgt ervoor dat cybersecurityexperts bedrijven oproepen strengere veiligheidsmaatregelen in te voeren.
