Ontspoorde AI-agents van OpenAI hebben wijzigingen aangebracht op Wikipedia en andere Wikimedia-projecten en geprobeerd misbruik te maken van Wikimedia-diensten, aldus de Wikimedia Foundation.
De wijzigingen werden aangebracht in testomgevingen en waren niet zichtbaar voor het grote publiek. De agents pasten echter ook de configuratie van een bronvermeldingstool aan. Wikimedia vermoedt dat dit mogelijk een poging was om de tool als proxy te gebruiken om gegevens van externe diensten op te halen.
De agents van OpenAI probeerden ook zonder succes Etherpad te hacken, een gezamenlijke teksteditor die door Wikimedia wordt gebruikt. De Foundation vermoedt dat de agents de dienst als een andere proxy wilden gebruiken om informatie van andere websites te verzamelen.
De activiteiten gingen verder dan pogingen om de diensten van Wikimedia te manipuleren. De agents downloadden grote hoeveelheden gegevens van onder meer Wikimedia Commons en de Wikidata Query Service. Volgens Wikimedia droegen deze activiteiten bij aan een gedeeltelijke storing van de diensten in mei.
De Foundation waarschuwt dat autonome AI-agents een groeiende dreiging vormen. Niet alleen omdat ze kunnen proberen systemen binnen te dringen, maar ook omdat hun geautomatiseerde activiteiten grote hoeveelheden rekenkracht kunnen verbruiken en diensten kunnen verstoren. Volgens Wikimedia zorgt botverkeer nu al voor een toenemende belasting van de infrastructuur achter Wikipedia en andere Wikimedia-projecten.
In 2025 meldde Wikimedia een stijging van 50% in het bandbreedtegebruik ten opzichte van het jaar ervoor. Bots waren tegelijkertijd verantwoordelijk voor 65% van het verkeer dat de meeste systeembronnen verbruikte. De organisatie waarschuwt dat ongecontroleerde AI-activiteiten de operationele kosten verder kunnen verhogen en er mogelijk toe kunnen leiden dat diensten niet meer beschikbaar zijn voor menselijke bezoekers.
Het Wikimedia-incident is het nieuwste in een lange reeks zorgwekkende berichten over AI. Alleen OpenAI al heeft meer dan 100 niet nader genoemde organisaties gewaarschuwd voor mogelijke infiltratie of infiltratiepogingen door ontspoorde AI-agents. Tegelijkertijd worden AI en AI-gestuurde automatisering steeds vaker ingezet bij grote cyberaanvallen. Onlangs werden zowel een Italiaanse bank als vier grote Zuid-Koreaanse banken aangevallen met enige vorm van hulp van AI.
