Anthropic heeft een nieuw dreigingsrapport gepubliceerd waarin het beschrijft hoe zijn Claude-AI-modellen wereldwijd zijn gebruikt voor cyberaanvallen, wapenontwikkeling, surveillance, het verzamelen van inlichtingen en oplichting.
Enkele van de ernstigste gevallen hadden betrekking op militaire toepassingen. Volgens Anthropic gebruikten aan China gelieerde actoren Claude om te helpen bij het ontwerpen van een anti-torpedosysteem en software om Taiwanese luchtverdedigingssystemen aan te vallen. In Rusland gevestigde actoren werkten met Claude aan autonome zwermen aanvalsdrones. Ook een groep in Jemen gebruikte Claude bij de ontwikkeling van geleide raketten en rakettechnologie, hoewel Anthropic geen bewijs vond dat de groep erin slaagde een operationeel wapen te produceren.
Claude werd ook ingezet bij cyberoperaties. Chineestalige hackers gebruikten AI-ondersteunde werkwijzen bij aanvallen op ongeveer 50 organisaties, waaronder netwerken van buitenlandse overheden. Een andere groep gebruikte Claude voor phishing- en inlichtingenoperaties gericht op Oekraïense overheidsmedewerkers, militairen en diplomaten.
Surveillance vormde een andere belangrijke categorie. Anthropic ontdekte dat Claude werd gebruikt om activisten, dissidenten, religieuze groepen en politieke figuren te monitoren, profileringssystemen te bouwen en inlichtingenrapporten te automatiseren. Een surveillanceplatform dat werd ontwikkeld voor de Malinese inlichtingendienst was ontworpen om informatie te verwerken die gekoppeld was aan ongeveer 25 miljoen simkaarten.
Andere gevallen varieerden van politieke doelwitten en doxing tot fraude. Eén operatie vanuit China creëerde meer dan 4.700 AI-persona’s op meer dan 20 datingapps, die met minstens 25.000 mensen contact hadden.
Het rapport laat zien hoe AI voor algemeen gebruik steeds vaker wordt geïntegreerd in bestaande kwaadaardige operaties, in plaats van voor één specifiek type aanval te worden ingezet. Anthropic zegt accounts die bij een aantal van deze gevallen betrokken waren te hebben geblokkeerd of verstoord. Dit neemt de bredere en groeiende zorgen over AI, het gebruik en de impact ervan echter niet weg. Ook zijn er zorgen over het gebrek aan veiligheidsmaatregelen bij de ontwikkeling ervan en het ontbreken van een duidelijk beeld van waartoe huidige AI-agents in staat zijn. Dit heeft de CEO’s van zowel Anthropic als OpenAI ertoe aangezet om op te roepen de snelheid van de AI-ontwikkeling te beperken.
Elke dag verschijnen er nieuwe berichten over het gebruik van AI voor kwaadaardige doeleinden. Vorige week bleek nog dat ChatGPT in staat was e-mails van gebruikers te stelen.
Ondanks het rapport werd onlangs bekend dat Anthropic zijn eigen trackingsystemen ontwikkelt om anti-AI- en klimaatactivisten in de gaten te houden.
