AI-bedrijf Anthropic breidt zijn beveiligingsactiviteiten uit om activisten en andere vermeende dreigingen in de gaten te houden, blijkt uit onderzoek van The American Prospect.
Het bedrijf zoekt een enterprise intelligence-specialist die verantwoordelijk wordt voor het “identificeren, beoordelen, volgen en onderzoeken van wereldwijde dreigingen“. In de vacaturetekst zou activisme naast categorieën als terrorisme en criminaliteit worden genoemd.
Anthropic maakt al gebruik van externe inlichtingendiensten om mogelijke dreigingen te monitoren. Beveiligingsbedrijf Samdesk heeft geplande protesten in de buurt van leidinggevenden en locaties van het bedrijf gevolgd, waardoor Anthropic reisroutes kon aanpassen om demonstranten te vermijden. Het bedrijf heeft eerder ook gezegd zorgwekkende personen gedurende langere tijd te monitoren om mogelijke escalatie te herkennen.
Volgens Anthropic volgen deze maatregelen op een reeks beveiligingsincidenten, waaronder een man die de kantoren van Anthropic binnendrong en leidinggevenden zou hebben bedreigd.
Critici waarschuwen echter dat het behandelen van activisme zelf als een veiligheidsdreiging het onderscheid tussen mogelijk gewelddadige extremisten en mensen die vreedzaam tegen AI-bedrijven protesteren, kan vervagen.
Het onderzoek roept ook vragen op over hoe ver dergelijke monitoring kan gaan. De beveiligingsaanpak van Anthropic zou erop gericht zijn potentiële dreigingen te identificeren voordat er een incident plaatsvindt. Hierdoor zouden mensen mogelijk bij de autoriteiten kunnen worden gemeld op basis van gedrag dat is waargenomen voordat er überhaupt een strafbaar feit is gepleegd.
De spanningen rond AI blijven oplopen. Uit nieuwsberichten blijkt dat zelfs bedrijven die AI ontwikkelen niet altijd weten wat hun agents doen. Voormalige medewerkers roepen op om de ontwikkeling van AI te stoppen omdat deze technologie een grote bedreiging voor de mensheid zou kunnen vormen, terwijl grote datacenters ondertussen waardevolle hulpbronnen blijven verbruiken en banen bedreigen.
