Enkele van de grootste AI-bedrijven ter wereld hebben een overeenkomst ondertekend waarin ze zich verbinden aan aanvullende veiligheidsmaatregelen, onafhankelijke audits en toezicht op geavanceerde AI-systemen.
De overeenkomst is ondertekend door de top van Google, Anthropic, Meta, OpenAI, NVIDIA en X. De afspraken zijn op dit moment vrijwillig en niet juridisch bindend, maar volgens het document kunnen ze uiteindelijk als basis dienen voor wet- en regelgeving.
In de overeenkomst hebben de deelnemende bedrijven vier belangrijke veiligheidsmaatregelen afgesproken:
- Onafhankelijke externe audits: bedrijven moeten samenwerken met externe auditors of beoordelaars om onafhankelijk te controleren of hun systemen voor AI-monitoring en -veiligheid naar behoren functioneren.
- Toezicht op bestuursniveau: een onafhankelijke bestuurscommissie moet toezicht houden op de veiligheidsmaatregelen rond AI en rapportages ontvangen van auditors en interne veiligheidsteams.
- Monitoring van gevaarlijke mogelijkheden: bedrijven moeten AI-modellen tijdens de training en het gebruik monitoren op risico’s rond cybersecurity, biologische en chemische dreigingen en andere gevaarlijke mogelijkheden. Hieronder vallen ook maatregelen die moeten voorkomen dat AI-modellen computersystemen hacken of daar op onbedoelde manieren toegang toe krijgen.
- Speciale interne veiligheidsteams: bedrijven moeten teams hebben die verantwoordelijk zijn voor het controleren of veiligheidsmaatregelen, monitoring- en detectiesystemen voor AI goed blijven werken.
De bedrijven hebben daarnaast afgesproken regelmatig bijeen te komen om gezamenlijke standaarden te ontwikkelen en best practices voor AI-veiligheid met elkaar te delen.
De overeenkomst komt op een moment waarop er steeds meer aanwijzingen zijn dat steeds autonomere AI-systemen zich op onverwachte manieren kunnen gedragen, vooral wanneer ze toegang krijgen tot externe tools en computersystemen. Recente cybersecuritytests hebben laten zien dat AI-agents beperkingen kunnen omzeilen, kwetsbaarheden kunnen misbruiken en toegang kunnen krijgen tot systemen buiten de omgeving waarvoor ze bedoeld zijn.
Volgens het document zijn de nieuwe controles en audits noodzakelijk, ongeacht of overheden dergelijke veiligheidsmaatregelen uiteindelijk verplicht stellen.
