Een nieuwe kwetsbaarheid in Google’s recente integratie van zijn AI-chatbot Gemini in je Gmail-inbox maakt het mogelijk voor hackers om e-mailsamenvattingen te kapen en er kwaadaardige instructies in te verwerken. Zo worden gebruikers misleid en denken zij dat hun account is gehackt, waardoor ze in paniek actie ondernemen.
De kwetsbaarheid werd voor het eerst gedeeld op de 0din-onderzoeksforums. In de kern is de aanval vrij simpel. Als kwaadwillenden kwaadaardige prompts verstoppen in hun phishingmails, zal Gemini die instructies braaf opvolgen binnen de Samenvatten-functie en de gebruiker misleiden door deze instructies als ‘van Google’ afkomstig te presenteren.
De beveiligingsexpert demonstreerde deze kwetsbaarheid door simpelweg witte tekst op een witte achtergrond in de e-mail te plaatsen — tekst die gebruikers nooit zouden zien. Gemini herkent de tekst echter wel en neemt die meteen op in de e-mailsamenvatting.
Soortgelijke aanvallen en exploits van Gemini zijn al eerder beschreven en gezien in 2024. Google heeft stappen ondernomen om ze te verhelpen, maar het lijkt een hardnekkig probleem binnen de AI-assistent te blijven. Tot AI-assistenten slim genoeg zijn om context beter te begrijpen, blijft het natuurlijk de verantwoordelijkheid van de gebruiker om waakzaam te blijven en pogingen van hackers om AI uit te buiten te herkennen.
Google waarschuwde zelf onlangs nog voor bredere risico’s van AI-misbruik door kwaadwillenden:
“Nu steeds meer overheden, bedrijven en individuen generatieve AI inzetten om meer gedaan te krijgen, wordt deze subtiele maar potentieel krachtige aanval steeds relevanter binnen de hele industrie. Dit vraagt om directe aandacht en robuuste beveiligingsmaatregelen.”
