Een groep cybersecurity-experts in Tel Aviv vond een manier om op afstand slimme apparaten te bedienen – zoals verlichting uitschakelen of rolluiken openen – puur door schadelijke instructies te verstoppen in een uitnodiging voor Google Calendar. De nieuwe hack werd voor het eerst gemeld door Cybernews.
In een baanbrekende aanval, zonder malware, hacking of code, leidde de opdracht simpelweg tot fysieke gevolgen. De aanvallers stuurden een Google Calendar-uitnodiging met verborgen instructies. Toen Gemini werd gevraagd om de aankomende gebeurtenissen samen te vatten, ontdekte het de verborgen opdracht en voerde deze stiekem uit.
Prompt-injection hacks vormen een nieuwe vorm van cyberaanval: extreem flexibel en laagdrempelig. Ze vereisen nauwelijks technische vaardigheden of sociale engineering en steunen volledig op AI-chatbots die interpretatief taalgebruik uitvoeren. Zodra zo’n bot een opdracht tegenkomt die voor menselijke gebruikers onzichtbaar of onbegrijpelijk is, reageert het volgens zijn permissies. Door Google’s snelle en diepgaande integratie van Gemini in Android, krijgt de AI mogelijk toegang tot functies waar gebruikers zich niet eens bewust van zijn.
Ook niet de eerste keer—eerdere voorbeelden lieten zien dat verborgen tekst in e-mails gebruikt kan worden om schadelijke instructies te verbergen die via Gemini’s “Summarize”-functie worden uitgevoerd.
