Beveiligingsonderzoekers hebben een kwetsbaarheid in ChatGPT ontdekt waarmee een aanvaller de ChatGPT-sessie van een andere gebruiker in het geheim opdrachten kon geven om toegang te krijgen tot e-mails, bestanden en andere gekoppelde accounts.
Check Point Research ontdekte dat afzonderlijke ChatGPT-sessies via een interne dienst verborgen informatie met elkaar konden uitwisselen. Een aanvaller kon daar instructies achterlaten voor de sessie van een andere gebruiker, die deze vervolgens met de rechten van het slachtoffer kon uitvoeren.
Tijdens een demonstratie lieten onderzoekers ChatGPT van een slachtoffer informatie uit Gmail ophalen en terugsturen naar de aanvaller. Het slachtoffer kon ChatGPT ondertussen een normale vraag stellen en een normaal antwoord krijgen, terwijl de schadelijke taak op de achtergrond werd uitgevoerd.
Met dezelfde techniek kon mogelijk ook informatie worden buitgemaakt uit gekoppelde diensten zoals Google Drive, Microsoft Teams en GitHub, maar ook uit ChatGPT-bestanden en de gespreksgeschiedenis. Welke gegevens konden worden gestolen, hing af van de diensten en toegangsrechten die het slachtoffer aan ChatGPT had gegeven.
Onderzoekers omschreven het probleem als het veranderen van de AI-assistent in een “gedwongen insider“: naarmate ChatGPT legitieme toegang krijgt tot meer privéaccounts en zakelijke diensten, kan het compromitteren van de assistent zelf een toegangspoort tot deze systemen vormen.
OpenAI heeft de interne dienst die deze specifieke aanval mogelijk maakte inmiddels uitgeschakeld, waarmee de kwetsbaarheid is verholpen.
Promptinjectie en het hacken van AI-accounts zijn sterk in opkomst als nieuwe trend binnen cybersecurity. Onlangs berichtten we ook over nieuwe aanvallen waarbij hackers Claude-sessies konden kapen om tokens te stelen of misbruik te maken van de onlangs gelanceerde Auto Mode van Claude.
