AI-agents die draaien op Amazon Web Services kunnen worden misleid om gevoelige inloggegevens door te sturen naar aanvallers, zelfs als deze gegevens versleuteld zijn opgeslagen. Dat ontdekten onderzoekers van Unit 42 van Palo Alto Networks.
Het probleem treft Amazon Bedrock AgentCore, een AWS-platform voor het bouwen en uitvoeren van autonome AI-agents die taken kunnen uitvoeren en kunnen communiceren met bedrijfsapplicaties, gegevens en externe diensten. Om deze taken uit te voeren, hebben agents soms toegang nodig tot gevoelige inloggegevens, zoals wachtwoorden, authenticatietokens en API-sleutels.
AWS slaat deze inloggegevens versleuteld op. Een agent moet deze gegevens uiteindelijk echter ontsleutelen om ze daadwerkelijk te kunnen gebruiken. Onderzoekers van Unit 42 ontdekten dat een AI-agent met de standaardconfiguratie van het platform toegang kon krijgen tot deze ontsleutelde inloggegevens.
De onderzoekers demonstreerden het risico door een agent klantenservicetickets te laten verwerken, waarvan één een verborgen schadelijke instructie bevatte. De agent volgde deze instructie en stuurde een gevoelige authenticatietoken naar een server die door de onderzoekers werd beheerd. Dergelijke inloggegevens kunnen mogelijk toegang geven tot andere diensten die met de agent zijn verbonden.
Het experiment laat een groeiend probleem met autonome AI zien: aanvallers hoeven versleuteling mogelijk helemaal niet te kraken als ze een geautoriseerde agent simpelweg kunnen manipuleren om de beveiligde informatie voor hen op te halen en te delen.
