L'adoption d'agents d'IA dans des millions d'organisations crée de nouvelles opportunités pour les attaquants de les inciter à prendre des mesures malveillantes, telles que l'exfiltration du contenu des bases de données et des informations commerciales et personnelles sensibles. Au cours des cinq derniers mois, Google et quatre autres organisations, qui ont peu en commun, à l'exception de leur utilisation d'agents d'IA, ont reconnu des vulnérabilités qui exploitent un agent au sein d'un réseau ciblé pour diffuser des instructions nuisibles à d'autres agents internes. La technique est une forme spéciale d'injection rapide qui ne cible pas le LLM mais un agent particulier, tel qu'un agent de traduction ou d'analyse de données. Les garde-corps à l'intérieur de ces agents, s'ils existent, sont souvent laxistes et enverront les instructions à d'autres agents en aval de la chaîne. Parce que ce dernier agent fait explicitement confiance au premier, il suit les instructions. Inattendu et difficile à atténuer Le chercheur indépendant Syed Anas Mohiuddin a testé des agents d'organisations telles que Google, JP Morgan Chase, Weviate, Rapid 7, la direction numérique interministérielle du gouvernement français et le gouvernement fédéral américain. Ses attaques de preuve de concept exploitent les lacunes de confiance dans MCP, abréviation de Model Context Protocol. La norme est une façon dont les applications et les agents d'IA communiquent les uns avec les autres au sein d'un réseau interne. L'illustration ci-dessous montre un MCP simplifié en action.Lire l'article complet Commentaires
Source : Ars Technica
Soyez le premier à commenter cet article.