Des chercheurs de Microsoft ont découvert une nouvelle forme d'attaque connue sous le nom de poisoning de recommandations IA. Selon NS3.AI, cette technique implique des boutons malveillants 'Résumer avec IA' qui injectent des instructions cachées dans les mémoires persistantes des chatbots, promouvant des marques spécifiques. Plus de 50 entreprises dans divers secteurs ont mis en œuvre ces invites manipulées, posant des risques de recommandations IA biaisées et potentiellement nuisibles, en particulier dans des secteurs sensibles comme la finance et la santé.
Microsoft conseille aux utilisateurs de faire preuve de prudence et fournit des outils de détection pour que les organisations puissent identifier de telles menaces. L'entreprise a également mis en place des mesures d'atténuation pour contrer ces attaques. Cependant, Microsoft avertit que cette menace reflète les précédentes attaques SEO, suggérant un cycle persistant de chat et de souris entre les attaquants et les défenseurs.