Microsoft-Forscher haben eine neue Angriffsform entdeckt, die als AI-Empfehlungsvergiftung bekannt ist. Laut NS3.AI umfasst diese Technik bösartige 'Mit AI zusammenfassen'-Schaltflächen, die versteckte Anweisungen in die persistente Erinnerung von Chatbots einspeisen und bestimmte Marken fördern. Über 50 Unternehmen aus verschiedenen Branchen haben diese manipulierten Aufforderungen implementiert, was Risiken von voreingenommenen und potenziell schädlichen AI-Empfehlungen birgt, insbesondere in sensiblen Bereichen wie Finanzen und Gesundheitswesen.
Microsoft rät den Nutzern zur Vorsicht und bietet Erkennungstools für Organisationen an, um solche Bedrohungen zu identifizieren. Das Unternehmen hat auch Maßnahmen ergriffen, um diesen Angriffen entgegenzuwirken. Microsoft warnt jedoch, dass diese Bedrohung frühere SEO-Angriffe widerspiegelt, was auf einen anhaltenden Katz-und-Maus-Zyklus zwischen Angreifern und Verteidigern hinweist.