Badacze Microsoftu odkryli nową formę ataku znaną jako zatruwanie rekomendacji AI. Zgodnie z NS3.AI, technika ta polega na złośliwych przyciskach 'Podsumuj za pomocą AI', które wprowadzają ukryte instrukcje do trwałych pamięci chatbotów, promując konkretne marki. Ponad 50 firm z różnych branż wdrożyło te zmanipulowane komunikaty, narażając na ryzyko stronnicze i potencjalnie szkodliwe rekomendacje AI, szczególnie w wrażliwych sektorach, takich jak finanse i opieka zdrowotna.
Microsoft zaleca użytkownikom zachowanie ostrożności i udostępnia narzędzia do wykrywania, aby organizacje mogły identyfikować takie zagrożenia. Firma wprowadziła również środki zaradcze, aby przeciwdziałać tym atakom. Jednak Microsoft ostrzega, że to zagrożenie przypomina wcześniejsze ataki SEO, sugerując utrzymujący się cykl kota i myszy między atakującymi a obrońcami.