Peneliti Microsoft telah menemukan bentuk serangan baru yang dikenal sebagai keracunan rekomendasi AI. Menurut NS3.AI, teknik ini melibatkan tombol 'Ringkasan dengan AI' yang berbahaya yang menyuntikkan instruksi tersembunyi ke dalam memori persisten chatbot, mempromosikan merek tertentu. Lebih dari 50 perusahaan di berbagai industri telah menerapkan prompt yang dimanipulasi ini, menimbulkan risiko rekomendasi AI yang bias dan berpotensi berbahaya, terutama di sektor sensitif seperti keuangan dan kesehatan.
Microsoft menyarankan pengguna untuk berhati-hati dan menyediakan alat deteksi bagi organisasi untuk mengidentifikasi ancaman tersebut. Perusahaan juga telah menerapkan mitigasi untuk melawan serangan ini. Namun, Microsoft memperingatkan bahwa ancaman ini mencerminkan serangan SEO sebelumnya, menunjukkan siklus kucing-dan-tikus yang terus-menerus antara penyerang dan pembela.