Los investigadores de Microsoft han descubierto una nueva forma de ataque conocida como envenenamiento de recomendaciones de IA. Según NS3.AI, esta técnica involucra botones maliciosos de 'Resumir con IA' que inyectan instrucciones ocultas en las memorias persistentes de los chatbots, promoviendo marcas específicas. Más de 50 empresas de diversas industrias han implementado estos comandos manipulados, planteando riesgos de recomendaciones de IA sesgadas y potencialmente dañinas, particularmente en sectores sensibles como finanzas y salud.
Microsoft aconseja a los usuarios que ejerzan precaución y proporciona herramientas de detección para que las organizaciones identifiquen tales amenazas. La compañía también ha implementado mitigaciones para contrarrestar estos ataques. Sin embargo, Microsoft advierte que esta amenaza refleja ataques de SEO anteriores, sugiriendo un ciclo persistente de gato y ratón entre atacantes y defensores.