Tabasco - Un equipo de expertos de la Universidad de Cornell, en Nueva York, ha creado “el primer gusano diseñado para atacar ecosistemas GenAI”. Es un novedoso malware funcional en laboratorio que tiene como objetivo alertar sobre la posibilidad real de crear este tipo de amenazas.

El gusano, denominado Morris II, en referencia al primer gusano de Internet creado por Robert T. Morris en 1988, fue utilizado para demostrar múltiples ataques contra un servicio de correo electrónico capaz de responder mensajes de manera automática con IA generativa.

Los investigadores lograron que el malware se autoreplicara y robara datos de la víctima en pruebas con dos grandes modelos de lenguaje populares: Gemini Pro de Google y GPT-4 de OpenAI.

Para vulnerar la seguridad del sistema de correo electrónico (creado específicamente para la investigación), Morris II utiliza una técnica conocida como Adversarial Self-Replicating Prompt. Se trata un tipo específico de prompt que se incluye en el cuerpo del mensaje o escondido incrustado en una imagen y que engaña a la IA generativa cuando procesa el mensaje. Según explican, este ataque puede infectar otros sistemas y difundir contenido personalizado.

Morris II también es capaz de comprometer una funcionalidad conocida como RAG, una herramienta utilizada por algunas aplicaciones de inteligencia artificial para mejorar las respuestas al extraer información de fuentes externas. En este caso, el gusano logró controlar la base de datos de la aplicación de correo electrónico simulada, por lo que sus respuestas incluyeron datos confidenciales del usuario y, además, fue capaz de replicarse.

Los investigadores mencionar que ya han enviado sus hallazgos a Google y OpenAI, aunque añaden que el gusano se aprovecha de un mal diseño en la arquitectura de ecosistemas de GenAI representada en el programa de correo que ellos mismos crearon, y no en vulnerabilidades de los modelos de lenguaje. Todos los detalles de esta investigación pueden consultarse en este artículo disponible públicamente.

Únete a nuestro canal de Whatsapp y entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.

Con información de: Tabasco Hoy

CD/NR