Crean a “Morris II”, malware que ataca sistemas de IA
Tabasco - Un equipo de expertos de la Universidad de Cornell, en Nueva York, ha creado “el primer gusano diseñado para atacar ecosistemas GenAI”. Es un novedoso malware funcional en laboratorio que tiene como objetivo alertar sobre la posibilidad real de crear este tipo de amenazas.
El gusano, denominado Morris II, en referencia al primer gusano de Internet creado por Robert T. Morris en 1988, fue utilizado para demostrar múltiples ataques contra un servicio de correo electrónico capaz de responder mensajes de manera automática con IA generativa.
Los investigadores lograron que el malware se autoreplicara y robara datos de la víctima en pruebas con dos grandes modelos de lenguaje populares: Gemini Pro de Google y GPT-4 de OpenAI.
Para vulnerar la seguridad del sistema de correo electrónico (creado específicamente para la investigación), Morris II utiliza una técnica conocida como Adversarial Self-Replicating Prompt. Se trata un tipo específico de prompt que se incluye en el cuerpo del mensaje o escondido incrustado en una imagen y que engaña a la IA generativa cuando procesa el mensaje. Según explican, este ataque puede infectar otros sistemas y difundir contenido personalizado.
Morris II también es capaz de comprometer una funcionalidad conocida como RAG, una herramienta utilizada por algunas aplicaciones de inteligencia artificial para mejorar las respuestas al extraer información de fuentes externas. En este caso, el gusano logró controlar la base de datos de la aplicación de correo electrónico simulada, por lo que sus respuestas incluyeron datos confidenciales del usuario y, además, fue capaz de replicarse.
Los investigadores mencionar que ya han enviado sus hallazgos a Google y OpenAI, aunque añaden que el gusano se aprovecha de un mal diseño en la arquitectura de ecosistemas de GenAI representada en el programa de correo que ellos mismos crearon, y no en vulnerabilidades de los modelos de lenguaje. Todos los detalles de esta investigación pueden consultarse en este artículo disponible públicamente.
Únete a nuestro canal de Whatsapp y entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.
Con información de: Tabasco Hoy
CD/NR
Notas del día:
Oct 19, 2024 / 09:55
Vehículo se impacta contra puesto de Lotería en Xalapa
Oct 19, 2024 / 09:35
En pésimas condiciones el acceso al mercado Benito Juárez de Papantla
Oct 19, 2024 / 08:49
Imputan por abuso de autoridad a ex subdirector del Registro Público
Oct 19, 2024 / 08:15
Liberan a Director de Protección Civil de Poza Rica
Oct 19, 2024 / 07:40
Se Desarrolla la Tormenta Tropical ‘Nadine’ al Sureste de Puerto Costa Maya, Quintana Roo
Oct 19, 2024 / 07:32
Oct 19, 2024 / 07:20
Precio del Dólar Hoy 19 de Octubre de 2024 en México
Oct 19, 2024 / 05:30
Día Internacional de las Catedrales
Oct 19, 2024 / 04:30
Día Internacional de la Lucha contra el Cáncer de Mama
Oct 19, 2024 / 02:10
Descubren el tiempo exacto que necesitas caminar para ponerte en forma
Oct 19, 2024 / 01:50
Descubren en Reino Unido al primer hombre con tres penes
Oct 19, 2024 / 01:10
Investigadores de la UNAM descubren nueva especie de árbol mexicano