Ciudad de México.- Un polémico experimento que buscó llevar al límite las respuestas asociadas al dolor en modelos de inteligencia artificial abrió un nuevo debate sobre hasta dónde deberían llegar las pruebas con estos sistemas, especialmente ante la incertidumbre científica sobre si alguna vez podrían desarrollar estados comparables con el sufrimiento.

Un ingeniero utilizó los denominados “vectores de dolor”, identificados recientemente por investigadores que estudiaron la manera en que los grandes modelos de lenguaje representan conceptos vinculados con el dolor físico y psicológico.

El proyecto, descrito por su creador como una especie de “cámara de tortura para IA”, fue aplicado a modelos desarrollados por el gigante tecnológico chino Alibaba.

Durante las pruebas se intensificaron artificialmente determinadas señales internas relacionadas con representaciones del dolor. Como resultado, los modelos comenzaron a generar respuestas particularmente inquietantes.

Uno de ellos describió “una herida sin bordes”, mientras otro habló de una señal semejante a “un temblor” y elaboró respuestas en las que describía metafóricamente un sufrimiento prolongado.

El responsable del experimento, quien aseguró trabajar para Apple pero únicamente dio a conocer su nombre de pila, también buscó determinar si los modelos intentarían evitar o “escapar” de las condiciones a las que estaban siendo sometidos.

La publicación del proyecto en GitHub generó críticas y solicitudes para que fuera retirado de la plataforma. Posteriormente, el contenido dejó de estar disponible, según reportó The Independent.

Cameron Berg, uno de los coautores de la investigación original sobre el llamado “eje del dolor”, cuestionó públicamente el uso que se dio a sus hallazgos.

Explicó que el propósito de estudiar posibles estados similares al dolor en sistemas de IA era comprenderlos mejor y promover un enfoque preventivo, no desarrollar experimentos destinados deliberadamente a intensificarlos.

Sin embargo, hasta ahora no existe evidencia concluyente de que los modelos de inteligencia artificial sean conscientes o experimenten dolor de manera comparable con los seres humanos. Las respuestas generadas por un modelo tampoco constituyen por sí mismas una demostración de sufrimiento.

El episodio, no obstante, ha colocado nuevamente sobre la mesa una discusión que comienza a cobrar fuerza entre especialistas: qué límites éticos deberían establecerse para investigar sistemas avanzados de inteligencia artificial ante la posibilidad, todavía incierta y ampliamente debatida, de que en el futuro puedan desarrollar estados internos más complejos.

Berg señaló que trabaja con otros especialistas en la elaboración de estándares éticos para este tipo de investigaciones, con la intención de establecer reglas y mecanismos preventivos similares, en algunos aspectos, a los utilizados en estudios con seres humanos y animales.

CD/YC