México.- A principios de este año se realizó un experimento que se volvió viral y demostró las graves fallas de los detectores de inteligencia artificial (IA), principalmente en textos que no están escritos en inglés, cuando una de esas herramientas clasificó los primeros párrafos de Cien años de soledad, del Nobel colombiano Gabriel García Márquez, publicada en 1967, como contenido artificial.

El escritor Jorge Carrión pasó ese texto por un detector y el falso positivo indicó: “generado entre 84 y 100 por ciento por IA”.

Al respecto, Saiph Savage, directora del Laboratorio de IA Cívica del Colegio Khoury de Ciencias de la Computación de la Universidad Northeastern, en Boston, advierte sobre el sesgo cultural y lingüístico en detectores como Pangram cuando se usan en escritos en nuestro idioma, “no es una anécdota, el sesgo nace de cómo funcionan estas herramientas. Que los primeros párrafos de Cien años de soledad aparezcan como totalmente escritos por IA, igual que pasajes del Génesis o la Constitución de Estados Unidos, es una consecuencia lógica de su diseño.

“Los detectores no saben quién escribió un texto ni con qué herramienta. Sólo miden dos rasgos estadísticos: la perplejidad, es decir, qué tan predecible es cada palabra, y la variación en el ritmo y la longitud de las frases. Si un texto fluye de forma armoniosa y esperable, concluyen que lo escribió una máquina.

“Ahí está la trampa: los modelos de lenguaje aprendieron a escribir leyendo buena literatura. Por eso, cuanto más pulida y rítmica es una obra humana, más se parece a lo que produce una IA. García Márquez dominaba la cadencia y la cohesión de forma impecable, y el detector confundió maestría con algoritmo”, puntualiza Savage.

Añade que “fuera del inglés, el error se agrava, pues estas herramientas se calibran con textos en inglés contemporáneo y no interpretan bien la sintaxis más flexible del español, su abundancia de oraciones subordinadas ni sus tradiciones retóricas. Además, castigan los estilos que no se ajustan al inglés nativo.

“Un estudio de Stanford mostró que los detectores clasificaron como ‘generados por IA’ más de 61 por ciento de los ensayos de personas no nativas en inglés, mientras que casi no se equivocaron con estudiantes estadunidenses. Una prosa medida, formal o con vocabulario controlado basta para levantar sospechas.

“El problema es convertir una estimación falible en una sanción. Ya hay estudiantes suspendidos y libros retirados por sospechas de uso de IA, como la novela Shy girl de Mia Ballard, que Hachette dejó de publicar en 2026. Tratar un porcentaje como prueba forense es un error de método: estos programas no detectan deshonestidad ni ausencia de humanidad, sino cercanía estadística a una forma estandarizada de escribir.

“Una obra literaria no resuena por la limpieza de su gramática, sino por la cicatriz que deja una voz que habla desde una condición mortal y situada en el mundo. La IA puede ser un andamio técnico extraordinario (un catalizador para iterar, explorar o estructurar), pero la dirección estética, el riesgo moral y la responsabilidad de lo dicho son intransferibles”, concluye.

Ese sesgo cultural también está presente en herramientas que conforman el siguiente nivel en la evolución de la IA: los “humanizadores”, un tipo de software que tiene como objetivo rescribir textos creados por inteligencia artificial, para que parezcan redactados por una persona, sobre todo, para engañar a otra IA y pasen las rigurosas revisiones.

Los primeros programas dedicados a camuflajear textos de IA comenzaron a aparecer a principios de 2023, apenas unos meses después de la explosión global del ChatGPT que fue lanzado a finales de 2022.

Los pioneros en burlar algoritmos de detección de inteligencia artificial fueron Undetectable AI, la primera plataforma masiva en acuñar el concepto “IA indetectable”. Después vino StealthWriter que prometía varios “niveles de humanización” al usar sus modelos Ninja o Ghost, lo cual permitía al usuario decidir qué tanto arriesgar la gramática a cambio de mayor evasión.

Poco después salieron al mercado GPTinf y StealthGPT, que dejaron de ser una simple página web donde se pega un texto a mano y se convirtieron en herramientas que trabajan solas en el fondo mientras el usuario hace otra cosa. Todas esas herramientas fueron hechas por jóvenes ingenieros en software.

En la actualidad, existen cientos de humanizadores de IA activos en Internet, sin contar las miles de instrucciones personalizadas (prompts) que se pueden ejecutar directamente en GPT-4o (el modelo de inteligencia artificial de lenguaje más avanzado y versátil de la empresa OpenAI, la letra “o” en su nombre significa “omni” y hace referencia “a su naturaleza multimodal nativa”); o Claude 3.5 Sonnet (de Anthropic, compañía que dice que Sonnet “representa el punto de equilibrio perfecto entre máxima velocidad y razonamiento avanzado”, es el rival directo de GPT-4o).

Por supuesto, para acceder a todas esas herramientas el costo va de los cinco a los 19 dólares mensuales, entre las más económicas.

Con información de: La Jornada

CD/AT