* Albania ya tiene ministra con IA, pero esto es la punta de un iceberg: hay avances que podrían darle un vuelco a la forma en la que se gobierna en las democracias

Imagina que estás frente a la urna electoral. Ya no eliges entre izquierda o derecha, sino entre arquitecturas algorítmicas: por un lado, un modelo que prioriza derechos humanos, aunque frene el crecimiento; por el otro, uno que maximiza bienestar y productividad, aunque restrinja libertades en nombre de la eficiencia.

¿Quién gobierna: un programa o quienes lo diseñan?

Albania puso el listón simbólico. Al elevar a Diella —una IA nacida como asistente de trámites gubernamentales— al rango de “ministra” del gabinete, el Gobierno prometió licitaciones públicas “100% libres de corrupción”. La apuesta: automatizar donde tradicionalmente hay, eso, corrupción.

Pero, ¿quién audita al auditor? La reacción popular de los albaneses lo dijo: “Hasta Diella será corrompida”. El escepticismo no es tecnofobia; es memoria. Y el embrollo legal también es real: la Constitución de prácticamente todos los países habla de humanos en el gabinete. ¿Qué legitimidad tendría una figura sin cuerpo, voto ni responsabilidad penal?

Japón también probó el experimento, pero en la política partidista. Un partido minúsculo nombró a una IA —con avatar de pingüino— como “líder” para gestionar recursos internos y “escuchar voces ignoradas”. La promesa suena inclusiva. ¿Democracia de datos o sobresimplificación algorítmica?

“IA en el gobierno” no es una categoría nueva ni exclusiva. Estonia, Singapur y Emiratos Árabes Unidos han avanzado más que el resto y revelan tres filosofías distintas.

Estonia llama “Kratt” a su visión: inspirada en su mitología, sus soluciones son criaturas útiles si se les gobierna, peligrosas si se les descuida. El objetivo no es solo automatizar trámites; es volver proactiva una administración que ya opera con el principio “once-only”, es decir, el ciudadano entrega sus datos una sola vez y el estado la distribuye y administra de forma segura. Peor nadie sabe qué pasa adentro.

Singapur (NAIS 2.0) traduce la IA en capacidad estratégica. La meta es optimizar operaciones. Desde un chatbot para reportar problemas municipales hasta IA para conectar más eficientemente empleadores con candidatos. También hay mejora interna: asistente de ideas nuevas para funcionarios, asistente de redacción para la emisión de dictámenes. Y lo más importante: software de código abierto para evaluar los sistemas de IA del Gobierno

Los EAU apuestan por la IA como su motor económico. Gobierno 100% digital, chatbots masivos, fondos soberanos que integran infraestructura, chips y alianzas con los grandes de la tecnología y los modelos. Tecnología al servicio de la geopolítica. Quieren que la IA encabece una economía postpetróleo.

Tres rutas, tres valores. ¿Qué prioriza cada una? Estonia: fricción cero para el ciudadano. Singapur: excelencia y control de riesgos. EAU: velocidad, inversión y prestigio global. El punto ciego compartido: sin gobernanza fuerte, la eficiencia puede afectar la equidad.

La OCDE y el Foro Económico Mundial también se han puesto frente a la IA como marcos que encuadran —o deberían encuadrar— la ambición.

Los Principios de la OCDE (actualizados en 2024) son el estándar intergubernamental más serio: crecimiento inclusivo; derechos y equidad; transparencia y explicabilidad; robustez y seguridad; responsabilidad. No son eslóganes: empujan a que cada proyecto público de IA sea explicable, auditable y con responsables identificables. El kit del G7 para IA en el sector público baja eso a prácticas: evaluación de impacto, calidad de datos, mecanismos de impugnación.

Traducido al caso Diella: sin trazabilidad de decisiones, sin vías de apelación comprensibles y sin control humano efectivo, no hay legitimidad, por mucha promesa anticorrupción que se pregone. Porque si Diella se equivoca y favorece a un corrupto, debe haber alguien que explique por qué y un humano responsable.

El FEM empuja dos ideas. Primero, asociaciones público-privadas: el Estado pone marcos y datos de ciudadanos, el mercado pone ingeniería. Segundo, una noción disruptiva: IA Pública: así como existen radiodifusoras públicas para servir el interés general, ¿por qué no una infraestructura de modelos y cómputo de propiedad pública para tareas críticas? Menos dependencia de oligopolios de infraestructura, más alineación con valores democráticos. De lo contrario, la IA gubernamental, sin soberanía digital, termina delegando la voluntad general a terceros con intereses ajenos a la sociedad.

Pero luego viene el problema del sesgo: los algoritmos aprenden del mundo tal cual es, no del que quisiéramos. Datos sesgados, máquinas que “optimizan” injusticias heredadas. ¿Resultado? Limitación de oportunidades, por ejemplo: quienes tradicionalmente no tienen acceso a vivienda, crédito, empleo y servicios seguirán sin tenerlo porque el robot fue entrenado para mantener el statu quo.

El Estado adora la IA porque reduce costos, acelera procesos y “objetiviza” decisiones. Pero optimizar con datos desiguales solo reproduce la desigualdad. Para que funcione, hace falta ley (responsable final claro), formación (comprender capacidades y límites del sistema) y cultura organizativa (poder real para desoír a la máquina).

Volvamos a Albania, por método. Si el objetivo es limpiar licitaciones, el estándar mínimo —OCDE en mano— exige: 1) modelo explicable y auditable por terceros; 2) trazabilidad de cada decisión, con expediente de datos y reglas; 3) instancia de apelación con capacidad real de revocar; 4) publicación proactiva de métricas de sesgo y desempeño; 5) responsable humano identificado. Sin eso, la “IA ministra” es solucionismo tecnológico; es decir, reemplaza discrecionalidades opacas por opacidades computacionales, sin cortar la raíz del problema.

La tentación de cerrar con una consigna es grande. Mejor una pregunta incómoda: cuando entres a votar, ¿preferirás el algoritmo que te promete un Estado que funciona sin obstáculos pero que es incuestionable, o el que acepta fricción para proteger márgenes de injusticia tolerables? No hay tercera vía mágica. El trade-off es frontal.

Platón temía a la demagogia y soñaba con gobernantes sabios. El siglo XXI ofrece sabios sintéticos que calculan sin dormir. Pero la política no es solo cálculo; es también memoria, compasión, conflicto. La IA puede ayudar a gobernar. ¿Puede —y debe— gobernar?

Si respondemos que sí sin construir soberanía digital, auditoría estricta y responsabilidad humana nítida, no estaremos eligiendo un guardián; estaremos cediendo la polis a una caja negra con buena prensa. Y ese, ya lo sabemos, es el atajo favorito del poder absoluto.

Con información de: Excélsior

CD/VC