Nueva York.- El director ejecutivo y cofundador de Anthropic, Dario Amodei, hizo un llamado este sábado a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología ante los crecientes temores sobre su uso indebido, y esbozó un marco de tres pasos destinado a establecer el ritmo del desarrollo. El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, coincidieron.

“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en un artículo publicado en X.

Su ensayo se produce después de que Anthropic publicó el jueves un informe de inteligencia sobre amenazas en el que se detallaba cómo varios actores habían utilizado sus modelos de IA Claude para actividades que iban desde el desarrollo de armas y operaciones cibernéticas hasta la vigilancia y el fraude.

La alarma sobre el daño potencial de la IA aumentó esta semana cuando el investigador de Anthropic Jacob Coxon dimitió afirmando que “las personas que desarrollan la IA creen sinceramente que podría matarnos a todos antes de que termine la década”.

Amodei aclaró que no estaba pidiendo que se detuviera el entrenamiento de los modelos ni el progreso técnico, sino que se garantizara que las empresas se tomaran el tiempo necesario para ajustar y proteger sus modelos, y que evaluadores independientes confirmaran estas medidas.

Sam Altman, así como Elon Musk, dijeron que coinciden con Darío Amodei en que es necesario pisar el freno en el desarrollo de la inteligencia artificial tras varios incidentes preocupantes.

Con información de: La Jornada

CD/AT