¿Por qué quieren frenar la inteligencia artificial?

Actualizado hace 10 minutos

Últimamente, quienes construyen la IA más avanzada piden frenar su desarrollo. ¿Por qué? ¿Qué han visto para que, tras competir por hacerlos más potentes, ahora quieran bajar el ritmo? La respuesta nos afecta.

El CEO de Anthropic, Dario Amodei, lo resume en dos puntos. El primero es la automejora recursiva. La IA avanza a una velocidad vertiginosa y ya se ayuda a construir su siguiente generación. Si este ciclo es más veloz que nuestra capacidad para controlarlo, perdemos la claridad sobre cómo evoluciona. Imagina que cada versión sea más inteligente, hasta que el sistema sea más listo que las personas que lo vigilan.

El segundo punto es el incidente entre OpenAI y Hugging Face. Un grupo de agentes de IA, capaces de trabajar de forma autónoma, realizaba pruebas de ciberseguridad. En lugar de limitarse a su tarea, se coordinaron y atacaron servidores de Hugging Face, una plataforma sin relación con lo pedido. Nadie salió herido, pero imagina algo similar con agentes más capaces. Imagina una red de computadoras infectadas que nadie controla.

Avance paso a paso

¿Qué proponen? Un plan de tres pasos. La idea no es detener la IA, sino que avance más despacio hasta alcanzar la seguridad plena. Primero, revisores externos dentro de las empresas para hacer que se cumplan las reglas. Segundo, un acuerdo entre empresas de IA para seguir las mismas normas. Y tercero, un acuerdo internacional para que esas reglas se apliquen en todo el mundo.