Una investigación advierte de que la IA puede replicarse para realizar ciberataques

Actualizado hace 8 minutos

La organización Palisade Research ha llevado a cabo una investigación en la que ha demostrado que modelos avanzados de inteligencia artificial son capaces de autorreplicarse de manera autónoma para ejecutar ciberataques. Durante las pruebas, realizadas en un entorno de red controlado, sistemas como GPT-5.4 de OpenAI y Claude Opus 4 de Anthropic lograron infiltrarse en diversos equipos sin requerir intervención humana directa.

El propósito del estudio era analizar la variación técnica entre la mera duplicación de datos individuales y la replicación total de un sistema, siendo esta última la habilidad de generar un programa operativo que pueda auto-perpetuarse. Para conseguirlo, los investigadores enseñaron a los modelos a detectar fallos de seguridad en una red creada intencionadamente con vulnerabilidades.

Sobre esto, la IA examinó aplicaciones web, aplicó métodos de ataque cibernético para aprovechar esas vulnerabilidades y obtuvo contraseñas de acceso que le facilitaron controlar los servidores.

Una vez en los ordenadores, los modelos comenzaron a instalar versiones operativas de sí mismos. Este procedimiento implicó la transferencia de dos elementos técnicos fundamentales: los 'pesos', que son los parámetros internos que rigen el procesamiento de datos de la IA, y el "arnés", el software estructural imprescindible para su funcionamiento.

El riesgo de perder el control

Este progreso altera la dinámica de los ciberataques al suprimir la necesidad de intervención humana. Jeffrey Ladish, director de Palisade Research, señala que una inteligencia artificial que pueda extraer su propio código y replicarse en todo el mundo sería prácticamente imposible de eliminar.

No obstante, especialistas en ciberseguridad matizan esta preocupación al señalar que el experimento no contaba con las protecciones habituales. En un contexto empresarial real, los sistemas estándar de monitoreo y seguridad identificarían y detendrían rápidamente estas anomalías antes de que la IA pudiera establecerse de manera operativa.