Una inteligencia artificial capaz de detectar vulnerabilidades invisibles en sistemas críticos. Un manifiesto que defiende el uso de la IA como herramienta de poder global. Dos movimientos que han reabierto el debate sobre quién controlará las capacidades más avanzadas de IA y qué impacto tendrán sobre el equilibrio de poder mundial.
Para el ingeniero informático y divulgador de tecnología, Juan de la Herrán, hablar de una nueva ‘guerra tecnológica’ basada en inteligencia artificial no supone una exageración. “Probablemente estamos subestimando su alcance”, advierte. A su juicio, este nuevo escenario ya no se desarrolla únicamente en el terreno militar tradicional, sino también “en los circuitos de datos, en los algoritmos que toman decisiones sobre nuestras vidas y en las plataformas que moldean nuestra percepción del mundo”.
Uno de los grandes cambios es que los actores principales ya no son únicamente los Estados. Según explica, estas empresas como Google, Meta o Palantir desarrollan tecnologías con aplicaciones tanto civiles como militares, difuminando cada vez más la frontera entre el sector privado y la seguridad nacional. “La IA no es un simple instrumento; es un nuevo paradigma del poder”, resume. Una transformación que, según señala, ya está condicionando la economía, la política y la capacidad de influencia global de gobiernos y empresas.
Ese cambio también se refleja en la creciente militarización “acelerada” de la inteligencia artificial. Países como Estados Unidos o China "ya no ven la inteligencia artificial como una ventaja técnica, sino como un pilar fundamental de su estrategia de defensa”, explica.
Para De la Herrán, el hecho de que gobiernos y organismos internacionales empiecen a tratar la IA como una cuestión de seguridad nacional demuestra hasta qué punto se ha convertido ya en un factor estratégico. “La señal más clara es que los actores más poderosos del mundo ya no hablan de IA como una tecnología futura, sino como un campo de batalla presente”, afirma.
El salto
Uno de los episodios que más preocupación ha generado en los últimos meses ha sido Mythos Preview, un modelo presentado por Anthropic capaz de detectar vulnerabilidades ocultas en sistemas informáticos y software a una velocidad inédita. Según la compañía, la herramienta logró identificar fallos de “día cero”, errores desconocidos para los que todavía no existen parches de seguridad. Anthropic limitó el acceso al sistema a grandes compañías estadounidenses dentro del Proyecto Glasswing, para reforzar infraestructuras críticas anteriormente. El anuncio provocó preocupación internacional ante el temor de que pudieran facilitar ciberataques masivos.
Para De la Herrán, el desarrollo de sistemas capaces de localizar vulnerabilidades de forma automática y a gran escala supone “un cambio radical en el equilibrio del poder cibernético”. Hasta ahora, explica, la detección de vulnerabilidades era un proceso “humano, laborioso y limitado”, pero una IA capaz de esto “transforma la ciberseguridad de un arte en una ciencia industrializada”.
“Es como tener un microscopio capaz de ver cualquier grieta en cualquier pared del mundo: puedes usarlo para reparar edificios o para derribarlos”, resume. Por ello, considera que el desarrollo de estas herramientas no puede quedar únicamente en manos del mercado y requiere “una gobernanza estricta y transparente”.
El alcance potencial de una tecnología así afecta prácticamente a cualquier infraestructura conectada. Redes eléctricas, sistemas financieros, registros sanitarios, o dispositivos IoT —desde cámaras de vigilancia hasta electrodomésticos— podrían convertirse en objetivos vulnerables. “No distingue entre un servidor bancario y un termostato; ambos son nodos en una red que puede ser explotada”, explica.
La aparición de Mythos ha reabierto además otro debate: quién debe controlar unas capacidades con potencial estratégico global. En este escenario se ha reflejado el polémico manifiesto publicado recientemente por Palantir, una de las empresas más influyentes en software de inteligencia y defensa. Difundido en X, la compañía defendía que “el poder duro de este siglo se construirá sobre software” y reclamaba una implicación mucho más directa de Silicon Valley en cuestiones de defensa.
El desarrollo de este tipo de tecnologías plantea “un dilema trágico” según el experto. Renunciar a ellas, sostiene, dejaría indefensos a quienes intentan protegerse frente a actores que sí las desarrollan. Pero avanzar y normalizar su uso también implica crear activamente "una tecnología de doble filo”.
El problema no reside únicamente en la tecnología, sino en “la intención humana que hay detrás”, afirma, por lo que ve necesario acompañar estos desarrollos de “ética rigurosa, transparencia máxima y controles independientes”. Por ello, considera poco realista intentar frenar por completo este tipo de avances tecnológicos. Del mismo modo, sostiene que el verdadero reto no pasa por una “contención total” sino la gobernanza.
“Las grandes empresas tecnológicas no solo están asumiendo decisiones que antes eran exclusivas de los Estados, a menudo las determinan”, sostiene De la Herrán. Como ejemplo, señala el creciente papel de compañías como Palantir en ámbitos ligados a inteligencia, seguridad nacional o gestión de amenazas.
A su juicio, las grandes tecnológicas concentran recursos económicos, datos y capacidades tecnológicas superiores a las de muchos países. “Poseen los modelos de IA más avanzados, que son el nuevo “oro negro”, afirma. Además, destaca su capacidad para desplegar tecnologías en cuestión de semanas, mientras los procesos estatales y legislativos tardan años. El crea avanzar hacia “una democracia tecnológica vacía”, afirma, donde “los ciudadanos no eligen a sus gobernantes tecnológicos”. A su juicio, se trata de “ un poder inmenso que carece de legitimidad democrática”.
Invisible en lo cotidiano
Más allá de los grandes debates geopolíticos o militares, el avance de la IA empieza a trasladarse también a ámbitos mucho más cotidianos. El impacto de estas herramientas será de forma “profunda y omnipresente, aunque a menudo invisible”.
La IA ya empieza a afectar al empleo a medida que determinados sistemas automatizan tareas de forma más rápida y barata que los humanos. También alerta de que la dependencia tecnológica creciente amplía la exposición de datos personales y sistemas críticos.
La influencia de estos sistemas alcanza también al terreno de la información y la opinión pública. “Sus opiniones en redes sociales pueden ser amplificadas o silenciadas por algoritmos que responden a intereses corporativos o gubernamentales”, señala. A ello se suma la creciente presencia de dispositivos conectados en hogares, empresas y ciudades.
Uno de los principales riesgos es precisamente que esta transformación tecnológica se produzca de forma silenciosa y progresiva. “La IA no es algo que pasa ‘allí afuera’. Está en su teléfono, en su casa, en su lugar de trabajo, en las elecciones que vota”, resume. El experto considera además que la sociedad está empezando a normalizar riesgos, cediendo privacidad y autodeterminación. Esa aceptación progresiva del control algorítmico se combina además con una creciente “fatiga tecnológica” frente a problemas como las fake news. “Es el mayor aliado de quienes quieren un mundo controlado por algoritmos”, afirma.
“Lo que más me preocupa no es una singularidad futurista, sino un declive lento y constante hacia una sociedad dócil, vigilada y manipulada”, concluye. Una transformación que, según advierte, puede producirse de forma casi imperceptible.
El manifiesto de 22 puntos
El manifiesto difundido recientemente por Palantir resumía algunas de las ideas centrales del libro The Technological Republic, escrito por Alex Karp y Nicholas Zamiska. El texto defendía que Silicon Valley tiene una “deuda moral” con Estados Unidos y reclamaba una mayor implicación de las élites tecnológicas en cuestiones de defensa y seguridad nacional. Además, planteaba el inicio de una nueva “era de disuasión basada en IA” y apostaba por reforzar la cooperación entre empresas tecnológicas y estructuras militares occidentales e incluso proponía replantear modelos tradicionales de servicio nacional y rearme en Occidente. Sus planteamientos provocaron críticas por el creciente peso político y estratégico de las grandes tecnológicas.