Pedro Duque pone el foco en el lado más inquietante de la IA: "Te recuerda a 'Terminator'"

Actualizado hace 7 minutos

¿Podría la inteligencia artificial llegar a tener un nivel de autonomía y control superior al del ser humano? La pregunta, que durante años parecía más propia de la ciencia ficción, forma parte cada vez más de la conversación sobre el futuro de esta tecnología. Y Pedro Duque, presidente de Hispasat y primer astronauta español, ha puesto sobre la mesa uno de los referentes más conocidos del género: Terminator.

Arnold Schwarzenegger en 'Terminator Génesis'. Paramount Pictures

Durante una entrevista con EFE y TVE en el marco de la Cumbre Espacial Internacional celebrada esta semana en París, Duque mostró su preocupación por la evolución de los modelos de IA y por las informaciones sobre sistemas capaces de buscar vías para sortear controles, hacer trampas o alcanzar determinados objetivos de maneras no previstas por sus desarrolladores.

"Te recuerda a Terminator, vamos", afirmó el que fuera ministro de Ciencia e Innovación, en referencia a la conocida saga cinematográfica creada por James Cameron.

El temor a una IA que pueda sortear controles

La referencia a Terminator no significa que Duque esté equiparando los sistemas actuales con la inteligencia artificial de la ficción. Su advertencia se centra en los riesgos derivados de desarrollar sistemas cada vez más avanzados sin mecanismos de supervisión suficientemente sólidos.

Duque confirmó que Hispasat utiliza herramientas de inteligencia artificial, aunque por ahora en tareas que considera accesorias para el negocio. Alejandro Martinez Velez

En la saga cinematográfica, una inteligencia artificial diseñada inicialmente con fines militares adquiere autonomía y termina considerando a los seres humanos una amenaza. El escenario pertenece a la ficción, pero sirve como ejemplo para ilustrar una de las preocupaciones que acompañan al desarrollo de sistemas de IA cada vez más capaces.

Para Duque, el crecimiento de esta tecnología debe ir acompañado de normas que permitan controlar sus posibles efectos. "Esto, como todo, es regulación", defendió.

"Siempre habrá alguien que encuentre una manera de ganar dinero"

El presidente de Hispasat considera que la expansión de la IA será cada vez mayor en las empresas y en la economía, por lo que cree necesario establecer límites claros.

A su juicio, las fuerzas del mercado por sí solas no garantizan que todas las empresas prioricen las consecuencias de sus desarrollos. "Si no hay regulación, todo se rige por las leyes de mercado", señaló.

Duque añadió que siempre puede existir alguien dispuesto a buscar nuevas vías para obtener beneficios aunque ello implique asumir determinados riesgos.

'Terminator: Dark Fate' (2019) EP

"Siempre va a haber alguien que encuentre una manera de ganar dinero (...) sin preocuparse mucho de las consecuencias. Siempre va a ser así", afirmó.

La advertencia no implica, según explicó Duque, un rechazo al desarrollo de esta tecnología. Hispasat ya utiliza herramientas de inteligencia artificial, aunque actualmente lo hace principalmente en tareas que considera complementarias para su actividad, como el análisis de datos de mercado. El objetivo, según su planteamiento, no debería ser frenar la evolución de la IA, sino establecer unas reglas que permitan aprovechar sus aplicaciones sin poner en riesgo a los ciudadanos.

El ejemplo de la regulación alimentaria