Un catedrático experto en IA pide no caer en el "catastrofismo" ante voces que dicen que la IA pueda acabar con los humanos

Actualizado hace 41 segundos

El vicerrector de Investigación y Transferencia de la Universidad Internacional de La Rioja (UNIR), Pablo Moreno, ha pedido no interpretar desde una perspectiva "totalmente catastrofista" las advertencias sobre el riesgo de que la inteligencia artificial (IA) pueda llegar a acabar con los humanos en la próxima década, aunque ha reconocido que existen riesgos reales y ha situado el "alineamiento" de los futuros sistemas como uno de los principales desafíos.

Moreno se ha pronunciado así tras las declaraciones de un extrabajador de Anthropic, que ha advertido de que la evolución de sucesivas generaciones de IA podría provocar una pérdida de control sobre estos sistemas. Estas palabras de Jacob Coxon eran apoyadas además por su antiguo jefe y por el presidente de la compañía, Dario Amodei, quienes también han expresado su preocupación por este escenario.

El catedrático de Computación e IA ha explicado en declaraciones a Europa Press Televisión, que estas previsiones parten de los sistemas actuales y proyectan lo que podría suceder cuando las próximas generaciones de IA comiencen a utilizar los modelos precedentes para contribuir al desarrollo de otros todavía más avanzados.

"No es un riesgo de los modelos que usamos hoy, sino de cómo podrían llegar a ser los modelos dentro de unos años", ha señalado Moreno, quien ha incidido en que "muchas cosas tienen que pasar para llegar a eso" y que existen oportunidades para controlar y reducir esos riesgos.

A su juicio, existen dos grandes familias de riesgos. La primera tiene que ver con el "mal uso" de la tecnología. La IA puede emplearse para mejorar procesos, facilitar el acceso a la información o aumentar la productividad, pero también para "hacer mejores armas", realizar ciberataques o atacar empresas y países.

La segunda amenaza está relacionada con el denominado "riesgo de alineamiento": que una inteligencia artificial cumpla aparentemente las instrucciones recibidas pero lo haga de una forma que no coincida con las expectativas humanas.

"Una IA va a intentar hacer lo que queramos; no tiene una iniciativa propia ni estamos trabajando para que la tenga", ha explicado. Sin embargo, ha advertido de que las instrucciones pueden ser ambiguas y ha puesto como ejemplo la petición de reducir al máximo los accidentes de tráfico. Un sistema podría interpretar que la mejor solución es "prohibir todos los desplazamientos", cumpliendo literalmente el objetivo pero ignorando el contexto y las expectativas humanas.

Por ello, considera fundamental que las empresas del sector trabajen en el alineamiento y garanticen que los sistemas incorporen criterios sobre aquello que los humanos consideran aceptable.

REGULACIÓN INTERNACIONAL

Respecto a la regulación, el vicerrector de UNIR ha apuntado que el principal problema no es saber qué aspectos pueden regularse, sino conseguir que Estados Unidos, China y Europa avancen en la misma dirección y al mismo tiempo. "Europa puede tener una regulación muy restrictiva, pero si no va acompañada de una regulación en Estados Unidos o en China (...) es difícil avanzar", ha advertido.

Moreno ha explicado que existe una fuerte competencia económica y tecnológica que dificulta que los países o las empresas decidan frenar unilateralmente el desarrollo de nuevos modelos. "Ninguna se atreve a ser la primera que se pare", ha resumido.