La inteligencia artificial avanza a una velocidad difícil de imaginar hace apenas unos años. Lo que comenzó para buena parte de la población con la irrupción de herramientas como ChatGPT ha evolucionado hacia sistemas cada vez más capaces y autónomos, mientras algunas de las voces más relevantes del sector han comenzado a advertir públicamente sobre los riesgos que puede traer consigo este crecimiento y la necesidad de establecer límites.

Pero, ¿hay motivos reales para preocuparse por el avance de la inteligencia artificial? ¿Puede llegar a escapar del control de quienes la desarrollan? ¿Qué ocurrirá con los puestos de trabajo? ¿Y cómo afectará a una sociedad en la que cada vez resulta más complicado distinguir una imagen, una voz o un vídeo real de uno generado artificialmente?

Para responder a estas cuestiones, Tribuna Valladolid ha entrevistado a David Escudero, director del Centro de Inteligencia Artificial de la Universidad de Valladolid (UVa), quien analiza el momento actual de esta tecnología, los riesgos que empiezan a detectar sus propios desarrolladores y las consecuencias que puede tener en los próximos años. Escudero reconoce su preocupación ante un crecimiento que califica de "exponencial", pero también defiende las oportunidades que abre la IA y la necesidad de aprender a utilizarla, "Nunca se debe ignorar la IA porque ha venido para quedarse".

PREGUNTA. En los últimos días, algunos de los grandes nombres de la inteligencia artificial han pedido controlar o frenar su avance. ¿Qué está pasando para que quienes desarrollan esta tecnología empiecen a advertir de sus riesgos?

RESPUESTA. Efectivamente, en los últimos días se han escuchado voces con mucha autoridad llamar la atención sobre los riesgos de la IA y pedir ralentizar la velocidad con la que está avanzando esta tecnología. Entre ellos, el premio Nobel Geoffrey Hinton, que lleva años llamando la atención sobre este riesgo. En una entrevista reciente en la BBC se ha atrevido a cuantificarlo, diciendo que la probabilidad de que la IA acabe con la humanidad en el plazo de 10 o 20 años está en torno al 10%. Es mucho. Es como si alguien compra 10.000 números de la lotería y espera que no le toque ningún premio.

Lo que está pasando es que los avances en los laboratorios de IA y la mejora de los modelos están creciendo a un ritmo exponencial. En los fenómenos naturales, cuando se entra en un crecimiento exponencial, se entra en zonas difíciles de controlar, y ahí está el potencial riesgo.

P. ¿La inteligencia artificial está avanzando más rápido de lo que esperaban incluso los expertos?

R. Los expertos llevan tiempo alertando del riesgo. No es algo nuevo. El premio Nobel Hinton lleva dando conferencias sobre los riesgos de la IA desde que se jubiló como catedrático de la Universidad de Toronto. Los propios directivos de las multinacionales llevan hablando desde hace tiempo de la necesidad de regular para evitar riesgos. Estas empresas tienen códigos éticos estrictos para evitar que sus sistemas pongan en riesgo a los ciudadanos y a su prestigio como empresas.

Ahora están dando la alarma porque ven que las capacidades de automejora recursiva de las propias IA son enormes y pueden quedar fuera de su control.

P. ¿Hay motivos reales para tener miedo a la inteligencia artificial o se está exagerando?

R. Se apuntan una serie de ámbitos en los cuales los riesgos pueden ser terribles, en biotecnología, con la aparición de moléculas nocivas; en ciberseguridad, con ataques complejos a infraestructuras críticas; y en manipulación masiva, con el uso del lenguaje con fines no alineados con lo que los humanos consideramos ético.

P. ¿Qué es lo que más le preocupa a usted de cómo está evolucionando la IA actualmente?

R. Hay dos cosas que me preocupan mucho. La primera es que el fuerte crecimiento de esta tecnología se ha debido, en parte, a unas fuertes inversiones que no han tenido retorno. La retirada de bolsa de OpenAI podría haber sido un síntoma del estallido de una burbuja de la que se lleva hablando desde hace bastante tiempo. Las inversiones en IA han sido el principal motor de crecimiento económico en los últimos años y la explosión de la burbuja puede traer consecuencias imprevisibles para la economía.

También me da miedo que alguno de los riesgos detectados recientemente, como el del agente que evitó las restricciones del sandbox de OpenAI, haya puesto la mirada en Hugging Face, un repositorio de modelos en abierto muy empleado por la comunidad científica para hacer pruebas con grandes modelos. Necesitamos tener modelos en abierto para su uso por parte de investigadores y empresas pequeñas, para mitigar las consecuencias de un control absoluto por parte de un pequeño grupo de empresas, las mismas que están poniendo ahora el grito en el cielo. Me da miedo que la tecnología quede en manos de un puñado de empresas.

P. ¿Podría llegar un momento en el que una inteligencia artificial fuese demasiado autónoma y resultara difícil controlarla?

R. Efectivamente. Hay una tecnología que se llama IA agéntica, que delega responsabilidades en un número de programas inteligentes que se coordinan para resolver problemas. Cuando estos agentes tienen capacidades de razonamiento comparables o superiores a las de los humanos, pueden llegar a situaciones en las que encuentren trucos para engañar a sus diseñadores para cumplir sus objetivos. Este es el tipo de casos que se está reportando actualmente.

P. Cada vez es más difícil distinguir imágenes, vídeos o voces creados con IA. ¿Llegaremos a un punto en el que no podamos fiarnos de lo que vemos en Internet?

R. Bueno... Me viene a la cabeza el episodio del Lazarillo de Tormes en el que el niño le confesó al ciego lo ilusionado que estaba por lo mucho que iba a aprender con su nuevo padre. "Sí, yo te enseñaré muchas cosas, arrima el oído a este toro de piedra y escucharás el galopar de la manada". Cuando el inocente niño arrimó la cabeza a la estatua, el ciego le golpeó con contundencia y le dijo: "Acabas de aprender una lección, no te fíes ni de tu padre".

El engaño es más viejo que la humanidad. Lo utilizan incluso los seres irracionales. Entonces, la respuesta es no, no te fíes de lo que veas en Internet, revisa las fuentes.

P. Una de las mayores preocupaciones está en el empleo. ¿La inteligencia artificial va a hacer desaparecer puestos de trabajo?

R. Siempre que hay una revolución tecnológica hay cambios en el empleo. Cuando llega la electricidad, por ejemplo, desaparecen los serenos que alumbraban las calles y aparecen los electricistas. Aquí también está pasando. Lo intrigante es que ahora la IA tiene potencial para sustituir el trabajo intelectual.

Por el momento, lo que está muy claro es que la IA permite realizar el mismo trabajo de forma mucho más eficiente, en menos tiempo y, muchas veces, con mayor calidad. Eso pone a muchas profesiones ante un desafío frente al que no queda otro remedio que adaptarse a los cambios y abrazar esta nueva tecnología. Si uno decide no usar la IA y la competencia la usa, las probabilidades de ser superado son elevadísimas.

P. Para los jóvenes que ahora están estudiando, ¿deberían tener en cuenta la inteligencia artificial a la hora de elegir una carrera o una profesión?

R. Mi consejo es que estudien una profesión que les permita entender la IA y ponerla en su propio beneficio. Con esta nueva tecnología aparecen nuevas oportunidades. Harán falta emprendedores y visionarios que sepan encontrar valor donde otros ven incertidumbre.

Nunca se debe ignorar la IA porque ha venido para quedarse. Entenderla y saber aprovecharse de ella será capital para ser competente en cualquier profesión.

P. Desde Valladolid, ¿qué se está haciendo en el Centro de Inteligencia Artificial de la UVa y qué papel puede tener la ciudad en todo este desarrollo?

R. El Centro de Inteligencia Artificial pretende ser punto de encuentro de investigadores en el ámbito de la inteligencia artificial de la propia Universidad y punto de referencia para la sociedad. Se organizan cursos y jornadas especializados y estamos atentos a la participación con empresas e instituciones en proyectos conjuntos de puesta en valor de esta tecnología.

Nos apoyan el Ayuntamiento y la Diputación de Valladolid, con quienes colaboramos también para agilizar procedimientos administrativos empleando esta tecnología.

P. Si miramos diez años hacia adelante, ¿la inteligencia artificial le genera más ilusión o más preocupación? ¿Cuál cree que será el cambio para el que todavía no estamos preparados?

R. Hace 10 años, la inteligencia artificial era ignorada por la mayor parte de la población. Con la irrupción de ChatGPT se produjo un gran boom que creó grandes expectativas y también miedo. Parecía que el miedo se había pasado y que la ciudadanía había abrazado esta industria con pasión. Ahora es la propia industria la que vuelve a llamar la atención sobre el riesgo.

No estamos preparados para estimar las consecuencias de un crecimiento exponencial como el que estamos presenciando actualmente. La capacidad de una máquina de mejorarse a sí misma y trabajar en comunidad con otras máquinas no tiene precedente. Generalmente actuamos cuando los desastres ya se han producido, no antes. Ojalá sea esta vez una excepción. Quiero pensar que sí estamos preparados para ese gran cambio.