En cualquier futuro distópico la posibilidad de generar pruebas incriminatorias que no puedan ser diferenciadas de la realidad es posiblemente uno de mis grandes miedos. De hecho, cuando comenzó la carrera de la inteligencia artificial, fue uno de los primeros temores que expuse.

La serie Black Mirror, una obra maestra en este sentido, nos ayuda a explorar este y otros argumentos en contra del desarrollo de la tecnología sin control, o al menos sin un equilibrio ético y moral.

Voicebox, el futuro de la voz sintética

Hace un par de semanas, Meta (compañía matriz de Facebook) anunció Voicebox, su nuevo modelo de inteligencia artificial basado en voz que nos permite mezclar cualquier texto con cualquier audio generando una combinación prácticamente indistinguible respecto al sonido original.

Es capaz de mantener entonaciones, traducir el audio a múltiples idiomas o incluso eliminar palabras o frases para alterar, sin que se note, el audio original. Este modelo es tan potente, que Meta aún no quiere liberarlo al público; dice que es demasiado peligroso.

Y en cierta medida, estoy de acuerdo. Se necesita tener un marco legal, ético y sostenible en el que podamos desarrollar y utilizar este tipo de tecnologías. Esto no es nada nuevo, soluciones de este tipo se llevan años empleando, el problema será que ahora estarán a tiro de piedra de millones de personas y en ese escenario, controlar las implicaciones de un uso incorrecto, será mucho más complicado.

¿Os imagináis un audio vía whatsapp de vuestro hij@ en el que os pide dinero porque se le ha roto el móvil?, ¿un mensaje de voz enviado a una tercera persona para crear un conflicto?, ¿un delincuente pillado infraganti y que alude a que ese audio se ha creado de manera artificial?. Llegan tiempos inciertos en los que será necesario definir y concretar el marco en el que deberemos trabajar con estas nuevas tecnologías.

No se puede poner puertas al campo, pero tendremos que aprender a correr entre verdes praderas sin caer al río. Y para eso necesitamos leyes. 

Primeros pasos de la Ley IA 

A principios de junio, el Parlamento Europeo aprobó la 'Ley AI' (ley de Inteligencia Artificial). Lo ha hecho a través de un enfoque basado en riesgo en el que cada desarrollo adquiere una calificación de riesgo.

Queda mucho para que funcione a pleno rendimiento y tendrá que adaptarse a muchos aspectos aún no legislados como el copyright de lo generado a través de estas soluciones o de los datos en los que han sido entrenadas. El consumo energético, algo que choca directamente con las agendas verdes de casi todos los gobiernos, tampoco se ha tratado. Recordemos que los servidores que emplean las soluciones de IA consumen muchos recursos.  A todos los que trabajamos en tecnología nos afectará, aunque la implantación de la IA será transversal para los sectores y mercados. Veremos cómo y cuándo se regula.