30 de agosto: Leo en una publicación de la Oficina Europea de la Propiedad Intelectual (EUIPO) que se estima que para 2026 hasta el 90%de los contenidos en línea puedan ser generados artificialmente. “Su impacto en la privacidad y la seguridad personal dará lugar sin duda a nuevas categorías de delitos que habrá que vigilar. Además, dado que las fotografías y los vídeos son importantes como pruebas, que estos materiales puedan generarse artificialmente supone un reto”.
4 de septiembre: Me dispongo a desayunar. Abro un tetrabrick de leche, al que le quedan aún dos meses para alcanzar la fecha de caducidad y está perfectamente cerrado. Aún así, siento la necesidad de oler su contenido antes de servirlo en mi taza. Me sorprende haber adquirido ya este gesto de desconfianza (¿estará bueno este alimento, aunque está sin abrir y no se ha alcanzado la fecha de caducidad?) y haberlo trasladado tan pronto del ámbito digital al físico. En este momento entiendo que mi “síndrome de la leche cortada” lo vamos a experimentar con cada contenido que encontremos en internet, con cada noticia, cada vídeo, audio o imagen. Nos va a tocar vivir en un estado de desconfianza sistemática, en el que nadie tendrá seguridad total de qué es real, qué es falso o quién (o qué) hizo las canciones que estemos escuchando, los textos que estemos leyendo o las imágenes que estemos creyendo ver. Me pregunto qué tipo de problemas de salud mental personales y colectivos sufriremos en el futuro. Creo que debemos prepararnos para afrontar niveles de estrés desconocidos.
6 de septiembre: Leo una entrevista con Ramón López de Mántaras, fundador del Instituto de Investigación de Inteligencia Artificial del CSIC. El periodista Jordi Pérez Colomé le pregunta si la información falsa que genera la IA puede a su vez alimentar futuros modelos de IA. El científico responde: “Sí, lo que generan son inputspara otros modelos de lenguaje que a su vez aprenderán. Eso hará bola de nieve. Se multiplicarán las falsedades que generan. De aquí a dos o tres años, ya no habrá una mayoría de cosas veraces en internet. Como ya estaremos contaminados por los resultados de los modelos que tenemos ahora, llegará un momento en que casi todo lo que haya en internet será falso, se comerá la parte humana que hemos hecho hasta ahora”.
A la pregunta de si los modelos no se entrenan con parte del contenido de la versión anterior, responde: “No. ChatGPT-5 lo entrenarán desde cero. No cogerán el ChatGPT-4 y lo entrenarán. No es incremental. No pueden retocar fácilmente lo que hay. Ya GPT-4 fue entrenado al margen de los anteriores, 100 millones de dólares les costó. GPT-5 no creo que ni lo entrenen, no creo que veamos un ChatGPT-5. Pero si llegara, esos 100 millones de dólares igual serían 1.000 millones, solo de entrenamiento, aparte del consumo energético que sería brutal. Aunque OpenAI u otra empresa lo haga, el material de entrenamiento no será fiable porque mucho ya habrá sido generado por versiones previas. Todo colapsará.”
13 de septiembre: Llamo a mi madre para aleccionarla sobre la estafa mediante llamadas que imitan la voz de una familiar. Establecemos unas palabras clave para situaciones de emergencia que sólo ella y yo sepamos, para que ella pueda identificar una estafa mediante voz simulada.
15 de septiembre: a través del Twitter (perdón, X) del periodista Mario Escribano, y gracias a que me lo comparte el artista Luis Demano, me entero de que “las comunidades de fans de algunos artistas se están llenando de gente que asegura tener demos y canciones inéditas. Piden cientos de euros por ellas, pero el problema es que nadie sabe si son reales o generadas por IA”. Así comenta Mario esta noticia.
Lo retuiteo (¿se sigue diciendo así?) con un comentario acerca de la desconfianza sistemática sobre la que llevo reflexionando un tiempo, y me encuentro con respuestas tan lúcidas como la de Albano Cruz (aka Naikodemus), que comparte conmigo la grabación del seminario Deepfakes: ficción, política y algoritmos.
Me dice: “estamos dinamitando el valor del testimonio y la confianza. […] De fondo una cuestión fundamental. El fake elimina la presencia humana y su testimonio. Y si algo aúna ambas con pretensión universal es el arte. Y dentro del arte más aún la que no puede retenerse, la que obliga a estar ahí… la música”.
Alguien (@UnaiEch) me pregunta si lo que acabo de comentar lo pienso en serio. Me veo impelida a compartir este extracto de mi diario personal.
Me dice textualmente: “me sorprende siempre que la gente le suponga tanta importancia [sic]a la IA en todo lo que nos pueda afectar. Se ha visto con lo del metaverso que al final ha quedado en un churro y se verá en esto otro, que si [sic], será una herramienta más pero ¿y?…”
Ojalá tenga razón.