No llevamos ni tres años desde que el 30 de noviembre de 2022 OpenAI lanzó ChatGPT, pero parece más de un lustro. La velocidad a la que cambian las capacidades de la IA, la Inteligencia Artificial, es apabullante. Y también las formas de usar la más conocida, la IA generativa, que puede perfectamente escribir, resumir, crear imágenes (DALL-E fue anunciada y puesta a disposición por la misma compañía en 2021 y luego le siguieron como Stable Diffusion y MidJourney) y hasta vídeos ultrarrealistas.
La capacidad de las IA generativas ha crecido exponencialmente, y lo que al principio con la creación de imágenes parecía un poco surrealista (quizás por eso la llamaron DALL-E, que en inglés se produncia 'Dalí'), con formas absolutamente demenciales en muchos casos y manos multidedos, se ha ido refinando en estos años hasta llegar al punto de que el ojo humano está empezando a no poder diferenciar lo real de lo artificial. La tecnología ha avanzado tanto que esto está llegando ya al vídeo.
No sólo esto, sino que la IA ya es capaz de componer música, de reproducir las voces de las personas sobre vídeos con avatares basados en su cara que son capaces de adaptar el movimiento de los labios para que parezca real, el 'este no soy yo' con los que muchos de los expertos que divulgan esta tecnología querían mostrar sus capacidades (con toda la buena intención), se puede convertir en un problema serio si se utiliza como deep fake de un político, por ejemplo.
El audio artificial
Los últimos avances preocupante, sobre todo para los divulgadores o podcasters, es la herramienta de inteligencia artificial Google NotebookLM que, enviándole un texto, es capaz de generar un podcast conversacional con dos voces preguntándose cosas sobre el tema, haciéndose pasar por expertos... que no existen: son máquinas. Este es un vídeo en que Carlos Santana, conocido como DotCSV lo muestra... y es de septiembre de 2024.
Y también la traducción simultánea de una voz manteniendo su timbre. Es decir, que puedes escuchar el podcast de Joe Rogan en perfecto español peninsular, lo cual implica que los grandes podcasters pueden ser escuchados en nuestro país... y quitarle espacio a los menos conocidos españoles. Esto podría traer consecuencias en la divulgación histórica de gran calibre, al ser más famosos los programas anglosajones y contar, por ejemplo, la Historia de la que ellos llaman Armada Invencible repleta de sus bulos y opacando las nuevas y valiosas investigaciones españolas que las desmienten (lo mismo con la batalla de Trafalgar). Esto ya lo ha probado Spotify con las voces reales de Led Fridman y Yuval Noah Harari (el historiador autor de Sapiens: de animales a dioses) y, la verdad, hasta asusta.
Canales falsos de Youtube
También van a tener problemas los Youtubers. Esto ya está creando problemas serios en la distribución de la información tanto en las noticias como en los vídeos divulgativos, con mayor incidencia en la Historia, donde ya hay cuentas que generan veinte vídeos al día con imágenes absolutamente ahistóricas, ridículas en algunos casos, y con una enorme cantidad de mentiras. Esto también opaca a los creadores que tardan días en guionizar, grabar y editar sus vídeos.
Podría decirse que las IA son herramientas que ayudarían a los divulgadores españoles a crecer con contenido en inglés con esa traducción automática de la voz y con la sincronización de los labios. Y posiblemente eso es lo que dirán los TecnoBros anglosajones. Pero no es así: todo aquello que suene a español en el mundo anglosajón tiende a no ser creído, mientras que al revés... hasta los propios hablantes hispanos tienden a creérselo mucho más fácil. Es lo que tiene el haber monopolizado el cine y la producción de grandes series de televisión por parte inglesa y estadounidense.
Divulgación científica (e histórica) e información con imágenes falsas
El uso de la IA es ya constante por mucha gente. Con bastante inocencia por su parte en la mayoría de los casos. Y con bastante ambición en otros, como los descritos anteriormente canales falsos de Youtube (destinados exclusivamente a ganar dinero sin importarles lo más mínimo que lo que cuentan sea mínimamente riguroso).
Recientemente he podido observar en algunas presentaciones de divulgadores científicos el uso de imágenes generadas por IA, como si fueran para hacer bonito. Muchas lo son, porque incluso se usan para contar una historia sobre la que se arma la divulgación del tema en concreto, algunos de ellos muy complejos de explicar sin un apoyo visual. Pero el problema es cuando el ojo entrenado en esto de la IA observa que se usan imágenes ultrarrealistas generadas por esta tecnología para ello (y el público asistente no las diferencia o no le da importancia). Y la pregunta es... ¿Es lícito divulgar ciencia con imágenes falsas? Ya no es que sean dibujitos o ilustraciones (que también plantea problemas éticos), sino que son imágenes realistas de... ¿Pacientes en hospitales?
Imagen de IA
Puede parecer tiquismiquis protestar por el uso de estas imágenes para una mera presentación realizada de forma inocente, pero si esta circunstancia se lleva a la divulgación histórica –en la que se muestran recreaciones de Roma que no se sostienen ante la realidad histórica, pero que pasan como reales para el ojo poco o nada entrenado, que se come un bulo visual–, precisamente el espectador se pueden observar las costuras éticas de la situación. ¿Se puede divulgar correctamente mostrando imágenes falsas indistinguibles de la realidad?
¿Y qué pasa con los ilustradores humanos?
Luego está el problema de que estas imágenes de IA acaban con el trabajo de los ilustradores. Más cuando para entrenar a estas máquinas las grandes empresas lo han hecho con sus creaciones. El caso más sangrante que se ha podido comprobar es la cantidad de personas que comenzaron a utilizar la nueva herramienta de Chat GPT para crear imágenes Estilo Gibhli, con el consecuente espanto del genio Miyazaki (conocido por crear maravillosas películas de animación a mano, no con ordenadores), que lo considera "un robo y una aberración", mientras la gente se divertía con ello y algunos llegaron a protestar porque se enfadara "ya que es en esencia un homenaje a su arte".
Una burda excusa para no reconocer que tiene razón, y que los que consiguen beneficios con su peculiar estilo son las grandes empresas de IA.
¿Pero y un ilustrador o dibujante de cómic más humilde? Pues lo tiene mucho peor, ya que ha perdido muchos encargos, sobre todo de las editoriales que ahorrando dinero publican las portadas de sus libros con Inteligencia Artificial (con la consecuencia de que mucha gente comienza a descartar su compra en el momento en que lo detecta).Y no digamos de la pérdida de la posibilidad de acudir a concursos de carteles de fiestas de los Ayuntamientos, que usan esta herramienta cada vez más. Con resultados tan polémicos como el último cartel de la promoción de la Fiesta del Lunes de Aguas de Salamanca que se puede ver aquí debajo.
Imagen de IA
En todo caso, teniendo en cuenta lo perjudicial que resulta para los ilustradores, hay que plantearse un uso ético cuando hay dinero de por medio. Pero también hay que tener en cuenta que mucha gente nunca jamás podrá permitirse contratar uno y que si no hace negocio con ello se podría decir que no pierden el negocio que nunca tuvieron. Esto, que es cierto, crea algunas disquisiciones éticas que habrá que afrontar en otra entrada de este blog.
Barreras del uso de la IA
Una cosa en la que nadie piensa es en que la divulgación más exitosa... es la que más dinero invierte en su producción. Es decir, la que mejor financiada está de salida. Por tanto, aquellos que destinen más recursos y personal para realizar prompts destinados a crear imágenes falsas, –pero realistas como esas Granjas de Vídeos de IA que están empezando a copar YouTube– tendrán más ventajas a la hora de imponer su relato interesado por encima de la verdad.
Ya existían granjas de Fake News, no es nada nuevo, pero el que dispongan de herramientas que validen con imágenes falsas ultrarrealistas y vídeos deep fake, y que las noticias las hagan las máquinas les permiten destinar a los hasta ahora redactores a más labores de desinformación. Aparte de ahorrarse redactores, si los forman en cómo generar mentiras con la IA, tendrán la oportunidad de gastar su dinero en ampliar su capacidad multimedia para colocar mensajes muy peligrosos para la Sociedad.
Sí es cierto que el creador de contenido puede aprovechar algunas de estas herramientas para limpiar los audios, o resumir sus vídeos largos en pequeños shorts, pero de lo que no pueden disponer es del tiempo para aprender a hacerlo, o incluso para generar los suficientes prompts para crear un contenido de calidad y riguroso (ya que hay que revisarlos bien y volver a empezar). Aquellos que tienen una plantilla dedicada a estas cosas –es decir, dinero– los pueden arrasar y condenar a las segundas o terceras páginas de búsqueda: lo cual es la muerte en internet.
Esto, sin hablar de las consecuencias de la búsqueda generativa de IA en Google, que ya ha llegado a los 1.500 millones de usuarios (con lo cual está madura para incluir publicidad) y cuyas consecuencias es que la gente deje de hacer clic en los enlaces.
¿Pero qué me cuentas a mí si no hago dinero con lo que hago?
Muchos de los que están leyendo esto estarán indignados (o se mostrarán así de forma hipócrita) porque si ellos no hacen dinero con todo esto. En primer lugar, muchos de los que puedan contestar a estas acusaciones de falta de ética... lo harán porque se les descubre el pastel de ganar dinero engañando a los demás. En segundo, aunque no lo hagan ganando dinero (posiblemente porque no sepan cómo hacerlo en internet), o incluso porque lo hagan de forma lúdica o inocente, hay que decirles que lo hacen por un beneficio personal inmaterial: por ganar relevancia, porque les aplaudan y por los likes.
Es decir, que se están beneficiando de ello de alguna u otra forma. Al igual que muchos que plagian los textos, o hacen copias y pegas infinitos de artículos en Facebook que consiguen miles de me gustas y luego ponen el grito en el cielo cuando el autor les dice que le han plagiado y sin nombrarle ni enlazarle (precisamente copian y pegan el texto para quedarse aparentemente la autoría cuando con poner un simple enlace valdría, pero así evitan que se lea en medios de los que que llegan a decir que sólo quieren ganar dinero y con toda su cara se excusan diciendo que así la cultura es gratuita), o lo insultan o lo bloquean.
O los hilos de tuits plagiados directamente, o los que antes traducían de páginas o blogs de otros idiomas (y que ahora hace la IA automáticamente) sin dar referencias o enlazar. Plagios que corren por todos los lados y que sólo pueden mostrar que aquel que dice que como no hace dinero no se le puede criticar, es un miserable ladrón de contenido. Pero como sale beneficiado de ello, sea con dinero o relevancia que le puede permitir ser famoso y por ese camino ser contratado incluso en televisiones o para hablar en radio, se rasgarán las vestiduras asegurando que se les ataca sin motivo.
Plagiar es robar, usar mal la IA para generar relevancia a tu contenido es mentir. Ganes dinero o no.
La IA ha venido para quedarse: necesitamos unas normas éticas
¿Esto significa que hay que demonizar el uso de la IA? No. Porque ya están aquí y se van a quedar. Es imposible no dar una herramienta a un humano y que no la use. Otra cosa es que la use mal: un cuchillo para cortar chorizo puede ser usado para apuñalar a alguien con terribles consecuencias; pero no se hace por una cuestión ética.
Es decir, que no va a quedar más remedio que compartir espacio con este tipo de herramientas de Inteligencia Artificial –que también se puede denominar 'Tontuna Automática'–, o más bien luchar contra el que van a quitar a divulgadores y medios de comunicación. Para ello será fundamental crear comunidades en torno a los creadores e informadores que sepan que detrás de lo que ven hay un ser humano que ofrece contenido confiable y riguroso en la que no se la van a colar. Es lo de siempre: la credibilidad es la clave.
Pero eso está reservado a unos pocos. Y es mucho más fácil mentir que trabajar con rigor, ecuanimidad, honestidad y honradez. La lucha de siempre, pero esta vez contra máquinas y humanos usándolas para oscuros intereses, conseguir relevancia social... o ganar dinero a espuertas engañando incautos.
En todo caso, las herramientas de IA son interesantes para ahorrar tiempo en procesos automáticos y en investigación especializada. Siempre que controles los datos y seas experto en el tema, ya que no es nada recomendable que se use para algo que no se controle, porque no detectarás los variados fallos y burdos errores que generan al ser un sistema estadístico que se alimenta de internet, lleno de bulos y mentiras. A los periodistas pueden ayudarles a extraer información del big data, inalcanzable para el ser humano y, posiblemente, a cambiar el chip buscando verdaderas historias humanas que no estén en internet, sino en la vida real, para impactar en sus lectores.
También es cierto que las IA aprenden como lo hicimos los humanos, copiando a otros, leyendo a otros e imitando a otros, con lo cual se podría decir que todo esto de preguntarse por la ética de su uso es una rabieta ya que es el proceso natural de aprendizaje. La diferencia es que pueden con un humano por avalancha, y los más adinerados (o países extranjeros) pueden usarlas para oscuros intereses. Y que usarlas sin criterio significa ahorrarse el aprendizaje y generar nuevos estilos (cosa que ocurre cuando el propio ser humano se cansa de copiar simplemente, cosa que la máquina nunca hará porque está programada para eso), haciendo trampas siendo un mediocre y un vago.
Y quizás, si la gente se cansa de este tipo de contenido artificial por avalancha, o los propios ricos se dan cuenta de que lo fetén es lo real y no lo que sale en una pantalla cuando seamos incapaces de discernir realidad de lo falso, vuelvan a pagar mucho dinero por lo analógico y hecho a mano, con lo cual se compense la debacle que ahora pueden estar sufriendo los ilustradores. No hay que olvidar que cuando los móviles incorporaron cámaras, los fotógrafos se echaron las manos a la cabeza pensando que se había acabado su profesión: y a día de hoy hay más estudios fotográficos que nunca. Se consiguieron reinventar porque la mente humana es, para crear cosas nuevas, más poderosa que las máquinas porque tiene algo que ellas no poseen: sentimientos.
Y también se puede usar las IA de forma ética. Aquí dispongo unas sugerencias para no convertirlas en armas de desinformación masiva.
- Siempre que uses una imagen de IA, indícalo. Sé honesto, no metas imágenes generadas por una máquina sin contárselo a quien va a verlas, si es con una marca de agua visible, mejor que mejor. No sólo evitarás mentirles innecesariamente sino que al indicarlo te darás cuenta de que igual en ese caso es mejor no hacerlo. Es necesario citar la procedencia y la autoría de lo que muestras. No sólo de los textos.
- Sé respetuoso con los derechos de autor. Si no robas fotos (que no deberías), no deberías hacer imágenes con el estilo de un artista porque te gusta más que otro. De hecho deberías preguntarte cuántas imágenes de IA generadas como ilustración se han entrenado robando la forma de dibujar de autores reales que aún conservan esos derechos. Quizás animar o mejorar imágenes sin derechos de autor (cuadros antiguos, estatuas, relieves, miniaturas medievales) pueda ser una solución más válida, pero siempre teniendo en cuenta de que las IA generativas se han entrenado con el trabajo de otros. Y siempre avisando de que son IA, de qué obra artística sin derechos has animado o redibujado o mejorado la imagen y el motivo por qué lo haces.
- No uses imágenes falsas para divulgación científica o histórica. Es bastante fácil de entender, si quieres divulgar con rigor te has de basar en la verdad, y a veces es cierto que no es fácil de explicar conceptos complejos, pero usar este tipo de ilustraciones en tus presentaciones o vídeos sin un motivo claro y sin avisar es usar elementos que no son reales; que son en esencia mentira. Parece inocente en algunos casos, pero no lo es. De alguna forma estás mintiendo. Tenlo en cuenta.
- No uses la IA de forma directa para hacer noticias, siempre con supervisión humana. Esto es importante si eres periodista. Es cierto que puede haber informaciones como las del Tiempo o los problemas de tráfico de la Red de Carreteras, que son repetitivas y sólo hacen perder el tiempo al redactor, en las que las inteligencias artificiales pueden ser unas grandes aliadas. Pero no pueden publicarse directamente, hay que comprobar lo que escriben y sólo un editor humano puede darles de paso. Son como corresponsales que hay que editar. Siempre.
- Evita usarlas para crear contenidos por molar delante de los demás contando una historia. Esto es evidente que tiene una falta de ética notable: aprovecharte de una máquina para aprovecharte de la confianza de los demás.
- No las uses para plagiar. Esto se debería explicar solo.
- No hagas dinero con ellas sin indicar que las estás usando. Es evidente que mucha gente jamás dirá que las usa. Y la explicación de por qué no lo reconoce es tan lógica que la estás pensando ahora mismo. El uso de la IA para portadas de libros es parte de esta lamentable práctica.
- No uses la IA para informar o divulgar de un tema que no controlas. Las IA están diseñadas para contestar de forma estadística, y también para dar la razón siempre al ser humano. Si la usas para explicar algo que no conoces bien, no te darás cuenta de la cantidad de burradas que va a colarte a ti, y lo que es peor, a tus lectores. Eso desplomará tu prestigio y credibilidad.
- No uses la IA de forma anónima. No deberías divulgar o informar sin dar la cara. Si ya tiene ciertas cuestiones éticas el dar noticias o hacer vídeos sin hacerte responsable de lo que se cuenta. Usar máquinas a lo loco sin avisar puede tener algunas muchas peores. En cuestiones de Salud puedes hasta llegar a matar a alguien. Ojo.
- Ten en cuenta las consecuencias de usar sin pensar la IA. Espero que al haber leído esta entrada hayas conseguido ser un poco más consciente de cómo el mal uso de la IA (incluso el que no pensabas) tiene unas consecuencias muy poco edificantes en algunos casos como el anterior.
COROLARIO: Piensa dos veces a la hora de usar la IA. Sobre todo qué sentirías si te lo hicieran a ti. Si la usaran con tu contenido o creatividad o tu especialidad de conocimiento y vieras que han colado a la gente una mierda como un piano o una imagen en la que está TODO MAL.
