Chat GPT, Ghibli y por qué es imposible el uso ético de estas herramientas
Hayao Miyazaki dijo famosamente que la IA es una afrenta contra la naturaleza humana, y Sam Altman dijo "hold my beer"
Las herramientas de inteligencia artificial generativa (IAG) funcionan a partir de plagio y robo, no hay forma “matizada” de explicar esto. Pero a mediados de este mes, Sam Altman, CEO de Open AI, terminó de reafirmar esto presentando la “nueva” función de Chat GPT, que permite a sus usuarixs transformar una fotografía en un “retrato inspirado en el arte de Hayao Miyazaki”.
El robo del estilo de estudios Ghibli, una de las casas de animación más estimadas del mundo y con un estilo fácilmente identificable (y, por tanto, replicable), no fue gratuito: Chat GPT ha estado sufriendo una pérdida constante de usuarios en los Estados Unidos y esto pone en riesgo su adquisición de recursos de inversionistas que apuestan (literalmente están apostando) por un crecimiento sostenido de la burbuja de la Inteligencia Artificial Generativa.
Como era de esperarse, la apuesta funcionó y llevamos toda la semana viendo millones de publicaciones en todas las redes sociales utilizando la “herramienta”, con miles de interacciones y, también, con un empuje en contra por la contradicción de utilizar el arte de estudios Ghibli, pero también porque esto transparenta, como muy pocos otros casos, que la apuesta de estas herramientas no es la “democratización” del arte, sino el robo y la precarización sin freno de todo el ramo artístico.
La IAG como máquina de robo: agua, energía, arte, data
En Atlas de la Inteligencia Artificial, Kate Crawford analiza a profundidad el proceso de construcción de estas herramientas desde sus primeras iteraciones, el costo ambiental, laboral y social de lo que produce, y también las narrativas que han permitido que empresas como Google, Microsoft, Amazon y Open AI tengan poca (si es que alguna) crítica seria desde los medios, la academia y la población general.
Estos programas, como apunta Crawford, son el culmen de la lógica predatoria del capitalismo actual: en medio de una crisis climática constante por el hiperconsumo que incentiva el sistema económico, las herramientas de IAG consumen una cantidad de agua para enfriar sus servidores y electricidad que se podría comparar con el consumo anual de países enteros; para seguir produciendo chips y procesadores cada vez más poderosos para poder cumplir las promesas vacías de los dueños de estas empresas, se siguen explotando zonas en conflictos bélicos que han sido señaladas por genocidios, condiciones de esclavitud y trabajo infantil, y, finalmente, el robo de contenido creado por artistas, escritores, diseñadores y demás trabajadores creativos ha llegado a un nivel en el que se empieza a ver ya que los modelos de lenguaje masivos están utilizando contenido generado por IA, pues ya no hay internet suficiente para alimentarlos.
Tiktok failed to load.Enable 3rd party cookies or use another browser
Como múltiples críticxs de las empresas de tecnología han señalado (Zitron, Crawford, Zuboff…), la minería de datos para productos tecnológicos que no hacen más que facilitar la precarización laboral no sólo se hace pensando en estos productos de uso civil: también alimentan la data con la que herramientas del Estado vigilan a su población y fortalecen el sistema de hipervigilancia digital en el que vivimos y que se puede convertir fácilmente en una máquina genocida, como se ha visto desde octubre del 2023 en el genocidio gazatí a manos de compañías tecnológicas cómplices del Estado de Israel.
Constantemente se insiste que “la IA llegó para quedarse” o que es una “innovación” a la par del Internet, la electricidad o la automatización que disparó la Revolución Industrial en el siglo XIX. Mientras, se señala a quienes criticamos la adopción y normalización de su uso por ciertos grupos sociales e industrias como “antiprogreso” o luditas, reafirmando el símil con la Revolución Industrial.
Ya tendré oportunidad de ampliar cómo esta “irrevocabilidad” de las IAG es sólo una falacia de la industria, pero quiero ampliar aquí cómo es urgente que nos demos cuenta quiénes y qué perfiles están empujando la normalización de estas herramientas de robo: cuáles son las personas y los perfiles de redes sociales que acríticamente empujan el uso de estas “herramientas” a través de redes sociales, podcasts y, finalmente, en centros de trabajo, están priorizando la adopción “antes de que sea tarde” en vez de defender puestos laborales, seguridad alimentaria y protección de derechos básicos para la clase creativa.
Resulta hasta cierto punto irónico que personajes que insisten en que es posible construir un “capitalismo consciente” —por mucho que la mera idea de ello sea un oxímoron— sean también parte de este empuje por la adopción de un producto que, como apunta Ed Zitron continuamente en su newsletter, no ha logrado avanzar realmente en los últimos cuatro años. Pero, regresando a Crawford, más que una ironía, es parte del mismo sistema que nos tiene en esta situación: la priorización de nuevas formas de etiquetar un capitalismo predatorio que, finalmente, está siendo el mismo agente de su destrucción.
La IA y la estética del fascismo del s. XXI
En una excelente pieza para New Socialist, Gareth Watkins escribe cómo las imágenes generadas por inteligencia artificial se han convertido no sólo en herramientas de desinformación para la extrema derecha en redes sociales, sino en su propia estética fascista.
Lo que puede ser visto como una crítica a estas imágenes (su falta de verosimilitud, las manos de pesadilla, el estilo como de ensueño/pesadilla, la nula creatividad), es justamente el atractivo para la ultraderecha, escribe Watkins, ya que el que no haya un ser humano “del otro lado” haciendo el arte no es una falla, es el objetivo.
Junto con los millones de posteos de imágenes “de estudios Ghibli” sin alma y con más de 10 dedos siempre, se viralizó la reacción de Hayao Miyazaki a una muestra de herramientas de IA en 2016.
Luego de ver nada menos que un monstruo moviéndose “independientemente” sin un programador codificando cada paso, Miyazaki recuerda a un amigo que, debido a una discapacidad motriz, no puede moverse sin dolor y hasta alzar el brazo le resulta imposible en ocasiones. Luego, dice la frase que ha sido más replicada: “quienes crearon esto no conocen de dolor, no entienden de humanidad. Esto es una afrenta a la naturaleza humana”.
La cámara corta a los ingenieros que presentaron la herramienta que quedaron sin palabra porque —como se ha señalado desde hace una década—, nadie en el equipo que la diseñó pensó en la posibilidad de que se estuviera ridiculizando (aún involuntariamente) a personas con discapacidad.
Desde el siglo XIX, cuando Ada Lovelace creó lo que consideramos los primeros códigos computacionales, se desarrolló una máxima: ninguna máquina puede crear o imaginar más allá de la imaginación y la capacidad humana. Y, con la capacidad humana, viene también los prejuicios y la violencia sistémica e histórica de la sociedad capitalista.
Estos programas no sólo son incapaces de imaginar un mundo libre de estas violencias, sino que se ha demostrado una y otra y otra vez que, al estar entrenados por el Internet, replican las violencias más profundas de las sociedades. Cathy O’Neil, en Weapons of Math Destruction, explica cómo los programas de machine learning utilizados para “agilizar” procesos de contratación, evaluación médica o perfilamiento policial no sólo replican los sesgos misóginos, racistas y abilistas de nuestras sociedades, sino que los magnifican, al convertirlos en reglas fijas y “estándares” que afectan a millones de personas, mientras que benefician a las empresas que los ejecutan y a las que los desarrollan.
La IA generativa, del mismo modo, no “piensa”, “entiende” o “alucina”, son algoritmos complejos que, como explicaba en mi participación en Pulsar, simplemente proponen oraciones o imágenes que, estadísticamente, van “juntas” de acuerdo a millones de puntos de comparación en sus modelos de lenguaje.
La ola de odio y las crecientes victorias electorales de grupos de ultraderecha por todo el mundo ha venido acompañada por la consolidación de herramientas de la industria tecnológica: ya sea el uso masificado de Facebook y Twitter o una campaña de desinformación construida exclusivamente a partir de imágenes generadas por inteligencia artificial.
Esta correlación es causal, es parte de un ejercicio de aislamiento político y económico que desarticula esfuerzos colaborativos y comunitarios de confrontar el odio. Hoy, las principales plataformas digitales están aliadas con el fascismo estadounidense y reducen constantemente el alcance de contenido crítico, mientras que, al mismo tiempo, se inundan de contenido basura generado por IAG cada vez más verosímil.
No estamos en un panorama sencillo, no hay una salida fácil a esto. Pero, al menos, hay una creciente crítica, hay voces que se siguen oponiendo, y sé que encontraremos las formas de resistir.
Esta es la opinión más espantosa que he leído. No hay un mundo en el que la propiedad intelectual sea algo bueno. La humanidad se acerca cada vez más a un derrame cerebral colectivo. Estos dizque artistas piensan que arte es cuando creas algo y rentas de ello. Pobres pendejos.