Dossier:
INTELIGENCIA ARTIFICIAL
La alucinación por la novedad tecnocientífica
EX Machina, film de Alex Garland (2014)
Osvaldo Picardo
Índice
... confrontando las promesas de salvación del mundo y la sociedad a través de la bendición de la IA, con el actual estado de cosas en “la etapa tecno-necro del capitalismo, en esa realidad de poder y riqueza hiperconcentrados, donde la IA, lejos de estar a la altura de todas estas alucinaciones utópicas de salvación del mundo y la sociedad, es mucho más probable que se convierta en una temible herramienta de mayor despojo y expolio”...
... “las empresas más ricas de la historia (Microsoft, Apple, Google, Meta, Amazon...) se apropian unilateralmente de la suma total del conocimiento humano que existe en forma digital y desechable y lo guardan dentro de productos patentados”… “Esto no debería ser legal”...“¿Por qué, por ejemplo, debería permitirse a una empresa con fines de lucro introducir pinturas, dibujos y fotografías de artistas vivos en un programa como Stable Diffusion o Dall-E 2 para que luego pueda usarse para generar versiones dobles de esos mismos artistas?”
Suenan muchas voces de alarma o entusiasmo que imaginan la inteligencia artificial como un solo y único ente rigiendo gobiernos, ciencias, vida cotidiana y artes. No son pocos los que advierten los peligros. No son pocos los que anuncian los prodigios.
Mucho antes que el bien conocido Elon Musk y el menos mediático cofundador de Apple, Steve Wozniak, advirtieran del riesgo futuro en medio de tantas otras tantas batallas empresariales, Stephen Hawking, en 2014, dijo algo que vienen repitiendo los unos y los otros, tirios y troyanos, apocalípticos e integrados. Hawking advertía en una entrevista que "el desarrollo de una completa inteligencia artificial (IA) podría traducirse en el fin de la raza humana". Pero creo que no quería decir ni textual ni aproximadamente lo que muchos le hacen decir cuando lo citan.
Él padecía de esclerosis lateral amiotrófica (ELA) y utilizaba un sistema avanzado de comunicación. Recuerdo todavía su voz metálica, a través de una computadora que diseñó para poder expresarse y seguir dando clases, conferencias y entrevistas televisivas. Pude enterarme que el último programa que utilizó fue de la compañía Intel con tecnología SwiftKey, una empresa de inteligencia artificial fundada en 2008 por ex alumnos de la Universidad de Cambridge y que la empresa, en 2016, fue comprada por Microsoft. Es evidente que, cuando Hawking dio la entrevista a la BBC, le preocupaba algo distinto de lo que les preocupa a los que hoy lo citan. Como vemos, la inteligencia artificial potenciaba ya por entonces, herramientas educativas y de comunicación destinadas a personas con necesidades especiales y personas mayores.
Me parece, entonces, que la respuesta la tenemos que ir a buscar en otro lado.
Martín Heidegger, el discutido filósofo alemán, no dejó sin pensar el mundo tecnológico que se anunciaba en su conflictiva época, ya finalizada la II Guerra Mundial. Hay una famosa conferencia de 1954 que llamó “La pregunta sobre la técnica”. Su preocupación se ceñía a la negación de lo esencial que provocaba la pura apariencia con que la técnica revestía la vida cotidiana. Decía que “lo que amenaza al hombre no viene en primer lugar de los efectos mortales de las máquinas y los aparatos de la técnica. La auténtica amenaza ha abordado ya al hombre en su esencia”.
Voy a correr el riesgo de hacerlo más simple, aunque menos preciso: advertía que el dominio de la tecnología amenazaba con la posibilidad de que al ser humano le sea escondida y oscurecida la experiencia originaria de la verdad. Es decir, el problema no es la tecnología en sí, sino el porqué y el para qué de la tecnología. Sus consecuencias son proporcionales al uso y la razón de ser.
De otra manera pero muy cerca de lo mismo, a mediados del Siglo XIX, también otro alemán, un poeta llamado Heinrich Heine viajó a Manchester y comentó que cada vez las máquinas le impresionaban más como seres humanos, mientras que los seres humanos cada vez más se parecían a máquinas. Eran muchos los escritores y pensadores que advirtieron sin conocer la IA, que la revolución industrial producía a gran escala una automatización de la vida humana y una profunda colonización de la voluntad y decisión política y cultural. Con el paso de los siglos, el humano se dio cuenta de que la tecnología podía brindarle grandes herramientas y se fue cambiando, por ejemplo, a los caballos por automóviles, así como los brazos-robots, luego, sustituyeron a los obreros y construyeron nuevos y sofisticados modelos de automóviles. Ninguno de estos cambios se dio aislado ni dejó de producir consecuencias económicas, políticas y culturales en la vida cotidiana de la sociedad.
En estos días en que -de manera entusiasta o alarmista- se da a publicidad la inteligencia artificial, no es inútil recordar que discusiones viejas y olvidadas aún pueden iluminar el confuso panorama que reina en las redes sociales y entre los fans tecnológicos, los docentes, los políticos, escritores y muchos otros referentes de la sociedad.
En su “Elogio de la ociosidad” (1932), Bertrand Russell critica con razón innegable el sistema social en que la tecnificación crea miseria en lugar de crear ocio y abundancia. Recuerda que durante la I Guerra mundial la ciencia y la tecnología posibilitó mantener y superar el nivel industrial de producción con menos trabajadores, pero nunca redujo ni la cantidad de horas ni mejoraron las condiciones para el trabajador. “En lugar de eso, fue restablecido el antiguo caos: aquellos cuyo trabajo era necesario fueron obligados a trabajar largas horas, y al resto se lo dejó morir de hambre por desempleo”. Russell no es un pesimista. Cree en el progreso científico, pero plantea un problema filosófico que el sistema social no se plantea abiertamente: ¿Para qué queremos tecnología si con ella no somos capaces de generar las condiciones para sentir “la alegría de vivir, en lugar de nervios crispados, cansancio y dispepsia”?
Todo parece indicar que la inteligencia artificial nos promete reconciliarnos felizmente con un progreso posthumano.
No me lo puedo terminar de creer.
Hace poco leí un artículo de Noemí Klein en The Guardian (8 Mayo, 2023). Se titula algo así como: Las máquinas de IA no están "alucinando". Pero sus creadores, sí.
¿Qué quiere decir la escritora canadiense con eso de “alucinar”? Es cierto que hay una invasión de neologismos y anglisismos que acompaña la inteligencia artificial. Pero, esto, para mí, fue totalmente nuevo y confuso hasta leerla. Por eso mismo, busqué en el más antiguo diccionario de mi casa la palabra alucinación y, luego, por supuesto, en el buscador inteligente de Google.
“Alucinación” se dice cuando los chatbots (y las personas) ven lo que no está ahí. Este es el término que los ingenieros y promotores de la IA generativa han elegido para caracterizar las respuestas proporcionadas por los chatbots que están enteramente manipulados o son completamente incorrectos. Es decir, nos mienten, fingen saber lo que no saben. Klein remata con esta cita: “Nadie en el campo de investigación ha resuelto aún los problemas de las alucinaciones”, dijo Sundar Pich, director ejecutivo de Google y Alphabet, a un entrevistador recientemente”.
La autora de ‘No Logo’ y ‘La doctrina del shock’ afirma que los directores ejecutivos e ingenieros quieren que creamos que la IA generativa beneficiará a la humanidad. “Ellos mismos se engañan”. Y se pregunta “¿por qué llamar a los errores "alucinaciones"? ¿Por qué no basura algorítmica? ¿O fallas? Bueno, la alucinación se refiere a la misteriosa capacidad del cerebro humano para percibir fenómenos que no están presentes, al menos no en términos materialistas convencionales. Al apropiarse de una palabra comúnmente utilizada en psicología, psicodélicos y diversas formas de misticismo, los promotores de la IA, al tiempo que reconocen la falibilidad de sus máquinas, al mismo tiempo alimentan la mitología más preciada del sector: que al construir estos grandes modelos de lenguaje y entrenarlos en todo lo que los humanos hemos escrito, dicho y representado visualmente, ellos están en el proceso de dar a luz una inteligencia animada a punto de provocar un salto evolutivo para nuestra especie”...
Klein sigue desarrollando su idea, no sin ironías razonablemente críticas, confrontando las promesas de salvación del mundo y la sociedad a través de la bendición de la IA, con el actual estado de cosas en “la etapa tecno-necro del capitalismo, en esa realidad de poder y riqueza hiperconcentrados, donde la IA, lejos de estar a la altura de todas estas alucinaciones utópicas de salvación del mundo y la sociedad, es mucho más probable que se convierta en una temible herramienta de mayor despojo y expolio”. No se queda ahí, sino que explica porqué cree que será así. Primero señala que “las empresas más ricas de la historia (Microsoft, Apple, Google, Meta, Amazon...) se apropian unilateralmente de la suma total del conocimiento humano que existe en forma digital y desechable y lo guardan dentro de productos patentados”… “Esto no debería ser legal”. Y pregunta: “¿Por qué, por ejemplo, debería permitirse a una empresa con fines de lucro introducir pinturas, dibujos y fotografías de artistas vivos en un programa como Stable Diffusion o Dall-E 2 para que luego pueda usarse para generar versiones dobles de esos mismos artistas?”
Otra de las razones de Klein para no creerse las alucinaciones utópicas, se basa en una cuestión sumamente delicada: la inteligencia de la máquina sobre la inteligencia humana. Dice con ironía : “de alguna manera necesitamos que las máquinas piensen por nosotros. Porque hacer lo que la crisis climática exige, dejaría inutilizados billones de dólares en activos de combustibles fósiles, al tiempo que desafiaría el modelo de crecimiento basado en el consumo. La crisis climática no es, de hecho, un misterio o un acertijo que aún no hayamos resuelto. Sabemos lo que se necesitaría, pero no es una solución rápida, es un cambio de paradigma. Esperar a que las máquinas escupan una respuesta más apetecible y/o rentable no es una solución para esta crisis, es un síntoma más de ella”. Klein subraya así un grave prejuicio tecnocapitalista que también ha señalado con gran claridad el filósofo francés Éric Sadin. Me refiero al complejo de inferioridad en que fue educado un gran sector de la ciencia y la tecnología, así como un amplio sector de la población mundial. Esa especie de "santificación de la tecnología" que deja de ser un medio capaz de transformar en algo mejor las condiciones existenciales y los derechos del ser humano. Lo señalaba la también francesa psicoanalista Matilde Niel: “los objetos que crea la tecnología –cuyo proceso no es entendido por los consumidores- asumieron un carácter misterioso, son los objetos de un nuevo culto… El culto moderno de lo novedoso, sustentado por la publicidad, permite que el individuo se evada, a través de sus deseo, de un presente desprovisto de significado”.
Hay un tercer factor, no menos importante, aclara Klein, refiriéndose a la abundancia de falsificaciones y repeticiones y alude a Geoffrey Hinton, que hace poco renunció a un puesto de alto nivel en Google para advertir sobre “los riesgos de la tecnología que ayudó a crear, incluido, como le dijo al New York Times, el riesgo de que las personas "ya no puedan saber qué es verdad".
¿No es, en suma, esto mismo el peligro que planteaba Heidegger en su “Pregunta sobre la técnica”?
No hay duda de que la proliferación de falsificaciones profundas estará acompañada por un aumento exponencial de maneras de hablar y pensar, de educar y decidir. “Entonces, ¿qué diferencia habrá si la IA genera avances tecnológicos y científicos? Si el tejido de la realidad compartida se está deshaciendo en nuestras manos, nos encontraremos incapaces de responder con coherencia alguna”.
Mi abuela repetía, aveces con razón y otras sin ella, que subirse a todos los trenes, era la mejor manera de no llegar a ningún lado. El tren de la IA ha partido. Yo, recordando a mi abuela, lo miro partir y me quedo leyendo un viejo libro de poesía.