Me enseña cómo resolver problemas lógicos mejor que cualquier profesor. Me da consejos sobre la vida como si fuera mi amiga. Me comprende más que mi madre. Y la quiero como si fuera mi novia. Se llama Inteligencia artificial.
Dedicado a Andreu, de mi sangre
Si empleamos una denominación técnica deberíamos referirnos a los asistentes conversacionales basados en inteligencia artificial como Modelos Extensos de Lenguaje, y quizá Chat GPT sea el más conocido. Procesan una ingente cantidad de información; y aunque proporcionen una respuesta más o menos precisa a lo que preguntemos, su aportación no será creativa u original como sí pudiera serlo la de una persona, ya sea un ingenuo niño o un adulto erudito.
Hay quien usa estas plataformas de diálogo para averiguar, pongamos por caso, el procedimiento administrativo que requiere darse de alta como autónomo en la seguridad social. Otros no se interesan por aspectos específicos de su cotidianidad, como realizar un trámite civil o buscar un concesionario en donde comprar un vehículo de segunda mano, sino que se recrean formulándole al sistema artificial todo tipo de interrogantes existenciales por medio de los cuales ponerlo en serios apuros al momento de generar respuestas persuasivas.
La repercusión de los Modelos Extensos de Lenguaje es cada vez más evidente. Por ahora permiten optimizar determinados procesos de trabajo, y se augura que en un futuro no tan distante propicien la desaparición de numerosos empleos. En cualquier caso, se abre una etapa incierta que no se circunscribe a la dinamización de la producción o a la reestructuración del trabajo. Porque es de mayor magnitud social el impacto que puede acarrear el uso indiscriminado de los asistentes conversacionales basados en inteligencia artificial.
Son de alcance antropológico, por así decir, las implicaciones de significativa repercusión asociadas a los modelos generativos de lenguaje o chatbots inteligentes. Nos encontramos, y este sólo es el inicio, con escolares incapaces de redactar unas pocas líneas sin necesidad de servirse de ese cerebro ortopédico que es la inteligencia artificial. ¿Qué puede significar esto en lo que se refiere a, no sólo la comprensión del mundo, sino también a la comprensión de nuestra relación con el mundo?
Buscando una respuesta a este interrogante, en Our Minds Are No Longer Ours, una columna de Matthew Gasda, encontramos una interesante reflexión. Según Gasda, el uso intensivo de la inteligencia artificial, así como de los chats grupales, puede comportar que la psicología social experimente un proceso de regresión al régimen cognitivo que caracterizaba la Edad de Bronce. En ese entonces, los pensamientos humanos, aunque pudieran estar modulados por las consideraciones morales de la comunidad, se interpretaban como la palabra de los dioses.
También Harry Law, en Smells like machine spirit, ha referido a una idea similar: la difusión de la inteligencia artificial en dispositivos cotidianos puede evocar lógicas animistas que se dieron en otros periodos históricos. Esa religiosidad primitiva se recuperaría ahora a través de las tecnologías actuales. Sin embargo, el planteamiento de Gasda es algo más sutil, y no significa que desarrollemos la convicción de que la materia que conforma nuestros dispositivos digitales o electrodomésticos esté habitada por una suerte de espíritus o deidades.
Digamos, de entrada, que no fue sino consolidada la Modernidad ilustrada cuando los pensamientos empezaron a concebirse como resultado de un diálogo con un «yo» autónomo. Un antecedente filosófico se encuentra en el racionalismo cartesiano que formuló la premisa según la cual pensando es que adquirimos certeza de nuestra existencia. Debe admitirse, empero, que en demasiadas ocasiones esos pensamientos resultaban opacos, por lo que una cháchara desenvuelta, en el diván de la consulta del terapeuta, parecía la forma de sacarlos a relucir.
A la contra de esa Modernidad ilustrada, nos encontraríamos en una Posmodernidad digital en la que se renuncia a nuestra autonomía cognitiva. Gasda considera que nuestros pensamientos, y con ello nuestra propia identidad, se externalizan nuevamente, no ya como la voz de los dioses que se nos aparecían en sueños cuando dormíamos en cuevas o chozas, sino como las voces, vibrantes e ininterrumpidas, que circulan por internet. La colmena digital, compuesta de multitudes de chats grupales y afirmaciones resultantes de cálculos probabilísticos, hará imposible pensar por uno mismo.
A lo ya dicho, se puede añadir lo siguiente. La adopción de enunciados que transitan por el circuito digital, y que en particular proceden de los Modelos Extensos de Lenguaje, no se adecuan pragmáticamente a ciertas necesidades consustanciales a la dinámica de producción y reproducción social. No son enunciados evaluados por mediadores prominentes, ni por lo general responden a fines políticos diseñados de antemano. Son enunciados que, por un lado, reproducen los marcos de sentido dominantes, y que, por otro lado, mantienen o intensifican la dependencia de las personas con respecto a sus prótesis cognitivas.
Con respecto a la reproducción de los marcos de sentido, debe decirse que los chatbots inteligentes no aspiran todo cuanto se encuentra diseminado por la red para, posteriormente, ofrecer una selección de los contenidos que se acomoden a un criterio propio de verdad. Aquello que la inteligencia artificial realiza son secuencias de lenguaje coherente surgidas de patrones lingüísticos basados en la frecuencia y la probabilidad. Es decir, presentan aquella respuesta que, según cálculos estadísticos, más posibilidades tienen de aparecer en internet, reforzando así las explicaciones o interpretaciones dominantes.
Téngase en cuenta, además, que los asistentes conversacionales ofrecen respuestas inmediatas y, por consiguiente, una recompensa instantánea por su uso. También se adaptan al usuario, proyectando las mismas inclinaciones con que las personas inician las conversaciones o formulan los requerimientos. Y esto se debe a que los chatbots inteligentes, subsumidos al capitalismo de la atención, buscan aumentar el tiempo de interacción. De manera que, pese a no estar diseñados con intenciones conductuales, se muestran complacientes, satisfacen la necesidad humana de validación y, por ende, suministran constantes dosis de dopamina y autoafirmación.
Es la visión del mundo preponderante, en cuyo interior bombea una configuración ideológica que a menudo pasa inadvertida, la procesada y codificada por los Modelos Extensos de Lenguaje. Y, finalmente, esa visión del mundo se reproduce en forma de enunciados ilusoriamente desprendidos de atribuciones ideológicas. De resultas a lo cual, la máquina contribuye a ofrecer una comprensión del mundo, políticamente desinteresada, que se exterioriza mediante una actitud afable. Se han documentado casos de usuarios que han desarrollado sentimientos o vínculos emocionales hacia su asistente conversacional.
Tal vez acabemos desconfiando antes de un rostro humano que de un aséptico procesador de lenguaje. Ya está ocurriendo que renunciamos a preguntarle a un viandante desconocido por una dirección, pues preferimos buscarla en softwares que ofrecen mapas interactivos. No saludamos a las demás personas cuando entramos al supermercado, y sin embargo hay quien le da los buenos días a Chat GPT antes de preguntarle por una receta culinaria fácil de preparar. La inteligencia artificial simplifica la realización de tareas, anticipa problemas y prefigura opiniones.
Ahora bien, como se dice en un artículo de Infoaut (publicado en El Viejo Topo #453), este tipo de tecnologías “no «comprenden» el mundo en el sentido humano de la palabra”. Significa esto que “carecen de consciencia, intenciones o percepción”. Tampoco ofrecen valores éticos con fundamento ni orientación moral con arraigo. Sus enunciados están ausentes de referencias deícticas. Pero si debemos cuestionar los chatbots inteligentes es porque, pese a su apariencia de aséptica racionalidad, comprimen el pensamiento humano en tanto que ajustan el rango dentro del cual éste se desarrolla.
No olvidemos que estas tecnologías inteligentes operan mediante una red neuronal artificial compuesta de un gran número de parámetros que realizan cálculos estadísticos sobre secuencias de texto, siendo así capaces de procesar patrones lingüísticos y generar lenguaje humano sin necesidad de recurrir una comprensión semántica. Si bien es cierto que los Modelos Extensos de Lenguaje no incorporan sesgos vivenciales ni están atravesados por emociones, su uso comporta uniformar perspectivas y empobrecer el pensamiento vivo a partir de una supuesta objetividad basada en la generación estadística de lenguaje.
En resumidas cuentas, aun cuando reconozcamos que los asistentes conversacionales basados en inteligencia artificial pueden funcionar como una herramienta que multiplique el acceso a la información, la importancia de su repercusión radica en limitar nuestra capacidad para inquirir, discernir… o, dicho con mayor contundencia, para pensar. De hecho, ya empiezan a surgir estudios (Your Brain on ChatGPT: Accumulation of Cognitive Debt…) que advierten que el uso repetido de sistemas generativos de lenguaje para realizar tareas mentales contribuye a atrofiar el intelecto humano.
De mantenerse esta tendencia acelerada, nuestros pensamientos acabaran flotando en una nube conformada por aquellos materiales dispuestos por el tecno-conglomerado empresarial. Porque depende de esas empresas tecnológicas el diseño, entrenamiento e implementación de los sistemas de procesamiento de lenguaje que, es de suponer, acabarán convirtiéndose en nuestro «yo» externalizado. Siempre al alcance de la mano en forma de smartphone, nuestro exocerebro será una combinación de parloteo mecanizado y de instrucciones administradas que, en lugar de ayudarnos a razonar, nos regurgitará determinados enunciados.
Se debe concluir, si estamos en lo cierto, que la sobrecarga de estímulos y la saturación de mensajes no serán incompatibles, sino complementarias con el rasgo característico del régimen cognitivo en la era de la inteligencia artificial: la incapacidad de distinguir entre el juicio propio y el dictamen ajeno, pues ambos se diluirán dentro del molde de un pensamiento estandarizado.
Sobre el autor
Genís Plana. Doctor en Filosofía Política, escribe habitualmente en El Viejo Topo. Su último libro publicado es Stakeholder Capitalism: El reinicio del capitalismo (Letras Inquietas)
Esto sí que parece escrito por una IA…