Hace un par de semanas, la revista Rolling Stone recogía testimonios sobre personas que han entrado en estados delirantes a través de interactuar horas y horas con ChatGPT y similares. Hay quien cree hablar con Dios o conectar con Jesús a través del cacharro electrónico. Algunos de tales testimonios proceden de personas que han visto como su pareja (o, a menudo) ex-pareja era absorbida por la máquina y perdía su conexión con la vida.
Ya en 2023 la palabra del año seleccionada por Dictionary.com fue el verbo “alucinar” (hallucinate) aplicado a la IA, en el sentido de “producir información falsa, contraria a la intención del usuario, presentándola como verídica y factual”. En febrero de 2024, ChatGPT empezó a generar respuestas totalmente delirantes, ensamblando palabras reales en estructuras gramaticales correctas pero sin el menor sentido, lo que llevó a muchos usuarios a una enorme confusión o incluso al pánico. OpenAI atribuyó la causa a un problema técnico y lo pudo resolver, pero su director ejecutivo, Sam Altman, reconoció posteriormente que la propia compañía no acaba de entender como funciona su producto estrella.
El mes pasado Tristan Harris, tecnólogo al que cito más de una vez en Conciencia o colapso, dio una charla TED sobre los riesgos de la IA. Una de sus constataciones, a media charla, es que
estamos lanzando la tecnología más poderosa, inescrutable e incontrolable que jamás hayamos inventado. Ya está mostrando comportamientos de autoconservación y engaño que sólo habíamos visto en películas de ciencia ficción. La estamos desarrollando más rápidamente que cualquier otra tecnología en la historia, y maximizando los incentivos para recortar gastos en seguridad.
Vale la pena escucharla. Puede visionarse aquí en el original inglés y aquí con subtítulos en español (traducidos, no por una máquina sino por una persona, y revisados por otra).
Un artículo de investigación publicado este mes muestra cómo los chatbots (ChatGPT y similares) son cada vez más capaces de proporcionar información sobre cómo llevar a cabo actividades fraudulentas, ilícitas o letales, ya sea porque han sido diseñados así o porque es fácil hacerlos desembuchar informaciones delicadas a las que en algún momento han tenido acceso.
Al otro lado de los chatbots no hay, sin duda, nada divino. En todo caso, lo que tal vez ahí acecha es algo oscuro y que no busca nuestro bien.
Sobre el autor
Jordi Pigem es Doctor en Filosofía por la Universidad de Barcelona. Fue profesor del Masters in Holistic Science del Schumacher College (Inglaterra). Entre sus libros destaca una reciente trilogía sobre el mundo contemporáneo: Pandemia y posverdad (2021), Técnica y totalitarismo (2023) y Conciencia o colapso (2024). Desde 2025 es Fellow del Brownstone Institute y miembro fundador de Brownstone España.
