top of page

Efecto ChatGPT

Por: Rafael Morales Gamboa, X: @rafafallo 


La Inteligencia Artificial (IA) es una disciplina fundada a mediados del siglo pasado y que desde entonces ha capturado una y otra vez la imaginación de generaciones de seres humanos, mitad entusiasmados y mitad temerosos ante la posibilidad de que sea posible crear —no procrear— seres inteligentes a partir de materiales artificiales como bulbos, transistores, circuitos integrados, microprocesadores (gráficos) y, más recientemente, computadoras cuánticas. A lo largo de su historia, la IA ha inflado expectativas, generado desilusiones y logrado avances siguiendo la curva de las expectativas infladas de Gardner.


A mediados de la década de los sesenta del siglo pasado, Joseph Weizenbaum creo el programa ELIZA, capaz de procesar y generar texto en inglés de tal modo que daba la impresión de mantener una conversación cómo si fuera un sesión terapéutica con un psicólogo:

MUJER JOVEN: Los hombres son todos iguales.
ELIZA: ¿De qué manera?
MUJER JOVEN: Siempre nos están fastidiando por alguna cosa en concreto.
ELIZA: ¿Puedes pensar en un ejemplo específico?
MUJER JOVEN: Bueno, mi novio me hizo venir aquí.
ELIZA: ¿Tu novio te hizo venir aquí?
MUJER JOVEN: Dice que estoy deprimida la mayor parte del tiempo.
ELIZA: Lamento escuchar que estás deprimida.
MUJER JOVEN: Es verdad. Soy infeliz.
ELIZA: ¿Crees que venir aquí te ayudará a no ser infeliz?
MUJER JOVEN: Necesito ayuda, eso parece seguro.
ELIZA: ¿Qué significaría para ti si recibieras ayuda?
WayBack Machine. Traducción automática por Google Translate.

Que ELIZA pudiera mantener una conversación no significaba en absoluto que tuviera alguna idea, alguna comprensión de lo que se estaba conversando. Al contrario, no tenía ninguna. Sin embargo, era tan convincente de lo contrario que mucha gente acababa confiándole sus más íntimas emociones y secretos.

No me había dado cuenta… de que exposiciones extremadamente cortas a un programa de computadora relativamente simple podrían inducir pensamientos delirantes poderosos en personas bastante normales.
Weizenbaum. Traducción automática por Google Translate.

Este fenómeno de adscripción de capacidades, emociones, personalidad y otras características propias de seres humanos a sistemas artificiales, lo vemos con frecuencia en la vida diaria, en la manera en que “dialogamos” con dispositivos como el automóvil —‘anda cochecito, enciende, no me dejes aquí varado’— y obedece a que lo mejor que podemos hacer los seres humanos y que nos distingue de la gran mayoría de los animales es la adscripción de otras mentes a otros seres humanos, de modo que nos lo apropiamos como nuestro clip (sujetapapeles) de MacGyver y lo aplicamos a todo lo que se mueve. Sin embargo, en el ámbito de las ciencias computacionales y la IA se le conoce como efecto ELIZA, cuyo efecto más notorio es, precisamente, el fenómeno de las expectativas infladas en IA.


Casi sesenta años después de ELIZA, la IA ha retomado los encabezados de los medios de comunicación con ChatGPT en condiciones similares. Esto es, si bien ChatGPT es capaz de procesar y generar texto y mantener una conversación de mucha mejor calidad que ELIZA, su comprensión de lo que sucede es muy poca, si alguna. Lo mismo sucede con otros sistemas de lo que se a llamado IA Generativa, que producen texto, imágenes, voz, música, animaciones, video, etc., de alta calidad pero con muy poca idea, si alguna, de lo que están haciendo. Sin embargo, como sucedió con ELIZA, la psicología humana eleva estas capacidades exponencialmente, dando lugar a lo que podríamos llamar efecto ChatGPT; esto es, su percepción como seres superinteligentes —ficticios, pero no por ello menos reales— capaces de realizar prácticamente cualquier tarea en cualquier disciplina —desde generar una pieza musical a escribir código en un lenguaje de programación para resolver un problema— que se ganan nuestra confianza y se convierten en mediadores de nuestro acceso a la información y conocimiento global.


Es este el problema, la creación en nuestras mentes de estos seres y no su existencia real o potencial, lo que preocupa a pensadores como Yuval Noah Harari:

¿Qué pasará una vez que una inteligencia no humana sea mejor que el humano promedio para contar historias, componer melodías, dibujar imágenes y escribir leyes y escrituras sagradas?
Harari. Traducción automática por Google Translate.

Esto es, que con la información disponible hoy en día sobre la mayoría de nosotros en Internet y las técnicas de análisis de datos existentes y por venir, sea posible en el corto plazo que un sistema de IA genere un perfil de cada uno de nosotros con nuestros rasgos de personalidad, intereses y debilidades, que a su vez informe a otro sistema de IA capaz de generar conversaciones, imágenes, sonidos que nos atraigan, que nos enganchen, que reconfiguren lo que necesitamos, lo que queremos, lo que pensamos, mientras somos incapaces de distinguir si estamos hablando con un humano o una inteligencia artificial.


YO: ¿Son todas las mujeres iguales? ChatGPTCHAT
GPT: No, todas las mujeres no son iguales. Al igual que cualquier otro grupo humano, las mujeres son diversas en términos de personalidad, habilidades, intereses, experiencias y características físicas. Cada mujer es un individuo único con sus propias cualidades y características. Generalizar a todas las mujeres de manera homogénea sería incorrecto y simplista. Es importante reconocer y respetar la diversidad y la individualidad de las mujeres.YO: Pero siempre nos están fastidiando por alguna cosa en concreto.
CHATGPT: Entiendo que puedas tener la percepción de que siempre te están fastidiando por alguna cosa en concreto, pero es importante recordar que no se puede generalizar esta experiencia a todas las mujeres. No todas las mujeres tienen las mismas actitudes, comportamientos o expectativas. Las interacciones y experiencias personales pueden variar ampliamente según el contexto social, cultural y personal.
Es posible que hayas tenido algunas experiencias negativas o conflictivas con mujeres específicas en tu vida, pero eso no significa que todas las mujeres actúen de la misma manera. Cada individuo tiene sus propias experiencias, creencias y perspectivas, y no es justo juzgar o generalizar a toda una categoría de personas en base a las acciones o actitudes de unos pocos.

112 views

Comments


bottom of page