Loros estocásticos
Josefina Reyes Quintanar
ChatGPT fue lanzado al mundo el 30 de noviembre de 2022 por OpenIA, una organización sin fines de lucro al menos cuando fue fundada en 2015. Esta organización estadounidense con sede en San Francisco actualmente posee una estructura corporativa compleja, llena de escándalos, demandas, contrademandas y un manejo de fuertes inversionistas y gastos en miles de millones de dólares. Según sus estatutos, su misión fundacional es garantizar que la inteligencia artificial general (AGI) beneficie a toda la humanidad.
¿A qué se refieren con AGI? Es una forma de inteligencia artificial que aspira a igualar, e incluso superar, las capacidades intelectuales humanas en toda su amplitud; es la creación de sistemas altamente autónomos para realizar el trabajo económicamente más valioso, destacando sobre los humanos. Actualmente la inteligencia artificial sólo puede resolver tareas concretas, por lo que es definida como inteligencia artificial estrecha (ANI). Una AGI podría comprender, razonar y adaptarse a diferentes problemas y situaciones, siendo más versátil, con la capacidad de aprender automáticamente y transferir conocimientos entre los diferentes trabajos que realiza.
Para que sea una realidad la AGI es necesario que posea la capacidad de comprensión general, una capacidad de discernimiento y de adaptación comparables a las de una persona. Aquí es donde la puerca torció el rabo. Por supuesto que falta mucho, o quizá no tanto, pero aún no llegamos a este tipo de tecnología. El ChatGPT apenas va a cumplir 3 años de existencia y sus implicaciones éticas apuntan a que la AGI es inalcanzable, no es posible su creación y mucho menos llegarán las máquinas a aniquilar a los humanos.
Emily M. Bender es una lingüista estadounidense con varios cargos en la Universidad de Washington siendo profesora en los departamentos de lingüística, de ciencias de la computación e ingeniería y en ciencias de lingüística computacional. Esta investigadora presentó un artículo en 2021 “Sobre los peligros de los loros estocásticos ¿pueden los modelos lingüísticos ser demasiado grandes?” En este estudio bautizó a los modelos de IA existentes como “loros estocásticos”; desde entonces esta expresión se convirtió en la mejor forma de definir el funcionamiento básico de ChatGPT y actualmente esta experta reafirma su posición de escepticismo.
La idea fundamental es la analogía entre los loros estocásticos y los modelos de IA existentes, es una metáfora que describe la afirmación de que los modelos lingüísticos a gran escala (LLM) son capaces de generar lenguaje plausible, sin embrago no comprenden el significado de lo que procesan. Lo de “loro” queda claro, estas aves no comprenden las palabras que repiten, carecen de la capacidad para manejar el contenido semántico del lenguaje humano, de igual manera los modelos de IA básicamente repiten lo que se les dice a través del entrenamiento. La palabra “estocástico” proviene del griego stochastikós “hábil de conjeturar”, un término utilizado en la teoría de la probabilidad que significa “determinado aleatoriamente”. Incluso el término “loro estocástico” ya es utilizado como neologismo entre los escépticos de la IA para referirse a la falta de comprensión de las máquinas sobre el significado de sus resultados. El mismo Sam Altman, director ejecutivo de OpenIA, lo utilizó irónicamente en un tweet.
Finalmente existen diferencias críticas entre el lenguaje que utilizamos las personas con el utilizado por los chatbot: nosotros entendemos lo que decimos, los LLM no; el hombre tiene conciencia e intencionalidad al hablar, nuestro lenguaje no se produce por secuencias probables; tenemos razonamiento abstracto siendo capaces de adaptar el razonar, podemos corregir nuestros errores de forma flexible, el pensamiento humano es altamente complejo, el de IA es puramente estadístico. Para Emily Bender, el propio nombre de inteligencia artificial es exagerado, simplemente debería llamarse automatización. Es un error imaginar una mente, o un razonamiento tras los textos generados por un chatbot, cuando todo es un plagio de palabras que viene de nuestro lado, no lo genera la IA.
Hay que entender que herramientas como ChatGPT brindan un servicio para crear soluciones tecnológicas y de alguna manera están reconfigurando las formas de trabajo, ya que permiten automatizar procesos que equivaldrían a largar horas sentados frente a una computadora, utilizado como un coeditor puede potenciar nuestras habilidades. Utilizarla para beneficio en nuestro trabajo es propositivo. Pero decir que es el preámbulo para la inteligencia artificial general es muy apresurado.
