La rápida proliferación de los LLMs (Large Language Modles) ha transofrmado cada aspecto de nuestra vida, y su presencia nos ofrece capacidades sin precedentes para personalizar nuestra vida, experiencias, aprendizajes, proporcionándonos con feedback inmediato a casi cualquier pregunta (lo he llegado a utilizar para elegir un corte de carne cuando no entiendo los nombres), y democratizando el acceso a recursos educacionales.

Es muy interesante observar cómo estos recursos ayudan incluso a personas con distintos problemas de aprendizaje, al otorgar un camino autónomo lo que permite a muchos el acceso a contenido adaptado a sus necesidades. Hay muchos otros usos geniales de los LLM que hemos mencionado antes por lo que sus beneficios para nuestro día a día son inmediatamente tangibles.


El problema

Sin embargo, las investigaciones recientes muestran preocupación acerca de las implicaciones cognitivas del uso de los LLM.

Estudios indican que mientras estos sistemas reducen carga cognitiva inmediata, pueden simultáneamente disminuir el pensamiento crítico además de reducir la concentración en procesos analíticos complejos.

Esto es algo que ya había mencionado en el pasado, donde tenemos estas herramienta que permite simplificar significativamente un enunciado y simplemente entregarnos un resumen con algunos puntos para nosotros tomar decisiones. El uso continuo hace que nuestro cerebro se vuelva cada vez más perezoso, ya que su naturaleza (nuestra naturaleza humana) siempre será buscar el camino de menor resistencia para un objetivo.


Durante el experimento

Los científicos dividieron 54 participantes en tres grupos: Un grupo escribió un ensayo usando solo su cerebro (sin herramientas), el otro usando un motor de búsqueda, y el último uso un LLM como por ejemplo ChatGPT.

Cada grupo completo tres sesiones de escritura usando el mismo método. En una cuarta sesión, los investigadores cambiaron el guión: Se les solicitó a los usuarios de ChatGPT que escribieran sin la ayuda de la IA, y a los que no usaron IA se les dio permiso de usarla.

Todo esto analizando sus cerebros usando máquinas EEG, y analizaron la calidad de los ensayos utilizando jueces humanos e IA, para evaluar que tan bien los participantes recordaban lo que escribieron. Un punto clave, nos estamos enfocando en la memoria mas allá de la calidad de lo que escribieron.

En la última sesión, cuando los participantes que estuvieron usando ChatGPT fueron forzados a escribir sin asistencia, salieron deficiente en cada uno de los puntos de comparación contra ellos mismos cuando usaron la IA y contra los participantes que no la usaron par anada.

El escaner cerebral mostró la disminución de ondas Alpha y Beta, donde se mostró que sus cerebros, literalmente, olvidaron como pensar por ellos mismos. De hecho, 83 por ciento de los usuarios de ChatGPT no pudieron citarse a  si mismos en los ensayos escritos hacía sólo unos momentos.


“El hombre entregó su pensamiento a las máquinas” – Una advertencia vigente

Siendo usuario de estas herramientas, especialmente para trabajar de una forma más eficiente, puedo decir que su uso puede volverse adictivo, cuando se presenta un desafío en una pieza de código, me gusta poder recurrir a Claude Code y poder pedirle que me entregue un análisis de lo que esta sucediendo y las posibles razones, o por ejemplo, si estoy trabajando en un cambio de una zona del código que nunca había visto, es muy fácil decirle a un LLM que te entregue los puntos claves de esa parte.

Pero ojo, es un arma de doble filo. En algún momento noté como me inclinaba cada vez más a buscar estos análisis, en vez de yo mismo leer el código para entender todas las piezas inter-conectadas y aprendí (de mala manera), lo poco confiables que pueden llegar a ser estas herramientas en sesiones prolongadas.

Si lo pensamos detenidamente, los LLM ponen a nuestras manos no solo el conocimiento del mundo sino un poder de análisis, pero como ya he dicho varias veces en el blog, nosotros somos la pieza fundamental en el proceso, no podemos dejar de pensar y entregarnos de pleno a estas herramientas, siempre debe existir un juicio crítico humano detrás de forma que estas tecnologías nos permitan crecer, aprender, y avanzar mas eficientemente.


En fin

Cierro con la frase con la que empieza el estudio al que hago referencia, que me parece demasiado apropiada para lo que vivimos hoy:

"Una vez, el hombre entregó su pensamiento a las maquinas con la esperanza de que éstas los liberarían. Pero eso sólo permitió que otros hombres con máquinas los esclavizaran a ellos."
Frank Herbert, Dune, 1965


Estudio completo

Cornel University: Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task [PDF]

Photo by Anshita Nair on Unsplash