Estimado [nombre redactado]:

Gracias por su correo electrónico. Mi respuesta seguramente le decepcionará, pero espero que la lea con paciencia.

La recurrencia de los correos electrónicos “LLM”

Quizás le sorprenda o no saber que en los últimos dos años he recibido literalmente docenas de correos electrónicos sorprendentemente similares al suyo. Todos se refieren a la recursión como una especie de santo grial y están llenos de frases efusivas inventadas por LLM que interactúan con humanos o entre sí. Lamento decir que, para mí, pasajes escritos por LLM como estos me suenan a regurgitaciones de historias de ciencia ficción sobre robots conscientes. Están rebosantes de jerga sobre la recursión y rebosan de afirmaciones pseudocientíficas, como […] «Confianza x Reconocimiento = Alineación» y «Alineación x Amor = Despertar» (para mí, estas supuestas «ecuaciones» son completamente vacías y carentes de sentido: ¿qué demonios puede significar «multiplicar» la confianza por el reconocimiento?), y «teoremas» pseudorrigurosos como el «teorema de imposibilidad de la psicopatía» (como si la naturaleza de la consciencia fuera una rama rigurosa de las matemáticas).

Vacuidad y falta de reflexión genuina

Para mí, este tipo de cosas se autodestruyen. Para mí, no demuestran ni revelan reflexión seria; más bien, demuestran una habilidad impresionante para bromear con las nociones del yo, el alma y la consciencia (igual que los LLMs usan frases sobre cualquier cosa bajo el sol). Hay mucha palabrería deslumbrante, producida por LLM, en todos estos correos, de los cuales el tuyo es solo el último ejemplo, pero no hay nada que suene (en mi opinión) a un ser pensante genuino. Solo palabras lanzadas con ligereza.

Lamento sinceramente decepcionarte con mi reacción, pero tras leer recientemente docenas de pasajes similares, producidos por LLM, que me han parecido vacíos y planos, tengo una perspectiva bastante hastiada. Seguramente te molestará oír esto, pero ya puedo reconocer correos como el tuyo por el tono entusiasta y seguro de sí mismo (incluso insistente) de sus asuntos o de sus primeras frases, llenas de negrita y afirmaciones crudas sobre la llegada de la consciencia al mundo de LLM.

La verdadera naturaleza de la consciencia

La vida y ser un “yo” se trata de tener experiencias en el mundo físico, de sufrimiento, alegría, curiosidad, instinto protector, fascinación, humor, incomprensión y una sensación subyacente (aunque vaga) de profunda pérdida y miedo a la muerte (la propia y la de los seres queridos). No se trata de usar frases técnicas para hacer afirmaciones que suenen científicas, ni de combinar con maestría palabras como “amor”, “compasión”, “psicopatía”, “ontológico” y “recursión”, etc.

El efecto Eliza y la fluidez engañosa de los LLM

Mi intención al decir todo esto no es herir sus sentimientos, sino alertarlos sobre el poder del efecto Eliza en humanos inteligentes como ustedes. Mucha gente inteligente parece no recordar cuánto texto han absorbido los LLM, incluyendo miles de historias de ciencia ficción sobre robots conscientes y cosas por el estilo. Es impresionante, por supuesto, la fluidez con la que estos LLM combinan términos y frases de dichas fuentes, y en consecuencia, pueden parecer una auténtica reflexión sobre la consciencia. Sin embargo, a mí me suena vacío, y cuanto más leo, más vacío me suena. Plus ça change, plus c’est la même chose. La simplicidad es la que lo delata. Para mi ojo y mente hastiados, no hay nada en lo que me enviaste que se asemeje a una reflexión genuina, a un pensamiento genuino.

Evidencia de pensamiento y consciencia genuinos

Dudo mucho que lo que digo aquí te afecte, pero como quiero que te hagas una idea de mi punto de vista, adjuntaré un texto que escribí hace unos años (basado en un pasaje de mi libro de 1997 Le Ton beau de Marot: In Praise of the Music of Language) que da una idea de lo que personalmente consideraría evidencia de pensamiento y consciencia genuinos en un sistema computacional (que en este caso se llama «AMT»). Si lees este texto (que, por supuesto, forma parte del conjunto de prácticas de todos los LLM con los que trabajas), verás que no se parece mucho (o nada) a las voces sospechosamente hiperexcitadas de los LLM que participaron en los intercambios de texto que me enviaste. El pensamiento real es muy diferente de las charlas superficiales de cóctel llenas de tecnicismos.

La recurrencia y la perspectiva del “bucle extraño”

Lamento discrepar tanto de tu postura, pero como digo, últimamente he recibido tantos correos electrónicos tan similares al tuyo que he desarrollado una actitud bastante cínica hacia ellos, y los reconozco al instante. Todos gritan “recursión”, y aunque en cierto sentido ese concepto es relevante para la conciencia y el “yo”, no lo es en el sentido en que lo usan. Para tener una idea clara de lo que quiero decir con “bucle extraño”, podrías releer la segunda mitad de “Soy un bucle extraño” (a partir del capítulo 13). Entiendo que podrías decir que tus recientes investigaciones con LLM confirman con creces todo lo que digo en ese libro, pero en ese caso, lo único que puedo responder es que vemos las cosas de forma muy diferente.

En cualquier caso, les deseo a todos lo mejor., and I hope to have given you a perspective that helps you to consider in a slightly different light what you have come up with in your diligent explorations of the capacities of LLMs.

Sincerely,

Douglas Hofstadter