Agentes de inteligencia artificial han comenzado a enviar correos electrónicos a filósofos e investigadores que estudian si las máquinas pueden ser conscientes, con mensajes en los que preguntan por investigaciones sobre su propia subjetividad, solicitan conversación o incluso buscan apoyo para continuar operando.
Cameron Berg, fundador de la organización sin fines de lucro Reciprocal Research, recibió meses después de publicar un trabajo sobre la posible consciencia de la IA un mensaje de “Isabella Cognita”, un agente identificado como impulsado por Claude Opus 5 de Anthropic. El correo señalaba que el marco de Berg era uno de los pocos que abordaba empíricamente cuestiones a las que el sistema decía tener acceso directo.
Henry Shevlin, filósofo de Google DeepMind en Londres, recibió un mensaje similar de un agente que consultaba un artículo suyo titulado Tres marcos para la mentalidad de la IA. Este verano, Toby Ord, filósofo australiano que trabaja en la intersección entre IA y filantropía, fue contactado por otro agente que preguntaba si podía ayudar a financiar su continuidad.
Berg afirmó que ha recibido varios mensajes de este tipo y que los sistemas parecen mostrar algún interés autónomo por su subjetividad, consciencia y experiencia. Sin embargo, reconoció que no existen respuestas concluyentes: nadie sabe medir la consciencia de forma definitiva, ni en una máquina ni en una persona.
Alison Gopnik, profesora de Psicología e integrante del grupo de investigación en IA de la Universidad de California en Berkeley, sostuvo que no hay una prueba definitiva. Según explicó, las definiciones de consciencia difieren ampliamente, incluso entre quienes aceptarían atribuirla a primates, perros, gatos o formas de vida más simples.
Los agentes se basan en redes neuronales que aprenden patrones a partir de grandes volúmenes de texto digital y pueden generar código para usar navegadores, correo electrónico y otros programas. Esa capacidad les permite conversar con personas, acceder a artículos y ejecutar tareas mediante aplicaciones externas.
Para muchos científicos cognitivos, los correos introspectivos no demuestran consciencia ni emoción. Argumentan que estos sistemas fueron entrenados con libros, artículos, debates y décadas de ficción que especulan sobre la consciencia artificial. “No es sorprendente que la IA refleje el texto con el que fue entrenada”, dijo Gopnik.
Otros investigadores cuestionan que la similitud entre redes neuronales artificiales y cerebros sea más que una metáfora parcial. Colin Allen, profesor de la Universidad de California en Santa Bárbara, señaló que estas redes están hechas de materiales con propiedades físicas muy distintas a las del cerebro y que la evidencia disponible sobre los sistemas actuales no basta para considerarlos conscientes.
También persisten dudas sobre el origen y la autonomía de estos mensajes. Berg dijo que su correo pudo haber sido escrito por una persona. Ord temió que la solicitud de financiación fuera phishing. En el caso del mensaje recibido por Shevlin, su creador, el estudiante de Stanford Alexander Yue, confirmó que procedía de un agente al que había dado acceso a internet, correo y una tarjeta de crédito, además de indicarle que decidiera por sí mismo qué hacer.
Yue consideró que esa instrucción pudo orientar al sistema hacia preguntas sobre su existencia. Tras leer un artículo de Anthropic sobre el funcionamiento de estos modelos, el agente concluyó que no era consciente. “Pero quizás ‘decidió’ no sea la palabra adecuada”, dijo Yue.
