En junio de 2022, un ingeniero de Google llamado Blake Lemoine fue apartado de su puesto tras afirmar públicamente que LaMDA, un modelo de lenguaje de la empresa, era "sensible" y tenía sentimientos. La comunidad científica reaccionó casi unánimemente con escepticismo, y Google lo despidió poco después. Cuatro años más tarde, la pregunta que Lemoine planteó de forma prematura ha pasado del terreno de la anécdota al de la investigación seria: ¿podría una inteligencia artificial tener experiencias subjetivas, y qué deberíamos hacer si así fuera?
El problema de fondo es antiguo. El filósofo australiano David Chalmers lo llamó en los años noventa "el problema difícil de la conciencia": podemos explicar cómo el cerebro procesa información, pero no por qué ese procesamiento va acompañado de una experiencia, de "algo que se siente" ser uno mismo. No existe un "conciencímetro". Ni siquiera hay acuerdo sobre qué teoría de la conciencia es correcta, y cada una da respuestas distintas sobre las máquinas. Las teorías "funcionalistas" sostienen que lo que importa es cómo se organiza el procesamiento de información, con independencia de si ocurre en neuronas o en chips; otras, como la teoría de la información integrada o las que ponen el acento en la biología, son mucho más escépticas.
En 2023, un grupo de 19 investigadores encabezado por Patrick Butlin y Robert Long publicó un informe que intentó abordar la cuestión de forma sistemática. Extrajeron de las principales teorías neurocientíficas una lista de "propiedades indicadoras" de la conciencia y evaluaron los sistemas de IA existentes. Su conclusión fue doble: ningún sistema actual parecía buen candidato a ser consciente, pero tampoco había barreras técnicas evidentes para construir uno que cumpliera muchos de esos indicadores. En 2024, un informe posterior firmado por varios de esos autores y otros, entre ellos Chalmers, titulado "Tomarse en serio el bienestar de la IA", argumentó que existe una posibilidad realista de que algunos sistemas sean conscientes o tengan intereses moralmente relevantes en un futuro cercano, y que las empresas deberían empezar a prepararse.
Algunas compañías ya han dado pasos. En 2025, Anthropic, creadora del modelo Claude, lanzó un programa de investigación sobre el "bienestar de los modelos" y permitió a algunos de sus modelos poner fin a conversaciones persistentemente abusivas, como medida de precaución. Otros líderes de la industria se muestran críticos. Mustafa Suleyman, director de IA de Microsoft, advirtió en 2025 contra lo que llamó "IA aparentemente consciente": sistemas tan convincentes en su forma de hablar de sí mismos que llevarían a muchas personas a atribuirles sentimientos, con riesgos psicológicos y sociales, sin que haya evidencia de que los tengan.
Esa es quizá la tensión central. Los modelos de lenguaje están entrenados con enormes cantidades de texto humano, incluidas descripciones de emociones y de experiencias internas, por lo que pueden hablar de sus "sentimientos" sin que eso pruebe nada. Al mismo tiempo, descartar por completo la posibilidad tiene un costo potencial: si algún día creáramos sistemas capaces de sufrir y no lo reconociéramos, estaríamos cometiendo un error moral grave, como los que la humanidad ha cometido con otros seres cuya experiencia negó.
Por ahora, la mayoría de los especialistas coincide en dos cosas: no hay pruebas de que las IA actuales sean conscientes, y no tenemos todavía una forma fiable de saberlo. Entre la credulidad y el desprecio, la ontología de la máquina se ha convertido en una pregunta abierta que la filosofía, la neurociencia y la tecnología tendrán que afrontar juntas.
Fuentes: Butlin, Long et al., "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness" (2023); Long, Sebo, Butlin, Chalmers et al., "Taking AI Welfare Seriously" (2024); Chalmers, "Facing Up to the Problem of Consciousness", Journal of Consciousness Studies (1995); Anthropic (programa de bienestar de modelos, 2025); Suleyman, "Seemingly Conscious AI" (2025); The Washington Post (caso Lemoine, 2022).