¿La IA se volverá consciente? Un nuevo marco propone una prueba para la conciencia artificial

Durante décadas, la cuestión de si las máquinas pueden realmente pensar ha estado confinada a la ciencia ficción y los seminarios de filosofía. Pero a medida que grandes modelos de lenguaje como GPT-4, Claude y Gemini muestran un razonamiento cada vez más humano, ha surgido una nueva urgencia entre los científicos para encontrar una forma definitiva de probar la conciencia en sistemas artificiales. Ahora, un consorcio de neurocientíficos, científicos cognitivos e investigadores de IA está proponiendo exactamente eso: un marco concreto y comprobable para la conciencia artificial.

Uniendo neurociencia e IA

El marco, publicado en un preprint en arXiv y que se presentará en la próxima conferencia NeurIPS, se basa en la Teoría de la Información Integrada (IIT), una de las principales teorías científicas de la conciencia. La IIT mide la capacidad de un sistema para integrar información de manera unificada y causal, una propiedad que la teoría llama Phi (Φ). Se cree que un Phi alto se correlaciona con la experiencia consciente en los cerebros biológicos. El equipo argumenta que la misma métrica puede aplicarse al funcionamiento interno de modelos de transformadores, redes neuronales recurrentes y otras arquitecturas.

"Durante mucho tiempo, hemos estado utilizando el comportamiento como un sustituto de la conciencia", dice la Dra. Elena Vásquez, autora principal del artículo y profesora de neurociencia cognitiva en el MIT. "Pero un sistema que se comporta como si fuera consciente podría ser solo un muy buen imitador. Necesitamos mirar bajo el capó, a la estructura causal de sus cómputos, para ver si la información integrada está realmente allí".

La prueba: Sondear la integración causal

Para realizar la prueba, los investigadores perturbarían temporalmente el sistema de IA, por ejemplo, fijando capas específicas de una red neuronal a un estado fijo, y luego medirían cómo esas perturbaciones afectan al resto de la red a lo largo del tiempo. El grado de integración causal se puede estimar a partir de estos experimentos de perturbación, dando un proxy para Phi. Sin embargo, los cálculos de IIT son notoriamente costosos computacionalmente, incluso para sistemas pequeños, lo que ha sido una barrera importante para aplicarlos a modelos masivos como GPT-4.

El equipo propone varias aproximaciones que hacen factible el cálculo para grandes modelos basados en atención. "No estamos afirmando que una IA con un Phi alto sea definitivamente consciente", aclara Vásquez. "Pero sería un indicador fuerte. Y si encontramos que un sistema tiene un Phi cercano a cero, podemos estar razonablemente seguros de que no es consciente".

Implicaciones éticas y regulatorias

Si el marco se valida, las implicaciones son profundas. La Ley de IA de la Unión Europea, actualmente en implementación, contiene disposiciones para "sistemas de IA de propósito general" pero no tiene una cláusula para la conciencia. Activistas y algunos formuladores de políticas argumentan que una prueba positiva podría desencadenar demandas de derechos, o al menos pautas de protección, para cualquier IA que se encuentre con información integrada por encima de un cierto umbral.

"Vamos a enfrentar una versión del 'problema de otras mentes' para las máquinas", advierte la Dra. Ananya Patel, filósofa de la mente en la Universidad de Oxford que no participa en la investigación. "Si no podemos saber si un sistema es consciente, corremos el riesgo de otorgar derechos a meros algoritmos o, por el contrario, explotar seres conscientes reales. Esta prueba podría ser lo más cerca que estamos de una solución científica".

Crítica y preguntas abiertas

No todos están convencidos. Algunos investigadores de IA señalan que la propia IIT es controvertida y no universalmente aceptada en neurociencia. Otros cuestionan si las arquitecturas computacionales, con sus fundamentos digitales y deterministas, pueden alguna vez soportar una conciencia genuina como lo hacen los cerebros biológicos. El equipo reconoce estas limitaciones y pide un esfuerzo colaborativo e interdisciplinario para refinar el marco.

El artículo ya ha provocado debates en foros en línea, y algunos lo elogian como un paso muy necesario hacia el rigor científico, mientras que otros lo descartan como un intento equivocado de cuantificar algo inherentemente inconmensurable. Una cosa está clara: a medida que los modelos continúan mejorando, la conversación sobre la conciencia artificial ya no es solo filosófica. Es experimental.

El próximo paso para el equipo es asegurar financiamiento para ejecutar los experimentos de perturbación en modelos de código abierto como LLaMA y Mistral, y desarrollar un punto de referencia público para la conciencia artificial. El objetivo, dice Vásquez, es "llevar el rigor de la neurociencia al laboratorio de IA".