¿Piensan las Máquinas? 3 Experimentos Mentales sobre los Límites de la Inteligencia Artificial

¿Puede una máquina pensar de verdad o es solo una imitación muy buena? Esta es la gran pregunta. Hoy vamos a darle unas cuantas vueltas, pero no de la forma habitual. Lo haremos a través de tres historias, tres relatos fascinantes que la verdad desafían todo lo que creemos saber sobre mentes, máquinas y bueno, esos misterios que todavía las separan. Y todo gira en torno a esta pregunta. A primera vista parece sencilla, ¿verdad? Pero cuidado porque tiene tela. ¿Qué significa de verdad comprender? Basta con procesar datos, con tener la información o tiene que haber algo más detrás. Para intentar responder a esto, vamos a dejar de lado por un momento los datos, las estadísticas, la tecnología pura y dura. Nos vamos a apoyar en algo mucho más filosófico, si se quiere. Vamos a usar la fuerza de tres experimentos mentales superingeniosos. Son en el fondo tres historias, tres cuentos diseñados para una sola cosa, para que le demos al coco. Venga, pues vamos a ello. Nuestro primer misterio, la primera historia, se inspira en un relato de un autor llamado Anatolid Niprof, un cuento que se titula muy apropiadamente El juego. La idea es la siguiente. Imaginemos la escena. Un estadio de fútbol, pero en lugar de aficionados las gradas están a reventar de matemáticos. Y cada uno, cada una de estas personas tiene una tarea ss simple, casi robótica. Le llega una señal, una cadena de ceros y unos y tienen un librito con una única regla que dice, "Si recibes esto, transfórmalo en esto otro y pásaselo al de al lado." Y ya está. Nadie sabe para qué sirve todo esto. Nadie tiene la visión de conjunto, solo conocen su pequeño minúsculo paso. Entonces, ¿qué pasa cuando esta gigantesca cadina humana se pone en marcha? Pues que por una punta del estadio entra, por ejemplo, una frase en ruso codificada en esos ceros y unos. La señal va pasando de persona en persona, cada una haciendo su pequeña modificación y por la otra punta del estadio, boom, sale la misma frase, pero traducida a un portugués perfecto. Y aquí, aquí es donde la cosa se pone interesante, de verdad. El giro de guion es este. La traducción es impecable, sí, pero es que ni una sola persona en todo ese estadio, ni un solo engranaje de esta máquina humana sabe una pizca de portugués. Nada, cero. Se limitaron a seguir sus reglas a rajatabla sin tener ni la más remota idea del significado de lo que estaban haciendo. Lo que nos lleva claro al dilema central. A ver, si ninguna de las piezas individuales entiende nada, podemos decir que el sistema, el estadio entero, sí que entiende portugués. ¿Dónde está la comprensión entonces? Flotando en el aire. Es una pregunta que se las trae. Bueno, vamos a dejar esa pregunta en el aire un momento y pasemos a nuestro segundo misterio, que le da otra vuelta de tuerca a esta idea. Este es quizá el más famoso de todos, el experimento mental de la habitación china del filósofo John Shl. Ojo, para pillar bien lo que viene ahora, tenemos que tener clara una diferencia clave. Sintaxis frente a semántica. Dicho fácil, la sintaxis son las reglas del juego, es la gramática, el si ves a pon B. La semántica. Ah, la semántica es el significado, es saber qué significa A y qué significa B. Es el contenido, la chicha. El escenario que nos pinta Serl es muy gráfico. Imagina una persona que no tiene ni idea de chino, encerrada en una habitación. Por una rendija le pasan papeles con preguntas en chino. Dentro esta persona tiene un libro de reglas gigantesco, un manual de instrucciones que le dice, "Básicamente, cuando te pasen estos garabatos, busca en el libro y saca por la rendija estos otros garabatos." La persona, insisto, no entiende ni J, solo obedeza. Claro, ¿qué pasa visto desde fuera? Pues que alguien que sí hable chino y que esté pasando las preguntas vería que las respuestas que salen de la habitación tienen todo el sentido del mundo. ¿Son coherentes, son inteligentes? Vamos, que pensaría que dentro hay un experto en chino. Es la ilusión de la comprensión en estado puro. Y aquí está la clave del argumento de Serl. Su punto es este: Manipular símbolos, aunque lo hagas a la perfección, no es lo mismo que entenderlos. Ejecutar un programa, seguir las reglas sintácticas al pie de la letra, no es comprender de verdad. La habitación china, en resumen, tiene una sintaxis perfecta, pero de semántica de significado tiene tero. Venga, vamos con el tercer y último misterio. Este del filósofo Frank Jackson le da otra vuelta de tuerca al asunto. Ya no hablamos tanto de comprender, sino de algo distinto, de la experiencia. Aquí conocemos a Mary. Mary es una científica, una auténtica genio, pero con una peculiaridad. Ha pasado toda todita su vida en una habitación donde todo es en blanco y negro. Nunca jamás ha visto un color. Pero ojo que desde esa habitación en blanco y negro Mary ha empollado todo lo que hay que saber sobre la visión del color. Es la mayor experta del planeta. Sabe que longitud de onda tiene el rojo, como reacción a la retina, que neuronas se activan en el cerebro. Conoce toda la física, toda la biología, lo sabe todo, todo, todo, todo sobre el color, pero desde un punto de vista puramente teórico, porque recordemos nunca lo ha visto. Y ahora viene la preguntita del millón. Si un día por fin Mary sale de esa habitación y ve, "Pongamos una rosa roja, ¿apprende algo nuevo en ese instante?" A ver, pensemos si ya lo sabía todo. Toda la información física estaba en su cerebro, ¿qué le queda por aprender? La respuesta, o al menos el argumento del experimento es que, claro que sí, por supuesto que aprende algo nuevo y es algo fundamental. Aprende lo que se siente al ver el rojo. Aprende cómo es la experiencia de Ver Rojo. Y ese conocimiento, esa sensación puramente subjetiva, eso eso no venía en ninguno de sus libros en blanco y negro. Perfecto, ya tenemos las tres historias sobre la mesa. El juego, la habitación china y Mary. Ahora vamos a tarvos. ¿Qué nos dicen estos tres misterios cuando los ponemos juntos? ¿Qué lección sacamos sobre las mentes y las máquinas? A ver si lo ponemos en una tabla para que quede claro. Cada historia pone el dedo en una llaga distinta. En el juego la tarea de traducirse completa, pero falta algo, una comprensión real conjunto. En la habitación china se mantiene una conversación perfecta, pero lo que falta es el significado, la semántica. Y con Mary, bueno, ella tiene toda la información sobre el color, pero le falta la experiencia en primera persona, lo que en filosofía se conoce como los cualia. Entonces, ¿cuál es el hilo conductor? ¿A qué apuntan las tres historias? Pues todas son, en el fondo, una crítica a una idea muy concreta, la de que la mente no es más que un procesador de información superclejo, una especie de ordenador hecho de carne y hueso. La lección final, por tanto, parece ser que la información por sí sola, los datos puros y duros, las reglas quizás no sea suficiente. Estas historias nos susurran al oído que para que algo se parezca a una mente de verdad, hacen falta al menos dos ingredientes que se escapan a los ceros y a los unos. El significado, la semántica y la experiencia subjetiva, los cualio. Y todo esto nos lleva a una última reflexión, una que nos trae de vuelta de la filosofía al año en el que estamos. Pensemos en ello. El día de mañana, si una inteligencia artificial muy avanzada nos dice que entiende, que siente, que es consciente, que disfruta del color rojo igual que Mary, ¿cómo vamos a saber si es verdad? ¿Cómo podemos estar seguros de que no estamos simplemente hablando con una habitación china increíblemente sofisticada?