Sala china

El experimento de la habitación china
Supongamos que han pasado muchos años, y que el ser humano ha construido una maquina aparentemente capaz de entender el idioma chino, la cual recibe ciertos inputs los cuales se los da un hablante natural de ese idioma; estos inputs serían los signos que se le introducen a la computadora, la cual más tarde proporciona una respuesta en su output. Supóngase a su vez que esta computadora fácilmente supera la Prueba de Turing , ya que convence al hablante del idioma chino de que sí entiende completamente el idioma, y por ello el chino dirá que la computadora entiende su idioma.
Ahora Searle nos pide que supongamos que él está adentro de ese computador completamente aislado del exterior, salvo por algún tipo de dispositivo (una ranura para hojas de papel, por ejemplo) por el que pueden entrar y salir textos escritos en chino.
Supongamos también que afuera de la sala o computador está el mismo chino que creyó que la computador entendía su idioma y adentro de esta sala está Searle que no sabe ni una sola palabra en dicho idioma, pero está equipado con una serie de manuales y diccionarios que le indican las reglas que relacionan los caracteres chinos (algo parecido a "Si entran tal y tal caracteres, escribe tal y tal otros").
De este modo Searle, que manipula esos textos, es capaz de responder a cualquier texto en chino que se le introduzca, ya que tiene el manual con las reglas del idioma, y así hacer creer a un observador externo que él sí entiende chino, aunque nunca haya hablado o leído ese idioma.
Dada esta situación cabe preguntarse:
¿Como puede Searle responder si no entiende el idioma chino?
¿Acaso los manuales saben chino?
¿Se puede considerar todo el sistema de la sala (diccionarios, Searle y sus respuestas) como, un sistema que entiende chino?
De acuerdo a los creadores del experimento, los defensores de la inteligencia artificial fuerte -los que afirman que programas de ordenador adecuados pueden comprender el lenguaje natural o poseer otras propiedades de la mente humana, no simplemente simularlas- deben admitir que, o bien la sala comprende el idioma chino, o bien el pasar el test de Turing no es prueba suficiente de inteligencia. Para los creadores del experimento ninguno de los componentes del experimento comprende el chino, y por tanto, aunque el conjunto de componentes supere el test, el test no confirma que en realidad la persona entienda chino, ya que como sabemos Searle no conoce ese idioma.

El argumento de la habitación china
Esto es así en el contexto de la siguiente argumentación:
1. Si la Inteligencia Artificial Fuerte es verdadera, hay un programa para el idioma chino tal que cualquier mecanismo que lo ejecute entiende chino.
2. Una persona puede ejecutar mecanicamente un programa para el idioma chino sin entender el idioma chino.
3. Los argumentos de la inteligencia artificial fuerte son falsos porque en realidad el sistema no entiende Chino, nada mas simula entender.
Una puntualización importante: Searle no niega que las máquinas puedan pensar -el cerebro es una máquina y piensa-, niega que al hacerlo apliquen un programa.

Críticas al experimento de la habitación china
El experimento mental de la habitación china confirmaría la premisa 2, a juicio de sus defensores. A juicio de sus detractores, la premisa 2 basada en la inferencia a partir del experimento mental no es concluyente. Las objeciones suelen seguir una de las tres líneas siguientes:
Aunque el habitante de la habitación no entienda chino, es posible que el sistema más amplio formado por la habitación, los manuales y el habitante entienda chino.
Una persona manipulando signos escritos dentro de una habitación estática no es el único candidato posible para ocupar el puesto de sistema computacional capaz de entender chino. Hay otros modelos posibles: a. un robot capaz de interactuar con el entorno y aprender del mismo; b. un programa que regule los procesos neuronales involucrados en la comprensión del chino, etc. No hay razón para decir que estos modelos sólo exhiben una comprensión aparente, como en el caso de la habitación y su habitante, pero son modelos de Inteligencia Artificial.
Si la conducta de la habitación no es evidencia suficiente de que entiende chino, tampoco puede serlo la conducta de ninguna persona

Respuestas a los Argumentos en contra del Cuarto Chino
Aunque es verdad que el sistema maneja el chino este no entiende el idioma, es decir la persona adentro del cuarto no entiende lo que esta haciendo nada más lo esta haciendo, por consiguiente el que un computador maneje un idioma, no significa que este entienda lo que esta haciendo nada más significa que esta realizando una acción.
A su vez la persona que maneja el chino no solo se puede entender como una persona lo que trata de mostrar el ejemplo es el como las computadoras no entienden lo que manejan y nada más siguen unas reglas ya determinadas sin tener que entenderlas.
La ultima proposición tiene muchas contradicciones, por ejemplo se sabe que los que están leyendo estas palabras si entienden el idioma, al contrario de la computadora que solo maneja información sintáctica (es decir que nada más manejan una acción, sin contenido propio), los humanos manejamos información semántica (con contenido, lo que nos asegura que comprendamos lo que hacemos, ya que le vemos contenido a lo que hacemos).