lunes, 1 de agosto de 2011

Penrose y la Inteligencia Artificial


Carlos Blank

 Universidad Central de Venezuela y
Universidad Católica Andrés Bello


 
 Una Teselación de Penrose o suelo de baldosas de Penrose es una teselación 
no periódica generada por un conjunto aperiódico de baldosas prototipo 
nombradas después por Roger Penrose.






¿Qué sucede a cada uno de nuestros flujos de consciencia después de morir?, ¿dónde estaba antes de que naciera cada uno?, ¿podríamos convertirnos en, o haber sido, algún otro?, ¿por qué percibimos en absoluto?, ¿por qué estamos aquí?, ¿por qué hay un universo en el que podamos estar?
                                           Roger Penrose



A la memoria de mi amigo Eduardo Piacenza, cuya mente  sobrevive en un hermoso cielo platónico fuera del tiempo natural.



Resumen

Podemos señalar el año de 1950, cuando Alan Turing publicó en la revista Mind su artículo, “Maquinaria computacional e Inteligencia”, como el punto de partida de la Inteligencia artificial o  IA. Desde entonces, las ideas desarrolladas en este artículo han sido objeto de las más variadas discusiones, a veces en contra y otras a su favor. En 1979 fue publicado el libro de Douglas Hofstadter, Gödel, Escher, Bach, libro que habría de convertirse en un gran éxito editorial, así como en una de las mejores defensas jamás escritas de la IA. Diez años más tarde, apareció el libro de Roger Penrose, La nueva mente del emperador, un libro que también habría de convertirse en un gran éxito editorial, así como en uno de los ataques mejor escritos contra la IA hasta el momento. Nuestro artículo se centra en las ideas desarrolladas por Penrose en contra de la IA, ideas que pueden ser consideradas, en buena parte, como una versión de las ideas que ya antes habían sido planteadas por el importante filósofo norteamericano, John Searle.

Palabras claves: Filosofía de la mente, inteligencia artificial, máquina computacional, algoritmos y consciencia.

 Roger Penrose


INTRODUCCIÓN: Técnica y civilización.

La capacidad que tiene el hombre de crear herramientas se remonta a los albores de la civilización y, aun más allá, al propio proceso de la evolución humana. En gran medida estas herramientas son las responsables de esta evolución más que su resultado, aunque también es cierto que entre el hombre y sus herramientas se produce una interacción permanente. El hombre crea un mundo humano en la misma medida en que crea un mundo técnico, así como un mundo de normas y ritos. Cocinar los alimentos, enterrar los muertos, prohibir el incesto, utilizar herramientas son, como el lenguaje, costumbres o instituciones que delatan la presencia de la consciencia humana y permiten crear un espacio propiamente humano frente a lo puramente natural.

A menudo se considera a la ciencia y a la técnica como las responsables de la alienación y deshumanización del hombre.2 Se piensa que una visión mecanicista de la naturaleza y del hombre constituye la fuente de todos los males y que ha despojado al hombre de su verdadera naturaleza humana racional. Nada más alejado de la verdad, pues ha sido precisamente el conocimiento de los mecanismos subyacentes en la naturaleza lo que ha permitido un mayor dominio del hombre sobre ella, así como también el que haya podido irse liberando, hasta cierto punto, de las fuerzas ciegas que gobiernan el mundo de la naturaleza, haciendo posible la creación de una segunda naturaleza, para así liberarse de tareas pesadas y repetitivas que antes él solía hacer. Como señalaba Bertrand Russell en una oportunidad, los inventos de la era moderna han hecho más por la liberación de la mujer que cualquier movimiento feminista.

Somos más humanos en la medida en que es posible liberarnos de las barreras naturales. No podemos volar, pero entonces inventamos aparatos con los cuales podemos hacerlo. No podemos respirar bajo el agua como los peces, pero también inventamos dispositivos que nos permiten realizar tal hazaña. Y así sucesivamente. El mundo técnico constituye una compleja red de “palancas” y “poleas” que multiplican las limitadas fuerzas naturales del hombre, incluyendo la de los animales. Como en el viejo mito prometeico, ha sido la debilidad natural del hombre la que le ha permitido justamente ganarle terreno a la naturaleza, hacer de la necesidad virtud, de la debilidad su fuerza.

Pero el hombre no sólo ha creado máquinas que pueden  impulsar su fuerza más allá de sus fronteras naturales o aprovechar las propias fuerzas de la naturaleza, sino que ha creado también herramientas y medios que economizan y potencian considerablemente su fuerza mental o psíquica. Desde la escritura cuneiforme, pasando por la imprenta, hasta llegar a los modernos chips y discos láser, el hombre se ha visto en la necesidad de ingeniar medios para el almacenamiento, transmisión y conservación de información.3 Asimismo ha inventado reglas de cálculo, así como las herramientas que les faciliten la realización de tales cálculos. Dentro de esta evolución podemos mencionar la propia utilización de piedras -de donde deriva el cálculo su nombre-, la invención del 0, los ábacos, calculadoras rudimentarias, hasta llegar a las modernas computadoras y el lenguaje binario que las alimenta. Si las primeras máquinas multiplican y ahorran energía física, las segundas hacen lo propio con la energía mental.

Como en todo proceso de cambio importante, se generan al comienzo resistencias. La introducción de máquinas en el proceso productivo generó bastantes recelos, pues se pensaba que estas máquinas, al desplazar la fuerza de trabajo humano, restaban oportunidades a los que trabajaban con los medios artesanales tradicionales.4 Lo que entonces no podía verse era el potencial de nuevas oportunidades que la introducción de la máquina generaba. Algo similar ha ocurrido con la introducción de las modernas computadoras. A lo que hay que añadir un elemento adicional. Si el hombre no se siente disminuido o minusvalorado por la presencia de máquinas que potencian su fuerza física, que son capaces de realizar tareas que el hombre es incapaz de realizar físicamente, la competencia en el plano mental es otra cosa. La razón de ello es que suponemos que este plano mental es una prerrogativa típicamente humana, lo que eleva al hombre por encima de la naturaleza y lo hace específicamente humano, el “junco pensante” de Pascal.

Hace tiempo que nos hemos acostumbrado a la maquinaria que nos supera ampliamente en las tareas físicas. Esto no nos causa desasosiego. Antes bien nos complace tener aparatos que nos llevan por tierra normalmente a grandes velocidades –más de cinco veces más rápido que el más veloz atleta humano- o que puedan cavar hoyos o demoler estructuras que nos estorban a velocidades que dejarían en ridículo a equipos compuestos por docenas de hombres. Aún estamos más encantados de tener máquinas que nos permiten hacer físicamente cosas que nunca antes habíamos podido hacer; pueden llevarnos a los cielos y depositarnos al otro lado del océano en cuestión de horas. Tales logros de su parte no hieren nuestro orgullo. Pero el poder pensar, eso sí que ha sido siempre una prerrogativa humana. Después de todo, ha sido esa capacidad de pensar la que, al traducirse en términos físicos, nos ha permitido trascender nuestras limitaciones físicas y la que parecía ponernos encima de nuestras criaturas hermanas. Si las máquinas pudieran llegar a superarnos algún día en esa cualidad importante en la que nos habíamos creído superiores, ¿no tendríamos entonces que ceder esa superioridad a nuestras creaciones?5

El texto de Penrose que acabamos de citar resume brillantemente todo lo anterior. Como él señala, la posibilidad de que las máquinas puedan pensar no es algo totalmente nuevo, sólo que la moderna tecnología le ha dado a esta cuestión un nuevo impulso. La idea de que existan máquinas que puedan realizar tareas que hasta ahora creíamos exclusivamente humanas, nos hace vernos menos exclusivos de lo que nos creíamos. Todo aquello que nos hace exclusivos no es tan exclusivo desde el momento en que una máquina es capaz también de realizarlo. De eso se trata precisamente cuando hablamos de Inteligencia Artificial o IA a secas,6 de saber si es posible que una máquina realice todas las tareas intelectuales que antes creíamos prerrogativa exclusivamente humana. Uno de los pioneros de la IA y de la ingeniería de las computadoras, el matemático inglés Alan Turing, denominaba la posición ya descrita como la objeción “del avestruz” (“the ‘heads in the sand’ objection”), pues se trata más de una objeción, o de un prejuicio, que de un argumento, como otros que él enumeraba. Para él esta objeción se reduce a que “nos gusta creer que el hombre es de alguna manera sutil, superior al resto de la creación. Aún es mejor si puede demostrarse que ha de ser necesariamente superior, porque entonces no hay peligro de que pierda su posición de autoridad.”7

Como se desprende de todo lo dicho hasta ahora, la polémica en torno a la IA tiene connotaciones muy particulares para el ser humano, toca fibras bastantes profundas de nuestro ser, por lo que incluso resulta difícil verla como una cuestión de mero diseño tecnológico posible, como algo en torno a lo cual podemos ser indiferentes. Quizás la cuestión de fondo resida en la necesidad de definir lo que nos hace verdaderamente humanos. Desde este punto de vista, el mayor aporte de esta discusión consistirá en dar un nuevo paso en la tarea, posiblemente infinita, de conocernos a nosotros mismos.
A continuación analizaremos algunas de las implicaciones de este tema y finalmente desarrollaremos la posición asumida por Roger Penrose sobre el particular.

Roger Penrose al lado de una de sus teselaciones


PLANTEAMIENTO GENERAL: ¿Pueden pensar las máquinas?
                                                
La pregunta de si pueden pensar las máquinas nos conduce inevitablemente a que aclaremos primero lo que entendemos por pensar. Aunque ello pudiera parecernos obvio, no lo es, ni mucho menos. De lo que entendamos por pensar dependerá la respuesta que podamos dar a esta pregunta. La actividad genérica de pensar incluye una gran variedad de tareas específicas, muchas de ellas diferentes entre sí, aunque podamos agruparlas a todas ellas bajo esta denominación.

Tomemos, por ejemplo, la definición que dio de “pensar” Descartes, quien hizo de esta actividad, ni más ni menos, el punto de partida de todo su sistema y método. Para él una cosa que piensa significa “una cosa que duda, que concibe, que afirma, que niega, que quiere, que no quiere, que también imagina, y que siente.”8 Para ser la definición de un gran matemático, lo menos que podemos decir es que se trata de una definición bastante vaga. Si la tomásemos como definición operacional de la inteligencia humana, diría, al mismo tiempo, muy poco o demasiado. Es evidente que la facultad de pensar no es para Descartes lo mismo que inteligencia. O si lo es, debe incluir en ella aspectos como la capacidad de percibir e imaginar, enriqueciendo nuestra concepción de inteligencia.9 Lo curioso es que Descartes negaba estos atributos a los animales, considerándolos meras máquinas.10 Aunque pueda parecer una visión muy cruel de los animales, resulta una visión bastante real de lo que debe ser una máquina. En realidad, no es descabellado afirmar que en estos aspectos un animal puede ser bastante superior a cualquier máquina inteligente. Para poner sólo un ejemplo, la capacidad espontánea que tiene un perro de reconocer el rostro o el tono de voz de su amo –no digamos olfatearlo- es algo que excede la capacidad de cualquier computador digital de última generación. Por lo demás, el atribuirle cierto grado de inteligencia a un animal no es nada descabellado, tomando en cuenta que son nuestros parientes lejanos, si hemos de hacerle caso a Darwin. La posición de Descartes puede estar totalmente descarriada en relación con los animales, pero no en lo que debe ser una máquina. Si a alguna máquina le pudiésemos atribuir algún grado de consciencia o, más aún, de autoconsciencia, dejaría de ser una máquina.

Uno de los argumentos que se esgrimen con mayor frecuencia en contra de las pretensiones de la IA es que ninguna de las operaciones que es capaz de realizar un computador está acompañada de consciencia. Como señalaba acertadamente Turing, gran parte de los argumentos en contra del supuesto carácter pensante de las computadoras puede ser considerado como una variante de este argumento básico. Por esta misma razón debemos revisarlo detenidamente, más aun tomando en cuenta que será uno de los argumentos básicos que Penrose va a utilizar en contra de la IA.

Como en todo argumento, lo importante no es tanto el contenido como la forma de que está revestido. A menudo suele considerarse a la conciencia como algo específica y exclusivamente humano, de tal modo que cualquier cosa que no sea humana carece de consciencia. Seguramente así pensaba Descartes cuando consideraba a los animales iguales a máquinas, así como nuestro cuerpo. Pero este argumento resulta viciado desde su origen. La aparente contundencia de este argumento reside en su total circularidad. Es evidente que si definimos a una máquina como algo propiamente no humano y consideramos a la consciencia como un rasgo exclusivamente humano, entonces es inevitable concluir que las máquinas son incapaces de tener consciencia. Por otro lado, si encontrásemos una máquina capaz de ser consciente, a partir de ese momento dejaría de ser tal, sería también humana. Más que una imposibilidad real, estaríamos en presencia de una imposibilidad lógica, de una contradicción, de la negación de una tautología. Estamos simplemente en presencia de una definición: Toda máquina es, por principio, incapaz de ser consciente. Como en el ejemplo clásico: “Todos los cuervos son negros” se reduce a afirmar que: “Todos los cuervos negros son negros”. Este argumento es irrefutable, pero carece por eso mismo de contenido alguno. Si el problema que estamos analizando no es algo puramente formal, sino algo también material, que debemos decidir de forma empírica, ateniéndonos al veredicto final de la experiencia, el argumento anterior resulta totalmente insuficiente, al menos tal y como lo hemos planteado hasta ahora. Debemos, entonces, revisar nuestra premisa y dejar abierta la posibilidad de que existan cosas conscientes no-humanas, que exista la posibilidad de encontrar “cuervos no negros”, de encontrar “máquinas conscientes”. Debemos mantener esta actitud abierta, pues de lo contrario nuestro argumento puede ser simplemente el reflejo de un prejuicio, traduce un orgullo o una vanidad inmerecida: solamente nosotros podemos ser realmente conscientes, nada –o nadie- más. Admitir, en fin, que una máquina es consciente, nos conduciría reconocer que no es la consciencia lo que nos hace humanos, como pensaba Descartes.

Un argumento bastante socorrido contra la IA, formalmente similar al anterior, consiste en excluir de la esfera del pensar todo aquello que hasta ahora es capaz de hacer un computador y considerar como pensamiento solamente aquellas cosas que no ha sido capaz de realizar. Lo que caracterizaría propiamente el pensamiento humano sería el conjunto de actividades que no ha sido o no es capaz de ejecutar. Es evidente que siempre podemos considerar cosas que una computadora nunca ha realizado aún o que, tal vez, nunca podrá realizar: como enamorarse, disfrutar de un apetitoso bocado o sentir un orgasmo.11 Pero no es esto el objetivo de la IA, sus pretensiones se reducen al modelaje de las actividades intelectuales de la mente humana –aunque en las actividades antes mencionadas es posible que exista un ingrediente intelectual. Como indicaba Turing, la debilidad de este argumento es la de todo argumento inductivo: se cree que una computadora es capaz de realizar solamente lo que ha hecho hasta ahora. Cuando apenas se empezaban a desarrollar las primeras computadoras había una gran cantidad de cosas que se pensaba eran imposibles de realizar por ellas y que hoy son algo absolutamente rutinario.12 Podríamos contra-argumentar, también inductivamente, que como gran parte de lo que antes estaba fuera del alcance de las computadoras ya no lo está, entonces nada impide que aquellas cosas que hasta ahora no ha podido realizar estén bajo su alcance en el futuro. Aunque tampoco es un argumento concluyente, pues ningún argumento inductivo lo es, lo cierto es que la IA surge “when mechanical devices took over any tasks previously performable only by human minds.”13 A juzgar por todos los avances de los últimos años, los avances en redes neuronales y sistemas de procesamiento en paralelo por ejemplo, el desafío de la IA, de que toda actividad mental humana es realizable también, en principio, por una máquina, no debe ser considerado descabellado ni ser tomado a la ligera.

Otro argumento que también aparece con frecuencia contra la IA, consiste en señalar la imposibilidad de que algo puramente material pueda dar origen a algo inmaterial como la consciencia. Dejando a un lado las posibles complicaciones a las que nos conduciría el clasificar a algo como material o inmaterial, este argumento tampoco resiste un análisis serio. La consciencia, al igual que la vida, tiene su origen en la organización de la materia inorgánica, por lo que no es imposible, en principio, reproducir las condiciones iniciales que dieron origen a ambas. Por improbable que ello haya sido, es innegable que han sido procesos materiales y físicos los que han dado origen a la vida primero y luego a la consciencia. Por más emergentes y novedosas que sean la vida y la consciencia, ellas son el resultado de complejos procesos físicos y químicos que apenas comenzamos a comprender. El reciente descubrimiento del genoma humano es un ejemplo, así como toda la investigación que se lleva a cabo sobre la neurofisiología del cerebro humano. Y si nos ponemos a comparar, la posibilidad de crear inteligencia por medios artificiales ha resultado algo mucho más sencillo que crear vida de manera totalmente artificial. El que la consciencia tenga una base material no dice nada a favor o en contra de la IA. Y, como veremos más adelante, tampoco el hecho de que el cerebro sea, como sostiene Searle, un “wetware” y no un “hardware”.

De nuevo, todo el asunto nos remite a dilucidar qué entendemos por pensar. Si definiésemos la actividad de pensar solamente como la actividad de resolver problemas, independientemente de que en este proceso interviniese o no lo que llamamos consciencia, resulta difícil negarle esa virtud a las computadoras. Como siempre, esto nos resuelve un problema pero nos crea otro, pues ahora debemos aclarar nuestro concepto de “resolver problemas”. La resolución de problemas abarca un dominio bastante amplio de operaciones posibles. Existe una parcela de problemas que pueden resolverse de manera mecánica mediante la aplicación de una determinada regla de cálculo, conformada por una serie de pasos finitos previamente definidos. De hecho, las modernas computadoras surgen, en parte, del diseño de máquinas, como la máquina de sumar y restar de Pascal o la de multiplicar y dividir de Leibniz, que realizaban operaciones relativamente complejas en un tiempo bastante menor al que le llevaría a un ser humano promedio. Si definiésemos a las computadoras como meros dispositivos de cálculo, tendríamos que admitir no solamente que son inteligentes, sino que son mucho más inteligentes que cualquiera de nosotros o que cualquier genio humano en esa área. (Hay personas que muestran una gran eficiencia en esta área, aunque en otras pueden ser considerados bastante atrasadas. Los franceses han acuñado el término de “idiot savant” para referirse a estos casos. La película de Barry Levinson, “Rain Man”, de 1988, en la que Dustin Hoffman encarna un caso particular de autismo, también ejemplifica lo anterior, al ser capaz de realizar cálculos complejos rápidamente, pero al ser incapaz de comprender razonamientos que subyacen en operaciones simples).  

Si pusiéramos a competir al más eficiente de los calculistas humanos con una computadora moderna el resultado sería evidente. En gran parte la eficiencia de una máquina reside precisamente en que solamente es eso: una máquina, en que está diseñada para realizar procesos puramente mecánicos y mecanizables, en los cuales no interviene para nada la consciencia. La rapidez con que una máquina realiza cálculos complejos no deja ninguna duda de que se trata de eso: una máquina. No sería difícil distinguir, al respecto, entre las respuestas de una máquina y un ser humano. Pero qué ocurriría si existiese una máquina capaz de responder a todas nuestras preguntas como lo haría un ser humano – lo cual supone cierta homogeneidad entre las respuestas que daría cualquier ser humano-, si sus respuestas fueran indistinguibles de las que daría un ser humano ante el mismo problema o situación. ¿Deberíamos atribuirle pensamiento en ese caso? De contestar afirmativamente a esta cuestión, y sólo en ese caso, el problema se reduciría a: ¿es posible, en principio, construir una máquina de acuerdo a la especificación anterior? Todo ello nos lleva a otra cuestión básica: ¿Podemos considerar a todo proceso mental como el producto de algún proceso mecánico subyacente, de alguna regla algorítmica y computable de procedimiento? Si la respuesta es sí, entonces nada impide que una máquina pueda, en principio, reproducir dicho procedimiento y en esa misma medida atribuírsele una mente y en consecuencia, pensamiento. Como veremos más adelante, buena parte del argumento de Penrose contra la IA consiste en la imposibilidad de establecer semejante homología.

Suele señalarse también que una computadora es capaz de realizar actividades propias del ser humano, pero no es capaz de integrar todas estas funciones dentro de un todo unificado, sólo puede trabajar serialmente y tomando en cuenta cada función a la vez. Este argumento desconoce todo el avance que se ha hecho en el campo de las redes neuronales y en el intento de modelar el funcionamiento en paralelo del cerebro. Se trata de un campo abierto de investigación, sobre el cual no se ha establecido la última palabra.
Una de las objeciones más interesantes ha sido la señalada por filósofos del lenguaje como John Searle. Para él, el funcionamiento inteligente de una computadora se mueve en el plano de la mera simulación. Sus respuestas pueden ser indistinguibles de las de un ser humano, pero ello no se traduce en ningún momento en una comprensión real del mundo. La razón de ello es muy simple: el lenguaje que ellas utilizan se mueve en un ámbito puramente sintáctico, están diseñadas para funcionar con un lenguaje formal, carente de significado.14
Otra de las objeciones que suelen plantearse en contra de la IA –denominada por Turing como “la objeción de Lady Lovelace” dirigida a la “máquina analítica” de Babbage– consiste en señalar que las máquinas sólo hacen lo que le pedimos que hagan, son meras herramientas al servicio del hombre. Incluso en los casos en que es capaz de autoprogramarse o programar a otras, aun así requiere de la inteligencia humana que la ha diseñado con tal fin. Este argumento, si lo podemos considerar como tal, ha sido utilizado, desde hace tiempo, en diversos contextos y responde a la necesidad de encontrar una causa primera, la causa de toda causa o el principio de toda la serie de causas y efectos, evitando así un indeseable regreso al infinito.15 En otras palabras, responde a la necesidad de encontrar un fundamento para la existencia de una serie causal. Pero este argumento se revierte contra quienes lo utilizan, pues también cabe preguntarse por qué hemos de detenernos en el hombre como el artífice de las máquinas. ¿No podemos considerar también a los hombres como máquinas programadas a partir de un código genético que es trasmitido de generación en generación? ¿No somos los seres humanos producto también de las “programaciones” que recibimos a través de la educación y del medio que nos rodea? ¿Hasta qué punto nuestras pautas de pensamiento son también el producto de “programas” innatos o adquiridos? ¿Nuestros instintos y nuestras conductas inteligentes no son también el reflejo de estas programaciones previas? ¿No formamos acaso parte del mismo universo y debemos obedecer a las mismas leyes? ¿Estamos, en realidad, en una situación tan diferente de las máquinas que usamos?

Todo esto nos lleva a plantearnos cómo es la estructura básica del universo y las leyes que lo rigen. ¿Vivimos en un mundo gobernado por una necesidad ciega, en un mundo regido por leyes estrictamente deterministas? Y en ese caso ¿cómo podemos ser agentes libres, cómo podemos tomar decisiones de modo voluntario y libre? Surge entonces la pregunta: ¿qué tan libre somos realmente? ¿No estamos permanentemente sometidos a serias restricciones en nuestra forma de pensar y de actuar? ¿Podemos incluso definir la libertad fuera de este marco restrictivo? ¿No serán, entonces, la consciencia y la libertad humanas meras ilusiones, que surgen por nuestra ignorancia de los mecanismos subyacentes que los originan? ¿Podrá una máquina diseñada de acuerdo a las especificaciones de la física cuántica, una máquina probabilística, borrar las diferencias entre el pensar humano y el de una máquina? ¿Estará ahí la clave para el desarrollo de la IA en el futuro?

De este modo, la pregunta inicial, aparentemente simple, sobre si las máquinas pueden pensar, nos ha remitido a toda una serie de problemas relacionados entre sí, para desembocar en el planteamiento acerca de nuestro papel dentro del inmenso universo del que formamos parte ¿Somos meros engranajes dentro de un mecanismo majestuoso que apenas comenzamos a entender? ¿Supone nuestra presencia alguna diferencia importante en el marco del universo, responde a alguna finalidad específica? En caso de que así sea: ¿cuál pudiera ser ésta? ¿O somos simplemente el producto de un  azar sin ningún  propósito? A continuación analizaremos algunas de las respuestas que da Penrose a estos problemas.

La Teselación de Penrose en el Storey Hall, edificio que forma 
parte del Royal Melbourne Institute of Technology (RMIT) en Melburne (Australia).


LA NUEVA MENTE DEL EMPERADOR

Este es el sugestivo título de la obra de Roger Penrose. Se trata de una obra solamente comparable a la que diez años antes escribiera Douglas Hofstadter. Si esta última constituye una de las mejores defensas de la IA, la primera, como señala Martín Gardner en el prefacio, “es el ataque más poderoso nunca escrito contra la IA”. Aunque cada una de estas obras defiende tesis opuestas, ambas son similares en algunos aspectos. Ambos son libros realizados por especialistas en matemáticas y en física, aunque van dirigidos a un público mucho más amplio que el del especialista y han resultado ser todos unos “best seller”. En la medida de lo posible, se trata de evitar un lenguaje demasiado técnico y cuando no hay más remedio que introducirlo, realizan una labor bastante pedagógica de aclaración conceptual. A pesar de la gran variedad de temas que son tocados en ambos libros, podríamos decir que cada uno propone una clave básica para su comprensión. Si el de Hofstadter está escrito siguiendo el espíritu lúdico de Lewis Carroll, el de Penrose puede ser condensado en el espíritu lúdico de Christian Andersen, del niño que ve lo que ningún adulto quiere ver y se atreve a decirlo: El emperador está desnudo.

Podría objetársele a Penrose que si la cuestión es tan evidente, y todo el problema de la IA puede ser respondido sin problemas por un niño, por qué nos ha sometido a un recorrido tan extenso y se ocupa de cuestiones abstrusas de lógica, matemática o física. Pero ello no hace sino indicar lo complejo que puede ser el llegar a una respuesta simple, lo difícil que puede resultar para un adulto conservar la visión infantil, el asombro metafísico del niño ante los enigmas que nos plantea la realidad, así como la capacidad de ver lo obvio que los demás no son capaces de ver. Recobrar esa visión, al mismo tiempo simple y profunda de un niño, constituye para Penrose la clave para la solución de nuestro problema. Aunque nuestra pregunta inicial pueda parecer simple y pueda requerir una respuesta simple, encierra, como ya hemos visto, “temas profundos de la filosofía”.

¿Qué significa pensar o sentir? ¿Qué es una mente? ¿Existen realmente las mentes? Suponiendo que sí existen, ¿en qué medida dependen de las estructuras físicas a las que están asociadas? ¿Podrían existir mentes independientemente de tales estructuras? ¿O son simplemente los modos apropiados de funcionar de (ciertos tipos apropiados de) estructuras físicas? En cualquier caso, ¿es necesario que las estructuras relevantes sean de naturaleza biológica (cerebros) o podrían también estar asociados con componentes electrónicos? ¿Están sujetas a las leyes de la física? ¿Cuáles son, de hecho, las leyes de la física?”16

Pero si la clave para la solución de nuestro problema es relativamente sencilla, debemos desentrañarla siguiendo ciertos pasos previos en los cuales surgen estas cuestiones. La mayoría de estas cuestiones ya han sido asomadas en nuestro planteamiento general del problema, aunque tendremos que detenernos en ellas con más detalle, con la finalidad de analizar la posición asumida por Penrose al respecto.

Teselación de Penrose


PENROSE Y LA IA

Uno de los pioneros de la IA es, sin duda, el matemático inglés, Alan Turing. No sólo sus planteamientos, sino también las posibles objeciones a estos planteamientos –como ya tuvimos oportunidad de destacar-, fueron claramente formulados en un artículo publicado originalmente en la revista Mind, en 1950, bajo el título de “Computing Machinery and Intelligence”. Aunque ya antes se había ocupado de cuestiones de computabilidad, cálculo efectivo o recursividad, es de este ensayo que arranca el planteamiento central de la IA.

Allí Turing reformula la pregunta, ¿pueden pensar las máquinas?, en términos de un experimento imaginario, de un test o, como él lo llama, un “juego de imitación”, el cual presenta la ventaja de ahorrarnos las divagaciones filosóficas que podrían surgir de la definición de “maquinaria computacional” o de “inteligencia”. Los integrantes de esta prueba son inicialmente: Un hombre (A), una mujer (B), y un interrogador (C), que puede ser hombre o mujer. La prueba consiste en que C pueda saber cuál de los dos es el hombre y cuál la mujer. Para ello debe permanecer en una habitación separada de A y B, desde donde debe de plantear una serie de preguntas a ambos que puedan arrojarle pistas de quién es quién. Para que el resultado dependa exclusivamente de las respuestas de ambos y no de otros factores como la voz, las respuestas deben ser pasadas por escrito por medio de un dispositivo apropiado. A esto hay que añadir que si A debe dar respuestas engañosas o pistas falsas, B en cambio debe ayudar al interrogador a encontrar la respuesta correcta. Pues bien, la pregunta acerca de si una máquina puede pensar o no se reduce para Turing a sustituir en el caso anterior A por una máquina. O dicho de otro modo: si las respuestas de A son iguales a las de B para un tercero C, entonces podemos afirmar que A piensa. Todo se reduce, así, a la posibilidad de diseñar un programa y una máquina apropiada que pueda superar con éxito esta prueba. Se dice, entonces, que si una máquina es capaz de superar con éxito “el test de Turing” ello es una prueba de que piensa.17  

Para Penrose este test puede ser considerado “como aproximadamente válido en su contexto”. Desde un punto de vista puramente operacional, tendría validez, pues “el operacionalista diría que el computador piensa con tal de que actúe de manera indistinguible de cómo lo hace una persona cuando está pensando.”18 El test de Turing es perfectamente compatible con este marco operacional, con un modelo conductista o de caja negra, para el que son irrelevantes los procesos que se dan internamente; lo importante son las preguntas de entrada y las respuestas de salida, los inputs y los outputs. Por cierto que este es el modelo a partir del cual se construyen las computadoras. En cuanto a considerarlo como un modelo apropiado para explicar la mente o el comportamiento humano, existen dudas razonables.

La cuestión de fondo que subyace a este planteamiento es la de que toda actividad, ya sea la de una máquina o la de un ser humano, traduce la ejecución de una regla mecánica de decisión, es expresión de algún algoritmo. Es evidente que muchas actividades humanas y procesos de pensamiento son altamente mecanizables. El diseño de cualquier máquina responde a esta posibilidad y representa una gran utilidad en la medida en que nos libera de tareas que son puramente mecánicas y repetitivas. Como ya lo señalaba Whitehead, el avance de la civilización puede medirse por la cantidad de actividades que pueden realizarse de manera mecánica, sin pensar en ellas, dejando disponible el pensamiento para otras tareas. Pero ¿podemos afirmar válidamente que todas las actividades mentales humanas son mecanizables, pueden convertirse en rutinas ejecutables por una máquina?

Como señala Penrose, existe cierta ironía en el hecho de que sea el propio Turing el que nos dé la pista para responder negativamente a esta pregunta. La razón, sin entrar en complicadas cuestiones lógicas, es la siguiente: sabemos que una máquina ejecuta un algoritmo si es capaz de detenerse una vez que obtiene un resultado, pues éste es definido precisamente como un proceso de pasos finito que da un resultado determinado correcto.19 Pero el mismo Turing llegó a la conclusión de que no es posible diseñar una máquina universal que determine para toda máquina si va a detenerse o no. Que una máquina se detenga o no es algo que no puede resolverse o decidirse de forma mecánica. Ni siquiera el campo de las matemáticas se deja encerrar, todo él, en la ejecución de un algoritmo y eso que constituye su mayor fuente y origen. Como repite de diversas formas Penrose, “la decisión sobre la validez de un algoritmo ¡no es ella misma un proceso algorítmico!”20 y “la verdad matemática no es algo que averigüemos simplemente utilizando un algoritmo.”21 Para él existe un elemento esencialmente no algorítmico en el pensamiento humano consciente y que, por lo tanto, no puede ser reproducible o modelable por una máquina, no importa lo compleja que esta pueda ser. El pensamiento humano tiene un ingrediente no algorítmico, que no se deja reducir a un proceso mecánico repetible.

La posición de Penrose comparte algunas de las ideas señaladas anteriormente por Searle, aunque difiere en algunos aspectos de él. Para Searle, la posibilidad de que una máquina ejecute satisfactoriamente un algoritmo no es ninguna prueba de que piensa. Un computador digital está diseñado para manipular signos, para operar dentro de un nivel exclusivamente sintáctico, para relacionar un signo con otro, y carece de esa dimensión semántica, más aún pragmática, del lenguaje humano, de la que se surge la comprensión y la consciencia. Al respecto Penrose dice: “El punto importante de Searle – y pienso que tiene bastante fuerza- es que la mera ejecución de un algoritmo correcto no implica en sí mismo que haya tenido ninguna comprensión.”22 Pero aunque se trata de un argumento bastante fuerte, no lo considera concluyente. En particular, considera que Searle expresa una confusión generalizada sobre el tema, y concede demasiado a la IA, cuando señala que el cerebro humano, como, en principio, cualquier cosa, puede ser considerado un computador digital. El libro de él se propone precisamente “demostrar por qué, y quizá cómo, esto no tiene que ser así.”23



El otro punto en que su posición difiere de la de Searle es el de la importancia que este último le confiere al material del que están hechos los cerebros humanos, en comparación con el material con el cual construimos un computador. Para él, éste no es ningún aspecto relevante y “en sí mismo esto no me parece señalar el camino hacia una teoría de la mente científicamente útil.”24 Refiriéndose a posibles argumentos contra la IA, también añade que “el simple hecho de que el computador pudiera estar construido a base de transistores, cables y similares en lugar de neuronas, venas, etc., no es, propiamente dicho, el tipo de cosas que consideraría evidencia en contra.”25 En este aspecto particular, su posición se aparta de Searle y se aproxima, de modo curioso, a la tesis de la IA, contra la cual va dirigido todo su ataque, pues comparte con ella la tesis de la indiferencia con relación a la ubicación del algoritmo: en la mente humana, en la máquina o en un mundo platónico de verdades matemáticas, como lo hace Penrose al final.26
A pesar de estas diferencias de detalle,  está de acuerdo con Searle en lo esencial. No niega la utilidad de una IA débil,27  la posibilidad de utilizar el cerebro humano para modelar computadoras o de utilizar la computadora como un modelo de la mente humana. La computadora puede ser vista como si fuese un cerebro humano y el cerebro humano como si fuese una computadora. La mente humana puede ser vista como si fuese el programa del cerebro humano.  Hasta allí no hay problema. El problema surge cuando se elimina el “como si” fuera y se lleva a cabo una identidad o una reducción sin residuo entre ambos términos de la relación, como pretende la IA fuerte. También coinciden ambos en afirmar que la mente es explicable a partir de la evolución física del universo y que no hay ningún problema en ello. El “misterio de la mente” puede ser develado por la ciencia, pero ello no elimina la consciencia como algo real, sino que lo hace algo aún más maravilloso. En este vasto universo lleno de espacio vacío, de materia inerte, de algo como la vida y, sobre todo, de algo como la consciencia, debe haber un valor selectivo para que haya habido esta evolución. No se trata solamente de afirmar que si la consciencia ha emergido es porque se han dado las condiciones físicas de tal evolución, lo que resultaría obvio, sino de la afirmación más importante todavía de que esta consciencia desempeña un papel importante en esta evolución 28.

La consciencia me parece un fenómeno de tal importancia que sencillamente no puedo creer que sea algo que sólo es “accidentalmente” producido por una computación complicada: es el fenómeno en el que se hace conocida la misma existencia del universo. Podemos argumentar que un universo gobernado por leyes que no permitan la consciencia no es un universo en absoluto. Diría incluso que todas las descripciones matemáticas del universo que se han dado hasta ahora deben incumplir este criterio. ¡Es sólo el fenómeno de la conciencia el que puede conjurar un presunto universo “teórico” a la existencia real!29

Para nuestro autor, el carácter no-algorítmico de la consciencia tiene mucho que ver con la propia creatividad y originalidad del pensamiento humano. Contrariamente a aquellos que ven en el inconsciente la fuente de esta creatividad y originalidad, él considera que son los procesos inconscientes los que se realizan de modo algorítmico.30 Así señala: “mientras que la acciones inconscientes del cerebro son las que proceden según procesos algorítmicos, la acción de la conciencia es muy diferente y actúa de una forma que no puede describirse mediante ningún algoritmo”.31
La originalidad depende más del rechazo consciente a una idea que de la ocurrencia o propuesta de origen inconsciente. Los procesos conscientes sobre los que se basa el rechazo o no de alguna idea, aparecen en la emergencia de las intuiciones instantáneas, valorizaciones estéticas o de visualizaciones no-verbales, pues la idea de que el pensamiento consciente debe estar acompañado de un lenguaje verbal es posiblemente la expresión de un juicio o prejuicio filosófico.32 Sin duda que hay actividades el las que el lenguaje está muy vinculado al pensamiento y son, en cierto sentido, inseparables. En la literatura o en el filosofar, por ejemplo,  por lo que “¡quizás sea esta la razón del por qué muchos filósofos parecen ser de la opinión de que el lenguaje es esencial para el pensamiento inteligente o consciente!”33
En cambio hay otras disciplinas en las que el lenguaje verbal desempeña un papel completamente secundario, cuando no un obstáculo. Penrose hace referencia a la formación de juicios estéticos que ocurren en creadores como Poincaré o Mozart, en los que aparece de golpe la verdad de un teorema, aún antes de su demostración, o la totalidad de una sinfonía, aún antes de su transcripción.
    
Son estos juicios lo que considero la impronta del pensamiento consciente. Mi conjetura es que, incluso para el repentino golpe de intuición, aparentemente producido ya listo por la mente inconsciente, es la consciencia la que es el árbitro, y la idea será rápidamente rechazada y olvidada si no “sonase cierta”.34 

Todo esto es relevante en este contexto, pues a Penrose le “parece poco concebible que la verdadera inteligencia pudiera estar presente a menos que estuviera acompañada de la consciencia.”35 Él reconoce que este es el tema que realmente le preocupa y le importa: ¿qué papel desempeña la consciencia en el vasto universo del cual emerge? La consciencia marca una diferencia en este vasto universo en que vivimos y no puede ser considerada como un mero epifenómeno de él. El universo cobra belleza porque somos capaces de descubrirla o, mejor dicho, la belleza de ese universo existe gracias a que podemos componer un poema sobre un atardecer o una sinfonía sobre una tormenta.36
Podemos resumir todo este argumento del siguiente modo: Si la verdadera inteligencia debe estar acompañada de consciencia y si la consciencia es irreducible a un proceso de tipo recursivo o algorítmico, entonces parece inevitable reconocer que la tesis de la IA-fuerte es errada. La idea de que un computador puede modelar la consciencia o, más aún, la autoconsciencia humana, a través de un proceso de referencia o autoreferencia, es una idea completamente superficial de lo que todo ello representa. Aunque no lo mencione en este contexto, seguramente está pensando en Hofstadter cuando dice: “Pero un programa de ordenador que contenga dentro de sí (digamos como subrutina) alguna descripción de otro programa de ordenador no hace al primer programa consciente del segundo; ni ningún aspecto auto-referencial de un programa le hace auto– consciente.”37
La consciencia humana y el humano pensar –tan escasos y por eso tan valiosos-  son algo demasiado precioso para dejarlos en manos de las máquinas o para que ellas decidan, por nosotros, lo que es el pensar humano. Siempre hemos pensado, al analizar este tema, que la real fuente de preocupación acerca de la posibilidad de que las máquinas piensen realmente, deberá surgir solamente cuando ellas sean capaces de plantearse y comprender esa misma pregunta en relación consigo mismas y con nosotros, pues allí estaría el germen de la consciencia humana. Y, lo que es peor,  es posible que pudiesen llegar a la conclusión, tomando en cuenta muchas de las cosas que el hombre ha sido capaz de realizar, en particular, las menos buenas,  que realmente no pensamos, pues si no una parte aparentemente insignificante de ese universo podría ser un mejor lugar para vivir.  Quizás este sería el tipo de experimento imaginario que se plantearía un niño para destacar lo que a él le resulta obvio: ¡El Emperador está desnudo!, lo cual significa que las computadoras carecen de inteligencia real, pues carecen de la comprensión y de la consciencia que acompaña a cualquier ser humano.38 Esta visión de niño no depende de todos los posibles tecnicismos, argumentos, o de la construcción de complejos modelos teóricos, como los que solemos emplear los adultos, a menudo sólo para inflar nuestros propios egos. Se trata más bien de una captación intuitiva de lo que resulta evidente, pues “por encima de estos tecnicismos está el sentimiento de que es realmente ‘obvio’ que la mente consciente no puede trabajar como un computador, incluso aunque mucho de lo que está realmente implicado en la actividad mental podría hacerlo.”39





Notas

1. Este trabajo fue publicado originalmente en EPISTEME NS, Vol. 20, No. 1, 2000, pp. 29-49. Hemos hecho algunas mejoras y añadidos. Por otro lado, hemos querido dedicar este trabajo a la memoria de Eduardo Piacenza, pues seguramente este trabajo hubiese sido blanco de sus críticas o “reparos”  -como solía decir eufemísticamente-,  de haber tenido la oportunidad de hacerlo. Como alguien que hizo de la argumentación un “modo de vida”, hubiésemos sido objeto de  agudos comentarios que redundarían en mejorar lo escrito. Lamentablemente ello no es ya posible, aunque espero que este breve ensayo sea valorado más en este caso como un  humilde homenaje a alguien que siempre fue un desafiante interlocutor, sin perder nunca por eso la compostura ni dejar de  transmitir su gran calidez humana y su  fino sentido del humor. Por lo pronto nos conformaremos simplemente con arrancar una mueca de alegría en su rostro barbado, así lo recordamos,  donde quiera que se encuentre.
2. En esto nos reconocemos más cercanos al espíritu de un García Bacca que de un Heidegger. 
3. La nanotecnología permite desarrollar aparatos cada vez más pequeños y al mismo tiempo más veloces y con mayor capacidad de almacenamiento o memoria.
4. Los ludistas fueron la más extrema expresión de esta idea. Con ello no pretendemos, por otro lado,  desconocer la situación de “paro estructural” que ocurre en países avanzados, en la medida en que labores tradicionales son paulatinamente sustituidas por máquinas. Parece que la utopia tecnológica imaginada por algunos optimistas ha devenido parte de la pesadilla imaginada por los más pesimistas. Y tal parece que un uso más racional de la tecnología es indispensable si hemos de sobrevivir en este diminuto planeta.
5. Penrose, R.: La nueva mente del emperador, Barcelona, Grijalbo-Mondadori, 1995, pp.23s. En este libro se ocupa de estos temas fundamentalmente en el primero y último capítulo. Penrose es un reconocido matemático y físico y ha hecho aportes importantes a ambos campos. Tal vez su contribución más importante ha sido en el campo de la relatividad generalizada y la cosmología, junto con su amigo Stephen Hawking. Su libro El camino a la realidad, México, Mondadori, 2007, es la obra más acabada de sus ideas cosmológicas y físicas. También tiene otros libros en los cuales se ocupa del tema de la mente humana.
6. En lo sucesivo nos referiremos al tema con las siglas en español, pues en inglés se utiliza AI. En líneas generales, suele hablarse de inteligencia humana, animal, militar y artificial. A su vez, se entiende por IA, una serie de campos relacionados: programación, sistemas expertos, robótica, etc. Al decir artificial en este caso no nos referimos a algo falso, como unas flores artificiales o de utilería, sino al vuelo artificial de un avión o a la iluminación artificial de un bombillo,  que son casos en los cuales nadie negará la realidad del vuelo o la realidad de la iluminación. Si un avión no vuela exactamente como un pájaro ni un bombillo ilumina exactamente como una estrella, y no por ello deja de volar el primero o de iluminar el segundo,  por qué entonces habríamos de negarle pensamiento a una máquina por el solo hecho de que no lo haga exactamente como una mente humana. Este será el núcleo del argumento de Turing o la finalidad de su juego de imitación.
7. Turing, A.: “¿Piensan las máquinas?”, en Newman J.R., El mundo de las matemáticas, Barcelona, Grijalbo, 1983, p.46. Más adelante abordamos con más detalle la posición del genial pionero de la IA.
8. Descartes, R.: Meditaciones acerca de la Filosofía Primera. Seguidas de las objeciones y respuestas, Bogotá, Universidad Nacional de Colombia, 2009, p. 255 y  p. 89. Se trata de una hermosa edición bilingüe, latín-español y francés-español, cuya traducción estuvo a cargo de  nuestro estimado profesor Jorge Aurelio Díaz. Obviamente nos llevaría muy lejos hacer un análisis exhaustivo de Descartes, como nos invita esta labor de traducción.
9. Puede encontrarse una interesante crítica de la tesis dualista de Descartes en Damasio, A. R.: El error de Descartes, Barcelona, Crítica, 2001. Véase también Llinás R.: El cerebro y el mito del yo, Bogotá, Norma, 2003 y www.revistanumero.com/39cere.htm . Estos estudios se ubican dentro de una nueva disciplina: la neurofilosofía. Nuestra opinión es que los avances en la comprensión de la química cerebral y la explicación científica de la consciencia no la eliminan ni la convierten en una mera ilusión filosófica. Sin defender un dualismo como el de Descartes, lo cierto es que el carácter subjetivo de la experiencia consciente o autoconsciente no puede ser suprimida y tiene una cualidad no reducible a lo físico o bioquímico, a lo puramente material. El yo no es una mera ficción gramatical: las experiencias de primera persona no pueden ser reducidas a experiencias de tercera persona.  En otras palabras, si bien Descartes no estaba completamente en lo cierto, pues el yo no es una substancia completamente separada de la materia, tampoco estaba completamente descarriado al atribuirle  a la mente humana una realidad no material, vale decir, espiritual. Claro que algunos defensores de la IA, como Ray Kurzweil,  ya hablan de la existencia de “máquinas espirituales”. Por cierto que Descartes anticipó mucho de los argumentos en contra de la IA ante la posibilidad de diseñar  autómatas carentes de mente. Véase también Lukomski, A.: El problema Mente-Cuerpo, Bogotá, Universidad del Bosque, Colección “Filosofía y Ciencia”, Vol. 4, 2001 y el trabajo de Pascual F. Martínez-Freire: Popper y el problema mente-cuerpo, en este blog.
10. Véase “El dolor de María” de José Luis Díaz, en este mismo blog, en el cual el gato  de María, se llama, y no por casualidad,  Descartes. Como muy bien lo relata este autor, se pueden conocer todos los mecanismos fisiológicos que están en la raíz del sentimiento de dolor, pero si se carece de la experiencia del dolor es difícil, por no decir imposible, comprender o saber de qué se trata verdaderamente. Algo similar podríamos decir de los actos conscientes en general.
11. Véase Turing, op. cit. pp.48ss. Podemos, por ejemplo,  diseñar una máquina y un programa que gane al mejor ajedrecista del mundo, como ocurrió con Deep Blue de IBM en 1997, pero, como dijo Gari Kaspárov en esa oportunidad,  la máquina no puede disfrutar de su triunfo, - aunque sí, desde luego,  y bastante, aquellos que la diseñaron. Por cierto que esa victoria de la máquina vs. el hombre,  le generó bastantes ganancias a IBM y bastantes antipatías del público contra sus ingenieros, lo cual es perfectamente comprensible.
12. Puede encontrarse una lista bastante completa de estas actividades en Hofstadter, D.: Gödel, Escher, Bach: An Eternal Golden Braid, (o por las siglas GEB:EGB), New York, Vintage Books, 1980, pp. 601ss. Hofstadter denomina este argumento como el “teorema de Tesler”, el cual formula así: “once some mental function is programmed, people cease to consider  it as an essential ingredient of ‘real thinking’. The ineluctable core of intelligence is always in that next thing which hasn’t yet been programmed” o, más brevemente, “AI is whatever hasn’t been done yet”, Ibid. p. 601. Hay diversos links con relación a este libro.
13.  Idem
14. Véase en este mismo blog  nuestro artículo “John Searle y la Inteligencia artificial”. Más adelante analizaremos la posición de Penrose con relación a algunos puntos de vista de Searle.
15. En relación con este argumento, y otros que hemos discutido aquí, puede consultarse a Marx Wartofsky, Madrid, Alianza Editorial, 1976, tomo II, pp. 487ss.
16. Penrose, op. cit. p.24.
17. Cf. Turing, op. cit. pp. 36-60. Una importante aplicación del test de Turing es el Captcha ( Completely Autometed Public Turing Test to tell Computers and Humans Apart), en el cual se nos solicita transcribir una imagen distorsionada de letras o números, para que el programa pueda diferenciar a una persona de una máquina, inhibiendo así el correo chatarra o spam (marca de la carne que recibían los soldados de EEUU durante la Segunda Guerra Mundial).  Por eso se llama también  test de Turing inverso. Aunque hasta hay un premio anual de 100.000 dólares, el Premio Loebner,  para quien diseñe un programa que supere el test de Turing, hasta ahora no ha habido ninguno que lo haya hecho satisfactoriamente.
18. Penrose, op. cit. p. 27.
19. Aunque la definición formal de algoritmo implica una serie finita de pasos, una suerte de manual de instrucciones formuladas inequívocamente, de cuya aplicación obtenemos un resultado también inequívoco, ello también se aplica en los casos en que podemos hallar un resultado inequívoco, aunque la serie a la que se aplique sea infinita, como la serie de los números naturales, y debamos hallar si un número es par, impar, múltiplo de otro número, primo, etc. La tesis de Turing, también conocida como la tesis Church-Turing, es que siempre que se diseñe un algoritmo abstracto es posible también diseñar una máquina capaz de llevar a cabo dicho algoritmo, pues el lenguaje de una máquina está programada precisamente por medio de dichos algoritmos o diagramas de flujo, como se les llama en programación. La idea de diseñar una máquina universal o un programa que pueda servir para toda máquina está en la base de los sistemas operativos, pues es el programa principal que permite ejecutar todos los demás programas. Sin embargo, el hecho de que el estado de una máquina funcione siempre de acuerdo a un algoritmo no se puede resolver de modo algorítmico, habría que esperar siempre a que se detenga en un punto. El teorema de Church señala algo similar, la imposibilidad de reducir todo proceso de pensamiento a un proceso puramente mecánico. Algo parecido al teorema de incompletitud de Gödel, el cual demuestra la imposibilidad de decidir acerca de la verdad o falsedad de determinados enunciados en todos los sistemas lógicos y matemáticos, como por ejemplo, en la lógica de predicados de segundo orden o en la aritmética elemental. El razonamiento, en fin,  no es completamente reducible a un cómputo, a sumar y restar, como decía Hobbes  Este punto, como veremos más adelante, es fundamental para Penrose
20. Ibid., p. 514.
21. Ibid. p. 518.
22. Ibid. p. 43.
23. Ibid., p. 48
24. Idem
25. Ibid. p. 32.
26. Penrose reconoce con sorpresa esta coincidencia: “No obstante, me siento algo desconcertado al descubrir que existen muchos puntos en común entre el punto de vista de la IA fuerte y el mío”, Ibid., p. 533.  Aunque Penrose crítica la propuesta metodológica de Popper, también coincide sorpresivamente con su postulación de un Mundo 3 objetivo, diferente del mundo mental o del material. Véase también nota 29.
27. La distinción entre IA débil e IA fuerte fue introducida por Searle. Véase nota 14.
28. Penrose va más allá del principio antrópico: “yo no puedo creer que el principio antrópico sea la razón auténtica (o la única razón) para la evolución de la conciencia. Hay evidencia suficiente procedente de otras direcciones para convencerme de que la consciencia tiene una poderosa ventaja selectiva, y no creo que se necesite el principio antrópico”, Ibid. p. 538.
29. Se haría cierto el principio de todo idealismo: aunque debemos admitir que la consciencia es producto de la evolución del universo material, este universo solamente pasa a ser verdaderamente real gracias a la consciencia, por medio de nuestro conocimiento o reconocimiento de la existencia de dicho universo. En ese sentido, somos co-creadores de ese universo. Por otro lado, Penrose defiende la existencia de un universo platónico de ideas, el cual sería autónomo respecto del  mundo físico y al de  las representaciones mentales.
30. Cf. Ibid. p. 510 y passim. Esta idea resulta interesante, pues a menudo la creatividad es asociada al inconsciente y no es considerada susceptible de comprensión racional o reproducción. Penrose invierte este punto de vista, al considerar que los procesos inconscientes obedecen a procesos algorítmicos y que la verdadera creatividad está en el acto consciente de rechazo a una teoría o una idea, rechazo que no puede ser sometido a un proceso puramente algorítmico.
31. Ibid. 510. Y  un poco más adelante señala “que los procesos inconscientes podría ser perfectamente algorítmicos, pero en un nivel muy complicado que sería monstruosamente difícil de desentrañar en detalle”.
32. Cf. Ibid. pp. 518-27.
33. Ibid. p. 526.
34. Ibid. p. 523. Hemos abordado este tema con más profundidad en nuestro artículo: “Modelos y Metáforas. El uso de la analogía en la ciencia”, en este mismo blog. La idea básica es que el rechazo o aceptación de una teoría, el cambio de una teoría, no puede hacerse de forma puramente algorítmica o puramente lógica, pues intervienen en  este proceso valoraciones  o criterios de otro orden también. Este punto es el que dio origen a la famosa polémica Popper-Kuhn. Véase Imre Lakatos & Alan Musgrave (ed.): Criticism and the Growth of Knowledge, Cambridge, Cambridge University Press, 1981.
35. Ibid. p. 505.
36. Véase “La decadencia de la mentira” de Oscar Wilde en este blog, en textos clásicos. Wilde compartiría el punto de vista platónico de Penrose, de que nosotros introducimos la belleza en el mundo natural, de que la “naturaleza imita el arte” en la provocadora expresión de Wilde. Para Penrose la consciencia está en cierta forma fuera del tiempo físico, está fuera del intervalo del tiempo natural, pues entonces no podríamos comprender, en el caso de Mozart,  ese “captar de golpe” que podía realizar de una composición musical por larga que fuese: “Debemos suponer, por la descripción de Mozart, que ese ‘golpe’ contenía la esencia de la composición entera, pese a que el intervalo del tiempo real, en términos físicos ordinarios, de este acto consciente de percepción no fuera en modo alguno comparable con el tiempo que se necesitaría para ejecutar la composición”, Penrose, op. cit. p. 551. Para él “hay quizá una estrecha similitud entre la composición musical y el pensamiento matemático”, Ibid., p. 552. En ambos caso se produciría alguna forma de  contacto con una suerte de universo platónico intemporal, apartado de los objetos de la realidad ordinaria. Véase de nuevo nuestra dedicatoria. 
37. Ibid. p. 508.
38. No se nos escapa el hecho de que pueda haber habido niños que  se suicidasen cuando se moría su mascota virtual o tamagoshi. Pero ello no hace sino reforzar nuestro punto: la excepción confirma la regla y habría que analizar cuáles son las razones que llevan en una determinada cultura a realizar dichos actos “absurdos”. Curiosamente, Marvin Minsky pensaba que podíamos considerarnos afortunados si las computadoras más sofisticadas nos mantenían a los seres humanos como sus mascotas.


39. Ibid. p. 555. Esto no impide, en cualquier caso, que podamos seguir considerando la tesis de la IA como bastante interesante y útil, incluso fascinante, en la medida en que nos acerca a una mayor comprensión de nosotros mismos y de nuestro lugar en el universo. La IA sigue siendo un modelo de innegable fertilidad tecnológica, aunque de dudosa validez epistemológica. El valor heurístico de la IA débil, contrasta con la pobreza imaginativa de la IA fuerte. Al respecto señala Penrose: “Si alguna vez descubrimos en detalle cuál es la cualidad que permite a un objeto físico llegar a ser consciente, entonces sería concebible que pudiésemos ser capaces de construir tales objetos por nosotros mismos –aunque podrían no calificarse como ‘máquinas’ en el sentido de la palabra que ahora entendemos. Podríamos imaginar que estos objetos tendrían una  enorme ventaja sobre nosotros, puesto que podrían diseñarse específicamente para la tarea a realizar, a saber, alcanzar consciencia…. Podríamos imaginar….que tales objetos podrían tener éxito en superar efectivamente a los seres humanos en las tareas en las que (en opinión de gente como yo mismo) los computadores algorítmicos están condenados a la subordinación”,  Ibid. pp. 515s. La existencia de tales “máquinas cuánticas” nos plantearía, de hecho, un dilema moral, pues ya no podríamos tratarlas como simples máquinas o aparatos, sino como personas dotadas de conciencia. Como dice Penrose: “si los fabricantes tienen razón en sus afirmaciones más radicales, es decir, que su aparato es un ser pensante, sintiente, sensible, comprensivo, consciente, entonces nuestra compra del aparato nos implicará en responsabilidades morales. ¡Ciertamente lo haría si hubiéramos de creer a los fabricantes! Sería censurable el simple hecho de poner en marcha el computador para satisfacer nuestras necesidades sin tener en cuenta su propia sensibilidad. Eso no sería diferente de maltratar a un esclavo. En general, tendríamos que evitar causar al computador el dolor que los fabricantes alegan que es capaz de sentir”, Ibid. p. 30. La ironía de todo ello es que es más fácil modelar facultades abstractas del pensamiento que modelar habilidades motrices o perceptivas de un niño pequeño y  habría que esperar una evolución similar en el caso de las máquinas, para lo cual sólo se requeriría del diseño de un algoritmo genético lo suficientemente complejo y potente. Esto nos recuerda la paradoja de Picasso cuando señalaba que “a los doce años pintaba como Rafael, pero necesité toda una vida para aprender a pintar como un niño” o que “lleva tiempo llegar a ser joven”. Quizás ese sea el tiempo evolutivo que necesiten esas máquinas,  capaces de batir a un gran maestro de ajedrez pero incapaces de sonreír como un bebé. Lo que le falta precisamente a la IA fuerte o dura es la duplicación o replicación de la vulnerabilidad, fragilidad y plasticidad de un bebé humano, aunque si diseñamos las máquinas, ¿no es acaso para que sean más fuertes que nosotros?  Y si la IA nació vieja, ¿no le ocurrirá, como en “el extraño caso de Bejamin Button”,  que irá muriendo a medida que se hace más joven? Pero entonces, ¿morir no es también una forma de nacer? ¡Quién sabe! Al menos en el plano de nuestros afectos siempre nos gustaría que fuese así.