Magnífico libro aunque a los neófitos nos cuesta leerlo donde reconocer el acto participativo del cerebro en nuestra relacion ser-hacer- y pensar es una dinamica importante desde todo punto de vista. El problema se da cuando dejamos a un lado nuestra dimensión espiritual…Caemos en el reduccionismo de la ciencia positivista y damos campo para que la tecnologia e la valoración cientifica lo digan todo…
Escribió en el Prefacio de este libro de 1994, «Este libro puede considerarse, en cierto sentido, como una secuela de ‘La nueva mente del emperador’ (ENM) … Parte de la motivación para escribir nuevamente sobre este tema surgió originalmente de una necesidad de respuestas detalladas a una serie de preguntas y críticas que varias personas plantearon … Sin embargo, voy a presentar un caso aquí que se destaca por sí solo y que explora algunas ideas nuevas … Uno de los temas centrales de ENM había sido mi afirmación de que mediante el uso de nuestra conciencia estamos habilitados para realizar acciones que están más allá de cualquier tipo de actividad computacional … El presente volumen proporciona lo que creo que es un caso mucho más poderoso y riguroso para esta conclusión general, y se aplica a cualquier tipo de proceso computacional sea cual sea … Mi caso tiene dos vertientes distintas … Discutir fuertemente contra el punto de vista común de que nuestra mentalidad consciente … podría, en principio, ser entendida completamente en términos de modelos computacionales. El otro capítulo. .. representa una búsqueda genuina de un medio … por el cual un cerebro científicamente descriptible podría ser capaz de hacer uso de principios físicos sutiles y en gran parte desconocidos para realizar las acciones necesarias no computacionales «.
Él explica: «Entonces, ¿qué quiero decir con conciencia? … hay aspectos pasivos y activos para la conciencia, pero no siempre es claro que haya una distinción entre los dos. La percepción del color rojo … es algo que sin duda requiere consistencia pasiva, como es la sensación de dolor o la apreciación de una melodía. La conciencia activa está involucrada en la acción voluntaria de levantarse de la cama, ya que es una decisión deliberada desistir de alguna actividad energética. a la mente de una memoria temprana involucra tanto la conciencia activa como pasiva «. (Pg. 39)
Él resume, «¿Qué concluimos … es el máximo potencial de la inteligencia artificial? … [Yo antes] defendí fuertemente que la tecnología de los robots electrónicos controlados por computadora NO proporcionará un camino para la construcción artificial de una Máquina realmente inteligente — en el sentido de una máquina que entiende lo que está haciendo y puede actuar sobre esa comprensión … Las computadoras, concluimos, hacemos algo muy diferente de lo que estamos haciendo cuando llevamos nuestro conocimiento para influir en algunos problema.» (Pg. 393)
Concluye: «Espero haber persuadido al lector de la estrecha y genuina relación — aún profundamente misteriosa — entre el mundo matemático platónico y el mundo de los objetos físicos … algunos podrían ir más allá de lo que he sido preparado para entrar en esta discusión. Tal vez una realidad platónica debería ser asignada a otros conceptos abstractos, no solo matemáticos … He estado abordando preguntas … de nuestras propias percepciones de la verdad matemática, es decir, con la forma aparente de que, a través de la contemplación mental, parece que somos capaces de ‘evocar’ esas formas matemáticas platónicas … Pensar que el mundo matemático es un producto de nuestros modos de pensar sería adoptar una visión KANTIANA en lugar de la visión platónica uno que estoy abrazando aquí «. (Pg. 416-417)
No es tan «innovador» como ENM, este libro es todavía, creo que, se «debe leer» para cualquier estudiante serio de neurociencia cognitiva, filosofía de la mente, inteligencia artificial o campos relacionados.
Las sombras de la mente es, sin duda, un libro menos populista que su predecesor, «The Emperor’s New Mind». También es significativamente más técnico en lugares que el predecesor. Su objetivo es ampliar los argumentos basados en Godel utilizados en ENM en varias direcciones. En primer lugar, intentar abordar varias críticas al argumento central del libro anterior y luego desarrollar algunas nuevas. También hay una discusión de la aplicación a Robótica. Un ejemplo de este tipo de discusión es si cualquier capacidad de un Robot para aprender desharía cualquiera de las restricciones del Robot deducidas en su argumento básico. Después de todo el aprendizaje (humano o robótico) implicará ir más allá de las restricciones anteriores y estar al tanto de los nuevos hechos.
Entonces, se necesita un argumento sutil para continuar demostrando que, a pesar de esto, los humanos saldrán ganando. Si está interesado en este tipo de sutileza después de leer ENM, este es el libro para usted.
En efecto, Penrose está en el centro del debate sobre la Mente-Máquina en este libro. Doy una visión general de este debate de la siguiente manera:
Necesitamos encontrar una teoría científica de la mente. Entonces podemos examinar qué tipo de dispositivo cognitivo o de pensamiento podría ser, reconociendo que también piensa en las Matemáticas. Para eso necesitamos un modelo de cognición suficientemente general: el modelo de máquina de Turing está disponible y generalmente se considera que es ese modelo; no hay rivales obvios. Entonces uno puede enfocarse en si el modelo de la máquina de Turing realmente podría ser un modelo para la Mente Matemática Humana. Si la respuesta es «sí», concluiríamos también: los robots podrían tener Mentes.
Penrose saca la conclusión sobre el razonamiento matemático que:
G: «Los matemáticos humanos no están usando un algoritmo de sonido conocido para determinar la verdad matemática».
Esta afirmación no es exactamente la afirmación de que la Mente no es una Máquina de Turing (algoritmo aquí), y algunos críticos han intentado exponer las lagunas. En este libro, Penrose analiza varias líneas argumentales para cerrar la brecha. Una posible refutación podría ser: «¿podrían los matemáticos simplemente usar algoritmos poco sólidos?» – el argumento de máquina defectuoso. Esto está muy cerca de las preguntas sobre los fundamentos de las matemáticas, después de todo ¿esto sugiere que las matemáticas en sí mismas son fundamentalmente erróneas? Si es así, ¿dónde está esa falta de solidez? Así que Penrose llega a la conclusión paso a paso y a través de 100 páginas impares, que la afirmación G anterior implica que, de hecho, la Mente no es una Máquina de Turing.
Sin embargo, esta última conclusión introduce otro problema: si la Mente no es una Máquina / algoritmo de Turing, ¿qué tipo de modelo (científico) existe para ello? Al final del libro, Penrose examina una generalización del modelo de máquina de Turing (llamado Oracle Machines y también debido a Alan Turing) y determina que una afirmación similar a G también se aplica a esa clase de modelo también. Por lo tanto, la historia queda incompleta y me sentiría tentado a decir que en algún lugar existe un modelo M del cual podemos deducir:
«Los matemáticos humanos están usando M para determinar la verdad matemática»
Hay quienes parecen dispuestos a creer que realmente podemos estar cerca de una comprensión científica de la consciencia; que este fenómeno no guarda ningún misterio e, incluso, que todos los ingredientes esenciales pueden estar ya en su sitio. Aducen que es simplemente la extremada complicación y perfección de la organización de nuestros cerebros la que limita, por el momento, nuestra comprensión de la mentalidad humana; una complicación y perfección que ciertamente no deben ser subestimadas, pero donde no hay cuestiones de principio que pudieran llevarnos más allá de nuestras imágenes científicas actuales. En el otro extremo están los que mantienen que las cuestiones de la mente y el espíritu —y el propio misterio de la consciencia humana— son cosas de las que nunca podremos esperar que sean abordadas adecuadamente por los procedimientos fríos y calculadores de una ciencia insensible.
El fundamentalismo religioso, el nacionalismo, los intereses étnicos separatistas, las meras diferencias lingüísticas o culturales o los intereses egoístas de demagogos particulares, pueden desembocar en una agitación y violencia continuas, dando lugar a veces a estallidos de atrocidad indecible. Aún existen regímenes opresivamente autoritarios que sojuzgan a sus pueblos, manteniéndoles aterrorizados mediante la utilización de la tortura y los escuadrones de la muerte. Pero aquellos que están oprimidos, y que aparentemente podrían tener un objetivo común, a menudo están en conflicto entre sí, y cuando se les da la libertad que les había sido negada durante mucho tiempo, parece que deciden utilizarla de formas terriblemente autodes-tructivas. Incluso en aquellos países afortunados donde hay una paz próspera y una libertad democrática, los recursos naturales y humanos son malgastados de formas aparentemente absurdas.
Magnificent book in which to recognize the participatory act of the brain in our relationship being-to-do-and thinking is an important dynamic from every point of view. The problem occurs when we put aside our spiritual dimension … We fall into the reductionism of positivist science and give scope for technology and scientific valuation to say everything …
He wrote in the Preface to this 1994 book, «This book may be regarded, in some sense, as a sequel to ‘The Emperor’s New Mind’ (ENM)… Part of the motivation for writing again on this subject arose originally from a need for detailed replies to a number of queries and criticisms that various people raised… However, I shall be presenting a case here that stands completely on its own and which explores some new ideas… One of the central themes of ENM had been my contention that by use of our consciousness we are enabled to perform actions that lie beyond any kind of computational activity… The present volume provides what I believe to be a much more powerful and rigorous case for this general conclusion, and it applies to any kind of computational process whatever… My case has two distinct strands to it… I argue strongly against the commonly held viewpoint that our conscious mentality… could, in principle be fully understood in terms of computational models. The other strand… represents a genuine search for a means… whereby a scientifically describable brain might be able to make use of subtle and largely unknown physical principles in order to perform the needed non-computational actions.»
He explains, «So what do I mean by consciousness?… there are both passive and active aspects to consciousness, but it is not always clear that there is a distinction between the two. The perception of the colour red… is something that certainly requires passive consiousness, as is the sensation of pain or the appreciation of a melody. Active consciousness is involved in the willed action to get up from one’s bed, as it is a deliberate decision to desist from some energetic activity. The bringing to mind of an early memory involves both active and passive consciousness.» (Pg. 39)
He summarizes, «What do we conclude… is the ultimate potential of artificial intelligence?… [I earlier] strongly made the case that the technology of electronic computer-controlled robots will NOT provide a way to the artificial construction of an ACTUALLY intelligent machine—in the sense of a machine that understands what it is doing and can act upon that understanding… Computers, we conclude, do something very different from what WE are doing when we bring our awareness to bear on some problem.» (Pg. 393)
He concludes, «I hope that I have persuaded the reader of the close and genuine relationship—still deeply mysterious—between the Platonic mathematical world and the world of physical objects… some might well go further than I have been prepared to go in this discussion. Perhaps a Platonic reality should be assigned to other abstract concepts , not just mathematical ones… I have been addressing questions…of our very perceptions of mathematical truth; that is, with the apparent way in which, through mental contemplation, we seem to be able to ‘conjure up’ those very Platonic mathematical forms… To think of the mathematical world as being a product of our modes of thinking would be to take a KANTIAN view rather than the Platonic one that I am espousing here.» (Pg. 416-417)
Not as «pathbreaking» as ENM, this book is still, I should think, «must reading» for any serious students of cognitive neuroscience, philosophy of mind, artificial intelligence, or related fields.
Shadows of the Mind is undoubtedly a less populist book than its predecessor «The Emperor’s New Mind». It is also significantly more technical in places than the predecessor. Its purpose is to extend the Godel based arguments used in ENM in several directions. Firstly to attempt to address various criticisms of the central argument of the previous book and then to develop some new ones. Also there is a discussion of the application to Robotics. An example of this sort of discussion is whether any capability of a Robot to learn would undo any of the Robot restrictions deduced in his basic argument. After all learning (human or robotic) will imply going beyond previous restrictions and being aware of new facts.
So there is a subtle argument needed to continue to show that despite this, humans will come out on top. If you are interested in this kind of subtlety after reading ENM then this is the book for you.
In effect Penrose is right at the heart of the Mind-Machine debate in this book. I give an overview of this debate as follows:
We need to find a scientific theory of the Mind. So we can examine what kind of cognitive or thinking device it might be, recognising that it also thinks about Mathematics. For that we need a model of cognition sufficiently general: the Turing Machine model is available and generally considered to be that model – there are no obvious rivals. So one can focus on whether the Turing Machine model could really be a model for the Human Mathematical Mind. If the answer is «yes» we would conclude also: Robots could have Minds.
Penrose draws the conclusion about mathematical reasoning that:
G: «Human mathematicians are not using a knowably sound algorithm in order to ascertain mathematical truth».
This statement isn’t quite the statement that the Mind is not a Turing Machine (algorithm here), and some critics have attempted to expose the gaps. In this book Penrose discusses several lines of argument to close the gap. A possible rebuttal might be: «could mathematicians just be using unsound algorithms» – the faulty machine argument. This is very close to questions in the foundations of mathematics itself – after all is this suggesting that mathematics itself is fundamentally unsound? If so where is that unsoundness? So Penrose comes round to the conclusion step by step and through 100 odd pages, that the statement G above implies that indeed the Mind is not a Turing Machine.
This latter conclusion however introduces another problem: if the Mind is not a Turing Machine / algorithm then what sort of (scientific) model exists for it? At the end of the book Penrose examines a generalisation of the Turing Machine model (called Oracle Machines and also due to Alan Turing) and determines that a statement similar to G also applies to that model class as well. Thus the story is left incomplete and I would be tempted to say that somewhere a model M exists of which we can deduce:
«Human mathematicians are using M to ascertain mathematical truth»
There are those who seem willing to believe that we can really be close to a scientific understanding of consciousness; that this phenomenon holds no mystery, and even that all the essential ingredients may already be in place. They argue that it is simply the extreme complication and perfection of the organization of our brains that limits, for the moment, our understanding of the human mentality; a complication and perfection that certainly should not be underestimated, but where there are no questions of principle that could take us beyond our current scientific images. At the other extreme are those who maintain that the questions of the mind and the spirit – and the very mystery of human consciousness – are things we can never expect to be adequately addressed by the cold and calculating procedures of an insensitive science.
Religious fundamentalism, nationalism, separatist ethnic interests, mere linguistic or cultural differences or the selfish interests of particular demagogues can lead to continuous agitation and violence, sometimes resulting in outbursts of unspeakable atrocity. There are still oppressively authoritarian regimes that subjugate their people, keeping them terrified through the use of torture and death squads. But those who are oppressed, and who apparently have a common goal, are often in conflict with each other, and when they are given the freedom that had been denied to them for a long time, they seem to decide to use it in terribly self-destructive ways. Even in those fortunate countries where there is a prosperous peace and a democratic freedom, natural and human resources are squandered in seemingly absurd ways.
David, earth planet , knopfler and a humble man 