Vida 3.0 Qué Significa Ser Humano En La Era De La Inteligencia Artificial — Max Tegmark / Life 3.0: Being Human in the Age of Artificial Intelligence by Max Tegmark

Max Tegmark escribe entusiasta y emocionado sobre cómo será la vida para nosotros los humanos con el aumento de IA (Inteligencia Artificial), AGI (Inteligencia Artificial General – Inteligencia a la par con los humanos) y la posibilidad / probabilidad de crear Super Inteligencia (AI habilitada inteligencia que supera con creces la inteligencia y las capacidades humanas). Le pide al lector que se comprometa críticamente con él para imaginar escenarios de lo que la realidad de la IA podría significar para nosotros y para responder en su página web Age of AI.
El libro comienza con el cuento del equipo Omega, un grupo de humanos que decide liberar AI avanzado, llamado Prometheus, subrepticiamente y de forma controlada en la sociedad humana. El cuento se desarrolla como una toma del poder mundial por Prometeo y en un triunfo final se convierte en el primer poder individual del mundo capaz de permitir que la vida florezca durante miles de millones de años en la Tierra y se extienda por todo el cosmos.
Si nunca ha leído mucha futurología posmoderna, Tegmark es una buena forma de dar el paso. Reúne gran parte del pensamiento sobre lo que la humanidad tendrá que enfrentar, las decisiones que tendrá que tomar y las opciones que podría tener con el avance inevitable de la tecnología y específicamente de la IA. Sobre todo, anima al lector a creer que tiene un papel importante que desempeñar en lo que nos depara el futuro y que no necesitamos, de hecho no podemos, sucumbir al fatalismo. La parte más encomiable, concreta y esperanzadora del libro está en su historia de investigadores de AI llegando a un acuerdo sobre el camino a seguir para la IA que es proactiva al abordar los desafíos que presenta y el impacto que tendrá en la sociedad humana. El final del libro establece este camino en los Principios AI de Asilomar, que fueron creados, criticados, refinados y acordados a través de un proceso rubricado en una conferencia de IA en Puerto Rico en enero de 2015. La conclusión de Tegmark es que la investigación AI ahora puede confiar seguir adelante sabiendo que los impactos y las consecuencias para la humanidad han sido y serán abordados en el proceso para mitigar cualquier aspecto negativo. Él y sus colegas merecen crédito por tal compromiso y compromiso reflexivo en sus esfuerzos.

El libro también es divertido de leer y desafiante para nuestras realidades políticas y económicas comunes. Sin embargo, hay áreas de preocupación que no han sido tocadas o pasadas por alto, a lo que ahora me refiero:
1. La búsqueda de la verdad: Tegmark supone que tenemos un «excelente marco para nuestra búsqueda de la verdad: el método científico». Empiezo aquí mi crítica porque esta suposición no está argumentada ni establecida. No hay argumento en contra del formidable poder de la metodología científica para dar una explicación profunda a la realidad natural. Sin embargo, el tema de la verdad no es el objetivo de la ciencia, sino de la filosofía. Esto puede parecer quisquilloso, pero estamos demasiado acostumbrados a la idea de que la ciencia es el árbitro absoluto de la verdad, como si pudiera ofrecer una imagen completa de la realidad, cuando de hecho eso no está dentro de la descripción de su trabajo.
2. La forma en que Tegmark enmarca su definición de vida es un ejemplo de ello. Para hacer esto, realiza dos movimientos: primero, utilizando el método científico, deconstruye la vida en un movimiento reduccionista; el segundo movimiento es descentrar la vida biótica y humana en su importancia y necesidad en el desarrollo de lo que él llama Life 3.0. El primer movimiento de Tegmarks reduce la definición de vida a «un proceso que puede conservar su complejidad y replicarse a sí mismo». En esta definición altamente generalizada, puede reducir la vida a átomos dispuestos en un patrón que contiene información.

Esta amplia definición es importante para el segundo movimiento, que es el descentramiento de la vida humana biótica. Aquí ofrece una noción posmoderna de que la vida humana (antropocéntrica) ya no puede ser la medida de todas las cosas. Los humanos han sido desplazados del centro del universo en grandes pasos desde Copérnico. Si vamos a promover Life 3.0, debemos continuar este descentramiento para dejar espacio a la definición ampliada de la vida que él ofrece. La vida ahora debe ser imaginada como algo más que biótico. Debe incluir las posibilidades imaginadas por nuestras nuevas tecnologías de superinteligencia alojadas en sustratos robustos donde la conciencia humana o incluso la conciencia no humana pueden residir durante largos períodos de tiempo e ir más allá de la tierra hasta los confines del universo. Si suena utópico, hay una clara melodía en la escritura de Tegmark, a pesar de algunas protestas en contra.

Este es el libro de Tegmark. Él puede definir la vida como mejor le parezca. Desde mi perspectiva, la vida era la buena y anticuada aparición de la generatividad biótica, cuyo comienzo aún desconocemos. Evolution hizo su número de prueba y error durante cuatro mil millones de años para producir humanos. Si hay alguna vez la necesidad de llamar a algo que no sea biótico, la vida, será evidente en ese momento y no antes. Esto no significa que la preparación para la IA no sea necesaria. Es que la sapiencia no es la sensibilidad ni la inteligencia para algún grado sobrehumano hace que la vida sea algo aunque pueda imitar o superar a la neurología humana. Llámelo como es: una máquina realmente inteligente hecha por el hombre que está programada para aprender, replicar, tal vez tener lo que llamamos conciencia y causarnos toda clase de dolor y alegría. ¿Vida? No.

3. Es bueno que Tegmark se meta en la arena de la ética porque claman por atención.
• Primero, ¿alguien puede realmente explicar, cuantificar o calificar con precisión para el comportamiento humano? La historia todavía tiene que convencernos de que los humanos, ya sea que naturalmente se inclinen por la moral o no, no pueden ser controlados moralmente. La evidencia científica está en nuestra historia. Y sí, hay muchos héroes, pero hay muchos que están clasificados como «malvados». Basta con mirar el «desvanecimiento» actual de los tiroteos en masa en los EE. UU. Podemos culpar a las personas mentalmente inestables por esto, pero somos esa gente. Tegmark señala que AI es moralmente neutral y que las armas no son el elemento malvado en la ecuación. Pero AI es inicialmente, y por lo tanto, en última instancia, un esfuerzo humano y, por lo tanto, está imbuido de imitaciones y límites humanos. Como bueno y necesitó un intento que se hace con los Principios de Asilomar AI, podemos estar seguros de que la IA se utilizará de manera errónea y quizás fatal para toda la vida. Nuestra certeza es porque nos conocemos como humanos. Somos un producto de la Naturaleza que modela todo el espectro de comportamientos desde los profundamente violentos hasta los profundamente amorosos. Más especies de la vida en la tierra se han extinguido que están vivas hoy. ¿Nos atrevemos a pensar que los humanos podrían escapar de un destino similar porque somos inteligentes o tenemos amigos superinteligentes benignos? Antes de que se pueda debatir sobre el futuro profundo de la humanidad, la humanidad misma tiene que enfrentarse a sí misma. Aunque Tegmark reconoce retóricamente tales posibilidades negativas, está a todo vapor en sus suposiciones y compromiso con el desarrollo de la superinteligencia.
• Segundo, en nuestro mundo moderno, los absolutos morales son difíciles de conseguir. En un entorno puramente naturalista, toda moralidad es relativa y, por lo tanto, depende de la decisión del ser humano dentro de un entorno cultural dentro de la psique personal de los individuos que toman decisiones morales. No es cínico creer que si rascas una bella persona moral pública, lograrás sangrar una anomalía moral desconcertante. Mira cuántas sutilezas morales tuvieron algunos de los científicos que participaron en el desarrollo de armamento atómico / nuclear. Cuando se lo amenaza, parece que «todas las opciones están sobre la mesa». Por todo lo bueno de las intenciones de Tegmark, esta es un área muy incierta. Incluso sus ejemplos de varios hombres rusos, que impidieron el holocausto nuclear, son lo suficientemente aterradores como para que comprendamos cuán grave es el momento en el que vivimos es moral. Entonces, la pregunta es: ¿tenemos una base moral suficiente y voluntad para dar rienda suelta a la invención y el uso de AI?
• En tercer lugar, a pesar de tratar de alejarse retóricamente del enfoque humano en su libro, Tegmark no lo hace mejor que nadie cuando, al final, no lo hace. De hecho, es probable que los humanos nunca puedan descentrarse a sí mismos porque todos nuestros conceptos, superposiciones heurísticas, procesos de pensamiento, restricciones corporales y necesidades lo hacen imposible. En cualquier caso, Tegmark, sin una gran explicación o justificación, se une a los demás al creer que los humanos deben difundir su vida e inteligencia en la mayor cantidad posible del universo, ¡para liberar su potencial! Esa misma idea se centra en el ser humano: colonialista, explotador, presuntuoso y tal vez idólatra. En un universo donde la vida se encuentra solo en nuestro planeta, hasta donde sabemos con certeza, ¿por qué pensamos que la vida, nuestra vida, debería interrumpir ese inmenso espacio / tiempo con nuestra angustia? ¿Creemos que nuestras máquinas superarán la ambivalencia moral humana? ¿Por qué infligir nuestro proyecto inacabado en la tierra a más territorio? ¿Por qué no hacer una postura moral para abordar los asuntos humanos y de la tierra de modo que hasta que hayamos alcanzado un mayor potencial moral, espiritual, intelectual, material y relacional, nos quedemos aquí y nos aseguremos de que nuestra IA también lo haga? ¡Habla de un sueño utópico! El punto es que moralmente no hay un buen argumento para tomar la vida humana y los problemas en otros lugares, especialmente porque eso significa desatar todo el espectro de la experiencia humana.
En cuarto lugar, aunque el subtítulo del libro es «Ser Humano en una Era de Inteligencia Artificial», Tegmark no aborda en profundidad lo que le sucede o incluso si la humanidad puede resistir a la superinteligencia. Esto es incluso con la suposición de que la IA será buena para los humanos. Las formas de vida humanas y de IA son críticamente diferentes unas de otras. Aunque puede haber cierta compatibilidad entre los dos, la IA se parece más a las rocas y los interruptores eléctricos que a los humanos. El sustrato biótico humano de nuestra existencia es, en comparación, obsoleto. Los problemas que esto plantea no pueden dejarse de lado caballeroso con el movimiento tecnológico de cargar nuestra humanidad en un sustrato más sólido. La humanidad por definición es biótica. Si uno no puede aceptar la nueva y generosa definición de vida de Tegmark, significa que los humanos serán descentrados de una manera devastadora.
4. Una última cosa necesita mencionarse, el uso de Tegmark de las palabras «pesimista» y «optimista» con respecto al camino futuro que tomará AI. Ambas palabras son anticientíficas. Describen una intuición o sentimiento psicológico general sobre algo basado en una base que parece sólida o no. Utilizar esas palabras en el contexto del valor de la IA y los posibles efectos futuros en la humanidad está fuera de lugar. Es mejor seguir con descripciones más concretas. Uno puede decir lo mismo sobre Tegmark y sus colegas con respecto a su entusiasmo por las maravillas tecnológicas futuras, la historia nuevamente nos tiene que mantener en la tierra. ¿Quién hubiera pensado (obviamente nadie lo hizo) al comienzo de la Revolución Industrial que sus descendientes se verían amenazados en uno o dos grados de sus vidas debido a la quema de abundante combustible fósil? Cualesquiera que sean los planes que se presenten para mitigar el impacto de los humanos jugando con la naturaleza, podemos estar seguros de que siempre calcularemos mal y crearemos consecuencias no deseadas. Exploradores, explora, pero ten cuidado!.

Una de las maneras más efectivas de mejorar el futuro de la vida es mejorar el mañana. Tenemos la capacidad de hacerlo de muchas formas. Por supuesto, podemos votar en las urnas y decir a los políticos lo que pensamos sobre la educación, la privacidad, las armas letales autónomas, el desempleo tecnológico y otros asuntos. Pero también votamos todos los días a través de lo que decidimos comprar, las noticias que decidimos consumir, lo que decidimos compartir y el ejemplo que damos con nuestro comportamiento. ¿Queremos ser alguien que interrumpe todas sus conversaciones para mirar su móvil, o alguien que se sienta capaz de usar la tecnología de forma planificada y consciente? ¿Queremos ser dueños de la tecnología o que la tecnología se adueñe de nosotros? ¿Qué queremos que signifique ser humano en la era de la IA? Por favor, hable de todo esto con las personas que tiene a su alrededor: esta conversación no solo es importante, sino también fascinante.
Somos los custodios del futuro de la vida, ahora que estamos configurando cómo será la era de la IA. Ahora siento que este futuro no tiene nada de inevitable, y Nosotros somos el garante de cómo queremos sea el futuro.

Max Tegmark enthusiastically and excitedly writes about what life will be like for us humans with the rise in AI (Artificial Intelligence), AGI (Artificial General Intelligence – Intelligence on par with humans) and the possibility/probability of creating Super-Intelligence (AI enabled intelligence that far surpasses human intelligence and capabilities.). He asks the reader to critically engage with him in imagining scenarios of what such AI reality could mean for us and to respond on his Age of AI website.
The book begins with the Tale of the Omega Team, a group of humans who decide to release advanced AI, named Prometheus, surreptitiously and in a controlled way into human society. The tale unfolds as a world take-over by Prometheus and in a final triumph becomes the world’s first single power able to enable life to flourish for billions of years on Earth and to be spread throughout the cosmos.
If you have never read much post-modern futurology, Tegmark is a good way to take the plunge. He brings together much of the thinking about what humanity will have to deal with, the decisions it will have to make and the options it might have with the inevitable advancement of technology and specifically AI. Above all he encourages the reader to believe that she/he has an important role to play in what the future will hold for us and that we need not, indeed cannot, succumb to fatalism. The most commendable, concrete and hopeful part of the book is in his story of AI researchers coming to agreement about the path forward for AI that is pro-active in addressing the challenges it presents and the impact it will have on human society. The end of the book lays out this path in the Asilomar AI Principles, which were created, critiqued, refined and agreed through a process initialed in an AI conference in Puerto Rico in January 2015. The takeaway for Tegmark is that AI research can now confidently go forward with the knowledge that impacts and consequences for humanity have been and will be addressed in the process to mitigate any negatives. He and his colleagues deserve credit for such engagement and thoughtful commitment in their endeavors.

The book is also fun to read and challenging to our common political and economic realities. There are, however, areas of concern that are either untouched or passed over lightly, to which I now turn:
1. The quest for truth – Tegmark assumes that we have an “excellent framework for our truth quest: the scientific method.” I start my critique here because this assumption is not argued nor established. There is no argument against the formidable power of scientific methodology to give deep explanation to natural reality. However, the issue of truth is rightly not the purview of science, but of philosophy. This may seem nit-picky, but we are too used to the idea that science is the absolute arbiter of truth as though it can offer a complete picture of reality, when in fact that’s not within its job description.
2. The way Tegmark frames his definition of life is a case in point. To do this he makes two moves: first, using the scientific method he deconstructs life in a reductionist move; the second move is to decenter biotic, human life in its importance and necessity in the unfolding of what he calls Life 3.0. Tegmarks first move reduces the definition of life to “a process that can retain its complexity and replicate itself.” In this highly generalized definition he can than reduce life further to atoms arranged in a pattern that contains information.

This broad definition is important for the second move which is the decentering of biotic human life. Here he offers a post-modern notion that human life (anthropocentric) can no longer be the measure of all things. Humans have been displaced from the center of the universe in great steps since Copernicus. If we are going to promote Life 3.0, we must continue this decentering to make room for the expanded definition of life he offers. Life must now be imagined as other than biotic. It must include the possibilities imagined by our new technologies of superintelligence housed in robust substrates where human consciousness or even non-human consciousness can reside for great lengths of time and go beyond earth to the reaches of the universe. If it sounds utopian, there is that clear melody line in Tegmark’s writing, in spite of some protestations to the contrary.

This is Tegmark’s book. He can define life however he sees fit. From my perspective life was the good old fashioned, highly unlikely emergence of biotic generativity – the beginning of which we yet do not know. Evolution did its trial and error number over four billion years to produce humans. If and when there is ever the need to call something non-biotic, life, it will be apparent at that moment and not before. This does not mean that preparation for AI is not needed. It is that sapience is not sentience nor does intelligence to some superhuman degree make something life even if it can mimic or surpass human neurology. Call it what it is: a really smart human-made machine that is programed to learn, replicate, maybe have what we call consciousness and cause us all kinds of grief and gladness. Life? No.

3. It is good that Tegmark wades into the arena of ethics because they cry out for attention.
• First, can anyone actually account for or quantify/qualify accurately for human behavior? History has yet to convince us that humans, whether naturally tending toward the moral or not, cannot be morally controlled. The scientific evidence is in our history. And yes, there are many heroes, but there are many who are classified “evil.” One need only to look at the current “fade” of mass shootings in the USA. We may blame mentally unstable people for this, but we are those people. Tegmark points out that AI is morally neutral and like guns is not the evil element in the equation. But AI is initially and therefore ultimately a human endeavor and therefore is imbued with human imitation and limits. As good and needed an attempt that is made with the Asilomar AI Principles, we can be sure that AI will be used wrongly and perhaps fatally to all of life. Our certainty is because we know ourselves as humans. We are a product of Nature which models the whole spectrum of behaviors from the deeply violent to the deeply loving. More species of life on earth have gone extinct than are alive today. Dare we think that humans might escape a similar fate because we are intelligent or have benign superintelligent buddies? Before anything else can be discussed regarding the deep future of humanity, humanity itself has to come to grips with itself. Though Tegmark rhetorically acknowledges such negative possibilities, he is full steam ahead in his assumptions and commitment to the development of superintelligence.
• Second, in our modern world moral absolutes are hard to come by. In a purely naturalistic setting all morality is relative and therefore depends upon the decision of humans within a cultural setting within the personal psyches of the individuals making moral choices. It is not cynical to believe that if you scratch a beautiful public moral persona, you will get it to bleed a bewildering moral anomaly. Look at how many moral quibbles some of the scientists who were involved in developing atomic/nuclear weaponry had. When threatened, it seems “all options are on the table.” For all the good of Tegmark’s intentions this is a very uncertain area. Even his examples of several Russian men, who prevented nuclear holocaust, are frightening enough for us to understand just how serious the moment in which we live is morally. So, the question is: do we have a sufficient moral foundation and will to unleash AI invention and use?
•Third, in spite of trying to move away from human-centeredness rhetorically throughout his book, Tegmark does no better than anyone else when he, in the end, does not do so. In fact it is likely that humans will never be able to decenter themselves because all our concepts, heuristic overlays, thought processes, bodily constraints and needs make it impossible. At any rate, Tegmark, without great explanation or justification joins others in believing that humans must spread their life and intelligence throughout as much of the universe as possible – in order to unleash its potential! That very idea is human-centered: colonialist, exploitative, presumptive and perhaps idolatrous. In a universe where life is located only on our planet, as far as we know for sure, why do we think life, our life, should interrupt that immense time/space with our angst? Do we think our machines will overcome human moral ambivalence? Why inflict our unfinished project on earth to more territory? Why not make a moral stand to address earth and human issues so that until we have reached a greater potential morally, spiritually, intellectually, materially and relationally, we stay here and make sure our AI does too? Talk about a utopian dream! The point is that morally there is no good argument for taking human life and issues elsewhere, especially because that means unleashing the whole spectrum of human experience.
Fourth, though the book’s subtitle is “Being Human in an Age of Artificial Intelligence,” Tegmark does not address to any depth what happens to or even if humanity can last in the face of superintelligence. This is even with the assumption that AI will be good for humans. Human and AI life forms are critically different from each other. Though there might be some compatibility between the two, AI is more like the rocks and electrical switches than it is to humans. The human biotic substrate of our existence is in comparison, obsolete. The issues this raises cannot be put aside cavalierly with the technological move of uploading our humanity into a more robust substrate. Humanity by definition is biotic. If one cannot accept Tegmark’s generous new definition of life it means humans will be decentered in a devastating way.
4. One last thing needs mention, Tegmark’s use of the words “pessimistic” and “optimistic” in regard to the future path that AI will take. Both these words are unscientific. They describe a general psychological intuition or feeling about something based on a foundation that seems solid or not. To use such words in the context of AI value and possible future effects on humanity is misplaced. Better to stick with more concrete descriptions. One can say the same thing about Tegmark and his colleagues regarding their enthusiasm for technological future wonderments, History again has to keep us grounded. Who would have thought (no one obviously did) at the beginning of the Industrial Revolution that its descendants would be threatened within a degree or two their lives because of the burning of plentiful fossil fuel? Whatever plans are put forth to mitigate the impact of humans messing around with nature, we can be assured that we will always miscalculate and create unintended consequences. Explorers, explore, but beware!

One of the most effective ways to improve the future of life is to improve tomorrow. We have the ability to do it in many ways. Of course, we can vote at the polls and tell politicians what we think about education, privacy, lethal autonomous weapons, technological unemployment and other issues. But we also vote every day through what we decided to buy, the news we decided to consume, what we decided to share and the example we give with our behavior. Do we want to be someone who interrupts all your conversations to look at your mobile, or someone who feels capable of using technology in a planned and conscious way? Do we want to own technology or that technology takes over from us? What do we want to be human in the age of AI? Please discuss all this with the people around you: this conversation is not only important, but also fascinating.
We are the custodians of the future of life, now that we are configuring what the AI ​​era will be like. Now I feel that this future is not inevitable, and we are the guarantor of how we want the future to be.

4 pensamientos en “Vida 3.0 Qué Significa Ser Humano En La Era De La Inteligencia Artificial — Max Tegmark / Life 3.0: Being Human in the Age of Artificial Intelligence by Max Tegmark

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.