Ética Para Máquinas — José Ignacio Latorre / Ethics For Machines by José Ignacio Latorre (spanish book edition)

Es un interesante libro sobre los retos que se nos avecinan ante el futuro y es interesante empezar a generar debate.
Los humanos nos hemos adaptado al poderío físico de las máquinas. Sin embargo, a los humanos nos cuesta muchísimo cohabitar con máquinas más y más inteligentes. Los primeros coches causaron sensación, los aviones fascinaban a todo el mundo. En cambio, los ordenadores que ejecutan complejos algoritmos nos atemorizan porque parece que pueden decidir por sí mismos y someternos a su voluntad. En el fondo, lo que está en juego es la esencia de nuestra naturaleza.
Si creamos máquinas que nos superan intelectualmente, ¿cuál es el lugar de los humanos?
Es innegable que el progreso trae consigo elementos negativos. Cada logro tecnológico importante que ha alcanzado la especie humana ha provocado periodos convulsos en que los cambios radicales han dañado a una gran parte de la sociedad. El progreso conlleva alteraciones brutales de las estructuras económicas que se traducen en desconcierto, en falta de leyes adecuadas a la realidad y —tal vez lo que es peor— en un terrible distanciamiento entre generaciones jóvenes y mayores. El avance es demasiado rápido. Es cierto que los humanos se adaptan a cualquier entorno, pero solo en su temprana edad. Una vez el cerebro fija sus sinapsis, se hace muy difícil cambiar las pautas aprendidas.
Un hecho irrefutable es que los cambios tecnológicos vienen para quedarse. No hay vuelta atrás en el progreso, sea bueno o malo. Cada generación da por sentado que lo conseguido por sus progenitores es un camino de no retorno y, con frecuencia, un derecho adquirido.

El pasado es la historia evolutiva de humanos aumentados en sus capacidades físicas. El futuro está destinado a deparar humanos aumentados tanto física como intelectualmente, viviendo una realidad aumentada.
 Vivir una realidad como seres aumentados tiene claras ventajas. Dejamos de depender de inclemencias, no sufrimos terribles dolores físicos, disponemos de más tiempo libre. Los seres aumentados tienen también serios problemas. Sus vidas se apartan de la naturaleza, no saben cómo vivirlas, no logran relacionarse entre sí de forma satisfactoria. Estoy seguro de que cada uno de nosotros se sabe en parte privilegiado, en parte estafado, por el rápido progreso tecnológico que nos engulle.
En este nuevo siglo XXI vivimos una nueva transformación social. Estamos pasando de la era industrial a la era de la información. Nuestras vidas están dominadas por la gestión de la información. Nuestros datos, nuestro entretenimiento, nuestro consumo es manejado como información valiosa. Nuestras relaciones personales son más y más virtuales porque los medios que usamos para comunicarnos nos lo permiten. Somos seres ávidos de información inmediata, correcta o incorrecta, profunda o superficial, pero siempre insuficiente. Deseamos más y más información.
No existe un solo avance tecnológico que los humanos no hayamos utilizado en contra de nuestra propia especie.

La estructura computacional de nuestra sociedad es muy compleja. Hablamos con frecuencia de las tareas que los ordenadores realizan, pero se nos escapa comprender que las máquinas hablan casi siempre entre sí, no con nosotros. Hay máquinas que gobiernan a máquinas, y estas a otras. La telaraña computacional es tupida.
Es impresionante. Estamos controlados, supervisados, aconsejados, informados, condicionados por ordenadores que hablan con otros ordenadores. Unos están en manos de personas, otros de instituciones públicas, y muchísimos otros se rigen por políticas corporativas. Se diría que es un caos sin moral al que nos hemos acostumbrado.
El número de máquinas que se organizan en redes superarán con creces al de humanos sobre la tierra. De hecho, los órdenes de magnitud de teléfonos móviles y humanos son equiparables. Los teléfonos son solo una parte del universo de máquinas que nos asisten y controlan, lo sepamos o no.
Los humanos fuimos útiles durante un tiempo, inventamos el Go y el ajedrez, desarrollamos estrategias sencillas, luego más sofisticadas. Pero nuestro cerebro es limitado. No solo cometemos errores triviales, sino que no sabemos entrever estrategias profundas, formas totalmente nuevas de abordar una posición porque vivimos anclados en los prejuicios. Creíamos que ciertas formas de jugar eran malas, pero ahora vemos que solo eran dogmas heredados, no reflexión profunda. Los humanos estamos atrapados en nuestra historia y nuestras emociones. La nueva inteligencia artificial no sufre estas limitaciones.

La inteligencia artificial avanzada nos enfrenta al mayor de los retos. Es ahora, en su albor, el momento de definir las reglas éticas que supervisarán a las máquinas que ya nos rigen, y que nos regirán. Es este el instante de debatir hasta la extenuación el modelo de sociedad que deseamos, la relación entre humanos y humanos, entre humanos y máquinas, entre máquinas y máquinas. Hemos de decidir las leyes de las jerarquías artificiales que controlarán hasta el más nimio detalle de nuestra vida. O no. En nuestra mano está limitar el poder de las máquinas. Prefiero pensar que depende de nosotros el establecer un marco idóneo de convivencia máquina-humano.
La inteligencia artificial avanzada está aquí. ¿Quién quiere girar la cabeza?.
El Parlamento Europeo consideró una propuesta sobre la necesidad de establecer un estatus legal para las máquinas en los siguientes términos:
 
…crear un estatus legal específico para los robots a largo plazo, de modo que al menos los robots autónomos más sofisticados puedan establecerse con el estatus de personas electrónicas responsables de reparar el daño que puedan causar, y posiblemente aplicar personalidad electrónica a los casos en que los robots toman decisiones autónomas o interactúan con terceros de manera independiente.
 
Esta propuesta recibió un buen número de críticas, incluyendo manifiestos de expertos que han mostrado su oposición.
El problema de establecer en detalle los derechos y deberes de las máquinas inteligentes no se debe resolver inmediatamente, pero es un error no discutir a fondo este tema. No basta con que comisiones de expertos dediquen horas a analizar cada detalle. Ese proceso queda con frecuencia sesgado por la misma formación, inclinación política e intereses económicos de los participantes. Las leyes deben estar exentas de sesgo. También han de ser realistas.

La roboética está en auge, y lo seguirá estando durante un largo tiempo. Tres ideas dominarán, posiblemente, nuestras discusiones en un futuro próximo:
i) Los robots operan de forma autónoma. La ausencia de supervisión puede ser crítica.
ii) Los robots restan puestos de trabajo.
iii) Los robots pueden llevar armas, pueden matar a humanos.
Cada vez que un robot cometa un error, las leyes deberán saber cómo y a quién juzgar. Si un robot substituye a un humano, aparece un problema económico y ético. Todo robot asesino conlleva decadencia moral. Dejar que la creación de robots evolucione libremente es un gran error. De ahí que instituciones, empresas y gobiernos se estén apresurando a establecer códigos internos, manifiestos e incluso leyes que controlen a los robots.
Es perentorio iniciar un proceso de legislación sobre el uso de robots.

La libertad es el bien más preciado para la mente humana. Es su esencia. ¿Lo será para una inteligencia artificial avanzada?. Inteligencias artificiales sobrehumanas y libres: esa sí será la hora del relevo.
El avance científico es y será impresionante. Escapa a la comprensión de la sociedad a la que sirve, que lo incorpora y aprovecha sin reflexión previa o posterior.
No olvidemos que nuestra inteligencia colectiva es inmensa; tiene tres niveles: velocidad, consenso y calidad. Siempre nos hallamos intentando dar el segundo paso. Precisamente porque todos discutimos, debatimos y contradecimos los dogmas, por ese motivo vemos posible avanzar en el acuerdo de cómo hemos de organizar nuestra convivencia con las máquinas inteligentes.
Una mayoría de las personas prefieren no pensar en este devenir incierto. Cuando su universo cambie, intentarán adaptarse. Ni ahora ni después querrán entender el corazón de las ideas de lo que está sucediendo. Es una pena.
Comprender será, posiblemente, el último placer profundo al que un humano podrá aspirar.

It is an interesting book about the challenges that lie ahead and it is interesting to start generating debate.
We humans have adapted to the physical power of machines. However, it is very difficult for humans to cohabit with more and more intelligent machines. The first cars caused a sensation, the planes fascinated the whole world. On the other hand, computers that run complex algorithms frighten us because they seem to be able to decide for themselves and submit to their will. Basically, what is at stake is the essence of our nature.
If we create machines that surpass us intellectually, what is the place of humans?
It is undeniable that progress brings with it negative elements. Every important technological achievement that has reached the human species has caused convulsive periods in which radical changes have damaged a large part of society. Progress entails brutal alterations of economic structures that result in bewilderment, in the absence of adequate laws to reality and -perhaps worse- in a terrible distancing between younger and older generations. The advance is too fast. It is true that humans adapt to any environment, but only at an early age. Once the brain fixes its synapses, it becomes very difficult to change the patterns learned.
An irrefutable fact is that technological changes are here to stay. There is no turning back in progress, be it good or bad. Each generation assumes that what their parents have achieved is a path of no return and, often, an acquired right.

The past is the evolutionary history of humans augmented in their physical capacities. The future is destined to bring increased humans both physically and intellectually, living an augmented reality.
Living a reality as augmented beings has clear advantages. We stop being dependent on inclement, we do not suffer terrible physical pain, we have more free time. The augmented beings also have serious problems. Their lives are separated from nature, they do not know how to live them, they can not relate to each other satisfactorily. I am sure that each one of us knows in part privileged, partly cheated, by the rapid technological progress that engulfs us.
In this new 21st century we are experiencing a new social transformation. We are moving from the industrial era to the information age. Our lives are dominated by information management. Our data, our entertainment, our consumption is handled as valuable information. Our personal relationships are more and more virtual because the means we use to communicate allow us. We are avid beings of immediate, correct or incorrect information, deep or superficial, but always insufficient. We want more and more information.
There is not a single technological advance that humans have not used against our own species.

The computational structure of our society is very complex. We often talk about the tasks that computers perform, but we fail to understand that machines almost always talk to each other, not to us. There are machines that govern machines, and these others. The computational web is dense.
Is awesome. We are controlled, supervised, advised, informed, conditioned by computers that talk to other computers. Some are in the hands of people, others of public institutions, and many others are governed by corporate policies. It would seem that it is a chaos without morals to which we have become accustomed.
The number of machines that are organized in networks will far surpass that of humans on earth. In fact, the orders of magnitude of mobile and human telephones are comparable. Telephones are only part of the universe of machines that assist and control us, whether we know it or not.
Humans were useful for a while, we invented Go and chess, we developed simple strategies, then more sophisticated. But our brain is limited. Not only do we make trivial mistakes, but we do not know how to glimpse deep strategies, totally new ways of approaching a position because we live anchored in prejudices. We thought that certain ways of playing were bad, but now we see that they were only inherited dogmas, not deep reflection. Humans are trapped in our history and our emotions. The new artificial intelligence does not suffer these limitations.

Advanced artificial intelligence confronts us with the biggest challenge. It is now, in its dawn, the moment to define the ethical rules that will supervise the machines that already govern us, and that will govern us. This is the moment to debate until exhaustion the model of society we want, the relationship between humans and humans, between humans and machines, between machines and machines. We have to decide the laws of artificial hierarchies that will control even the smallest detail of our life. Or not. In our hand is limiting the power of machines. I prefer to think that it is up to us to establish an ideal framework of human-machine coexistence.
Advanced artificial intelligence is here. Who wants to turn his head ?.
The European Parliament considered a proposal on the need to establish a legal status for machines in the following terms:

… create a specific legal status for robots in the long term, so that at least the most sophisticated autonomous robots can establish themselves with the status of electronic persons responsible for repairing the damage they may cause, and possibly apply electronic personality to cases in which robots make autonomous decisions or interact with third parties independently.

This proposal received a good number of criticisms, including manifestos from experts who have shown their opposition.
The problem of establishing in detail the rights and duties of intelligent machines should not be resolved immediately, but it is a mistake not to discuss this topic in depth. It is not enough that expert commissions dedicate hours to analyze every detail. This process is often biased by the training, political inclination and economic interests of the participants. The laws must be free of bias. They must also be realistic.

Theft is on the rise, and will continue to be for a long time. Three ideas will dominate, possibly, our discussions in the near future:
i) The robots operate autonomously. The absence of supervision can be critical.
ii) Robots subtract jobs.
iii) Robots can carry weapons, they can kill humans.
Every time a robot makes an error, laws must know how and to whom to judge. If a robot replaces a human, an economic and ethical problem appears. Every killer robot brings moral decadence. Letting the creation of robots evolve freely is a big mistake. Hence, institutions, companies and governments are rushing to establish internal codes, manifests and even laws that control robots.
It is imperative to initiate a process of legislation on the use of robots.

Freedom is the most precious good for the human mind. It is your essence. Will it be for an advanced artificial intelligence ?. Superhuman and free artificial intelligences: that will be the hour of the relay.
The scientific advance is and will be impressive. It escapes the understanding of the society it serves, that incorporates it and takes advantage of it without prior or subsequent reflection.
Let’s not forget that our collective intelligence is immense; It has three levels: speed, consensus and quality. We are always trying to take the second step. Precisely because we all discuss, debate and contradict the dogmas, for that reason we see possible to advance in the agreement of how we have to organize our coexistence with intelligent machines.
A majority of people prefer not to think about this uncertain future. When your universe changes, they will try to adapt. Neither now nor later will they want to understand the heart of the ideas of what is happening. It is a pity.
Understanding will be, possibly, the last deep pleasure to which a human can aspire.

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios .