La Nueva Edad Oscura. La Tecnología Y El Fin Del Futuro — James Bridle / New Dark Age: Technology and the End of the Future by James Bridle

Una reflexión pesimista y oportuna sobre cómo la tecnología ha impregnado nuestras vidas y lo envolvente que es, en la medida en que cualquier análisis neutral de sus impactos sea probablemente imposible. Analiza cómo se han expandido las capacidades de cálculo numérico de las computadoras, y la medida en que hemos entregado tareas aparentemente mundanas para ser automatizadas, que los algoritmos realmente controlan nuestras vidas en mayor medida de lo que pensamos. Piense en cómo los algoritmos seleccionan los artículos de noticias para sus fuentes de noticias, recomiendan cosas para que compre e incluso con quién quiere ser amigo … sintió la idea. El mundo es mucho más interdependiente de lo que le damos crédito, y los algoritmos se están alimentando y reforzando entre sí de formas que aún no entendemos. Se destacan varias consecuencias: como especie estamos siendo tontos y convertidos en esclavos de los algoritmos que hemos creado porque por nuestra cuenta nos encontraríamos perdidos entre los datos que hemos creado como especie. La política se está volviendo más polarizada precisamente porque los algoritmos que creamos a su vez crean cámaras de eco a través de las cuales las ideas radicales aparentemente se normalizan. Una lectura muy aleccionadora y una historia de advertencia: el futuro no es todo brillante y rosado. Este libro no es fácil de leer de ninguna manera debido a la prosa enrevesada, pero vale la pena analizar las ideas detrás de él.

Cada capítulo comienza con una palabra c; Caída en el abismo, computación, clima, etc. A veces la palabra c parecía una etiqueta apropiada, a veces otra palabra c habría sido mejor; Capital en lugar de Complejidad, Operaciones encubiertas en lugar de Complicidad. A veces, la palabra c parece no tener ninguna conexión con el capítulo: la concurrencia se debió en gran medida a los efectos tristes de abandonar a los niños pequeños frente a Youtube (tal vez algo que el padre y escritor ocupado se ve obligado ocasionalmente a hacer). Me preguntaba si las palabras c eran una broma, que Bridle había enviado sus capítulos a un sistema de inteligencia artificial que los “leía” y seleccionaba una palabra c para el nombre del capítulo. Sería un ejemplo irónico de abandonar su propia agencia a un algoritmo. Ja, ja, qué c-palabra.
Tengo otra palabra c – Compendio – que resume lo bueno y lo malo de este libro. Es un compendio de historias de ‘horror’ relacionadas con la tecnología, tecnofospas, instancias donde la tecnología facilita la locura y la crueldad humana. En este compendio no encontrará nada positivo para la vida humana que sea consecuencia de la integración de la tecnología de computación y comunicaciones. Sin embargo, todas las instancias de horror de TI aquí son interesantes, de diversas fuentes, bien presentadas y ocasionalmente iluminadas con humor negro.
Pero, decepcionantemente, no hay argumento de que la tecnología nos esté llevando a una nueva era oscura. Ni siquiera está claro cuál es la naturaleza de esta nueva era oscura, aparte del enfoque implacable de Bridle en lo negativo. Parece estar diciendo, la tecnología está aquí; tiene estos malos efectos; empeorará. Al principio, parecía estar sugiriendo que la tecnología tenía algún tipo de agencia maligna propia. Más tarde, parece establecer la noción más razonable de que los efectos nocivos son las consecuencias no deseadas del despliegue sin protección de estas tecnologías. Aquí puedo estar de acuerdo con él, porque esta ha sido una característica histórica recurrente del despliegue de cualquier tecnología. La invención de la escritura condujo a una disminución en los inventarios masivos que los humanos solían llevar en sus recuerdos, pregunta cualquier Papua Nueva Guinea. Pero la opinión de Bridle sobre la historia es que viaja en línea recta hacia la catástrofe (explotación económica, genocidio, abuso infantil y colapso climático), no hay retroalimentación, no hay reflexividad.
Esta tecnología puede haber sido explotada para socavar el debate sobre Brexit, un resultado que es muy negativo para mí como residente en la UE. Pero este resultado parece ser el resultado de una crisis demográfica tanto como tecnológica. Sigo confiando en que la generación que se criará con esta tecnología será inherentemente más circunspecto en su uso, ya que la anterior que surgió en la televisión convencional ahora sospecha de esa tecnología. No podemos volver a la información editada y compilada de fuentes confiables, tenemos que aprender a editar y compilar por nosotros mismos, y tenemos que decidir en qué y por qué confiamos. Esta no es una nueva era oscura, sino una nueva curva de aprendizaje.

Algunos pensamientos:

1. Militar y la computación son dos disciplinas estrechamente vinculadas entre sí, los izquierdistas antibélicos son muy impotentes para criticar la situación actual. Deberíamos modelar radicalmente nuestras habilidades para al menos trazar la complejidad, de lo contrario, los intelectuales tradicionales se convertirán en su nueva histeria ideológica.
2. Desde 2006, la crisis siria liderada por la sequía y la reducción del 85% del ganado ha causado la crisis de refugiados en Europa. Hay mucho para desempacar en esta baja. El cambio climático y los países pobres, la guerra y las promesas democráticas, los refugiados y las políticas humanitarias, la extrema derecha … todos estos problemas están tristemente resumidos por mi privilegio de escribir en la computadora portátil. Estamos muy desapegados con el mundo. Es como la masturbación cuando vemos imágenes de la ONU o las ONG y la vida continúa. Debemos dedicar tiempo para repensar lo que estamos consumiendo, y esto ya está en el punto de vista de salvar nuestro planeta. La indulgencia y el hábito tienen un costo enorme.
3. WWW consume hasta un 3% de electricidad y un 2% de emisión anual de carbono. Ver una hora de Netflix por semana al año equivale a dos emisiones de carbono por año. Estos dos hechos son lo suficientemente simples como para entenderlos. Como la mitad de la población mundial que tiene acceso a Internet, realmente estamos desarrollando un hábito que será difícil de rechazar. ¿Recuerdas cómo los boomers son criticados por no cambiar su comportamiento? Bueno, la generación posterior a 1989 también se entrega a otro tipo de consumo masivo.
4. La crítica a la ley de Moore’s es válida, revela cómo hacemos apuestas de nuestro mundo con una curva. A la mayoría de los profesionales de TI no les importa la sostenibilidad, esta cultura de trabajo intoxicada no les permitirá pensar más en las necesidades humanas. Hay una razón por la que piensan que el modelo “ágil” es divino, simplemente muestra lo que falta.
5. La crisis de replicación de la ciencia moderna es irónica. La incapacidad de reproducir un resultado original no es culpa de la ciencia, ya que es solo un concepto. Sin embargo, la ciencia se ha convertido en una industria hoy en día, funciona como una cadena de producción entre universidades, empresas, gobiernos, militares y cualquier tipo de plataformas de código abierto. Muchos intentaron replicar artificialmente un entorno del mundo real para reclamar conocimiento, pero muchos carecen de metaestudio para comparar las investigaciones correctamente.
6. Para aquellos que estén interesados en Slough LD4 para el comercio de alta frecuencia, les sugiero que lean el libro Flashy Boys. Abordan la confusión intencional en Wall Street al desacelerar el comercio, para todos. Todo lo cual indica la inaccesibilidad de la clase baja hacia la bolsa de valores. Muchas historias, pero pasaré esta vez.
7. Si Andrew Young ganó como presidente de los Estados Unidos, ¿puede salvar la mano de obra explotadora de Amazon?
8. No es tonto tener inteligencia artificial entrenada por el ejército de los Estados Unidos para reconocer tanques, pero detecta un clima soleado / nublado. James subestimó la evolución de la IA como un aprendizaje continuo, la IA puede adaptarse fácilmente al tono de la imagen. No entender el aspecto técnico de la IA hace que esta parte sea un defecto.
9. Las críticas hacia el especialista en ética de la IA son bastante agradables, los datos del pasado pueden determinar la cultura y el racismo que se proyectan en el futuro. Y somos muy lentos en eliminar esta brecha de igualdad.
10. La espiral de Youtube y los espectadores infantiles serán inquietantes en nuestra futura generación. Pero si no podemos decir que todos los niños estarán traumatizados por este contacto temprano con contenidos de video extraños, ya que la ética se aprende de la interacción social en la edad adulta. Lo que significa que tendremos una brecha de conocimiento más amplia entre generaciones.
11. Sí, Eric Schmidt no debería afirmar que el genocidio de Ruanda podría prevenirse en 1994 si se inventara la cámara web, ya que muchas organizaciones estaban monitoreando de cerca la situación y se trata de la acción, no de la tecnología. Pero, la verdadera pregunta es, ¿cómo puede la mente de estos gigantes de la tecnología volverse discursiva con los demás? Tal vez cuando ponen chips en su cerebro y se sincronizan con Reddit.
12. El toque final sobre el origen, la función y el propósito parece lo suficientemente simple como para estar cuerdo en esta era. Sin embargo, no olvide que los talentos tecnológicos están utilizando los mismos principios para diseñar estructuras de datos. Entonces, estas filosofías son instrumentales, lo que deberíamos considerar de lo que puede impulsar y actualizarlas para practicar una sociedad más justa.

Nuestras tecnologías son cómplices de los mayores retos a los que nos enfrentamos hoy: un sistema económico descontrolado que aboca a muchos a la miseria y continúa ampliando la brecha entre ricos y pobres; el colapso del consenso político y social a lo largo y ancho del planeta, que resulta en el auge de los nacionalismos, las divisiones sociales, los conflictos étnicos y las guerras no declaradas, y un cambio climático que constituye una amenaza existencial para todos.
En las ciencias y en la sociedad, en la política y en la educación, en la guerra y en el comercio, las nuevas tecnologías no se limitan a aumentar nuestras capacidades, sino que las determinan y dirigen activamente, para bien y para mal. Cada vez es más necesario que seamos capaces de repensar las nuevas tecnologías y de adoptar ante ellas una actitud crítica, para así poder participar de manera significativa en el proceso por el que estas determinan y dirigen nuestras capacidades. Si no entendemos cómo funcionan las tecnologías complejas, cómo se interconectan los sistemas de tecnologías y cómo interactúan los sistemas de sistemas, estaremos a su merced, y será más fácil que las élites egoístas y las corporaciones inhumanas acaparen todo su potencial.
Una verdadera alfabetización en sistemas consiste en mucho más que en la mera comprensión, y podría entenderse y llevarse a la práctica de diversas maneras. Va más allá del uso funcional de un sistema; abarca también su contexto y sus consecuencias. Se niega a ver la aplicación de cualquier sistema individual como una panacea y, en lugar de ello, se centra en las interrelaciones de los sistemas y en las limitaciones intrínsecas de cualquier solución aislada. Significa hablar con fluidez no solo el lenguaje de un sistema, sino también su metalenguaje (el lenguaje que ese sistema emplea para hablar de sí mismo y para interactuar con otros sistemas), y es sensible a las limitaciones y a los usos y abusos potenciales de ese metalenguaje.

El pensamiento computacional se ha impuesto porque, primero, nos ha seducido con su poder, después nos ha desconcertado con su complejidad y, por último, se ha asentado en nuestra corteza cerebral como algo evidente. Sus efectos y consecuencias, su mera manera de pensar, ahora forman parte de nuestro día a día hasta tal punto que oponerse a él parece una tarea tan abrumadora y vana como oponerse al propio tiempo meteorológico.
Pero reconocer la infinidad de maneras en que el pensamiento computacional es el producto de una excesiva simplificación, datos erróneos y ofuscación deliberada nos permite reconocer también las formas en que fracasa y revela sus propias limitaciones.

La propia civilización depende de nuestra capacidad de hacer pronósticos con precisión, pero la estamos perdiendo a medida que los ecosistemas empiezan a descomponerse y conforme tormentas que deberían ocurrir cada cien años nos azotan una tras otra. Sin pronósticos precisos a largo plazo, los agricultores no pueden sembrar los cultivos adecuados, los pescadores no pueden encontrar buenos caladeros, no se pueden planificar las defensas contra inundaciones e incendios, no es posible determinar cuáles son nuestros recursos energéticos y alimentarios ni satisfacer su demanda.
La red es la mejor representación de la realidad que hemos construido, precisamente porque también es muy difícil de pensar. La llevamos en el bolsillo y erigimos torres para transmitirla y palacios de datos para procesarla, pero no puede reducirse a unidades discretas; es no local e intrínsecamente contradictoria, como el propio mundo en sí. La red se está creando continuamente, a sabiendas o no. Vivir en una nueva edad oscura exige tomar conciencia de estas contradicciones e incertidumbres, estos estados de ignorancia práctica. Así pues, la red, debidamente entendida, puede servir de guía para pensar otras incertidumbres; y precisamente para poder pensarlas son incertidumbres que han de hacerse visibles.

La idea en la que se basaba el Perceptron era el conexionismo, la creencia en que la inteligencia era una propiedad emergente de las conexiones entre neuronas y en que, si se imitaban las sinuosas rutas cerebrales, se podría inducir a las máquinas a pensar. Durante la década siguiente, fueron muchos los investigadores que criticaron esta idea, aduciendo que la inteligencia era el producto de la manipulación de símbolos.
Hoy, el modelo conexionista de la inteligencia artificial vuelve a reinar indiscutiblemente y sus principales defensores son quienes, como Hayek, creen que en el mundo existe un orden natural que emerge espontáneamente cuando el sesgo humano no está presente en nuestra producción de conocimiento. Una vez más, vemos cómo se hacen las mismas afirmaciones sobre las redes neuronales que sus entusiastas hicieron en los años cincuenta, con la diferencia de que esta vez esas afirmaciones se están poniendo en práctica en el mundo de forma más generalizada.
En la última década, debido a varios avances importantes en este campo, las redes neuronales han experimentado un colosal renacimiento que ha apuntalado la actual revolución en las expectativas en torno a la inteligencia artificial (IA). Uno de sus grandes valedores es Google, cuyo cofundador, Sergey Brin, ha dicho sobre el progreso de la IA que «deberíamos suponer que algún día seremos capaces de crear máquinas capaces de razonar, pensar y hacer las cosas mejor de lo que las podemos hacer nosotros». A Sundar Pichai, director ejecutivo de Google, le gusta decir que el Google del futuro será AI-first [«inteligencia artificial ante todo»].
Google lleva tiempo invirtiendo en inteligencia artificial. En 2011 desveló su proyecto interno Google Brain, para revelar que había construido una red neuronal a partir de un clúster de mil máquinas dotadas de unos dieciséis mil procesadores, que había entrenado con diez millones de imágenes extraídas de vídeos de YouTube.
Aceptar que existe de verdad la inteligencia no humana tiene profundas implicaciones sobre cómo actuamos en el mundo y nos obliga a reflexionar con claridad sobre nuestros propios comportamientos, oportunidades y limitaciones. Aunque la inteligencia de las máquinas está superando rápidamente las capacidades humanas en muchos ámbitos, no es la única forma de pensar y, en muchos campos, es catastróficamente destructiva. Cualquier estrategia que no sea la cooperación consciente y meditada es una forma de inhibición, una marcha atrás que no puede sostenerse en el tiempo. No podemos rechazar la tecnología contemporánea, como tampoco podemos rechazar a nuestros vecinos en la sociedad y en el mundo; todos estamos entrelazados. Una ética de la cooperación en el presente tampoco tiene por qué limitarse a las máquinas: se convierte en otra forma de administración con otras entidades no humanas, animadas y no animadas, que pone de relieve actos de justicia universal, no en un futuro desconocido e incalculable, sino en el aquí y el ahora.

Cada vez sabemos más sobre el mundo, pero somos menos capaces de hacer algo al respecto. El sentimiento de impotencia resultante, en lugar de incitarnos a reconsiderar nuestras ideas de partida, parece conducirnos a una paranoia y una desintegración social más profundas: más vigilancia, más desconfianza, un hincapié cada vez mayor en el poder de las imágenes y de la computación para rectificar una situación que es consecuencia de nuestra creencia ciega en su autoridad.
La vigilancia no funciona, y tampoco lo hace la denuncia justiciera. No hay ningún argumento definitivo a favor de cualquiera de las dos, ninguna declaración contundente que alivie nuestra conciencia y cambie la opinión de nuestros adversarios.
Lo que tienen en común la campaña del brexit, las elecciones estadounidenses y las inquietantes profundidades de YouTube es que, a pesar de las múltiples sospechas, en última instancia es imposible saber quién está haciendo qué o cuáles son sus motivos e intenciones. Cuando vemos un vídeo tras otro, cuando leemos los muros de actualizaciones de estado y las sucesiones de tuits, es inútil intentar discernir entre bazofia generada por algoritmos y noticias falsas cuidadosamente diseñadas para generar dólares publicitarios; entre ficción paranoica, acción estatal, propaganda y contenido basura; y entre desinformación deliberada y verificación de hechos bien intencionada. Esta confusión ciertamente es útil a las manipulaciones que hacen los espías del Kremlin y los abusadores de niños por igual, pero también es algo que va más allá y es más profundo que los intereses de cualquier grupo: se trata de cómo es el mundo en realidad. Nadie decidió que así es como tenía que evolucionar el mundo —nadie deseaba la nueva edad oscura—, pero en cualquier caso lo hemos construido, y ahora vamos a tener que vivir en él.

Lo que tienen en común la campaña del brexit, las elecciones estadounidenses y las inquietantes profundidades de YouTube es que, a pesar de las múltiples sospechas, en última instancia es imposible saber quién está haciendo qué o cuáles son sus motivos e intenciones. Cuando vemos un vídeo tras otro, cuando leemos los muros de actualizaciones de estado y las sucesiones de tuits, es inútil intentar discernir entre bazofia generada por algoritmos y noticias falsas cuidadosamente diseñadas para generar dólares publicitarios; entre ficción paranoica, acción estatal, propaganda y contenido basura; y entre desinformación deliberada y verificación de hechos bien intencionada. Esta confusión ciertamente es útil a las manipulaciones que hacen los espías del Kremlin y los abusadores de niños por igual, pero también es algo que va más allá y es más profundo que los intereses de cualquier grupo: se trata de cómo es el mundo en realidad. Nadie decidió que así es como tenía que evolucionar el mundo —nadie deseaba la nueva edad oscura—, pero en cualquier caso lo hemos construido, y ahora vamos a tener que vivir en él.

—————

A pessimistic, and timely reflection on how technology has permeated our lives and how all enveloping it is, to the extent that any neutral analysis of its impacts is probably impossible. It looks at how computers’ number crunching capabilities have expanded, and the extent to which we have surrendered seemingly mundane tasks to be automated, that algorithms actually control our lives to a much larger extent than we think. Think of how algorithms select news articles for your news feeds, recommend stuff for you to buy, and even who you might want to be friends with… you felt the idea. The world is much more interdependent than we give it credit for, and the algorithms are feeding off and reinforcing each other in ways we do not yet understand. Various consequences are highlighted – as a species we are being dumbed down, and becoming slaves to the algorithms we have created because on our own, we would find ourselves lost amongst the data we have created as a species. Politics is becoming more polarised precisely because the algorithms we created in turn create echo chambers thru which radical ideas become seemingly normalised. A very sobering read, and a cautionary tale – the future isn’t all bright and rosy. This book isn’t easy reading by any means due to the convoluted prose, but the ideas behind it are worth chewing over.

Each chapter starts with a c-word; Chasm, Computation, Climate etc. Sometimes the c-word seemed an appropriate label, sometimes another c-word would have been better; Capital instead of Complexity, Covert ops instead of Complicity. Sometimes the c-word seems to have no connection with the chapter at all: Concurrency was largely about the doleful effects of abandoning toddlers in front of Youtube (perhaps something the busy parent and writer is occassionally forced to do). I wondered if the c-words were a joke, that Bridle had submitted his chapters to an AI system which ‘read’ them and selected a c-word for the chapter name. It would be an ironic example of abandoning his own agency to an algorithm. Ha-ha, what a c-word.
I have another c-word – Compendium – which summarises what is good and bad about this book. It is a compendium of tech related ‘horror’ stories, techtrasophes, instances where technology facilitates human folly and cruelty. In this compendium you will find nothing positive for human life that is a consequence of the integration of computation and communications technology. However, all the instances of IT horror here are interesting, diversely sourced, well presented, and occassionally lit with dark humour.
But there is, disappointly, no argument that technology is leading us into a new dark age. It’s not even clear what the nature of this new dark age is, apart from Bridle’s relentless focus on the negative. He seems to be saying, the technology is here; it has these bad effects; it will get worse. Early on, he seemed to be suggesting that the technology had some sort of malign agency of its own. Later he seems to settle down to the more reasonable notion that the ill effects are the unintended consequences of unguarded deployment of these technologies. Here I can agree with him, because this been a recurrent historical feature of the deployment of any technology. The invention of writing led to a decline in the massive inventories humans used to carry in their memories, ask any Papua New Guinean. But Bridle’s take on history is that it travels in straight lines towards catastrophre – economic exploitation, genocide, child abuse and climate collapse – there is no feedback, there is no reflexivity.
This technology may have been exploited to undermine the debate over Brexit, an outcome which is very negative for me as an EU resident UKer. But this outcome seems to be a result of a demographic crisis as much as a technological one. I remain confident that the generation to be raised on this technology will be inherently more circumspect in its use, as the earlier one that was raised on mainstream television now suspects that technology. We can’t go back to edited and compiled information from trusted sources, we have to learn to edit and compile for ourselves, and we have to decide what and why we trust. This is not a new dark age, but a new learning curve.

Some thoughts:

1. Military and computation are two disciplines grossly linked together, anti-war leftists are very powerless in criticising the current situation. We should radically shape up our skills to at least map out the complexity, or else traditional intellectuals will become your new ideological hysteria.
2. Since 2006, the Syrian crisis led by drought and 85% livestock reduction has caused the refugee crisis in Europe. There is plenty to unpack in this casualty. Climate change and poor countries, warfare and democratic promises, refugees and humanitarian policies, radical right-wing…. all of these problems are sadly summarised by me being privilege enough type out on laptop. We are grossly detached with the world. It’s like masturbation when we see images from the UN or NGOs and lives go on. We must spare time to rethink what we are consuming, and this is already on the standpoint of saving our planet. Indulgence and habit have a huge cost.
3. WWW consumes up to 3% electricities and 2% of yearly carbon emission. Watching one hour Netflix per week annually equals to two fridges carbon emission per year. These two facts are simple enough to understand. As half of the world population who have access to internet, we truly are building a habit that will be difficult to opt-out. Remember how boomers are criticised for not changing their behaviour? Well the generation post-1989 is also indulged in another kind of mass consumption.
4. The criticism towards Moores law is valid, it reveals how we make bets of our the world with a curve. Most of the IT professionals don’t give a damn about sustainability, this intoxicated working culture will not allow them to think further on human needs. There’s a reason why they think the “agile” model is divine, simply shows what is lacking.
5. Replication crisis of modern science is an ironic one. The inability of reproducing an original result is not the fault of science, as it is only a concept. Yet, science has become an industry today, it works as a chain production among universities, companies, governments, militaries, and any kind of open-source platforms. Many tried to artificially replicate a real-world environment to claim knowledge, but many are lack of meta-study to compare researches properly.
6. For those who are interested in Slough LD4 for high-frequency trading, I suggest you read the book Flashy Boys. They tackle intentional confusion in Wall Street by slowing down the trading, for everyone. All indicating the inaccessibility of lower-class towards stock exchange. Many stories, but I’ll pass this time.
7. If Andrew Young won as the US president, can he save Amazon exploitive labour?
8. It is not dumb to have US army trained AI to recognise tanks but spots sunny/cloudy weather. James underestimated with AI evolution as on-going learning, the AI can easily adapt to the tone of the image. Not understanding the technical aspect of AI makes this part a flaw.
9. Criticism towards AI ethicist is quite agreeable, the data past can determine culture and racism that are projected in future. And we are very slow in eliminating this equality gap.
10. Youtube spiral and children viewers will be haunting in our future generation. But if we cannot say all kids will be traumatised by these early contact with weird video contents, as ethics are learnt from social interaction in adulthood. Meaning we will have a wider knowledge gap between generations.
11. Yes, Eric Schmidt should not claim Rwandan genocide could be prevented in 1994 if the webcam was invented, as many organisations were closely monitoring the situation and it’s about the action, not technology. But, the real question is, how can these tech giants’ mind become discursive with others? Maybe when they put chips in their brain and sync with Reddit.
12. The final touch on origin, function and purpose seems simple enough to be sane in this age. Yet, don’t forget tech talents are using the same principles to design data structures. So these philosophies are instrumental, which we should consider of what can power and actualise them into practising a fairer society.

Our technologies are complicit in the greatest challenges we face today: an uncontrolled economic system that leads many to misery and continues to widen the gap between rich and poor; the collapse of political and social consensus across the globe, resulting in the rise of nationalisms, social divisions, ethnic conflicts, and undeclared wars, and climate change that constitutes an existential threat to all.
In science and society, in politics and education, in war and in commerce, new technologies are not limited to increasing our capacities, but actively determine and direct them, for better and for worse. It is increasingly necessary for us to be able to rethink new technologies and adopt a critical attitude towards them, in order to participate meaningfully in the process by which they determine and direct our capabilities. If we don’t understand how complex technologies work, how technology systems interconnect, and how systems systems interact, we will be at their mercy, and it will be easier for selfish elites and inhuman corporations to capture their full potential.
True systems literacy consists of much more than mere understanding, and could be understood and implemented in various ways. It goes beyond the functional use of a system; It also covers its context and its consequences. He refuses to see the application of any individual system as a panacea, and instead focuses on the interrelationships of the systems and the intrinsic limitations of any single solution. It means speaking fluently not only the language of a system, but also its metalanguage (the language that that system uses to speak about itself and to interact with other systems), and is sensitive to the limitations and potential uses and abuses of that system. metalanguage.

Computational thinking has prevailed because, first, it has seduced us with its power, then it has baffled us with its complexity and, finally, it has settled in our cerebral cortex as something evident. Its effects and consequences, its mere way of thinking, are now part of our daily life to such an extent that opposing it seems as overwhelming and futile a task as opposing the weather itself.
But recognizing the myriad ways in which computational thinking is the product of over-simplification, erroneous data, and deliberate obfuscation allows us to also recognize the ways in which it fails and reveals its own limitations.

Civilization itself depends on our ability to accurately forecast, but we are losing it as ecosystems begin to break down and as storms that should occur every hundred years hit us one after another. Without accurate long-term forecasts, farmers cannot plant the right crops, fishermen cannot find good fishing grounds, flood and fire defenses cannot be planned, it is not possible to determine what our energy and food resources are or meet their demand. .
The network is the best representation of reality that we have built, precisely because it is also very difficult to think about. We carry it in our pockets and erect towers to transmit it and data palaces to process it, but it cannot be reduced to discrete units; it is nonlocal and intrinsically contradictory, like the world itself. The network is continually being created, knowingly or unknowingly. Living in a new dark age requires becoming aware of these contradictions and uncertainties, these states of practical ignorance. Thus, the network, properly understood, can serve as a guide to think about other uncertainties; and precisely to be able to think them are uncertainties that must be made visible.

The idea on which the Perceptron was based was connectionism, the belief that intelligence was an emergent property of the connections between neurons and that, if the sinuous brain pathways were imitated, machines could be induced to think. During the following decade, many researchers criticized this idea, arguing that intelligence was the product of symbol manipulation.
Today, the connectionist model of artificial intelligence reigns indisputably and its main defenders are those who, like Hayek, believe that in the world there is a natural order that emerges spontaneously when human bias is not present in our knowledge production. Once again, we see how the same claims are made about neural networks that their enthusiasts made in the 1950s, with the difference that this time around those claims are being put into practice more widely in the world.
In the past decade, due to several important advances in this field, neural networks have undergone a colossal renaissance that has underpinned the current revolution in expectations around artificial intelligence (AI). One of its great supporters is Google, whose co-founder, Sergey Brin, has said about the progress of AI that “we should assume that someday we will be able to create machines capable of reasoning, thinking and doing things better than we can do them U.S”. Sundar Pichai, Google’s chief executive, likes to say that the Google of the future will be AI-first.
Google has been investing in artificial intelligence for some time. In 2011 he unveiled his internal Google Brain project, to reveal that he had built a neural network from a cluster of one thousand machines equipped with some sixteen thousand processors, which he had trained with ten million images taken from YouTube videos.
Accepting that non-human intelligence really exists has profound implications for how we act in the world and forces us to reflect clearly on our own behaviors, opportunities and limitations. Although machine intelligence is rapidly surpassing human capabilities in many areas, it is not the only way of thinking and, in many fields, it is catastrophically destructive. Any strategy other than conscious and thoughtful cooperation is a form of inhibition, a backtracking that cannot be sustained over time. We cannot reject contemporary technology, just as we cannot reject our neighbors in society and in the world; we are all intertwined. An ethic of cooperation in the present need not be limited to machines either: it becomes another form of administration with other non-human entities, animate and animate, that highlights acts of universal justice, not in an unknown future and incalculable, but in the here and now.

We know more and more about the world, but we are less able to do something about it. The resulting feeling of helplessness, instead of prompting us to reconsider our starting ideas, seems to lead us to deeper paranoia and social disintegration: more vigilance, more mistrust, an increasing emphasis on the power of images and computing to rectify a situation that is a consequence of our blind belief in his authority.
Surveillance does not work, and neither does fair reporting. There is no definitive argument in favor of either, no forceful statement to ease our conscience and change the opinion of our adversaries.
What the Brexit campaign, American elections and the disturbing depths of YouTube have in common is that, despite multiple suspicions, it is ultimately impossible to know who is doing what or what their motives and intentions are. When we watch video after video, when we read the walls of status updates and successions of tweets, it is useless to try to discern between algorithmically generated slop and fake news carefully designed to generate advertising dollars; between paranoid fiction, state action, propaganda and junk content; and between deliberate disinformation and well-intentioned fact-checking. This confusion is certainly useful to manipulations by Kremlin spies and child molesters alike, but it is also something that goes further and deeper than the interests of any group: it is about what the world really is like. . Nobody decided that this is how the world had to evolve – nobody wanted the new dark age – but in any case we have built it, and now we are going to have to live in it.

What the Brexit campaign, the US elections and the disturbing depths of YouTube have in common is that, despite multiple suspicions, it is ultimately impossible to know who is doing what or what their motives and intentions are. When we watch video after video, when we read the walls of status updates and the successions of tweets, it is useless to try to discern between algorithmically generated slop and fake news carefully designed to generate advertising dollars; between paranoid fiction, state action, propaganda and junk content; and between deliberate disinformation and well-intentioned fact-checking. This confusion is certainly useful to manipulations by Kremlin spies and child molesters alike, but it is also something that goes further and deeper than the interests of any group: it is about what the world really is like. . Nobody decided that this is how the world had to evolve – nobody wanted the new dark age – but in any case we have built it, and now we are going to have to live in it.

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios .