Gabinete dos Horrores

Aumento das máquinas e toma do poder pola intelixencia artificial. Un mundo de completa vixilancia e control social. A guerra nuclear e a dexeneración da civilización. Moitas visións escuras do futuro, debuxadas hai moitos anos, deberían ter acontecido hoxe. E mentres tanto botamos a vista atrás e parece que non estaban alí. Estás seguro?

Hai un repertorio de popular bastante estereotipado profecías distópicas (sobre a visión negra do futuro). Ademais das máis comúns asociadas á destrución do medio e dos recursos naturais, crese amplamente que as últimas tecnoloxías danan a comunicación interpersoal, as relacións e a sociedade.

O espazo virtual substituirá enganosamente a participación real no mundo. Outras visións distópicas ven o desenvolvemento tecnolóxico como unha forma de aumentar a desigualdade social, concentrando o poder e a riqueza en mans de pequenos grupos. As altas demandas da tecnoloxía moderna concentran coñecementos e habilidades en círculos estreitos de persoas privilexiadas, aumentan a vixilancia das persoas e destrúen a privacidade.

Segundo moitos futuristas, unha maior produtividade e unha maior elección visible poden prexudicar a calidade de vida humana ao causar estrés, poñer en perigo os traballos e facernos cada vez máis materialistas sobre o mundo.

Un dos famosos "distópicos" tecnolóxicos. James Gleick, dá un exemplo aparentemente trivial dun mando a distancia de televisión como un invento clásico que non resolve un só problema significativo, dando lugar a moitos novos. Gleick, citando a un historiador técnico Edward Tenner, escribe que a capacidade e facilidade de cambiar de canle usando o control remoto serve principalmente para distraer cada vez máis ao espectador.

En lugar de satisfacción, a xente está cada vez máis insatisfeita coas canles que ven. En lugar de satisfacción das necesidades, hai unha sensación de decepción sen fin.

Os coches manteránnos nas reservas?

Seremos capaces de controlar esta cousa que é inevitable e que probablemente chegará pronto? Sobre a intelixencia artificial? Se é así, como proclaman moitas visións distópicas, entón non. (1).

É difícil controlar algo que é moitas veces máis forte ca nós. cun aumento do número de tarefas. Hai vinte anos, ninguén crería que podía ler as emocións na voz dunha persoa e enfrontarse con moita máis precisión do que nós mesmos podemos facer. Mentres tanto, os algoritmos adestrados actualmente xa son capaces de facelo, analizando as expresións faciais, o timbre e a forma de falar.

Os ordenadores fan debuxos, compoñen música e un deles mesmo gañou un concurso de poesía en Xapón. Levan moito tempo gañando á xente no xadrez, aprendendo o xogo dende cero. O mesmo aplícase ao moito máis complexo xogo de Go.

obedece ás leis da aceleración cada vez máis rápida. O que a IA conseguiu -coa axuda dos humanos- durante as últimas décadas duplicarase nos próximos anos, quizais só meses, e despois só levará semanas, días, segundos...

Como se viu recentemente, os algoritmos utilizados nos teléfonos intelixentes ou nos aeroportos para analizar fotos de cámaras omnipresentes non só poden recoñecer a alguén en diferentes cadros, senón que tamén determinan características psicolóxicas exclusivamente íntimas. Dicir que isto é un gran risco de privacidade é como non dicir nada. Non se trata dunha simple vixilancia, observando cada paso, senón da información que xorde como resultado da propia aparencia dunha persoa, sobre os seus desexos ocultos e preferencias persoais. 

Os algoritmos poden aprender isto con relativa rapidez analizando centos de miles de casos, o que é moito máis do que a persoa máis astuta pode ver nunha vida. Armados con tanta experiencia, son capaces de escanear unha persoa con máis precisión que incluso o psicólogo, o analista de linguaxe corporal e de xestos máis experimentado.

Entón, a verdadeira distopía escalofriante non é que os ordenadores xoguen ao xadrez ou vaian contra nós, senón que poden ver a nosa alma máis profundamente que ninguén que non sexa nós mesmos, chea de prohibicións e bloqueos para recoñecer esas ou outras inclinacións.

Elon Musk cre que a medida que os sistemas de IA comezan a aprender e razoar a unha escala cada vez maior, a "intelixencia" pode desenvolverse nalgún lugar. profundamente en capas web, imperceptible para nós.

Segundo un estudo estadounidense publicado en 2016, nos próximos 45 anos a intelixencia artificial ten un 50 por cento de posibilidades de superar aos humanos en todas as tarefas. Os meteorólogos din que si, a IA resolverá o problema do cancro, mellorará e acelerará a economía, proporcionará entretemento, mellorará a calidade e duración da vida, educará para que non poidamos vivir sen ela, pero é posible que algún día, sen o odio, só para baseado nun cálculo lóxico, só nos elimina. Quizais non funcione fisicamente, porque en cada sistema paga a pena gardar, arquivar e almacenar recursos que "poden ser útiles algún día". Si, este é o recurso que podemos ser para a IA. Man de obra protexida?

Os optimistas consólanse co feito de que sempre hai a oportunidade de sacar o enchufe da toma. Non obstante, non todo é tan sinxelo. A vida humana xa depende tanto dos ordenadores que un paso radical contra eles sería un desastre para nós.

Despois de todo, estamos creando cada vez máis sistemas de toma de decisións baseados na intelixencia artificial, dándolles o dereito de pilotar avións, fixar tipos de interese, facer funcionar centrais eléctricas; sabemos que os algoritmos o farán moito mellor ca nós. Ao mesmo tempo, non entendemos completamente como se toman estas decisións dixitais.

Hai temores de que sistemas de mando superintelixentes como "Reducir a conxestión" poidan levalos a concluír que o único xeito eficaz de facer o traballo é... reducir a poboación nun terzo ou mesmo á metade.

Si, paga a pena darlle á máquina a instrución máis importante como "Primeiro de todo, salva unha vida humana!". Non obstante, quen sabe se entón a lóxica dixital levará á cadea da humanidade ou baixo o hórreo, onde podemos estar a salvo, pero certamente non libres.

A ciberdelincuencia como servizo

Antigamente, as distopías e as imaxes do mundo postapocalíptico na literatura e no cine adoitaban ambientarse na era posnuclear. Hoxe, a aniquilación nuclear non parece necesaria para a catástrofe e a destrución do mundo tal e como o coñecemos, aínda que non como o imaxinamos. , é pouco probable que destrúa o mundo como en "Terminator", onde se combinou coa aniquilación nuclear. Se o fixera, non sería unha superintelixencia, senón unha forza primitiva. Despois de todo, mesmo a humanidade aínda non se decatou do escenario global dun conflito nuclear devastador.

Unha auténtica apocalipse de máquinas pode ser moito menos impresionante.

A guerra cibernética, os ataques de virus, a piratería de sistemas e o ransomware, o ransomware (2) paralizan e destrúen o noso mundo de forma non menos efectiva que as bombas. Se a súa escala se amplía, podemos entrar nunha fase de guerra total total na que pasaremos a ser vítimas e reféns das máquinas, aínda que non están obrigados a actuar de forma autónoma, e é posible que a xente aínda estea detrás de todo.

O pasado verán, a Axencia de Seguridade Cibernética e Infraestrutura dos Estados Unidos (CISA) chamou aos ataques de ransomware como "a ameaza de ciberseguridade máis visible".

CISA afirma que moitas actividades nas que un ciberdelincuente intercepta e cifra os datos dunha persoa ou organización e despois extorsiona un rescate nunca se denuncian porque a vítima paga aos ciberdelincuentes e non está disposta a dar a coñecer os problemas cos seus sistemas inseguros. A nivel micro, os ciberdelincuentes adoitan dirixirse ás persoas maiores que teñen problemas para distinguir entre contido honesto e deshonesto en Internet. Fano con malware incorporado nun anexo de correo electrónico ou nunha ventá emerxente nun sitio web infectado. Ao mesmo tempo, os ataques a grandes corporacións, hospitais, axencias gobernamentais e gobernos están en aumento.

Estes últimos foron especialmente dirixidos polos datos confidenciais que tiñan e pola capacidade de pagar grandes rescates.

Algunha información, como a información sanitaria, é moito máis valiosa para o propietario que outras e pode gañar máis diñeiro aos criminais. Os ladróns poden interceptar ou poñer en corentena grandes bloques de datos clínicos importantes para o coidado do paciente, como os resultados das probas ou a información sobre medicamentos. Cando a vida está en xogo, non hai espazo para a negociación no hospital. Un dos hospitais estadounidenses pechou definitivamente en novembro do ano pasado despois do atentado terrorista de agosto.

Probablemente só empeorará co paso do tempo. En 2017, o Departamento de Seguridade Nacional dos Estados Unidos anunciou que os ciberataques poderían dirixirse a infraestruturas críticas como as empresas de auga. E as ferramentas necesarias para levar a cabo este tipo de accións están cada vez máis dispoñibles para os operadores máis pequenos, aos que lles venden paquetes de ransomware como o software Cerber e Petya e cobran unha taxa de rescate despois de ataques exitosos. Baseado no ciberdelito como servizo.

Trastorno perigoso no xenoma

Un dos temas populares da distopía é a xenética, a manipulación do ADN e a creación de persoas, ademais, "programadas" do xeito correcto (autoridades, corporacións, militares).

A encarnación moderna destas ansiedades é un método de popularización Edición de xenes CRISPR (3). Os mecanismos que contén preocupan principalmente. forzando as funcións desexadas nas xeracións posteriores e o seu potencial estendeuse a toda a poboación. Un dos inventores desta técnica, Jennifer Doudna, incluso pediu recentemente unha moratoria sobre tales técnicas de edición "xerm-line" debido a consecuencias potencialmente desastrosas.

Recordemos que hai uns meses, un científico chinés En Jiankui foi moi criticado por editar os xenes de embrións humanos para inmunizalos contra o virus da SIDA. O motivo foi que os cambios que fixo podían transmitirse de xeración en xeración con consecuencias imprevisibles.

Especialmente preocupante son os chamados d (reescritura xenética, unidade xenética), é dicir. un mecanismo de enxeñería xenética que codifica un sistema de edición no ADN dun individuo determinado Xenoma CRISPR/CAS9 con configuralo para editar esta variante do xene non desexado. Debido a isto, os descendentes automaticamente (sen a participación de xenetistas) sobrescriben a variante xenética non desexada coa desexada.

Non obstante, unha variante xenética non desexada pode ser recibida pola descendencia "como agasallo" dun outro proxenitor non modificado. Entón, a unidade xenética imos romper Leis mendelianas da herdanzaque din que a metade dos xenes dominantes van á descendencia dun proxenitor. En definitiva, isto levará finalmente á propagación da variante xenética en cuestión a toda a poboación.

Biólogo da Universidade de Stanford Christina Smolke, de volta nun panel sobre enxeñería xenética en 2016, advertiu de que este mecanismo podería ter consecuencias prexudiciais e, en casos extremos, arrepiantes. A unidade xenética é capaz de mutar ao pasar a través das xeracións e causar trastornos xenéticos como a hemofilia ou a hemofilia.

Como lemos nun artigo publicado en Nature Reviews por investigadores da Universidade de California, en Riverside, aínda que un impulso funcione como se pretende nunha poboación dun organismo, o mesmo trazo hereditario pode ser prexudicial se se introduce dalgún xeito noutra poboación. . o mesmo aspecto.

Tamén existe o perigo de que os científicos creen unidades xenéticas a porta pechada e sen revisión por pares. Se alguén introduce intencionadamente ou sen querer un xenoma nocivo no xenoma humano, como un que destrúe a nosa resistencia á gripe, incluso podería significar o fin da especie homo sapiens...

Capitalismo de vixilancia

Unha versión da distopía que os antigos escritores de ciencia ficción dificilmente poderían imaxinar é a realidade de Internet, e especialmente das redes sociais, con todas as súas ramificacións amplamente descritas que destrúen a privacidade, as relacións e a integridade psicolóxica das persoas.

Este mundo só se pinta nas actuacións artísticas máis recentes, como o que puidemos ver na serie Black Mirror no episodio de 2016 "The Diving" (4). Shoshana Zuboff, un economista de Harvard, cualifica esta realidade completamente dependente da autoafirmación social e completamente "desprivatizada". capitalismo de vixilancia (), e ao mesmo tempo o traballo de coroa de Google e Facebook.

4. Escena de "Black Mirror" - episodio "Diving"

Segundo Zuboff, Google é o primeiro inventor. Ademais, está a ampliar constantemente as súas actividades de vixilancia, por exemplo a través de proxectos de cidades intelixentes aparentemente inocentes. Un exemplo é o proxecto World's Most Innovative Neighborhood de Sidewalk Labs, unha subsidiaria de Google. peirao en Toronto.

Google ten previsto recoller todos os datos máis pequenos sobre a vida dos habitantes da beiramar, o seu movemento e mesmo a respiración coa axuda de sensores de vixilancia omnipresentes.

Tamén é difícil escoller unha distopía de internet que estea fóra de discusión en Facebook. O capitalismo de vixilancia puido ser inventado por Google, pero foi Facebook o que o levou a un nivel totalmente novo. Isto fíxose a través de mecanismos virais sociais e emocionais e unha persecución desapiadada incluso de aqueles que non son usuarios da plataforma Zuckerberg.

IA protexida, inmersa na realidade virtual, convivencia con UBI

Segundo moitos futuristas, o futuro do mundo e da tecnoloxía desíñanse con cinco abreviaturas: AI, AR, VR, BC e UBI.

Os lectores de "MT" probablemente saben ben o que son e en que consisten os tres primeiros. O familiar tamén resulta ser o cuarto, "BC", cando entendemos de que se trata. E o quinto? UBD é unha abreviatura do concepto, que significa "renda básica universal » (5). Trátase dun beneficio público, postulado de cando en vez, que se vai dar a todas as persoas que se liberan do traballo a medida que se desenvolvan outras tecnoloxías, especialmente a IA.

5. Renda Básica Universal - RUB

Suíza mesmo someteu a idea a un referendo o ano pasado, pero os seus cidadáns rexeitárono por temor a que a introdución dunha renda garantida provocase un aluvión de inmigrantes. A UBI tamén leva consigo outros perigos, entre eles o risco de perpetuar as desigualdades sociais existentes.

Cada unha das revolucións tecnolóxicas detrás do acrónimo (ver tamén:) -se se estende e se desenvolve na dirección esperada- ten enormes consecuencias para a humanidade e o noso mundo, incluíndo, por suposto, unha enorme dose de distopía. Por exemplo, crese que podería substituír ciclos electorais de catro anos e levar a referendos sobre infinidade de temas.

A realidade virtual, pola súa banda, é capaz de "excluír" parte da humanidade do mundo real. Como pasou, por exemplo, coa coreana Jang Ji-sun, quen, tras a morte da súa filla en 2016 por unha enfermidade terminal, coñeceu desde entón o seu avatar en realidade virtual. O espazo virtual tamén crea novos tipos de problemas, ou en realidade transfire todos os vellos problemas coñecidos ao "novo" mundo, ou mesmo a moitos outros mundos. En certa medida, xa o podemos ver nas redes sociais, onde ocorre que poucos me gusta nas publicacións provocan depresión e suicidio.

Contos proféticos máis ou menos

Despois de todo, a historia da creación de visións distópicas tamén ensina precaución á hora de formular predicións.

6. Portada de "Islands in the Net"

Filmada o ano pasado foi a famosa obra mestra de ciencia ficción de Ridley Scottcazador de android» Dende 1982. É posible discutir o cumprimento ou non de moitos elementos concretos, pero é indiscutible que a profecía máis importante sobre a existencia no noso tempo de androides intelixentes, humanoides, en moitos aspectos superiores aos humanos, aínda non se fixo realidade.

Estaríamos preparados para tolerar moitos máis golpes proféticos".Neuromantes»é dicir, novelas William Gibson dende 1984, quen popularizou o concepto de "ciberespazo".

Porén, naquela década apareceu un libro un pouco menos coñecido (no noso país, case por completo, porque non estaba traducido ao polaco), que predicía con moita máis precisión a hora de hoxe. Estou falando de romanceIllas na web"(6) Bruce Sterling desde 1988, establecido en 2023. Presenta un mundo inmerso no que é semellante a Internet, coñecido como a "web". Está controlado por grandes corporacións internacionais. "Islands on the Web" destaca por ofrecer control, vixilancia e monopolización da Internet supostamente gratuíta.

Tamén é interesante prever operacións militares realizadas mediante vehículos aéreos non tripulados (drones) contra piratas/terroristas en liña. Operadores a miles de quilómetros de distancia con escritorios seguros, como o sabemos? O libro non trata do conflito interminable co terrorismo islámico, senón da loita contra as forzas que se opoñen á globalización. O mundo de Islands in the Net tamén está cheo de dispositivos de consumo que se parecen moito a reloxos intelixentes e zapatos deportivos intelixentes.

Hai outro libro dos anos 80 que, aínda que algúns dos acontecementos parecen máis fantásticos, fai un bo traballo ilustrando os nosos medos distópicos actuais. Este "Software de georadar", Historia Rudy Rookerestablecido en 2020. O mundo, o estado da sociedade e os seus conflitos parecen incriblemente semellantes ao que estamos a tratar hoxe. Tamén hai robots coñecidos como boppers que gañaron conciencia de si mesmos e escaparon ás cidades da Lúa. Este elemento aínda non se materializou, pero a revolta das máquinas estase a converter nun refrán constante de negras predicións.

As visións do noso tempo nos libros tamén son sorprendentemente precisas en moitos aspectos. Octavia Butler, especialmente enParábolas do sementador» (1993). A acción comeza en 2024 en Los Ángeles e desenvólvese en California, devastada polas inundacións, tormentas e secas provocadas polo cambio climático. As familias de clase media e traballadora reúnense en comunidades cerradas mentres intentan escapar do mundo exterior con drogas adictivas e kits de realidade virtual. Xorden novas relixións e teorías conspirativas. A caravana de refuxiados vai cara ao norte para evitar o colapso ecolóxico e social. Chega ao poder un presidente que usa o slogan da campaña "Make America Great Again" (este é o slogan de Donald Trump)...

Segundo libro de Butler, "Parábola dos Talentosconta como os membros dun novo culto relixioso abandonan a Terra nunha nave espacial para colonizar Alpha Centauri.

***

Cal é a lección desta ampla enquisa de predicións e visións feita hai varias décadas sobre a nosa vida cotiá?

Probablemente, o feito é que as distopías ocorren a miúdo, pero a maioría das veces só parcialmente.