La verdad sobre la picazón de Silicon Valley por prepararse para el fin del mundo

Silicon Valley dice que la IA podría ser apocalíptica. No es actuar de esa manera.

Si está buscando una razón por la cual el mundo terminará repentinamente, no es difícil encontrar una, especialmente si su trabajo es convencer a las personas de que necesitan comprar cosas para prepararse para el apocalipsis. "La Tercera Guerra Mundial, China, Rusia, Irán, Corea del Norte, Joe Biden, ya sabes, todo lo que está mal en el mundo", me dijo Ron Hubbard, director ejecutivo de Atlas Survival Shelters. Su empresa con sede en Texas vende búnkeres con puertas a prueba de balas y paredes de concreto a personas dispuestas a desembolsar varios miles, y hasta millones, de dólares para estar tranquilos sobre posibles eventos catastróficos. Últimamente, el interés por sus búnkeres subterráneos ha estado en auge. "Cuando estalló la guerra en Ucrania, mi teléfono sonaba cada 45 segundos durante unas dos semanas", dijo.

Muchos de sus clientes trabajan en tecnología: aunque el movimiento prepper en Estados Unidos abarca las clases alta y media, la izquierda y la derecha, Silicon Valley se ha convertido en los últimos años en su epicentro. En su libro Survival of the Richest: Escape Fantasies of the Tech Billionaires, Douglas Rushkoff profundiza en lo que él llama "La mentalidad", la idea entre los preparadores del fin del mundo de Silicon Valley de que "ganar" significa ganar suficiente dinero para escapar del daño que les sucede a todos los demás. . En 2018, Bloomberg informó que siete empresarios tecnológicos habían comprado búnkeres en Nueva Zelanda. Y un perfil del New Yorker de 2016 de Sam Altman citó al CEO de OpenAI diciendo que tenía "armas, oro, yoduro de potasio, antibióticos, baterías, agua, máscaras antigás de las Fuerzas de Defensa de Israel y un gran terreno en Big Sur. Puedo volar a" en caso de virus súper contagiosos, guerra nuclear e IA "que nos ataque".

Desde entonces, las predicciones extremas sobre lo que la IA podría hacerle al mundo se han hecho más fuertes entre una minoría vocal de quienes trabajan en el campo. A principios de este mes, el investigador pionero Geoffrey Hinton renunció a su cargo en Google y advirtió sobre los peligros de la IA. "Mira cómo era hace cinco años y cómo es ahora", le dijo a The New York Times. "Toma la diferencia y propágala hacia adelante. Eso da miedo". Otras personas han ido más allá. "Si seguimos adelante con esto, todos morirán", escribió Eliezer Yudkowsky, investigador principal del Instituto de Investigación de Inteligencia de Máquinas, "incluidos los niños que no eligieron esto y no hicieron nada malo".

Así que este debería ser un momento para los preparadores del fin del mundo de la IA, con millonarios agotados de Silicon Valley que desembolsan enormes sumas de dinero para protegerse de lo que sea que la IA nos haga a todos. Pero no lo es. Le pregunté a Hubbard si alguien le había mencionado la IA como su motivación para comprar un búnker. "No creo que una sola persona haya mencionado la IA", dijo. Esta locura de la IA está exponiendo lo que ha sido cierto durante mucho tiempo sobre los preparadores del fin del mundo de Silicon Valley: un compuesto a prueba de desastres podría no salvar a los magnates tecnológicos más ricos, pero tal vez ese nunca fue el objetivo.

Hubbard, uno de los nombres más importantes en la preparación comercial, me dijo que su cliente arquetípico es un hombre de 60 años que recientemente vendió su negocio por $30 millones, compró un rancho y ahora quiere un búnker. Incluso el multimillonario tecnológico con el que trabajó recientemente no mencionó la IA como una preocupación. "Lo que importa son las armas nucleares, Yellowstone y los meteoritos", dijo Hubbard.

Nadie con quien hablé en el mundo de la preparación del fin del mundo sudaba mucho la IA, en comparación con todas las demás amenazas que perciben. JC Cole, que dirige un negocio de preparación llamado American Heritage Farms, describió 13 eventos de "Cisne gris" que cree que son inminentes y poderosamente destructivos. "No me preocupo por la IA en este momento", dijo, "porque creo que no llegaremos allí". Está bastante seguro de que Estados Unidos entrará en guerra con Rusia y China en algún momento del próximo año. Le preocupa la hiperinflación ("que está sucediendo mientras hablamos"), el colapso crediticio, varios desastres naturales y pulsos electromagnéticos de bombas nucleares, armas biológicas o tormentas solares que destruyen la red eléctrica. "Antes de que la IA entre y aparezca como Terminator", dijo, "creo que tendremos un colapso bancario". Anticipándose a estos Cisnes Grises, está desarrollando granjas orgánicas y refugios subterráneos que pueden ayudar a salvar a un puñado de miembros que pagan.

Parte de por qué la preparación para el fin del mundo de la IA no parece ser gran cosa es que todavía es difícil imaginar la mecánica precisa de una amenaza de IA. Lo primero que viene a la mente son los métodos familiares de destrucción, pero con un toque de IA: Rogue AI lanza armas nucleares, bombardea la red eléctrica, organiza ataques cibernéticos. Los refugios que ofrece Hubbard explícitamente brindan apoyo para situaciones como estas. Ya sea que el arma nuclear sea enviada por un líder extranjero inestable o por un robot malicioso o que funciona mal, una bomba sigue siendo una bomba. Las personas que ya estaban preocupadas por esas amenazas se prepararán, pero lo habrían hecho de todos modos.

Las personas que están particularmente enfocadas en el potencial destructivo de la IA tienen una razón diferente para no construir un búnker. "La amenaza que nos preocupa es aquella en la que construimos sistemas de inteligencia artificial mucho más inteligentes que los humanos que consumen muchos recursos y, por lo tanto, recolectan cada átomo de material en cada planeta del sistema solar", dice Rob Bensinger, jefe de investigación. comunicaciones en el Instituto de Investigación de Inteligencia de Máquinas. "No hay 'preparación' que se pueda hacer para protegerse físicamente contra ese tipo de amenaza". Yudkowsky me dijo en un correo electrónico que nadie a quien consideraría conocedor de la IA se está preparando para el fin del mundo; tiene poco sentido. "Personalmente", escribió, "no gasto mucha energía mental preocupándome por escenarios de desastres relativamente leves donde habría sobrevivientes". Entonces, la mejor manera de prepararse para el día del juicio final de la IA es luchar contra el mayor desarrollo de la tecnología antes de que se vuelva demasiado poderosa. "Si te enfrentas a una superinteligencia, ya has perdido", dijo Yudkowsky. "Construir un búnker elaborado no ayudaría en lo más mínimo en cualquier desastre de superinteligencia que considero realista, incluso si el búnker estuviera en Marte".

La evidente falta de preparación para el día del juicio final durante una era tan trascendental para la IA sugiere algo más: que entre los superricos de Silicon Valley, los búnkeres y los refugios ya no son tan populares como antes. Rushkoff me dijo que la exageración sobre los búnkeres del fin del mundo se ha calmado y que algunas personas han visto la tontería de la empresa. Para los apocalípticos que realmente se preocupan por los escenarios menos probables y más devastadores, la preparación tradicional no será de mucha utilidad. "No me importa cuán aislada esté la tecnología en su búnker", dijo. "Los nanos de IA podrán penetrar en tu búnker... No puedes escapar de ellos". Una adquisición de IA sería la fase final de la historia de disrupción de Silicon Valley: después de los taxis y la entrega de alimentos, toda la raza humana.

Pero, en realidad, Rushkoff duda de que muchos preppers ultraricos se estén preparando realmente para el fin del mundo. Lo que quieren, piensa, es una fantasía de isla autosuficiente, más White Lotus que The Last of Us. Si este momento de IA, cuando las advertencias apocalípticas parecen surgir día a día, no está produciendo un auge de preparación, entonces tal vez no haya mucha sustancia detrás de todas las posturas costosas. No importa el estado del mundo, la preparación siempre ha sido una opción llamativa de estilo de vida. "No importa si hay un desastre o no", dijo Rushkoff. "El apocalipsis fue solo la excusa para construir estas cosas".