La nueva política de armas nucleares del Reino Unido reconoce algo que Elon Musk ha estado diciendo durante años

¡Compártelo!

En un artículo reciente en The War Zone, nos enteramos de que el gobierno británico está cambiando los términos de uso de su arsenal nuclear, y que el arsenal irá creciendo un poco. Entre los cambios está el hecho de que se sienten libres de usar armas nucleares (cuando sea útil) contra un enemigo que presenta una amenaza de “tecnologías emergentes”, como la Inteligencia Artificial (IA).

¿Por qué la IA sería una amenaza tan grande?

Si bien esto no debería sorprender Electronia lectores, Elon Musk ha estado advirtiendo a la gente sobre la amenaza de la IA durante años. “Creo que el peligro de la IA es mucho mayor que el peligro de las ojivas nucleares y nadie sugeriría que permitiéramos que alguien construyera ojivas nucleares si así lo desea. Eso sería una locura ”, dijo Musk en SXSW en 2018, y no era la primera vez que hablaba de los peligros de la IA. Anteriormente había dicho que la IA era un peligro mayor que Corea del Norte y que era un riesgo para el futuro de la civilización humana.

El problema con la IA, según Elon Musk, es que rápidamente podría volverse mucho más inteligente que los humanos. Si tiene el objetivo de hacernos felices, podría hacernos felices de formas horribles, como capturarnos a todos e inyectarnos hormonas que se sabe que nos hacen sentir felices. Incluso si es mejor que eso, y sabe mejor que hacer algo así, sería algo inmensamente poderoso sobre lo que lucharíamos por controlar, mientras que podría ejercer control sobre nosotros fácilmente. Sería jugar al ajedrez mientras luchamos por jugar a las damas, y podría ser más astuto que nosotros en cada movimiento si así lo quisiera.

Mucha gente en el campo piensa que Musk está siendo alarmista, y no hemos escuchado que ningún gobierno mundial se tome la IA tan en serio como él. “Tengo opiniones bastante sólidas sobre esto. Soy optimista. Creo que puedes construir cosas y el mundo mejora. Pero especialmente con la IA, soy muy optimista ”, dijo el director ejecutivo de Facebook, Mark Zuckerberg. “Y creo que las personas que son detractores y tratan de crear estos escenarios apocalípticos, simplemente, no lo entiendo. Es realmente negativo y, de alguna manera, creo que es bastante irresponsable “. Otros expertos han dicho cosas similares.

A pesar de las críticas, todavía decía cosas como: “Recuerda mis palabras. La IA es mucho más peligrosa que las armas nucleares. Lejos.” en 2019. Señaló que muchos expertos descartaron sus preocupaciones como si se aplicaran a tecnologías de “IA estrecha” de enfoque limitado, como las que impulsan vehículos autónomos, mientras que él habla de “IA general”, o una inteligencia artificial que puede hacer más cualquier cosa.

Aquí hay un videoclip con una recopilación de algunas de las advertencias de Musk sobre el tema a lo largo de los años:

Elon Musk propone que los gobiernos regulen cuidadosamente la IA para ayudar a mitigar los peligros asociados con ellos, pero también quiere ayudar a resolver el problema con Neuralink. Al tener una interfaz de gran ancho de banda entre nuestros cerebros y computadoras, podríamos tener una mejor oportunidad de competir o lograr una simbiosis con IA superinteligentes.

El gobierno del Reino Unido se está tomando esto muy en serio

Por buenas razones, no podemos echar un vistazo a lo que están haciendo y planificando los gobiernos cuando se trata de amenazas importantes. Al igual que un jugador de cartas no quiere que otros jugadores vean su mano, los gobiernos (especialmente los militares) tienden a jugar las cosas bastante cerca del chaleco (para bien o para mal). Entonces, cuando echamos un vistazo a lo que los militares se toman en serio, podemos suponer que es probable que sucedan muchas más cosas a puerta cerrada.

Eso es lo que hace que su reciente documento de política “Gran Bretaña global en una era competitiva,” tan interesante.

Si bien el documento no define directamente las “tecnologías emergentes”, está bastante claro que la IA es una parte importante de eso. En la descripción general del documento, el gobierno británico dice:

“Ciencia y tecnología: adoptaremos un enfoque más activo para construir y mantener una ventaja estratégica a través de la ciencia y la tecnología, usándola en apoyo de nuestras metas nacionales. Crearemos el entorno propicio para un ecosistema de ciencia y tecnología próspero en el Reino Unido y ampliaremos nuestra colaboración internacional, asegurando que la base de investigación exitosa del Reino Unido se traduzca en influencia sobre los aspectos críticos y tecnologías emergentes que son fundamentales para la competencia geopolítica y nuestra prosperidad futura. Adoptaremos un marco de acceso de colaboración propia para guiar la actividad del gobierno en áreas prioritarias de la ciencia y la tecnología, como la inteligencia artificial, las tecnologías cuánticas y la biología de la ingeniería.” (énfasis añadido)

Con respecto a las armas nucleares, el documento de política dice:

“El Reino Unido no usará, ni amenazará con usar, armas nucleares contra ningún Estado que no posea armas nucleares que sea parte del Tratado de No Proliferación de Armas Nucleares de 1968 (TNP). Esta garantía no se aplica a ningún estado que incumpla sustancialmente las normas de no proliferación.
obligaciones. Sin embargo, nos reservamos el derecho de revisar esta garantía si la futura amenaza de armas de destrucción masiva, como capacidades químicas y biológicas, o tecnologías emergentes que podrían tener un impacto comparable, lo hace necesario ”.

En otras palabras, no quieren ser malvados con armas nucleares y atacar o amenazar con atacar a cualquiera que no los haya amenazado con armas nucleares. Sin embargo, reconocen aquí que las tecnologías futuras (como la IA, ver más arriba) podrían convertirse en una amenaza tan grande como las armas nucleares. Si eso sucede, y una tecnología se convierte en una amenaza tan grande para el Reino Unido como las armas nucleares, harán lo que sea necesario para defenderse, incluso si eso requiere que usen armas nucleares.

Sin embargo, lo que es más importante, el hecho de que reconozcan que la IA (y otras tecnologías emergentes) podrían volverse tan peligrosas e impactantes como las armas nucleares dice mucho sobre el pensamiento del ejército británico.

También parece que están tomando otras señales de Musk. En la discusión sobre diplomacia del documento, dijeron:

“Diplomacia reguladora: reunir a los gobiernos, los organismos de normalización y la industria para influir en las reglas, normas y estándares, especialmente en áreas en rápida evolución como el espacio, el ciberespacio, las tecnologías emergentes y los datos. Trabajaremos con una amplia gama de socios, incluidas empresas de tecnología, organismos de normalización independientes, la sociedad civil y el mundo académico, en un número cada vez mayor de instituciones internacionales especializadas ”.

Tienen la intención de trabajar con los reguladores globales en la regulación de las “tecnologías emergentes” y quieren trabajar junto con entidades internacionales de todo tipo (incluidas empresas de tecnología como Neuralink) para desarrollar e influir en las reglas que las gobiernan.

Si bien el gobierno británico no tiene la influencia que tuvo una vez como imperio global, todavía no es un gobierno loco, disfuncional y sin influencia * que la gente no tome en serio. Sigue siendo un actor global real y se toma bastante en serio lo que dice.

Si dicen que la inteligencia artificial podría resultar un riesgo que está a la par con las armas nucleares, y que las empresas y el gobierno deberían trabajar juntos para mitigar esa amenaza, también deberíamos tomarnos eso muy en serio.

Imagen destacada: una prueba de armas nucleares, Departamento de Defensa de EE. UU. (Dominio público)

* (Para ser claros, pueden ser locos y disfuncionales, pero hay gobiernos mucho más locos y disfuncionales en el mundo)

Si te ha resultado interesante, comparte este artículo con esa persona aficionada a lo eléctrico.

¡Compártelo!

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *