FTX y el apocalipsis de la IA, impacto en Anthropic: "Los días de calma han terminado"

Antes de la quiebra de FTX, una relación profunda con Anthropic... Inversión a gran escala

Sam Bankman, influenciado por la raíz del apocalipsis: "altruismo efectivo"

Hay un consenso filosófico, emocional y cultural

[Reportera de Blockmedia, Lee Jeong-hwa] "Ya no podemos volver a tiempos tranquilos (Things will never be chill again)"

En las computadoras portátiles de los empleados de la empresa de desarrollo de inteligencia artificial (IA) Anthropic, a menudo hay pegatinas con este lema. Puede referirse al apocalipsis de la IA, y también significa "por lo tanto, debemos esforzarnos más para evitar el apocalipsis".

El Wall Street Journal (WSJ) informó el 26 de octubre (hora local) en un extenso artículo que busca las raíces del apocalipsis de la IA, que existe una relación cercana entre la quiebra del intercambio de criptomonedas FTX y Anthropic. El fundador de Anthropic, Dario Amodei, asistió con frecuencia a eventos organizados por Sam Bankman de FTX y también recibió inversiones.

Estos formaron un fuerte vínculo a través de la filosofía del altruismo efectivo (Effective Altruism, EA). EA es la base teórica del apocalipsis de la IA. Sam Bankman, quien está cumpliendo una condena de 25 años por cargos de fraude en criptomonedas, ha mencionado públicamente que fue influenciado por EA.

El vínculo entre FTX y el apocalipsis de la IA

El punto de partida no era la IA, sino la filosofía. EA comenzó con la idea de ayudar al mayor número posible de personas con dinero y recursos limitados. Se trata de calcular cuántas vidas se pueden salvar con una donación de 1 dólar.

Al extender esta lógica hacia el futuro lejano, los objetivos de interés también cambiaron. No solo ayudar a las personas actuales, sino también prevenir los "riesgos existenciales" que amenazan a las innumerables personas que podrían existir en el futuro se convirtió en una tarea importante.

La lógica es que si la IA tiene alguna posibilidad de eliminar a toda la humanidad, detenerlo tiene un valor inmenso. Según el WSJ, en el círculo de EA, se considera que vale la pena prepararse incluso si la posibilidad de extinción de la humanidad debido a la IA es solo del 5%.

En este punto, aparece FTX.

Sam Bankman era un patrocinador destacado de EA. Durante el rápido crecimiento de FTX entre 2020 y 2022, fundó la Fundación FTX. Sam Bankman declaró: "Apoyaré a las organizaciones que pueden tener el mayor impacto positivo en el mundo".

Su interés incluía no solo pandemias y desarrollo global, sino también la posibilidad de colapso de la civilización humana. Un representante de la Fundación FTX intercambió notas sobre la construcción de un búnker en la isla del Pacífico de Nauru para prepararse para un desastre en el que el 50-99.99% de la humanidad podría morir. Estas notas salieron a la luz durante el proceso de quiebra en 2023.

Sam Bankman también vio el desarrollo de la IA desde esta perspectiva. Temía que si la IA se volvía más inteligente que los humanos, podría no tratar a los humanos de manera amistosa.

Inversión de 500 millones de dólares en Anthropic

Esta conciencia del problema se tradujo en inversiones reales. Dario Amodei, cofundador de Anthropic, extendió la mano a los patrocinadores de EA en 2021 para obtener fondos para la nueva empresa de IA. Uno de ellos era Sam Bankman.

Dario Amodei, CEO de Anthropic. Fuente: Reuters (REUTERS/Bhawika) Chhabra

Sam Bankman invirtió 500 millones de dólares en Anthropic. Era cinco veces la cantidad inicialmente recomendada por su equipo de inversión. FTX se convirtió en uno de los principales accionistas de Anthropic. Anthropic declaró que utilizaría estos fondos para investigar y mejorar la seguridad de los modelos de IA a gran escala.

La Fundación FTX también prometió fondos a varias organizaciones sin fines de lucro de investigación sobre la seguridad de la IA. El vínculo no se detuvo en el dinero.

Nick Beckstead, quien lideró las actividades benéficas de la Fundación FTX, luego dirigió una organización para reducir los riesgos de la IA. Vivió en la casa donde anteriormente residían los cofundadores de Anthropic, incluido Amodei. Esta casa era un lugar de intercambio entre los defensores de EA y los de la seguridad de la IA.

Caroline Ellison, quien lideró la empresa hermana de FTX, Alameda Research, también tenía pensamientos similares sobre la dirección del desarrollo de la IA. Ellison invirtió 10 millones de dólares en Anthropic por separado.

En 2022, representantes de Anthropic y otros laboratorios de IA se reunieron en un evento en la isla Eleuthera de las Bahamas. En el evento, los riesgos de la IA y EA fueron temas principales. El lugar fue reservado por FTX, que había trasladado su sede a las Bahamas en ese momento.

El destacado defensor de los riesgos de la IA, Eliezer Yudkowsky, presentó en este evento las razones por las cuales la inteligencia artificial general (AGI) podría llevar a la humanidad a la destrucción. También se celebró un almuerzo al que solo podían asistir aquellos que creen que la posibilidad de extinción de la humanidad en los próximos 100 años es superior al 75%.

FTX se derrumbó, pero la ideología permanece

FTX se declaró en quiebra en 2022 al no poder devolver los fondos de los clientes. Sam Bankman fue condenado a 25 años de prisión. Las acciones de Anthropic que poseía FTX también fueron vendidas para pagar a los acreedores.

El colapso de FTX también tuvo un gran impacto en el círculo de EA. El WSJ informó que, después de que Sam Bankman fue encarcelado, la marca EA se convirtió en un objeto de aversión. Los líderes de EA se distanciaron de Sam Bankman. Negaron conocerlo bien.

Sin embargo, la desaparición de FTX no significó la desaparición de la seguridad de la IA. Muchos de los antiguos miembros de Anthropic continuaron manteniendo relaciones con la comunidad de seguridad de la IA y EA. También continuaron investigando temas como la posibilidad de que la IA engañara a los humanos y tomara el control.

Constellation, que apoya la investigación y reuniones del círculo de seguridad de la IA, también sigue activa. Esta organización se describe en su sitio web de la siguiente manera.

"Nuestro objetivo es reducir el 'daño extremo a gran escala' que la IA puede causar y la 'pérdida permanente de control sobre la civilización humana'."

La paradoja de FTX radica en esto. Un intercambio de activos digitales que colapsó por el uso indebido de fondos de clientes terminó proporcionando una cantidad considerable de fondos para uno de los ejes del debate sobre la seguridad de la IA de hoy.

El lema compartido por los miembros de Anthropic refleja esta conciencia del problema.

"Things will never be chill again."

Este lema no solo significa "nunca más estará tranquilo". En inglés, "chill" tiene la connotación de estar relajado y despreocupado. Por lo tanto, en el contexto de la seguridad de la IA, puede interpretarse como "ya no podemos volver a vivir despreocupadamente".

Aceptar la posibilidad de que la IA pueda amenazar a toda la humanidad significa que no podemos ver el desarrollo tecnológico de la misma manera que antes.

FTX ha desaparecido. Sin embargo, la red EA patrocinada por FTX y el debate sobre el apocalipsis de la IA permanecen en el corazón de Silicon Valley. La frase "ya no podemos estar tranquilos" resume esa cosmovisión.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.