Consejero de OpenAI: Existe una posibilidad razonable de un desastre de IA en el próximo año
Un conocido investigador de seguridad de IA y miembro de la junta de la entidad matriz de OpenAI, Paul Cristiano, advirtió sobre el futuro del desarrollo de la inteligencia artificial en una popular entrevista de podcast tecnológico. Afirmó que la posibilidad de que la humanidad pierda completamente el control sobre la IA está aumentando rápidamente.
El episodio del podcast se emitió el lunes, presentado por Devraksh Patel. Cristiano mencionó en el programa: "Actualmente existe una posibilidad razonable de que en los próximos seis meses ocurra un desastre que cause numerosas muertes o que se produzca un derrocamiento gubernamental." Este podcast suele tener millones de oyentes, incluidos muchos profesionales de la industria tecnológica.
Cristiano indicó que la ocurrencia de tales eventos depende de la velocidad de iteración de la tecnología de IA. También sugirió que, impulsados por la tecnología de mejora recursiva, los modelos de IA pueden lograr actualizaciones auto-iterativas, y la probabilidad de que alcancen un punto crítico peligroso en el próximo año es "bastante alta".
Esta declaración, en comparación con los comentarios públicos anteriores de Cristiano, representa una escalada en la advertencia. Él también dirige el Centro de Investigación de Alineación, una organización sin fines de lucro con sede en Berkeley, enfocada en la investigación de alineación de IA. Como investigador veterano que ha advertido sobre los riesgos de seguridad de la IA durante mucho tiempo, se unió a la junta de la Fundación OpenAI en septiembre, la cual controla la empresa OpenAI. Cristiano enfatizó en la entrevista que sus comentarios representan solo su posición personal y no la opinión de la junta de OpenAI.
Cuando se unió a la junta, Cristiano publicó un artículo público estimando que el riesgo de un evento catastrófico debido a la pérdida de control de la humanidad sobre la IA en el próximo año era de aproximadamente el 4%.
Sin embargo, en la entrevista del lunes, afirmó que en los últimos meses el progreso en las capacidades de los modelos ha sido rápido, y ahora estima que el riesgo de que la IA tome el control de la humanidad en el próximo año es "más cercano al 10%, en lugar del 1%". Dijo que si las grandes empresas no toman más medidas de protección para mitigar los riesgos asociados con el desarrollo de la IA, esta estimación de riesgo "aumentará significativamente".
Precio de --
Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.
Te puede gustar

Take-Two Interactive vs. Anthropic: ¿Cuál acción que mueve el mercado es la mejor compra?

Investigadores de DeepMind proponen cuatro caminos hacia la ASI desde la AGI

Optimism inicia elecciones para el líder del Consejo de Seguridad con un mandato de 24 meses

Blockaid marca más de 8800 tokens temáticos de GTA en Solana como maliciosos

Las acciones de Take-Two suben un 8,8% tras el lanzamiento de GTA VI

AAOI firma un acuerdo de distribución de acciones, planea emitir hasta 550 millones de dólares en acciones ordinarias

El CTO de Li Auto, Xie Yan, asiste al foro del ecosistema OIP de TSMC 2026

EBRD: Los países en desarrollo podrían perder oportunidades en defensa y desarrollo de IA

Altman habla sobre la auto-mejora de la IA, no se ha logrado la AGI

Informe de información de transacciones de clientes CARF: ¿Qué procesamiento de datos se necesita desde el flujo en cadena hasta la declaración de impuestos?

¿Preocupado de que la inteligencia artificial le quite su trabajo? Tony Robbins dice que es hora de elaborar un plan de auto-reinvención

¿Cómo se calculan los impuestos de las criptomonedas en un mercado alcista y bajista?

El asistente de voz Gemini de Google se integra en Apple CarPlay

La CFTC investiga a Kalshi por supuestas violaciones de aviso sobre nuevos productos

Hong Kong Aprueba Normativa de Reporte de Activos Cripto - Mundo Fintech

La producción de minería de Bitcoin de BitFuFu en octubre cae a pesar de un hashrate estable

La congresista estadounidense Maxine Waters anuncia su candidatura para presidir el Comité de Servicios Financieros de la Cámara de Representantes: establecerá reglas estrictas pero justas para las empresas de criptomonedas legales

La Fundación Ethereum recuerda a los desarrolladores de contratos que revisen el impacto del ajuste de Glamsterdam Gas

El Banco Central Agrícola y Forestal entra en el negocio de valores digitales (ST) con la planificación de la formación de ST inmobiliarios

Bull Bitcoin se convierte en el primer intercambio que admite retiros y depósitos privados con Payjoin y transacciones predeterminadas

Toyota Finance emite su primer bono digital de oferta directa

Por qué JPMorgan ha elevado drásticamente el precio objetivo de Yushu Technology a 995 yuanes

Blink Wallet cobrará 1 dólar al mes por cuentas de custodia inactivas

a16z apoya la cotización de derivados de poder computacional en EE. UU., afirmando que el marco regulatorio actual es suficiente

Un estudio de BCG coloca la custodia en el centro de los planes de activos digitales de los bancos

Bitdeer minó 1.355 Bitcoin en septiembre y amplía su capacidad de IA

Block lanza la campaña publicitaria de Bitcoin "Bitcoin Does"

¿Se ha agotado el apalancamiento en el mercado de valores de EE. UU.? Wall Street "ha agotado su balance"

Wang Xingxing: Los desafíos de alinear modelos de IA con robots reales en la inteligencia encarnada


