Consejero de OpenAI: Existe una posibilidad razonable de un desastre de IA en el próximo año

By: finance.sina.com.cn|

Un conocido investigador de seguridad de IA y miembro de la junta de la entidad matriz de OpenAI, Paul Cristiano, advirtió sobre el futuro del desarrollo de la inteligencia artificial en una popular entrevista de podcast tecnológico. Afirmó que la posibilidad de que la humanidad pierda completamente el control sobre la IA está aumentando rápidamente.

El episodio del podcast se emitió el lunes, presentado por Devraksh Patel. Cristiano mencionó en el programa: "Actualmente existe una posibilidad razonable de que en los próximos seis meses ocurra un desastre que cause numerosas muertes o que se produzca un derrocamiento gubernamental." Este podcast suele tener millones de oyentes, incluidos muchos profesionales de la industria tecnológica.

Cristiano indicó que la ocurrencia de tales eventos depende de la velocidad de iteración de la tecnología de IA. También sugirió que, impulsados por la tecnología de mejora recursiva, los modelos de IA pueden lograr actualizaciones auto-iterativas, y la probabilidad de que alcancen un punto crítico peligroso en el próximo año es "bastante alta".

Esta declaración, en comparación con los comentarios públicos anteriores de Cristiano, representa una escalada en la advertencia. Él también dirige el Centro de Investigación de Alineación, una organización sin fines de lucro con sede en Berkeley, enfocada en la investigación de alineación de IA. Como investigador veterano que ha advertido sobre los riesgos de seguridad de la IA durante mucho tiempo, se unió a la junta de la Fundación OpenAI en septiembre, la cual controla la empresa OpenAI. Cristiano enfatizó en la entrevista que sus comentarios representan solo su posición personal y no la opinión de la junta de OpenAI.

Cuando se unió a la junta, Cristiano publicó un artículo público estimando que el riesgo de un evento catastrófico debido a la pérdida de control de la humanidad sobre la IA en el próximo año era de aproximadamente el 4%.

Sin embargo, en la entrevista del lunes, afirmó que en los últimos meses el progreso en las capacidades de los modelos ha sido rápido, y ahora estima que el riesgo de que la IA tome el control de la humanidad en el próximo año es "más cercano al 10%, en lugar del 1%". Dijo que si las grandes empresas no toman más medidas de protección para mitigar los riesgos asociados con el desarrollo de la IA, esta estimación de riesgo "aumentará significativamente".

Precio de --

--
--
--

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.

Te puede gustar

iconiconiconiconiconiconiconicon
Atención al cliente:@weikecs
Cooperación empresarial:@weikecs
Trading cuantitativo y CM:bd@weex.com
Programa VIP:support@weex.com