El CEO de Anthropic responde a las dudas sobre la seguridad de la IA, enfatizando la importancia de estar a la vanguardia tecnológica

Anthropic ha presentado un borrador de ley sobre la seguridad de la IA ante miembros del Congreso de EE. UU., el cual ha sido objeto de críticas. Este borrador establece altos umbrales para que el gobierno detenga de manera urgente modelos peligrosos, exigiendo que los riesgos involucren armas biológicas, ciberataques o pérdida de control de la IA, y que puedan causar más de 50 muertes o lesiones graves, o pérdidas superiores a 1.000 millones de dólares. Algunas disposiciones podrían limitar la autoridad reguladora de los gobiernos estatales. Nathan Calvin, jefe de estrategia de la organización de seguridad de IA Encode AI, señaló que Anthropic modificó en febrero de este año su estricta política de seguridad, eliminando el requisito de detener el desarrollo en fases de mayor riesgo, argumentando que los competidores podrían aprovechar la oportunidad para adelantarse. Al mismo tiempo, Anthropic ha invertido grandes cantidades de potencia de cálculo, formando un equipo de chips y asignando a Claude más tareas de desarrollo de IA. El 21 de octubre, el CEO de Anthropic, Dario Amodei, publicó en X para refutar las críticas, admitiendo que la empresa había cometido errores, pero insistiendo en que la búsqueda de capacidades de IA de vanguardia no contradice su misión de seguridad, enfatizando que solo manteniéndose a la vanguardia tecnológica se puede impulsar la mejora de los estándares de seguridad en la industria. Enumeró nueve decisiones de seguridad que le costaron a la empresa en términos comerciales, incluyendo la limitación de la apertura de modelos de nivel Mythos durante meses y restricciones estrictas sobre solicitudes relacionadas con biología. El 19 de octubre, la empresa actualizó su hoja de ruta de seguridad, indicando que las políticas actuales se centran principalmente en el despliegue de modelos peligrosos, y que en el futuro podría ser necesario limitar directamente la velocidad de desarrollo, con planes de presentar propuestas de políticas relacionadas antes del 15 de enero de 2027, o explicar por qué no se han presentado.

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.