Anthropic presiona al Congreso para que los modelos de IA enfrenten pérdidas de más de mil millones de dólares o riesgos de 50 muertes para ser detenidos

Anthropic está presionando en privado a los legisladores estadounidenses para que consideren un borrador de ley de seguridad de IA, que establecería umbrales estrictos para la intervención del gobierno en los modelos de IA. Según el borrador, el gobierno solo podría solicitar la detención de un modelo si enfrenta riesgos específicos predecibles y inminentes que podrían causar pérdidas de más de mil millones de dólares o resultar en más de 50 muertes o lesiones graves. El borrador limita las condiciones de activación de la regulación a tres tipos de riesgos: el uso de modelos de IA en el desarrollo o la proliferación de armas biológicas, la pérdida de control del modelo por parte de los desarrolladores, y los ataques cibernéticos provocados por el modelo. La ley exige que los desarrolladores de IA realicen pruebas transparentes y se sometan a evaluaciones de terceros independientes; si la agencia evaluadora encuentra riesgos relevantes, debe informar al Departamento de Comercio de EE. UU. dentro de las 72 horas, y el Departamento puede solicitar a un tribunal federal que suspenda la operación del modelo, con el tribunal tomando la decisión final. Además, el borrador propone prohibir a otros departamentos y funcionarios del gobierno de EE. UU. detener de manera independiente el desarrollo, despliegue o uso interno de modelos de IA. Este borrador aún se encuentra en la fase de cabildeo y no se ha convertido en ley; si se aprueban las disposiciones relevantes, podría limitar significativamente la autoridad del gobierno de EE. UU. para intervenir de manera urgente en modelos de IA de vanguardia.