METR presenta un plan de evaluación de riesgos de descontrol de IA

METR ha publicado un plan de evaluación de riesgos de descontrol de modelos de vanguardia en colaboración con desarrolladores de IA, centrándose en tres áreas: alineación, control y aceleración del desarrollo de IA. En el ámbito de la alineación, evaluadores independientes analizarán eventos internos de los desarrolladores para verificar si el entrenamiento oculta desajustes más graves; en cuanto al control, se evaluará si los agentes internos de IA pueden causar daños graves sin ser detectados; en lo que respecta a la aceleración del desarrollo, se medirá el impulso que la automatización de IA proporciona al crecimiento de las capacidades internas. METR ha declarado que está preparado para llevar a cabo estos tres ejercicios con desarrolladores de vanguardia, enfatizando que el plan solo proporciona evidencia y no garantías de seguridad o supervisión formal, y anima a los desarrolladores a colaborar con otros grupos externos para hacer pública la evidencia de manera proactiva.