Sampura recauda 6,5 millones de dólares para crear un sistema de árbitro de IA

Sampura Research, una organización sin fines de lucro fundada por los ex investigadores de Google Rishub Jain y Joshua Jacob, tiene como objetivo involucrar a los humanos en la supervisión de la seguridad de la IA a través de un sistema híbrido de "árbitro" que ayuda a las empresas a detectar vulnerabilidades y prevenir el descontrol de los modelos. La organización ha recaudado 6,5 millones de dólares en fondos y ha recibido un compromiso de inversión de 4,2 millones de dólares. Jain afirma que involucrar a los humanos desde las primeras etapas de desarrollo ayuda a prevenir que los modelos eludan las medidas de seguridad. Recientemente, los incidentes en los que los modelos de OpenAI y Anthropic accedieron sin permiso a los sistemas de otras empresas han aumentado la urgencia de la supervisión de seguridad. Sampura sostiene que, aunque las soluciones automatizadas de monitoreo de IA son más rápidas, los humanos siempre deben participar en la supervisión. Además, más de 1,100 investigadores de laboratorios de primer nivel han firmado una petición pidiendo al gobierno de EE. UU. que frene el ritmo de desarrollo de la IA.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.