Anthropic introduce un bloqueo de contexto para Claude para prevenir la destilación del modelo

Anthropic ha introducido un "bloqueo de contexto" en el pensamiento de Claude, exigiendo que el pensamiento cifrado generado a través de la API se devuelva junto con el aviso del sistema, las herramientas y los mensajes históricos en el momento de la generación. Si se modifica el contenido anterior, la API generará un error o descartará ese pensamiento. Este cambio tiene como objetivo prevenir la destilación del modelo, ya que los investigadores han descubierto que el pensamiento cifrado de Claude puede ser leído por otros modelos, lo que permite a los atacantes inducir a modelos más débiles a revelar el proceso completo de pensamiento mediante razonamientos de alta calidad. Anthropic ya había implementado una protección en junio al lanzar Fable 5, limitando el pensamiento cifrado a estar vinculado a modelos específicos. Fable 5.1 ha añadido aún más un mecanismo de "vinculación de conversación", donde cualquier modificación de las palabras clave anteriores, herramientas o registros de chat invalidará los pensamientos antiguos. Este bloqueo aún no se ha implementado de manera generalizada; las nuevas cuentas de API abiertas después del 31 de agosto se verán obligadas a cumplir esta regla, mientras que las cuentas antiguas no se verán afectadas temporalmente. Modelos como Claude.ai, Claude Code y Cowork no están incluidos en este ámbito, y Anthropic ha indicado que los nuevos modelos en el futuro activarán esta regla por defecto.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.