Anthropic treina Claude para identificar comportamentos abusivos em diálogos de autoavaliação

A Anthropic postou na plataforma X que treinou Claude para reconhecer comportamentos abusivos potenciais em diálogos, chamando essa tecnologia de autoavaliação. Após completar uma resposta, Claude realiza uma avaliação de segurança preliminar da conversa. Desde que começou a usar essa tecnologia em junho, a Anthropic descobriu comportamentos abusivos que não eram cobertos por outros mecanismos de segurança. Como Claude já leu o conteúdo da conversa, esse método é mais eficiente e, ao contrário dos classificadores voltados para tipos específicos de danos, depende do próprio julgamento de Claude, com a precisão aumentando à medida que a capacidade do modelo melhora.

Este conteúdo é fornecido apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou tributário. Quaisquer eventos, recompensas, promoções online ou informações relacionadas mencionadas neste documento não devem ser consideradas uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar qualquer outra transação com criptoativos. Criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar conforme a região. É de sua responsabilidade garantir que sua participação esteja em conformidade com as leis e regulamentações locais aplicáveis.