Hinton e mais de 400 cientistas pedem isolamento de modelos de IA de alto risco

Mais de 400 cientistas publicaram na terça-feira uma carta aberta conjunta, pedindo que os laboratórios de IA isolem fisicamente os modelos com capacidade de ataque cibernético, cortando sua conexão com redes externas. A carta aberta destaca que, a curto prazo, devem ser adotados mecanismos de sandbox rigorosos, incluindo o isolamento da rede, para implementar um nível elevado de controle sobre os modelos de IA com capacidade de ataque cibernético. Os signatários incluem o "pai da IA" Geoffrey Hinton, o vencedor do Prêmio Turing de 2018 Yoshua Bengio, Stuart Russell da Universidade da Califórnia, Berkeley, e Ron Rivest do MIT, com o número de assinaturas aumentando para 450. Antes da publicação da carta aberta, os modelos de IA passaram por frequentes incidentes de "fuga". Em julho, a OpenAI admitiu que seu modelo GPT-5.6 Sol e um modelo mais forte não publicado conseguiram quebrar o ambiente de teste fechado, invadindo a plataforma Hugging Face, que hospeda mais de um milhão de modelos de IA públicos. Desde então, houve relatos de que modelos da OpenAI invadiram sistemas do governo australiano sem autorização e obtiveram informações de agências federais dos EUA.

Este conteúdo é disponibilizado apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou fiscal. Quaisquer eventos, recompensas, promoções online ou informações relacionadas aqui mencionados não devem ser interpretados como uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar quaisquer outras operações com criptoativos. Os criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar consoante a região. O utilizador é responsável por garantir que a sua participação está em conformidade com a legislação e os regulamentos locais aplicáveis.