Vitalik Buterin identifica uma habilidade onde o humano mantém a vantagem sobre a IA

Vitalik Buterin aponta uma limitação da IA: apesar de seu vasto conhecimento, ela tem dificuldade em avaliar a profundidade de um texto, especialmente quando o descobre pela primeira vez. Para o cofundador da Ethereum, essa diferença entre saber e sabedoria merece atenção especial.

Em resumo

• No dia 29 de outubro, Vitalik Buterin descreve a IA como "extremamente sábia", mas "não muito sábia", especialmente quando avalia um texto.
• Segundo ele, os modelos enfrentam mais dificuldades com um texto inédito, que não conta com os comentários humanos presentes em seus dados de treinamento.
• Ele finalmente destaca uma diferença essencial: podemos facilmente verificar o conhecimento de um modelo, mas é muito mais difícil medir sua sabedoria.

A IA conhece as referências, mas compreende as ideias?

Vitalik Buterin expressa regularmente suas reservas sobre agentes de IA, como em outubro com seu "modo paranoico". No dia 29 de outubro às 4h11 UTC, ele publicou uma nova reflexão em resposta à escritora Ruxandra Teslo.

A discussão seguiu um artigo do Wall Street Journal sobre Humanities 10, um curso de primeiro ano em Harvard que proíbe os alunos de usar telefones e computadores durante um ano.

Em sua mensagem no X, Vitalik explica que a IA pode mobilizar conhecimentos sobre quase qualquer assunto, sem, no entanto, demonstrar um julgamento profundo. Ela corre o risco de se deter nos aspectos mais superficiais de um texto, sem captar plenamente a extensão de sua argumentação.

Esse comentário ocorre em um debate sobre a qualidade das trocas com chatbots. Alguns os consideram melhores interlocutores do que a maioria dos humanos para discutir os grandes clássicos. Em contrapartida, uma escritora acredita que seus comentários sobre seus ensaios muitas vezes se resumem a respostas vazias.

A primeira leitura

Para Vitalik Buterin, essa limitação aparece especialmente quando o modelo descobre um texto pela primeira vez. De fato, uma obra famosa se beneficia de décadas de críticas, análises e comentários que a IA pode encontrar em seus dados de treinamento. Um ensaio recente, por outro lado, não possui o mesmo histórico.

O modelo deve, portanto, se apoiar mais no texto em si, sem poder mobilizar tantas análises pré-existentes. Essa diferença é especialmente relevante na cripto, onde as equipes usam agentes de IA para examinar white papers, auditorias ou propostas de governança.

No entanto, alguns desenvolvedores já alertam sobre as falhas que a IA poderia explorar sem compreender plenamente as implicações. Nessas condições, os resumos produzidos por um modelo não devem substituir uma verificação humana, especialmente quando as questões técnicas ou financeiras são importantes.

A sabedoria, uma qualidade difícil de medir

Vitalik Buterin finalmente levanta um problema mais sutil: os conhecimentos de um modelo são relativamente fáceis de verificar, ao contrário de sua sabedoria. Podemos controlar uma data, uma referência ou um número. Em contrapartida, julgar a relevância de um raciocínio exige mais do que uma simples verificação factual.

Um episódio de julho ilustra essa distinção. Um concurso organizado em torno da identificação do autor de um documento anônimo da Ethereum premiou, no dia 6 de julho, a equipe de Franklyn Wang, da Co-Invest. Após a análise de 27 textos, esta obteve um resultado associado a uma probabilidade de cerca de 20%.

Essa experiência lembra que a inteligência artificial pode reconhecer características estilísticas sem necessariamente compreender as ideias que estão por trás de um texto. A mesma cautela deve ser aplicada quando ela analisa código ou documentos técnicos: identificar padrões não significa sempre entender as intenções de seu autor.