Vitalik Buterin identifica uma habilidade onde o humano mantém a vantagem sobre a IA

Vitalik Buterin aponta uma limitação da IA: apesar de seu vasto conhecimento, ela tem dificuldade em avaliar a profundidade de um texto, especialmente quando o descobre pela primeira vez. Para o cofundador da Ethereum, essa diferença entre saber e sabedoria merece atenção especial.

Em resumo

• No dia 29 de outubro, Vitalik Buterin descreve a IA como "extremamente sábia", mas "não muito sábia", especialmente ao avaliar um texto.
• Segundo ele, os modelos enfrentam mais dificuldades com um texto inédito, que não conta com os comentários humanos presentes em seus dados de treinamento.
• Ele finalmente destaca uma diferença essencial: é fácil verificar o conhecimento de um modelo, mas muito mais difícil medir sua sabedoria.

A IA conhece as referências, mas entende as ideias?

Vitalik Buterin expressa regularmente suas reservas sobre agentes de IA, como em outubro com seu "modo paranoico". No dia 29 de outubro às 4h11 UTC, ele publicou uma nova reflexão em resposta à escritora Ruxandra Teslo.

A discussão seguiu um artigo do Wall Street Journal sobre Humanities 10, um curso de primeiro ano em Harvard que proíbe os alunos de usar telefones e computadores durante um ano.

Em sua mensagem no X, Vitalik explica que a IA pode mobilizar conhecimentos sobre quase qualquer assunto, mas não necessariamente demonstra um julgamento profundo. Ela corre o risco de se deter nos aspectos mais superficiais de um texto, sem compreender plenamente a profundidade de seu argumento.

Esse comentário ocorre em um debate sobre a qualidade das interações com chatbots. Alguns os consideram melhores interlocutores do que a maioria dos humanos para discutir os grandes clássicos. Em contrapartida, uma escritora acredita que seus comentários sobre seus ensaios muitas vezes se resumem a respostas vazias.

A primeira leitura

Para Vitalik Buterin, essa limitação aparece especialmente quando o modelo descobre um texto pela primeira vez. De fato, uma obra famosa se beneficia de décadas de críticas, análises e comentários que a IA pode encontrar em seus dados de treinamento. Um ensaio recente, por outro lado, não possui o mesmo histórico.

O modelo deve, portanto, se apoiar mais no texto em si, sem poder mobilizar tantas análises pré-existentes. Essa diferença é especialmente relevante no setor de cripto, onde as equipes utilizam agentes de IA para examinar white papers, auditorias ou propostas de governança.

No entanto, alguns desenvolvedores já alertam sobre as falhas que a IA poderia explorar sem compreender plenamente as implicações. Nessas condições, os resumos produzidos por um modelo não devem substituir uma verificação humana, especialmente quando as questões técnicas ou financeiras são importantes.

A sabedoria, uma qualidade difícil de medir

Vitalik Buterin levanta finalmente um problema mais sutil: os conhecimentos de um modelo podem ser verificados com bastante facilidade, ao contrário de sua sabedoria. Podemos controlar uma data, uma referência ou um número. Por outro lado, julgar a relevância de um raciocínio exige mais do que uma simples verificação factual.

Um episódio de julho ilustra essa distinção. Um concurso organizado em torno da identificação do autor de um documento anônimo da Ethereum premiou, no dia 6 de julho, a equipe de Franklyn Wang, da Co-Invest. Após a análise de 27 textos, essa equipe obteve um resultado associado a uma probabilidade de cerca de 20%.

Essa experiência lembra que a inteligência artificial pode reconhecer características estilísticas sem necessariamente compreender as ideias que estão por trás de um texto. A mesma cautela deve ser aplicada quando ela analisa código ou documentos técnicos: identificar padrões não significa sempre entender as intenções de seu autor.