Fundador da Wikipédia enfrenta Musk, afirmando que a Grokipedia é excessivamente elogiada e difícil de confiar.

O fundador da Wikipédia, Jimmy Wales, durante uma entrevista à CNBC em 28/10, expressou sérias dúvidas sobre a nova plataforma de conhecimento em IA, Grokipedia, lançada por Elon Musk (. Ele apontou que a Grokipedia ainda não consegue produzir conteúdo enciclopédico confiável e enfatizou que modelos de IA desse tipo estão destinados a apresentar uma série de erros significativos.

Musk lançou o Grokipedia, e o País de Gales imediatamente jogou água fria.

Em relação ao recente lançamento da plataforma de consulta de conhecimento em IA Grokipedia por Musk, que afirma querer criar um sistema de enciclopédia em IA mais abrangente e preciso do que a Wikipédia. A esse respeito, Wales fez questão de desmerecer, afirmando:

“Eu não acredito que ele consiga fazer algo útil agora.”

Ele apontou que, atualmente, a precisão dos modelos de IA não é suficiente, e esses LLM usados para escrever conteúdos enciclopédicos acabam cometendo uma série de erros.

Rebatendo as acusações de despertar, insinuando que o conteúdo do Grokipedia bajula Elon Musk.

Em resposta às críticas contínuas de Musk sobre a alegação de que a Wikipédia tem “viés liberal”, Wales rebate:

“Ele estava errado. Nós apenas valorizamos fontes convencionais, não há nada a se desculpar. Nós não colocaremos os trolls da internet que falam bobagens no mesmo nível que o Journal of the New England Medical. Isso não é despertar, é um julgamento de conhecimento básico. Nós seremos tão radicais a ponto de citar o New York Times.”

Wales admitiu que, na verdade, ainda não teve tempo de olhar realmente o conteúdo do Grokipedia, mas ouviu dizer que há muitas informações elogiando a genialidade de Musk, e ele comentou sarcasticamente: “Então eu acredito que isso deve ser muito neutro.”

Wales dá exemplos para ilustrar que o conteúdo gerado por LLM está repleto de erros.

Wales apresentou alguns casos reais, explicando por que ele não acredita que LLM possa criar uma base de conhecimento confiável:

Confundir a identidade da esposa: Ele disse que costuma usar vários chatbots de IA para testar a capacidade de busca, como perguntar “Quem é a minha esposa?” esse tipo de pergunta pouco comum. O resultado é que cada vez a IA fornecia respostas que pareciam razoáveis, mas completamente erradas.

Citação de livro fictício: Ele mencionou que um membro da comunidade da Wikimedia na Alemanha desenvolveu um programa para verificar os números ISBN ) das citações de livros, e descobriu que os dados citados por um usuário não podiam ser encontrados. Por fim, aquele usuário admitiu que usou o ChatGPT para isso, que ficaria muito feliz em ajudá-lo a escrever um livro.

A IA não pode substituir o mecanismo de confiança das comunidades humanas, podendo apenas desempenhar um papel auxiliar.

Wales apontou que a Wikipédia, baseada no mecanismo de confiança acumulado por voluntários globais ao longo de mais de vinte anos, não pode ser substituída rapidamente por IA. Ele mencionou que os custos técnicos da Wikipédia são cerca de 175 milhões de dólares por ano, enquanto os gastos das grandes empresas de tecnologia apenas em IA são calculados em “centenas de bilhões” de dólares. Ele lamentou:

“Gastar muito dinheiro, a IA também pode não conseguir estabelecer confiança.”

Apesar de Wales criticar de forma demasiado contundente, ele também reconhece que a IA pode realmente ajudar em certas áreas. Ele afirmou que a equipe da Wikipédia está atualmente testando a utilização da IA para ajudar na busca de fontes confiáveis ou para preencher informações que estão faltando no conteúdo. No entanto, ele também acrescentou que o custo de criar seu próprio LLM é muito alto, por isso não farão um investimento formal por enquanto.

Enfatiza que a Wikimedia mantém a neutralidade e não pode se tornar Wokepedia

Wales enfatizou que as críticas externas lembraram a equipe da Wikipédia a ser mais firme na neutralidade e a ser mais rigorosa em relação às fontes. Também alertou sua própria equipe para não deixar a Wikipédia se tornar uma versão “Wokepedia” despertada, que não é o que as pessoas querem e também destruiria a confiança.

Wales acredita que, no futuro, os LLM poderão gerar sites falsos e conteúdos falsos que parecem razoáveis, e muitas pessoas poderão ser enganadas. Mas ele enfatizou que a comunidade da Wikipedia, que foi aprimorada ao longo de 25 anos, não é facilmente enganada, ele afirmou:

“Esses modelos podem enganar o público, mas não enganam a nossa comunidade.”

Se a IA aprender apenas com o Twitter, ficará louca; manter uma neutralidade verdadeira é o essencial.

Finalmente, Wales resumiu dizendo:

“Quando as pessoas se queixam dos erros do ChatGPT, imagine se a IA usasse apenas o Twitter (X) como fonte de dados; isso seria uma IA louca, cheia de raiva e a dizer disparates.”

Ele também lembrou ao público que o verdadeiro desafio não é apenas a IA, mas como mantemos a realidade e a neutralidade.

( Musk lança Grokipedia: a nova geração de máquinas de verdade AI que desafiam a plataforma Wikipedia )

Este artigo sobre o fundador da Wikipédia que confronta Elon Musk, afirmando que a Grokipedia é excessivamente elogiada e difícil de confiar, apareceu pela primeira vez na Chain News ABMedia.