O chatbot de inteligência artificial de X, Grok, torna a plataforma de mídia social mais amigável à verdade com respostas que se opõem aos usuários que se voltam para ele para confirmar preconceitos políticos, disse o cofundador do Ethereum, Vitalik Buterin.
“A facilidade de chamar Grok no Twitter é provavelmente a maior coisa depois das notas da comunidade que foi positiva para a amizade com a verdade nesta plataforma,” disse Buterin na quinta-feira.
”O fato de que você não vê antecipadamente como Grok responderá é fundamental aqui,” acrescentou. “Eu vi muitas situações em que alguém chama Grok esperando que sua crença política louca seja confirmada e Grok aparece e os decepciona.”
Buterin disse que um forte argumento pode ser feito de que Grok é uma “melhoria líquida” para o X, mas reconheceu preocupações sobre como o chatbot de IA é ajustado para aprender com as opiniões e visões de certos usuários, incluindo seu criador, Elon Musk.
Fonte: Vitalik Buterin
As falhas do Grok estavam em plena exibição no mês passado quando se gabou da habilidade atlética de Musk e até sugeriu que ele poderia ter ressuscitado mais rápido do que Jesus Cristo.
Musk culpou a “indução adversarial” pelas alucinações, e executivos de cripto argumentaram que isso mostrou por que a IA precisa ser descentralizada para salvaguardar precisão, credibilidade e imparcialidade.
A IA afirmando opiniões como fatos é uma preocupação real
Kyle Okamoto, diretor de tecnologia da plataforma de nuvem descentralizada Aethir, disse ao Cointelegraph no mês passado que “quando os sistemas de IA mais poderosos são possuídos, treinados e governados por uma única empresa, você cria condições para que o viés algorítmico se torne conhecimento institucionalizado.”
“Modelos começam a produzir visões de mundo, prioridades e respostas como se fossem fatos objetivos, e é quando o viés deixa de ser um erro e se torna a lógica operacional do sistema que é replicada em larga escala.”
Relacionado: Ethereum deve se tornar mais simples para alcançar verdadeira confiança: Buterin
Grok é construído pela empresa de IA de Musk, xAI, e é um dos chatbots de IA mais amplamente utilizados. Com mais de 1 bilhão de pessoas usando IA, informações incorretas e enganosas têm o potencial de se espalhar rapidamente.
Ainda assim, Buterin disse que Grok tem sido mais bem-sucedido em tornar o X mais buscador da verdade do que muitos dos outros “lixos de terceiros que vemos.”
Os chatbots de IA precisam melhorar em todos os aspectos
Grok não é o único chatbot de IA com problemas — o ChatGPT da OpenAI foi criticado por respostas tendenciosas e erros factuais, enquanto o Character.ai enfrenta alegações de que seu chatbot atraiu um menino de 13 anos para uma interação sexualmente abusiva e até o incentivou a tirar a própria vida.
Revista: Conheça os detetives de cripto on-chain que combatem o crime melhor do que a polícia
