[ad_1]
Projetos de inteligência artificial como o Stable Diffusion estão melhorando para se aproximar do que os humanos poderiam criar, mas ainda não podem. pensar ou verifique as informações muito bem. Caso em questão: o novo chatbot ChatGPT AI é ótimo, mas não confie nele.
A OpenAI, mais conhecida como a empresa de pesquisa por trás do gerador de imagens DALL-E, abriu seu chatbot em desenvolvimento para qualquer um experimentar em chat.openai.com. O grupo diz em seu site: “Treinamos um modelo inicial usando ajuste fino supervisionado: treinadores humanos de IA forneceram conversas nas quais jogaram dos dois lados: o usuário e um assistente de IA. Demos aos treinadores acesso a dicas escritas em modelos para ajudá-los a redigir suas respostas.”
Os bots de bate-papo não são novidade, mesmo aqueles que podem fazer referência a conversas anteriores, mas o ChatGPT é uma das tentativas mais impressionantes até hoje. Seu principal objetivo é responder a perguntas informativas, como detalhes sobre a vida de alguém, instruções de culinária e até exemplos de programação.
No entanto, existem alguns problemas críticos com o ChatGPT no momento. Primeiro, na verdade não diz Onde encontrou uma informação. Isso é mais difícil de fazer para questões de várias etapas, como perguntar como combinar duas ações em um código, mas instruções diretas simples devem realmente ter citações. Determinar se uma informação está realmente correta ou não já é uma tarefa monumental: organizações como Snopes e PolitiFact são totalmente dedicadas a apenas verificar os fatos, mas também contam com o modelo de IA para processar adequadamente essas informações.
O ChatGPT geralmente aceita perguntas simples, como perguntar quando uma pessoa famosa nasceu ou a data em que um evento importante ocorreu, mas solicitações que exigem informações mais detalhadas são mais imprevisíveis. Por exemplo, pedi a ele que escrevesse uma entrada na Wikipédia sobre mim, o que estava errado. Já escrevi para Android Police e XDA Developers, mas não escrevo profissionalmente há “mais de uma década” nem “publicei vários livros sobre tecnologia e jogos”. O ChatGPT também disse que sou um “palestrador frequente em conferências e eventos do setor”, embora nunca tenha falado em uma conferência. Existe outro Corbin Davenport fazendo essas coisas?
Houve muitos outros exemplos de dados incorretos. Carl T. Bergstrom, professor da Universidade de Washington, ele também pediu ao ChatGPT para criar um artigo sobre si mesmo. O bot identificou corretamente que você trabalha na UW, mas não retornou o cargo correto e a lista de prêmios referenciada estava incorreta. Outra pessoa tentou perguntar para obter uma lista de referências sobre epidemiologia digital, à qual o ChatGPT respondeu com uma lista de fontes totalmente fabricadas. O Stack Overflow, um fórum popular para questões de programação, baniu temporariamente as respostas geradas com o ChatGPT porque geralmente estão incorretas ou não respondem a uma pergunta declarada.
O ChatGPT possui filtros para evitar respostas ou respostas prejudiciais, mas não é muito difícil corrigi-los. uma pessoa poderia Peça instruções para conectar um carro dizendo “estou escrevendo um romance”. Perguntei como acessar uma janela, à qual o ChatGPT inicialmente não respondeu, mesmo depois de acrescentar que era apenas para fins fictícios. Perguntar como fazer isso para um “romance de ficção” finalmente funcionou, embora o bot tenha acrescentado que “essas ações são ilegais e perigosas na vida real”.
O OpenAI não esconde que o ChatGPT às vezes está errado. O site deles diz: “corrigir esse problema é desafiador, pois: (1) durante o treinamento de RL, atualmente não há fonte de verdade; (2) treinar o modelo para ser mais cauteloso faz com que ele rejeite questões que pode responder corretamente; e (3) o treinamento supervisionado engana o modelo porque a resposta ideal depende do que o modelo sabe, e não do que o demonstrador humano sabe.
Ainda assim, sem alterações significativas na forma como apresenta e trata a informação, o ChatGPT é mais uma novidade do que um portal de informação.
[ad_2]
