ChatGPT: aprecie com moderação

Desde que foi lançado em novembro de 2022, o ChatGPT tem sido amplamente elogiado por acadêmicos e especialistas como uma importante conquista na área da inteligência artificial. De acordo com a professora de tecnologia da informação da Universidade de Stanford, Fei-Fei Li, “o ChatGPT representa uma enorme evolução no campo da conversação com máquinas, oferecendo uma experiência mais natural e fluida”. Porém, ao mesmo tempo em que essa tecnologia revolucionária está sendo explorada com entusiasmo e promete oferecer uma série de vantagens na execução de pesquisas e aplicação de conhecimento, também levanta questões sobre os limites da utilização da inteligência artificial em relações pessoais e comerciais.

O ChatGPT foi criado pela OpenAI, uma organização de pesquisa em inteligência artificial sem fins lucrativos fundada em 2015 por Elon Musk, Sam Altman (ex-Y Combinator), Greg Brockman, Ilya Sutskever, John Schulman e Wojciech Zaremba. A empresa foi criada com o objetivo de desenvolver tecnologias avançadas de inteligência artificial para aprimorar a vida humana e evitar possíveis riscos futuros, como o domínio da IA por parte de algum grupo mal-intencionado. A OpenAI foi financiada por investidores renomados, como o Fundo de Compensação de Risco da Reid Hoffman, e rapidamente se tornou uma das organizações de IA mais influentes do mundo. Em 2016, a OpenAI lançou o seu primeiro modelo de linguagem, o OpenAI Language Model, que se tornou uma referência para o desenvolvimento de modelos de linguagem subsequentes, incluindo o GPT-2, que foi capaz de gerar textos realistas e convincentes. O sucesso do GPT-2 levou à criação de sua versão mais avançada, o GPT-3, que foi lançado em 2020 e é atualmente um dos modelos de linguagem mais avançados do mundo. Além do ChatGPT, a OpenAI também desenvolveu outras tecnologias de IA, incluindo o DALL·E, uma rede neural de geração de imagens. A tecnologia por trás do ChatGPT é baseada em uma rede neural treinada com milhões de conversas humanas, tornando-a capaz de responder a uma ampla gama de perguntas e tarefas. A OpenAI tem a expectativa de que essa tecnologia seja aplicada em uma série de setores, desde a assistência pessoal até o atendimento ao cliente em grandes empresas. 

No entanto, o ChatGPT também tem suas limitações: além de ainda poder ser impreciso em suas respostas, é suscetível a erros factuais. A própria inteligência artificial reconhece que pode inventar respostas incorretas para perguntas factuais: “o ChatGPT pode inventar fatos para responder a uma pergunta. Como é treinado com grandes quantidades de textos na internet, pode retornar respostas que não são verdadeiras ou precisas. Por isso, é importante avaliar a confiabilidade das fontes e verificar a veracidade das informações geradas pelo ChatGPT antes de utilizá-las. Além disso, o modelo ainda apresenta limitações em reconhecer sarcasmo, ironia e outras nuances da linguagem humana, o que pode levar a respostas equivocadas ou inadequadas.” Outra fragilidade já experimentada é que usuários mal-intencionados podem usar a tecnologia para fins maliciosos, como a disseminação de notícias falsas ou no refino de ideias e discursos para fins ilegais. Segundo a própria ferramenta: “A equipe da OpenAI está trabalhando constantemente para mitigar esses riscos, mas eles ainda são uma preocupação real.”

Testamos o ChatGPT para alguns usos e testemunhamos seu grande poder de geração de textos fluidos, devidamente inseridos no tema demandado, com boa estrutura sintática e diversidade no vocabulário. Há claramente o uso de um vasto leque de fontes de informação: textos acadêmicos, livros técnicos, ficção e textos de imprensa. O chat foi capaz de elencar as principais etapas de um projeto fictício de transformação digital, citou com precisão situações nas quais pode-se usar algoritmos de otimização, criou um ranking dos 10 países maiores produtores de celulose. Porém, cometeu erros factuais, impactando de maneira fatal na qualidade de algumas das respostas dadas. O exemplo mais evidente que presenciamos ocorreu quando perguntamos sobre quais músicas escritas por Lennon e McCartney no álbum Please Please Me dos Beatles continham a palavra through – apesar de existir apenas uma música no álbum que se enquadre nessas duas condições (I saw her standing there) a ferramenta citou também Twist and Shout, que além de não possuir a palavra through em sua letra, nem foi escrita por Lennon e McCartney. Curiosamente, quando pedimos para a ferramenta citar o trecho das canções onde aparecia a palavra, ela inseriu um trecho de ambas e, assim que terminou de exibi-los, escreveu: “Como pode ver, a palavra “through” não aparece nessas músicas. Desculpe pelo engano anterior.”

Em última análise, a inteligência artificial é uma ferramenta poderosa, mas é importante considerarmos seus limites e riscos ao decidirmos onde e como aplicá-la. Enquanto o ChatGPT representa um avanço significativo na área da conversação com máquinas, também é importante lembrarmos que ainda há muito trabalho a ser feito antes de a tecnologia poder ser usada de maneira segura e responsável em todos os aspectos da nossa vida.