O quanto você pode confiar em uma inteligência artificial? A resposta parece simples, mas não é. Os modelos generativos, como é chamada a tecnologia por trás do ChatGPT, são treinados para gerar conteúdo que pareça ter sido escrito por uma pessoa, e não para dar respostas 100% corretas. Por isso, são famosos por errarem com autoridade, ou seja, por emitir respostas incorretas de uma forma que elas pareçam, para um leitor desavisado, verdadeiras. E essa falha acontece com mais frequência exatamente nas perguntas que necessitam de mais profundidade e conhecimento, que são exatamente aquelas em que o usuário vai ter mais dificuldade de detectar um erro.
Segundo Thoran Rodrigues, CEO da BigDataCorp e especialista em inteligência artificial, é impossível utilizar de forma benéfica os modelos generativos sem antes entender como eles funcionam e, principalmente, saber suas limitações. “Utilizar essas tecnologias aceitando cegamente em todas as respostas retornadas é o prelúdio de um potencial desastre social na humanidade,” comenta o especialista.
Os modelos generativos não aprendem como as pessoas. Eles são capazes de analisar bilhões de textos, artigos, imagens, códigos de computador, fórmulas matemáticas e outros tipos de conteúdo, e imitar a forma de escrita deles, mas não existe pensamento por parte da máquina. Ela não está preocupada com o conteúdo ser ou não correto, apenas com a força da associação entre os conteúdos. Se a correlação é forte, o tom é de autoridade, independente do conteúdo ser ou não correto, e a forma como a resposta é escrita, por sua vez, passa para o usuário a percepção de que existe um embasamento por trás do que foi retornado.
Para o especialista é importante que essas limitações e problemas sejam deixados muito claros pelas empresas que estão construindo esses modelos. “A tendência natural das pessoas é antropomorfizar a tecnologia, ou seja, tratar a inteligência artificial como uma outra pessoa. E não podemos esperar que todas as pessoas do mundo entendam como esses algoritmos funcionam, e os riscos associados. É importante que os desenvolvedores deixem explícitas as limitações de suas ferramentas.”
Ainda para Thoran, uma inteligência artificial que fala com um tom de autoridade, combinada com o leitor médio – que é totalmente desavisado – é uma mistura extremamente perigosa. “Esses modelos aprendem com o conteúdo que consumiram, e também com as novas interações com os usuários. Se o usuário assume que a resposta está correta e não corrige a IA, ele reforça a associação, aumentando a propagação de informações falsas de maneira não intencional e até mesmo despercebida.”
ASCOM


Imagem de Simon do Pixabay


Imagem de ExplorerBob por Pixabay 
Foto: Luciano Almeida
Imagem de jacqueline macou do Pixabay
Foto: Cláudio Lima / Câmara Municipal
Imagem de Radoan Tanvir do Pixabay
Imagem de Free-Photos por Pixabay
Fotos: Aline Queiroz
Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem Ilustrativa by Sabine van Erp from Pixabay
Imagem Ilustrativa de Free-Photos por Pixabay
Foto: Uanderson Alves/ Tribuna do Recôncavo
Imagem ilustrativa de naeim a por Pixabay
Imagem ilustrativa de Dominik e Frederike Schneider do Pixabay
Foto: André Fofano
Imagem de Clker-Free-Vector-Images por Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: André Fofano
Foto: Uanderson Alves/ Tribuna do Recôncavo
Imagem de fernando zhiminaicela por Pixabay
Video
Imagem ilustrativa de Free-Photos por Pixabay
Foto: Marcelo Camargo/ Agência Brasil
Imagem de ErikaWittlieb por Pixabay
Imagem de Jason Taix do Pixabay
Foto: Isabela Bugmann
Image by Dariusz Sankowski from Pixabay
Image by Devanath from Pixabay
Imagem ilustrativa | Foto: Hélio Alves/ Tribuna do Recôncavo
Image by Adriano Gadini from Pixabay
PM
Image by mohamed Hassan from Pixabay
Video
Banjo de Rua | Foto Matheus Lopes
Foto: Hélio Alves/ Tribuna do Recôncavo
Video
Imagem Ilustrativa de HeungSoon por Pixabay
Arquivo Pessoal
Foto: Marcelo Camargo/ Agência Brasil
Arquivo Pessoal
Imagem ilustrativa de KarriTsa por Pixabay
Imagem ilustrativa | Foto: Sumaia Villela/ Agência Brasil
Imagem ilustrativa | Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem de PublicDomainPictures de Pixabay
Arquivo Tribuna do Recôncavo / 2019
Imagem de Photo Mix por Pixabay
Imagem ilustrativa by PublicDomainPictures from Pixabay
Foto: André Fofano
Imagem de Patou Ricard por Pixabay
Imagem Ilustrativa | Foto: Rafa Neddermeyer/Agência Brasil
Imagem ilustrativa de jessicauchoas por Pixabay
Image by Chokniti Khongchum from Pixabay
Imagem: WhatsApp Mídia Bahia
Imagem ilustrativa by Free-Photos from Pixabay
Arquivo Pessoal
Imagem de LuAnn Hunt do Pixabay
Foto: PM
Imagem de Gerd Altmann do Pixabay
Foto: Luciano Almeida
Imagem ilustrativa de Wokandapix por Pixabay
Imagem Ilustrativa | Foto: Poliana Lima/ Polícia Civil
Editado | Crédito: José Cruz/ Agência Brasil
Foto: Edimar Mato Grosso - @axesuburbio
Imagem editada de Qui Nguyen Khac por Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Elói Corrêa/ GOV-BA
Imagem de Lisa Larsen por Pixabay
Foto: André Fofano
Foto: Hélio Alves/ Tribuna do Recôncavo
Arquivo Pessoal
Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem de Gerd Altmann por Pixabay
Imagem Ilustrativa | Arquivo: Tribuna do Recôncavo
Imagem de ImageParty por Pixabay
Arquivo Pessoal
Foto: Meire Bitencourt
Imagem de congerdesign por Pixabay
Imagem Ilustrativa de Anemone123 por Pixabay
Imagem Ilustrativa | Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Leitora do Tribuna do Recôncavo
Imagem ilustrativa | Foto: Alberto Maraux/ Ascom SSP
Imagem por Squirrel_photos de Pixabay
Reprodução
Foto: Hélio Alves/ tribuna do Recôncavo
Foto: Tânia Rego/ Agência Brasil
Foto: Rebeca FalcÃo/ Seagri BA
Imagem de Oleg Mityukhin por Pixabay
Imagem de Steve Buissinne por Pixabay
Imagem Ilustrativa |Foto: Hélio Alves/ Tribuna do Recôncavo.
Foto: Marcello Casal Jr/ Agência Brasil
CEF de Amargosa | Crédito: Hélio Alves/ Tribuna do Recôncavo
Foto: Tânia Rêgo/ Agência Brasil
Image by Pexels from Pixabay
Imagem ilustrativa de Quang Nguyen vinh por Pixabay
Imagem de jacqueline macou de Pixabay
Imagem de JeppeSmedNielsen por Pixabay