O quanto você pode confiar em uma inteligência artificial? A resposta parece simples, mas não é. Os modelos generativos, como é chamada a tecnologia por trás do ChatGPT, são treinados para gerar conteúdo que pareça ter sido escrito por uma pessoa, e não para dar respostas 100% corretas. Por isso, são famosos por errarem com autoridade, ou seja, por emitir respostas incorretas de uma forma que elas pareçam, para um leitor desavisado, verdadeiras. E essa falha acontece com mais frequência exatamente nas perguntas que necessitam de mais profundidade e conhecimento, que são exatamente aquelas em que o usuário vai ter mais dificuldade de detectar um erro.
Segundo Thoran Rodrigues, CEO da BigDataCorp e especialista em inteligência artificial, é impossível utilizar de forma benéfica os modelos generativos sem antes entender como eles funcionam e, principalmente, saber suas limitações. “Utilizar essas tecnologias aceitando cegamente em todas as respostas retornadas é o prelúdio de um potencial desastre social na humanidade,” comenta o especialista.
Os modelos generativos não aprendem como as pessoas. Eles são capazes de analisar bilhões de textos, artigos, imagens, códigos de computador, fórmulas matemáticas e outros tipos de conteúdo, e imitar a forma de escrita deles, mas não existe pensamento por parte da máquina. Ela não está preocupada com o conteúdo ser ou não correto, apenas com a força da associação entre os conteúdos. Se a correlação é forte, o tom é de autoridade, independente do conteúdo ser ou não correto, e a forma como a resposta é escrita, por sua vez, passa para o usuário a percepção de que existe um embasamento por trás do que foi retornado.
Para o especialista é importante que essas limitações e problemas sejam deixados muito claros pelas empresas que estão construindo esses modelos. “A tendência natural das pessoas é antropomorfizar a tecnologia, ou seja, tratar a inteligência artificial como uma outra pessoa. E não podemos esperar que todas as pessoas do mundo entendam como esses algoritmos funcionam, e os riscos associados. É importante que os desenvolvedores deixem explícitas as limitações de suas ferramentas.”
Ainda para Thoran, uma inteligência artificial que fala com um tom de autoridade, combinada com o leitor médio – que é totalmente desavisado – é uma mistura extremamente perigosa. “Esses modelos aprendem com o conteúdo que consumiram, e também com as novas interações com os usuários. Se o usuário assume que a resposta está correta e não corrige a IA, ele reforça a associação, aumentando a propagação de informações falsas de maneira não intencional e até mesmo despercebida.”
ASCOM


Imagem de Simon do Pixabay


Foto: Hélio Alves/ Tribuna do Recôncavo 
Imagem de Mohamed Hassan do Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Wuiga Rubini/GOVBA
Foto: Djalma Ameida/ CPN
Image by Wokandapix from Pixabay
Imagem ilustrativa de Emslichter do Pixabay
Imagem de Cindy Parks do Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Vinícius Guimarães
Imagem de mohamed Hassan do Pixabay
Imagem ilustrativa de Wokandapix por Pixabay
Imagem de jessica45 por Pixabay
Foto: Letícia Oliveira
Imagem ilustrativa by analogicus from Pixabay
Imagem de mohamed Hassan por Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem de Pexels por Pixabay
Imagem Ilustrativa | Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem por Karolina Grabowska de Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Victor Ferreira/EC Vitória
Foto: PM
Imagem de Peter Kraayvanger por Pixabay
Imagem ilustrativa de Ivana Tomášková por Pixabay
Imagem ilustrativa de Pixelharvester por Pixabay
Foto: Tribuna do Recôncavo
Arquivo | Foto: Marcelo Camargo/ Agência Brasil
Imagem Ilustrativa de Free-Photos do Pixabay
Foto: Uanderson Alves/ Tribuna do Recôncavo
Arquivo Pessoal
Imagem Ilustrativa | Arquivo: Tribuna do Recôncavo
Imagem ilustrativa de KarriTsa por Pixabay
Imagem de Gerd Altmann por Pixabay
Arquivo Pessoal
Imagem de Md Sabbir Hossain por Pixabay
Arquivo Pessoal
Foto: Rafael Rodrigues / EC Bahia
Arquivo Pessoal
Imagem de Roman Grac por Pixabay
Arquivo Pessoal
Imagem Ilustrativa by Pexels from Pixabay
Foto: Marcello Casal Jr/ Agência Brasil
Foto: Fabio Rodrigues Pozzebom/ EBC/ FotosPúblicas
Arquivo Pessoal
Imagem Ilustrativa de Harald Landsrath do Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Wilson Dias/ Agência Brasil
Imagem ilustrativa de mike1497 por Pixabay
Foto: Marcello Casal Jr/ Agência Brasil
Arquivo Pessoal
Foto: Marcello Casal Jr/ Agência Brasil 

Arquivo Pessoal
Imagem ilustrativa by PublicDomainPictures from Pixabay
Imagem de Alexa do Pixabay
Fotos e arte: Divulgação
Imagem de Céline Martin por Pixabay
Imagem de Vishnu R por Pixabay
Imagem de Darko Stojanovic de Pixabay
Imagem ilustrativa de Michal Křenovský por Pixabay
Imagem de congerdesign por Pixabay
Imagem ilustrativa de ktphotography por Pixabay
Imagem ilustrativa de Pexels do Pixabay
Imagem Ilustrativa de sungmin cho por Pixabay
Imagem de David Mark do Pixabay
Foto: Nice Santana
Arquivo Pessoal
Arquivo Pessoal
Foto: Poliana Lima/ Ascom SSP
Arquivo Pessoal
Imagem por GiltonF do Pixabay
Crédito: @henriquesfilmss
Image by Devanath from Pixabay
Arquivo Pessoal
Foto: Reprodução/ Vídeo
Arquivo Pessoal
Foto: Luciano Almeida
Imagem Ilustrativa by Pexels from Pixabay
Arquivo Pessoal
Imagem de Rudy and Peter Skitterians por Pixabay
Imagem de monicore por Pixabay
Foto: Juca Varella/ Agência Brasil
Foto: Hélio Alves/ Tribuna do Recôncavo
Image by Cesar Abud from Pixabay
Arquivo: Tribuna do Recôncavo
Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem Ilustrativa | Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Marcelo Camargo/ Agência Brasil
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Marcello Casal Jr/ Agência Brasil
Foto: PM
Foto: Marcelo Camargo/ Agência Brasil