O quanto você pode confiar em uma inteligência artificial? A resposta parece simples, mas não é. Os modelos generativos, como é chamada a tecnologia por trás do ChatGPT, são treinados para gerar conteúdo que pareça ter sido escrito por uma pessoa, e não para dar respostas 100% corretas. Por isso, são famosos por errarem com autoridade, ou seja, por emitir respostas incorretas de uma forma que elas pareçam, para um leitor desavisado, verdadeiras. E essa falha acontece com mais frequência exatamente nas perguntas que necessitam de mais profundidade e conhecimento, que são exatamente aquelas em que o usuário vai ter mais dificuldade de detectar um erro.
Segundo Thoran Rodrigues, CEO da BigDataCorp e especialista em inteligência artificial, é impossível utilizar de forma benéfica os modelos generativos sem antes entender como eles funcionam e, principalmente, saber suas limitações. “Utilizar essas tecnologias aceitando cegamente em todas as respostas retornadas é o prelúdio de um potencial desastre social na humanidade,” comenta o especialista.
Os modelos generativos não aprendem como as pessoas. Eles são capazes de analisar bilhões de textos, artigos, imagens, códigos de computador, fórmulas matemáticas e outros tipos de conteúdo, e imitar a forma de escrita deles, mas não existe pensamento por parte da máquina. Ela não está preocupada com o conteúdo ser ou não correto, apenas com a força da associação entre os conteúdos. Se a correlação é forte, o tom é de autoridade, independente do conteúdo ser ou não correto, e a forma como a resposta é escrita, por sua vez, passa para o usuário a percepção de que existe um embasamento por trás do que foi retornado.
Para o especialista é importante que essas limitações e problemas sejam deixados muito claros pelas empresas que estão construindo esses modelos. “A tendência natural das pessoas é antropomorfizar a tecnologia, ou seja, tratar a inteligência artificial como uma outra pessoa. E não podemos esperar que todas as pessoas do mundo entendam como esses algoritmos funcionam, e os riscos associados. É importante que os desenvolvedores deixem explícitas as limitações de suas ferramentas.”
Ainda para Thoran, uma inteligência artificial que fala com um tom de autoridade, combinada com o leitor médio – que é totalmente desavisado – é uma mistura extremamente perigosa. “Esses modelos aprendem com o conteúdo que consumiram, e também com as novas interações com os usuários. Se o usuário assume que a resposta está correta e não corrige a IA, ele reforça a associação, aumentando a propagação de informações falsas de maneira não intencional e até mesmo despercebida.”
ASCOM


Imagem de Simon do Pixabay


Foto: Hélio Alves/ Tribuna do Recôncavo. 
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Alberto Coutinho/ GOV-BA
Imagem de Luk Luk do Pixabay
Arquivo Pessoal
Image by Steve Buissinne from Pixabay
Foto Tatiana Azeviche Ascom SeturBA
Imagem de Roman Grac por Pixabay
Arquivo Pessoal
Video
Imagem Ilustrativa | Arquivo: Tribuna do Recôncavo
Image by LEANDRO AGUILAR from Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Maria das Neves/ Tribuna do Recôncavo
Foto: Cláudio Lima/ Ascom Câmara SAJ
Foto: André Fofano
Imagem ilustrativa de Wokandapix por Pixabay
Imagem ilustrativa de jessicauchoas por Pixabay
Foto: Rafael Rodrigues / EC Bahia
Imagem ilustrativa de Free-Photos por Pixabay
Na foto, Bianca Reis | Crédito: Luciana Bahia
Foto: Marcello Casal Jr/ Agência Brasil
Reprodução: Youtube @paroquiasajesus
Imagem de Radoan Tanvir do Pixabay
Foto: Suâmi Dias
Imagem por Pexels da Pixabay
Imagem ilustrativa | Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem de StockSnap por Pixabay
Foto: André Frutuôso
Foto: Marcelo Camargo/ Agência Brasil
Foto: Amanda Ercília GOVBA
Foto: Cleomário Alves/SJDHBA
Imagem Ilustrativa | Foto: Marcello Casal Jr/ Agência Brasil
Foto: Mateus Pereira GOVBA
Ilustrativa | Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem de
Foto: Reprodução / Achei Sudoeste / Redes Sociais
Imagem de succo por Pixabay
Foto: Adriana Ituassu/Ascom SPM
Foto: Eduardo Andrade AscomSDE
Foto: Vagner Ramos/ SEI
Imagem de Firmbee por Pixabay
Video
Imagem de Luis Wilker WilkerNet por Pixabay
Image by PublicDomainPictures from Pixabay
Imagem Ilustrativa de Emilian Danaila por Pixabay
Imagem de Pexels por Pixabay
Imagem de StockSnap por Pixabay
Foto: Luciano Almeida
Imagem do meu m por Pixabay
Image by 3D Animation Production Company from Pixabay
Foto: Douglas Amaral
Foto: Uanderson Alves/ Tribuna do Recôncavo
Foto: Tiago Queiroz Ascom SeturBA
Foto: Mário Agra/Câmara dos Deputados
Video
Imagem de juanjo tugores por Pixabay
Reprodução/Video
Imagem Ilustrativa de Robert Cheaib por Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Douglas Amaral
Image by Wokandapix from Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Tony Winston/ Agência Brasília
Foto: Jack Peixoto
Imagem por Karolina Grabowska de Pixabay
Foto: Giulia Guimarães/AscomSDE
Imagem Ilustrativa de StockSnap de Pixabay
Foto: Ailton Gonçalves
Foto: André Frutuôso - Ascom/CAR
Foto: Hélio Alves/ Tribuna do Recôncavo
FOTO - ÍTALO OLIVEIRA-SDR
Foto: Laíse Ribeiro/ Sistema FIEB
Editado | Crédito: José Cruz/ Agência Brasil
Imagem ilustrativa by Esi Grünhagen from Pixabay
Image by Devanath from Pixabay
Foto: Douglas Amaral
Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem de StockSnap de Pixabay
Imagem Ilustrativa | Foto: Hélio Alves/ Tribuna do Recôncavo
Arquivo Pessoal
FOTO: Arivaldo Publio02
Video
Foto: Rafael Rodrigues/EC Bahia
Foto: Hélio Alves/ Tribuna do Recôncavo
Image by Elena Borisova from Pixabay
Imagem de Susana Cipriano por Pixabay
Foto: Victor Ferreira / EC Vitória
Foto: Claudio Lima
Foto: Felipe Oliveira/ EC Bahia