O quanto você pode confiar em uma inteligência artificial? A resposta parece simples, mas não é. Os modelos generativos, como é chamada a tecnologia por trás do ChatGPT, são treinados para gerar conteúdo que pareça ter sido escrito por uma pessoa, e não para dar respostas 100% corretas. Por isso, são famosos por errarem com autoridade, ou seja, por emitir respostas incorretas de uma forma que elas pareçam, para um leitor desavisado, verdadeiras. E essa falha acontece com mais frequência exatamente nas perguntas que necessitam de mais profundidade e conhecimento, que são exatamente aquelas em que o usuário vai ter mais dificuldade de detectar um erro.
Segundo Thoran Rodrigues, CEO da BigDataCorp e especialista em inteligência artificial, é impossível utilizar de forma benéfica os modelos generativos sem antes entender como eles funcionam e, principalmente, saber suas limitações. “Utilizar essas tecnologias aceitando cegamente em todas as respostas retornadas é o prelúdio de um potencial desastre social na humanidade,” comenta o especialista.
Os modelos generativos não aprendem como as pessoas. Eles são capazes de analisar bilhões de textos, artigos, imagens, códigos de computador, fórmulas matemáticas e outros tipos de conteúdo, e imitar a forma de escrita deles, mas não existe pensamento por parte da máquina. Ela não está preocupada com o conteúdo ser ou não correto, apenas com a força da associação entre os conteúdos. Se a correlação é forte, o tom é de autoridade, independente do conteúdo ser ou não correto, e a forma como a resposta é escrita, por sua vez, passa para o usuário a percepção de que existe um embasamento por trás do que foi retornado.
Para o especialista é importante que essas limitações e problemas sejam deixados muito claros pelas empresas que estão construindo esses modelos. “A tendência natural das pessoas é antropomorfizar a tecnologia, ou seja, tratar a inteligência artificial como uma outra pessoa. E não podemos esperar que todas as pessoas do mundo entendam como esses algoritmos funcionam, e os riscos associados. É importante que os desenvolvedores deixem explícitas as limitações de suas ferramentas.”
Ainda para Thoran, uma inteligência artificial que fala com um tom de autoridade, combinada com o leitor médio – que é totalmente desavisado – é uma mistura extremamente perigosa. “Esses modelos aprendem com o conteúdo que consumiram, e também com as novas interações com os usuários. Se o usuário assume que a resposta está correta e não corrige a IA, ele reforça a associação, aumentando a propagação de informações falsas de maneira não intencional e até mesmo despercebida.”
ASCOM


Imagem de Simon do Pixabay


Foto: Paulo Cesar Amaral 
Foto: Tatiana Azeviche Ascom SeturBA
Foto: Manuela Cavadas-/Seagri
Foto: André Frutuôso
Foto: Marcelo Camargo/ Agência Brasil
Image by Wokandapix from Pixabay
Imagem Ilustrativa de Angelo Esslinger do Pixabay
Imagem ilustrativa de Wokandapix por Pixabay
Foto: Joseane Rodrigues
Imagem de freepik
Image by 3D Animation Production Company from Pixabay
Foto: Darlan Nunes/ Seagri
Imagem de Luk Luk do Pixabay
Imagem de Esi Grünhagen por Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Giulia Guimarães_Ascom SDE
Foto: Divulgação
Foto: Agnelo Câmara (Ascom/Sudene)
Image by Daniel Reche from Pixabay
Imagem de Free-Photos do Pixabay
Foto: Divulgação
Foto: Virginia Duarte
Imagem Ilustrativa | Foto: Hélio Alves/ Tribuna do Recôncavo
Image by Free stock photos from www.rupixen.com from Pixabay
Foto: Ane Novo/ Ascom SPM
Imagem de mohamed Hassan por Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Jerônimo Gonzalez/MS
Foto: Divulgação
Imagem Ilustrativa | Foto: Marcelo Camargo/ Agência Brasil
Arte: Divulgação
Imagem de Antonio Corigliano do Pixabay
Arte: Divulgação
Image by Niek Verlaan from Pixabay
Imagem de Daniel Reche por Pixabay
Foto: Marcello Casal Jr/ Agência Brasil
Foto: Luciano Almeida
Imagem de Arek Socha do Pixabay
Foto: Claudio Lima
Imagem por congerdesign de Pixabay
Foto: Mariana Alves/Iphan
Foto: Marcello Casal Jr/ Agência Brasil
Foto: Marcelo Camargo/ Agência Brasil
Foto: Dora Sugimoto
Foto: Marcello Casal Jr/ Agência Brasil
Foto: Elka Macêdo
Foto: Hélio Alves/ Tribuna do Recôncavo
Image by Firmbee from Pixabay
Imagem Ilustrativa | Foto: Luciano Almeida
Foto: Cadu Gomes/VPR
Foto: PRF
Imagem de Gerd Altmann por Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Uanderson Alves/ Tribuna do Recôncavo
Foto: Arquivo Pessoal
Image by StockSnap from Pixabay
Foto: Divulgação/ Polícia Federal
Imagem Ilustrativa | Foto: Uanderson Alves/ Tribuna do Recôncavo
Foto: Arquivo Pessoal
Foto: Geraldo Carvalho
Foto: Reprodução/ Vídeo
Imagem de Susanne Jutzeler, Schweiz, da Pixabay
Foto: Rafael Rodrigues/EC Bahia
Foto: Victor Ferreira/EC Vitória
Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem de Darko Stojanovic de Pixabay
Foto: Arquivo Pessoal
Foto: Reprodução/ Vídeo
Imagem Ilustrativa | Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Reprodução/ Vídeo - ALBA
Ilustrativa | Foto: Haeckel Dias/ Ascom PC
Imagem Ilustrativa | Arquivo: Tribuna do Recôncavo
Imagem Ilustrativa de sungmin cho por Pixabay
Foto: Luciano Almeida
Foto: Uanderson Alves/ Tribuna do Recôncavo
Imagem de Katrin B. por Pixabay
Imagem ilustrativa de Couleur por Pixabay
Foto: Arquivo Pessoal
Imagem de silviarita do Pixabay
Foto: Djalma Ameida/ CPN
Foto: Amanda Ercília/GOVBA
Foto: Ricardo Stuckert / PR
Foto: Alberto Maraux/SSP
Imagem Ilustrativa by Free-Photos from Pixabay
Image by Terri Cnudde from Pixabay
Foto: Arquivo Pessoal
Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem de James de Castro James por Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem de bobbycrim por Pixabay
Foto: Mariana Guimarães
Foto: Milena Monteiro Ascom Secti2