O quanto você pode confiar em uma inteligência artificial? A resposta parece simples, mas não é. Os modelos generativos, como é chamada a tecnologia por trás do ChatGPT, são treinados para gerar conteúdo que pareça ter sido escrito por uma pessoa, e não para dar respostas 100% corretas. Por isso, são famosos por errarem com autoridade, ou seja, por emitir respostas incorretas de uma forma que elas pareçam, para um leitor desavisado, verdadeiras. E essa falha acontece com mais frequência exatamente nas perguntas que necessitam de mais profundidade e conhecimento, que são exatamente aquelas em que o usuário vai ter mais dificuldade de detectar um erro.
Segundo Thoran Rodrigues, CEO da BigDataCorp e especialista em inteligência artificial, é impossível utilizar de forma benéfica os modelos generativos sem antes entender como eles funcionam e, principalmente, saber suas limitações. “Utilizar essas tecnologias aceitando cegamente em todas as respostas retornadas é o prelúdio de um potencial desastre social na humanidade,” comenta o especialista.
Os modelos generativos não aprendem como as pessoas. Eles são capazes de analisar bilhões de textos, artigos, imagens, códigos de computador, fórmulas matemáticas e outros tipos de conteúdo, e imitar a forma de escrita deles, mas não existe pensamento por parte da máquina. Ela não está preocupada com o conteúdo ser ou não correto, apenas com a força da associação entre os conteúdos. Se a correlação é forte, o tom é de autoridade, independente do conteúdo ser ou não correto, e a forma como a resposta é escrita, por sua vez, passa para o usuário a percepção de que existe um embasamento por trás do que foi retornado.
Para o especialista é importante que essas limitações e problemas sejam deixados muito claros pelas empresas que estão construindo esses modelos. “A tendência natural das pessoas é antropomorfizar a tecnologia, ou seja, tratar a inteligência artificial como uma outra pessoa. E não podemos esperar que todas as pessoas do mundo entendam como esses algoritmos funcionam, e os riscos associados. É importante que os desenvolvedores deixem explícitas as limitações de suas ferramentas.”
Ainda para Thoran, uma inteligência artificial que fala com um tom de autoridade, combinada com o leitor médio – que é totalmente desavisado – é uma mistura extremamente perigosa. “Esses modelos aprendem com o conteúdo que consumiram, e também com as novas interações com os usuários. Se o usuário assume que a resposta está correta e não corrige a IA, ele reforça a associação, aumentando a propagação de informações falsas de maneira não intencional e até mesmo despercebida.”
ASCOM


Imagem de Simon do Pixabay


Imagem ilustrativa de KarriTsa por Pixabay 
Imagem Ilustrativa | Foto: Tomaz Silva/ Agência Brasil
Arquivo Pessoal
Foto: José Cruz/ Agência Brasil
Foto: Maria das Neves/ Tribuna do Recôncavo
Image by Wokandapix from Pixabay
Arquivo Pessoal
Imagem de PublicDomainPictures de Pixabay
Imagem ilustrativa de Military_Material por Pixabay
Imagem de
Arquivo Pessoal
Imagem ilustrativa de Wokandapix por Pixabay
Foto: Alberto Maraux/ SSP
Imagem de
Imagem Ilustrativa de 4711018 por Pixabay
Imagem de Radoan Tanvir do Pixabay
Divulgação
Foto: Hélio Alves/ Tribuna do Recôncavo
Video
Foto: Marcello Casal Jr/ Agência Brasil
Imagem de William Iven por Pixabay
Foto: Alberto Maraux/ SSP-BA
Imagem ilustrativa de Pexels do Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem de Free-Photos do Pixabay
Image by Free stock photos from www.rupixen.com from Pixabay
Image by Devanath from Pixabay
Midia Bahia
Imagem de Rudy and Peter Skitterians por Pixabay
Imagem por Alexander Fox | PlaNet Fox da Pixabay
Arquivo Pessoal
Foto: Marcelo Camargo/ Agência Brasil
Foto: Antonio Augusto/ Ascom/ TSE
Video
Foto: Paulo Mocofaya/ Agência ALBA
Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem ilustrativa by PublicDomainPictures from Pixabay
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Victor Ferreira/ECV
Foto: Walterson Rosa/MS
Foto: Tânia Rêgo/ Agência Brasil
Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem de tookapic por Pixabay
Arquivo Pessoal
Foto: Victor Ferreira/EC Vitória
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Letícia Martins / EC Bahia
Foto: Divulgação
Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Fabiane Pita/ Ascom SDE
Imagem de Bruno /Germany por Pixabay
Video
Foto: Marcelo Camargo/ Agência Brasil
Video
Foto: Victor Ferreira/ EC Vitória
Ilustrativa | Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Fabio Rodrigues Pozzebom/ Agência Brasil
Image by Engin Akyurt from Pixabay
Foto: Rafael Torres
Foto: PRF
Foto: Marci Santos
Foto: PRF
Foto: Claudio Lima
Imagem de succo por Pixabay
Foto: Douglas Amaral
Foto: Suâmi Dias
Foto: Marcello Casal Jr/ Agência Brasil
Foto: Letícia Martins/EC Bahia
Imagem Ilustrativa by Free-Photos from Pixabay
Imagem ilustrativa | Foto: Hélio Alves/ Tribuna do Recôncavo
Foto: Rafa Neddermeyer / Agência Brasil
Foto: Luciano Almeida
Imagem Ilustrativa de Free-Photos por Pixabay
Image by Michael Schwarzenberger from Pixabay
Foto: Adriana Ituassu/Ascom SPM
Foto: Tiago Queiroz (Ascom/Setur-BA)
Marcello Casal Jr./ Agência Brasil
Imagem de valelopardo por Pixabay
Imagem de Luk Luk do Pixabay
Foto: Mateus Pereira/GOVBA
Imagem de MCvec por Pixabay
Foto: Jurema Raquelo
Fotos: Arquivo Pessoal
Foto: Reprodução/ Vídeo Youtube - Anna Corinna
Foto: Reprodução/ Vídeo
Imagem ilustrativa | Foto: Hélio Alves/ Tribuna do Recôncavo
Imagem de OpenClipart-Vectors por Pixabay
Foto: Israel Lima