Erros do ChatGPT: dá para confiar na Inteligência Artificial?

Apesar de estarmos extremamente empolgados com as últimas novidades de Inteligência Artificial, precisamos colocar o pé no chão e começar a desconfiar dos resultados. É hora de lembrar que essas tecnologias são criadas por humanos e, por isso, podem conter falhas. 

OS ERROS DO GOOGLE BARD

Muito se tem discutido sobre os erros graves que o Google Bard - a nova tecnologia de Inteligência Artificial da grande empresa - cometeu durante sua estreia. Quem não viu, quando foi questionado sobre o ‘quais descobertas poderiam ser contadas a uma criança de 9 anos sobre o telescópio James Webb’, houve um problema: entre os três pontos que a IA ofereceu como resposta, um deles dizia que ele foi o primeiro a tirar fotos de planetas fora do nosso sistema solar - o que é mentira. Confira abaixo:

• O fato causou uma perda de US$ 100 bilhões para o Google

O BING TAMBÉM FALHOU

Mas não foi só o Google que cometeu esse erro. Na semana passada, durante a apresentação da Microsoft sobre sua reformulação do Bing com o ChatGPT, a big tech também apresentou falhas.

Basicamente, o Bing não foi capaz de fornecer dados significativos e seguros quando solicitado para enumerar os prós e os contras dos aspiradores de pó mais populares, planejar uma viagem de 5 dias para a Cidade do México e comparar detalhes em relatórios financeiros. Os resultados foram duvidosos: 

• O Bing não conseguiu distinguir corretamente entre um aspirador com fio e sem fio
• Não forneceu informações relevantes sobre bares na Cidade do México
• Apresentou dados financeiros distorcidos

Pessoas que usam o Reddit também mostraram outros erros estranhos do Bing. Por exemplo, a inteligência artificial informou que já estávamos em 2022 e sugeriu que a pessoa olhe as configurações do computador para ver se tem algo errado, como vírus ou erros.

AFINAL, QUAIS ERROS UMA INTELIGÊNCIA ARTIFICIAL PODE COMETER? 

De acordo com o próprio ChatGPT, os erros possíveis da Inteligência Artificial (IA) podem variar dependendo do algoritmo utilizado. Confira 4 deles:

1- OTIMISTA DEMAIS 

Um sistema de IA pode ter uma visão muito otimista em relação a resultados possíveis, o que pode ser extremamente prejudicial para quem usa a IA para tomar decisões financeiras.

2- OVERFITTING

Quando o sistema treinou demais com dados antigos e não foi capaz de se adaptar a novas informações - como aconteceu quando o Bing respondeu que ainda estamos em 2022 para um usuário do Reddit.

3-  RUÍDO DE DADOS 

Se os dados usados ​​para treinar e testar um sistema de inteligência artificial tiverem erros ou não forem precisos, isso afetará negativamente os resultados. Basicamente, ele pode impactar a qualidade do desempenho por não ter informações claras para lidar com eles.

4-  VIÉS DA AMOSTRA

Quando as amostras usadas para treinar um sistema de IA refletem apenas uma parte limitada da população geral - o que pode gerar resultados errados.

COMO CONFIAR EM UMA INTELIGÊNCIA ARTIFICIAL? 

Para isso, você deve aprimorar a skill de perguntar e dialogar, de “interfacear” com os modelos de Inteligência Artificial. De acordo com Cristiano Kruel, Chief Innovation Officer na StartSe:

“Interagir com os algoritmos de IA criando bons “prompts” (as solicitações escritas) não é uma questão de dar o comando certo, ou ter precisão na pergunta. É preciso senso crítico para interpretar o retorno pois muitas vezes não existe uma resposta certa (o que o Google chama de NORA - No One Right Answer).” 

COMO DESENVOLVER ESSE SENSO CRÍTICO?

• Kruel diz: “Precisamos compreender a diferença, natureza e propósito, de cada modelo de IA que estamos tentando utilizar (afinal de contas, botões no microondas são diferentes da máquina de lavar roupas).
• Precisamos ampliar o nosso vocabulário e repertório (linguagem humana) pois com isto temos chance de extrair mais possibilidades, excepcionalidade e ineditismo dos modelos.”
• Precisamos tentar, experimentar, praticar, para conseguir extrair valor a dar uso correto para a tecnologia.”

POR QUE IMPORTA?

A capacidade de escrita clara e crítica é essencial para usar inteligência artificial nos negócios. O prompt, ou seja, as instruções para as máquinas fazerem determinadas tarefas, deve ser escrito de forma adequada para que os resultados sejam mais precisos. 

Além disso, é importante ser capaz de questionar e avaliar criticamente as respostas obtidas das máquinas para garantir que elas estejam corretas. Sem essa habilidade, você será só mais um ‘analfabeto’ tentando utilizar uma tecnologia - que vai revolucionar os negócios (de quem sabe fazer isso). 

LEITURA RECOMENDADA

Transforme sua empresa para melhor! Aprenda como usar inteligência artificial nos negócios para desenvolver o seu potencial e obter respostas mais precisas. Para isso, basta baixar gratuitamente o novo app StartSe: Android | iPhone.