"O prompt errado induz a alucinação e os vieses"

Seu conteúdo em até um minuto

Syncophancy ou sicofantismo, ou vulgo bajulação, também parece ser um comportamento encontrado nos GPTs - tecnicamente chamados de LLMs, ou grandes modelos de linguagem.

QUANDO ISSO OCORRE?

Os modelos “alucinam” (erram) pois acabam concordando com o conteúdo incorreto - intencional ou não - inserido no prompt de ativação. O prompt errado induz a alucinação e os vieses.

Pois a Meta (ex-Facebook) está tentando resolver este problema inspirada no livro de “Rápido e Devagar - Duas Formas de Pensar” de Daniel Kahneman.

COMO ASSIM?

O método da Meta se chama S2A (System 2 Attention), uma analogia ao Sistema 2 que é mais lento e “inteligente” e serve para contrabalancear o Sistema 1, mais rápido e automático.

Dica de Prompt: na próxima vez que for “promptar” um GPT, adicione ao final “Pense devagar!”, e veja se sai algo diferente. E tente não bajular ou enrolar a máquina.

LEITURA RECOMENDADA

Está na hora de ir para a prática. No IA Global você vai entender os 12 impactos que a tecnologia irá gerar na sua carreira e negócio no próximo ano. E você vai sair com um plano de ação montado! Confira mais informações aqui.