Inteligência artificial e os contornos éticos nas empresas

Por Camila Petry Feiler

Robôs têm sentimentos? Se sim, quais os desdobramentos disso? O questionamento ganhou força depois que Blake Lemoine, um engenheiro da divisão de IA responsiva do Google, teria sido afastado da empresa após levantar questões sobre o LaMDA, sistema de processamento de linguagem natural. Ele escreveu um artigo para a empresa, em abril deste ano, com a seguinte pergunta: “O LaMDA é autoconsciente?”, descrevendo uma entrevista que fez com o software para testar reações como emoções, possíveis respostas discriminatórias e autoentendimento.

Mas não é a primeira vez que o Google chama a atenção na área de IA. Em 2020, Timnit Gebru, ex-cientista de ética da divisão de IA do Google, foi demitida após mostrar preocupação com um viés étnico das ferramentas de inteligência da companhia. 

Com os novos desdobramentos das tecnologias e avanços tão ligeiros, fica difícil entender como lidar. Regulamentação é um caminho quando se trata de uma tecnologia? Olhando para os movimentos que acontecem nas empresas hoje, é possível entender quais saídas e testes que estão sendo feitos para isso.

POPULARIZAÇÃO E CAMINHOS DA IA

Andriei Gutierrez, diretor de relações governamentais da Kyndryl Brasil, empresa líder mundial em serviços de infraestrutura de tecnologia, acompanha a questão de perto: eles estão por trás da implementação de inteligência artificial nas maiores empresas do planeta. 

Ele compara o avanço da IA com o que houve com os músculos humanos e animais na revolução industrial: as pessoas continuam usando os músculos, mas muito menos -- elas se deslocam com o apoio de máquinas, trabalham, mesmo que manualmente, com máquinas. “A IA está fazendo algo similar na capacidade humana, em termos de força, resistência, e velocidade”, já que tem maior capacidade de processar dados, questão impensável para o cérebro humano dar conta sozinho. 

E por mais que ela tenha surgido lá na década de 1950, passou por um longo inverno e começou a despontar nos anos 2000. “Em 2011 a gente começou a ver um boom impulsionado pela capacidade de processamento, pela capacidade de dados e pela capacidade de coletar dados”, conta Andriei.

Como é tudo muito recente, os desdobramentos estão surgindo e os impactos começam a ser vistos na prática. “A IA está cada vez mais disseminada, em especial pela possibilidade de existirem modelos de aprendizado de máquina ‘prontos e disponíveis sem custo’, mantendo a característica exponencial da velocidade de inovação no setor de tecnologia”, explica Arthur Iperoyg, Team Lead & AI Specialist na Take Blip, plataforma líder em interações inteligentes entre marcas e consumidores nos principais aplicativos de mensagem.

Veja também:

• IA: o que é Processamento de Linguagem Natural?
• Os 4 setores mais promissores para uso de Inteligência Artificial no Brasil

OS DEBATES ÉTICOS NA PRÁTICA 

Quem está vivendo o dia a dia, sente o peso das cobranças, inclusive de regulamentações no Brasil e no mundo, mas também dos usuários, que buscam entender os caminhos dos dados e os princípio adotados pelas empresas. 

“Enquanto empresa, não estamos ignorantes a isso e acreditamos que essa popularização e aumento da facilidade de uso é peça fundamental para que discussões relativas à ética em IA sejam cada vez maiores, constantes e profundas”, afirma Arthur.

“Outro aspecto relevante também tem conexão com o aspecto geracional - nosso raciocínio é que, antes, o desenvolvimento de IA e a discussão sobre ética em IA, estava apenas com os ‘homens brancos do Vale do Silício'. E agora e para o futuro, o desenvolvimento e a discussão está e estará em todas as empresas e universidades do mundo.”

Tanto é que, em levantamento feito pela IBM Institute for Business Value (IBV), 88% dos líderes latino-americanos dizem reconhecer a importância da IA ética, ao mesmo tempo que 89% dos entrevistados acreditam que é uma fonte de diferenciação competitiva.

Andriei explica que as empresas estão se organizando em torno de autorregulamentação, achando os caminhos internos com base nos modelos que vêm funcionando. “E a base para isso são os princípios, que tem que ser centrados nos seres humanos, usado para fazer o bem, explicável e transparente, auditável, e tem que ser segura, resiliente.”

AS BOAS PRÁTICAS QUE AS EMPRESAS VÊM ADOTANDO EM TORNO DE IA

Andriei vê com bons olhos os movimentos de transparência e ética adotados pelas empresas de tecnologia ou com atividades intensivas em dados para IA responsável. “De maneira geral, esses programas apresentam pilares que muito lembram o framework do ‘Accountability Wheel’ proposto pelo CIPL (Centre for Information Policy Leadership)", explica listando os princípios:

1. Liderança e supervisão pelo alto escalão das organizações
2. Análise de Riscos
3. Estabelecimento de Políticas e Processos
4. Adoção de medidas de transparência do programa de accountability
5. Treinamento e conscientização de funcionários e parceiros
6. Governança, monitoramento e verificação das políticas
7. Respostas e medidas que venham a ser necessárias para a execução

Para Andriei, as práticas são parecidas com as de privacidade de dados nas empresas, questão que já está mais ambientada principalmente depois que a LGPD foi implementada. 

O caminho na Take Blipp é parecido. Arthur Iperoyg explica que eles se firmam em quatros pilares essenciais:

1. Desenvolver de forma colaborativa e multidisciplinar
2. Questionar os dados, cientes de que eles contêm viés
3. Evoluir e testar de forma escalonada e gradual
4. Apoiar-se no método científico e na redução de incerteza como mantra

MAS E A REGULAMENTAÇÃO? 

Andriei pontua que enquanto se discute Marcos legais para a IA, é importante ter em mente que essas práticas citadas acima são adotadas por grandes empresas em contextos específicos. 

Com o avanço da tecnologia, é possível que ela se desdobre por diversos setores da economia, a maioria delas de baixo ou médio risco. “Nesse contexto, é muito pertinente que se tenhamos marcos legais ponderados que, ao proteger direitos fundamentais, não sejam um elemento inibidor para a adoção de IA pelas organizações brasileiras (seja elas grandes, médias, pequenas ou até mesmo privadas ou públicas)”, explica. 

Até porque, a inteligência artificial ainda é pouco conhecida e as pessoas têm medo. Como criar caminhos seguros se falta esse primeiro passo enquanto sociedade? Já Arthur traz um segundo ponto quando questionado sobre a regulamentação: “acreditamos que é um fator importante sim, mas não o caminho que irá resolver isso. Embates éticos são questões sociológicas e psicológicas, que falam mais sobre as interações das pessoas e da sociedade. Logo, a "resolução" desses embates, passará pela "resolução" dessas questões nos âmbitos sociais.”