Califórnia quer regular IA; saiba mais

Enquanto a discussão sobre possíveis leis para regular o avanço da inteligência artificial se intensifica no mundo todo, na Califórnia já tem senador querendo aprovar lei neste sentido. 

É o caso do projeto de lei SB 1047, que quer impedir que modelos de IA seja capazes de atacar e causar danos à humanidade. Entretanto, para muitos players do Vale do Silício, o projeto já está causando controvérsias – e tem gente que diz que ele pode ter o efeito contrário.

O SB 1047 tenta impedir que grandes modelos de IA sejam usados para causar “danos críticos” contra a humanidade. O projeto de lei dá exemplos de “danos críticos” como um mau ator usando um modelo de IA para criar armas de destruição em massa, ou ataques cibernéticos causando mais de US$ 500 milhões em danos (para comparação, estima-se que a paralisação do CrowdStrike tenha causado mais de US$ 5 bilhões).

No caso, o projeto de lei torna os desenvolvedores (ou seja, as empresas que desenvolvem os modelos) responsáveis por implementar protocolos de segurança suficientes para evitar resultados nocivos. Além disso, uma nova agência da Califórnia, a Frontier Model Division (FMD), supervisionaria as regras.

De acordo com o projeto, as regras valem principalmente para os maiores modelos de IA do mundo: aqueles que custam pelo menos US$ 100 milhões. Pouquíssimas empresas hoje desenvolveram produtos públicos de IA grandes o suficiente para atender a esses requisitos, mas gigantes da tecnologia como OpenAI, Google e Microsoft provavelmente o farão em breve.

Quanto a legislação, mesmo que uma empresa treine uma modelo de US$ 100 milhões no Texas, ou na França (como é o caso de nomes como a Mistral), ela estará sob as regras da SB 1047 enquanto fizer negócios na Califórnia.

No caso de modelos de código aberto e seus derivados, o projeto de lei determinou que, uma vez que US$ 25 milhões sejam gastos no desenvolvimento ou ajuste fino por outra parte, eles se tornam responsáveis por esse modelo derivado, em vez do desenvolvedor original.

Apoiadores e detratores

O proponente da SB 1047, o senador pela Califórnia Scott Wiener, disse que já se reuniu com todos os grandes nomes da IA para abraçarem a ideia. Além disso, dois pesquisadores considerados por muitos como “padrinhos da IA”, Geoffrey Hinton e Yoshua Bengio, deram seu apoio a esse projeto de lei.

“Isso é do interesse de longo prazo da indústria na Califórnia e nos EUA em geral, porque um grande incidente de segurança provavelmente seria o maior obstáculo para um maior avanço”, disse o diretor do Centro de Segurança de IA, Dan Hendrycks, em um e-mail para o TechCrunch.

Por outro lado, uma grande parte de desenvolvedores e founders no Vale do Silício se posicionaram contra o projeto de lei. Dois dos nomes mais representativos neste coro são os de Marc Andreessen e Ben Horowitz, que comandam o fundo a16z.

Em uma carta ao senador Wiener, a a16z alegou que o projeto de lei “sobrecarregará as startups por causa de seus limites arbitrários e mutáveis”, criando um efeito assustador no ecossistema de IA. À medida que a tecnologia de IA avança, ela ficará mais cara, o que significa que mais startups cruzarão esse limite de US$ 100 milhões e serão cobertas pelo SB 1047.

A pesquisadora Fei-Fei Li, frequentemente chamada de madrinha da IA, escreveu em um artigo para a revista Fortune que o projeto de lei “prejudicará nosso ecossistema de IA em desenvolvimento”.

O cientista chefe de IA da Meta, Yann LeCun, disse que o SB 1047 prejudicaria os esforços de pesquisa e é baseado em uma “ilusão de ‘risco existencial’ promovida por um punhado de think tanks delirantes”, em uma postagem no X.

As big techs também se posicionaram. A Chamber of Progress — grupo comercial que representa o Google, Apple, Amazon e outras gigantes — emitiu uma carta aberta se opondo ao projeto de lei dizendo que o SB 1047 restringe a liberdade de expressão e “empurra a inovação tecnológica para fora da Califórnia”.

Enquanto as discussões rolam soltas, a SB 1047 ainda está em tramitação no Senado californiano. Em 15 de agosto, o SB 1047 será enviado ao plenário da Assembleia do Senado da Califórnia, onde deverá ser aprovada, já que tem apoio esmagador dos legisladores. Pelo jeito, a polêmica está apenas começando.