As informações que estão alimentando os sistemas são verdadeiras? Veja o que Chelsea Manning diz

Chelsea Manning é tecnóloga, ativista, ex- militar norte-americana e consultora de segurança na Nym, uma plataforma de privacidade de ponta que combina várias tecnologias para proteger os usuários contra vigilância invasiva e análise de tráfego em vários serviços digitais. É construído com código aberto e uma arquitetura descentralizada. Isso significa que não é controlado por uma única entidade, evitando assim a censura ou manipulação por governos ou corporações. 

Chelsea participou do painel “IA é melhor com privacidade: Chelsea Manning na próxima década da internet”, no Center Stage, no Web Summit Rio, maior evento de tecnologia do mundo, que tem sua primeira edição na capital carioca. E neste Ghost Interview de especial ao Web Summit, Chelsea é a nossa convidada da semana! 

Como você analisa o momento que estamos vivendo de IA e criptografia?

Vivemos num ambiente que somos bombardeados por uma quantidade absurda de informações porque estamos interconectados. E eu venho de uma época que a discussão era sobre sigilo ou disponibilidade das informações. E agora temos outra questão: essas informações que estão alimentando os sistemas são verdadeiras?

As ferramentas criptográficas serão cruciais para lidarmos com a informação e saber se é verdadeiro ou falso. As linguagens de IA generativa serão capazes de produzir resultados cada vez mais convincentes, mas elas são incapazes de burlar a criptografia.

(Web Summit 2023 – Painel)

Como você visualiza a regulamentação?

A regulamentação e os sistemas regulatórios vão mudar. Mas as pessoas que trabalham na tecnologia tem que estar cientes que os dados podem ser usados para situações nefastas, então quem trabalha com privacidade e com algoritmos tem uma responsabilidade enorme nas mãos. Se não tratarmos isso corretamente, os reguladores vão ter uma reação exagerada e acabar regulando demais.

(Web Summit 2023 – Painel)

Como você se envolveu com Nym?

Em 2021, conheci o CEO da Nym, Harry Halpin, que entrou em contato comigo para procurar fraquezas de segurança em seu novo projeto de privacidade, Nym. Depois de revisar um white paper que eles publicaram e realizar uma auditoria de segurança, progredi para revisar mais profundamente o código deles, a matemática e os cenários defensivos contra os ataques do governo. Então fiquei como consultor de segurança, com foco na otimização de hardware.

(Web Summit – Entrevista)

Que oportunidades ou desafios você acha que essas novas tecnologias oferecem na luta por maiores direitos de privacidade?

À medida que a IA estiver mais integrada à sociedade, a verificação de informações se tornará um problema fundamental. Podemos usar o Web3 para superar isso. Podemos usar a tecnologia blockchain para criar uma lista descentralizada de onde a informação está vindo, quem a está produzindo e onde foi criada.

Eu acho que há um processo de seleção natural em que a tecnologia blockchain é útil. O que vimos é que ele permitiu golpes na web, violações desenfreadas de dados e vários problemas.

Mas acho que estamos chegando a uma fase de processo iterativo em que está começando a amadurecer e agora há a possibilidade de que eles possam ser usados para aumentar aplicativos baseados em segurança. Isso pode então ser verificado em um livro-razão distribuído para provar que um evento específico ocorreu historicamente, resultando em menos disputa.

É injusto pedir aos usuários em geral que se protejam digitalmente. Este é um problema de infraestrutura, não um problema de usuário individual, porque as pessoas são realmente forçadas pela sociedade a interagir nas mídias sociais e plataformas de comunicação baseadas em texto.

(Web Summit – Entrevista) 

Você acha que alguma coisa mudou, para melhor ou para pior, no debate mais amplo sobre privacidade desde os eventos de 2010?

Por um lado, as divulgações da década de 2010 levaram ao progresso em tecnologias de aprimoramento da privacidade e reformas legais como o GDPR.

Esses desenvolvimentos ajudaram a proteger os direitos de privacidade individuais e permitiram canais de comunicação mais seguros, mas, à medida que nos afogamos em informações, novos desafios surgiram. Os governos continuam a investir em recursos de vigilância e buscam maneiras de acessar dados criptografados, e as empresas focadas em tecnologia enfrentam pressão para compartilhar dados de usuários.

Neste contexto, nossa luta não é mais simplesmente sobre sigilo versus privacidade. É sobre navegar em um mundo repleto de dados e garantir que informações valiosas e precisas permaneçam acessíveis e protegidas.

É crucial que permaneçamos vigilantes e continuemos defendendo transparência, responsabilidade e proteções de privacidade mais fortes.

(Web Summit – Entrevista)

Podemos confiar em empresas privadas para desenvolver e usar a tecnologia de IA eticamente? Deve haver um código padronizado de ética em IA para garantir que a tecnologia não seja usada indevidamente?

Embora muitas empresas estejam genuinamente comprometidas com o desenvolvimento ético da IA, ainda há riscos associados a motivações orientadas para o lucro, pressões competitivas e potencial desalinhamento de valores entre as empresas e o interesse público.

Acredito que um código padronizado de ética em IA é essencial para garantir que a tecnologia não seja usada indevidamente ou que seus danos potenciais não sejam controlados.

Tal código forneceria diretrizes para o desenvolvimento e uso responsáveis da IA, incluindo considerações como transparência, justiça, responsabilidade, privacidade e segurança. Também poderia abordar desafios relacionados ao viés, à discriminação e à potencial amplificação das desigualdades sociais existentes.

Mas também precisamos de uma forte supervisão regulatória e esforços colaborativos entre governos, academia, sociedade civil e indústria de tecnologia trabalhando juntos para criar uma estrutura mais robusta.

(Web Summit – Entrevista)

Daqui a 50 anos, como você acha que as pessoas vão olhar para trás nesta era da atividade cibernética?

Estou hesitante em especular isso muito à frente, mas esta era pode ser lembrada como um momento crucial na história, quando a humanidade lidou pela primeira vez com as complexidades da integração de tecnologias digitais na vida cotidiana.

As pessoas no futuro podem ver esse tempo como um período de experimentação, onde as sociedades tentaram encontrar um equilíbrio entre os benefícios dessas tecnologias e os riscos e desvantagens potenciais que elas apresentaram.

Olhando para trás em como a tecnologia foi vista na década de 1980, olhando para o quão pitoresco foi o debate sobre coleta de dados e privacidade, as questões que enfrentamos agora podem empalidecer em comparação com um momento que é mais difícil e difícil do que hoje.

(Web Summit – Entrevista)

Ao longo do seu livro, a internet é retratada como uma fonte de comunidade, consolo e liberdade. Como você acha que isso mudou na sua vida?

O anonimato não está mais tão prontamente disponível. Se você é um ninguém, então pode vir da obscuridade, mas não é tão facilmente alcançável. Há mais uma trilha eletrônica de suas atividades, há mais formulários nos quais você insere seus dados, há mais empresas on-line e há muito mais mídias sociais. Essas plataformas centralizadas não eram realmente uma coisa até mais tarde no início dos anos 2000, com o MySpace e a ascensão da curadoria algorítmica moldando a internet de uma maneira muito diferente do que eu experimentei.

(Dazed Digital)

Em termos de ativismo, em quais questões você está se concentrando hoje?

Eu me concentro muito em ética, tecnologia e as armadilhas de vários tipos de tecnologia e aprendizado de máquina. Eu tenho experiência em ciência de dados e sou um defensor da criptografia, tentando criar enclaves de anonimato e diferentes maneiras de se comunicar. Eu também me importo muito com questões trabalhistas e organização – certamente me considero um defensor e aliado de sindicatos e pessoas que estão tendo problemas no local de trabalho.

(Dazed Digital)

Como você visualiza o caso do Twitter?

O Twitter é um caso interessante, porque não é realmente conhecido por ser uma empresa geradora de receita. Então, os acionistas obviamente tinham interesse em forçar Elon Musk a comprá-lo. Do ponto de vista do CEO, ele está tendo que tomar algumas decisões difíceis em termos de emparelhar as coisas, porque está sangrando dinheiro. Ele está fazendo isso de uma maneira muito desconfortável e imprudente, mas, ao mesmo tempo, se alguém tivesse vindo de um setor diferente, provavelmente estaria tomando decisões semelhantes.

O Twitter tem sido visto por alguns segmentos da sociedade como uma praça pública, mas não acho que tenha essa primazia, e acho que essa ideia será desafiada nos próximos meses ou anos. A tecnologia muda; é temporária; você não pode depender dessas coisas ou vê-las como uma infraestrutura confiável. Eu acho que há um perigo e miopia em assumir que empresas de tecnologia como Twitter, Apple e Meta ainda terão a mesma quantidade de poder e influência em 20 anos. Sua longevidade é realmente questionada pelo declínio das mídias sociais nos últimos anos. As empresas de mídia social estão essencialmente atingindo o pico: suas bases de usuários não estão crescendo e não estão se expandindo. Eles são construídos sobre ciclos contínuos de crescimento e uso, mas ficaram sem participação de mercado para penetrar.

(Dazed Digital) 

LEITURA RECOMENDADA

Caso você precise entender mais sobre o assunto, acesse o app da StartSe e confira conteúdos exclusivos. Baixe gratuitamente o novo app StartSe e tenha acesso a conteúdos exclusivos: Android | iPhone