Qual o limite da IA Generativa quando falamos de segurança cibernética?

Mesmo diante de uma incansável caça de especialistas de segurança cibernética contra hackers e golpistas nos últimos anos, as ameaças nas redes seguem em crescimento contínuo. 

O recente relatório de segurança cibernética do Google Cloud revela que a IA generativa e os grandes modelos de linguagem (LLMs) serão utilizados em vários ataques cibernéticos nos próximos anos, como phishing, SMS e outras táticas de engenharia social, com o objetivo de fazer com que conteúdos e materiais, como voz e vídeo, pareçam mais legítimos.

• Com o uso crescente da IA generativa e sua democratização com a chegada de interfaces como ChatGPT, Bard e Midjourney, os ataques cibernéticos estão ficando muito mais inteligentes. 

A tecnologia tem a capacidade de imitar a linguagem natural das pessoas e, por isso, confunde ainda mais a detecção de sinais tradicionais de phishing, como erros ortográficos e gramaticais. 

Já os hackers e invasores estão se aprimorando e podem alterar o conteúdo legítimo usando LLMs, mantendo o estilo de escrita original e se aprimorando de um contexto cultural.

Uma vez que a Inteligência Artificial Generativa aprende o estilo de escrita de uma pessoa ou cargo e transcreve um texto genérico (por exemplo, um lembrete de fatura ou um aviso para os funcionários solicitando a resposta a alguma pesquisa da empresa) com o tom, fluxo e vocabulário próximos do estilo de escrita daquela empresa ou pessoa, ela pode também ser explorada por cibercriminosos para chamar a atenção e atrair o foco das vítimas para os seus próprios objetivos.

Ou seja, os hackers podem usar a velocidade e a automação com que a IA generativa funciona, para identificar vulnerabilidades com mais rapidez, desenvolvendo malwares com maiores capacidades e menor tempo, criando e-mails de phishing e falsificação digital ainda mais assertivos.

E à medida que as capacidades das IAs generativas se expandem, a segurança se torna uma questão prioritária. 

• Alguns estudos de anos atrás já haviam mostrado a preocupação de lideranças empresariais e CISOs com os ataques cibernéticos baseados em IA. 

De acordo com um relatório da Forrester Research de 2019, 80% dos tomadores de decisão em segurança cibernética esperavam que a IA aumentasse a escala e a velocidade dos ataques e 66% esperavam que a IA conduzisse ataques que nenhum ser humano poderia conceber.

Hoje em dia, essas preocupações dos líderes de segurança fizeram com que os orçamentos para cibersegurança dedicados à IA aumentassem em média 51% nos últimos dois anos, com um avanço esperado para os próximos anos, de acordo com o relatório da IBM Institute for Business Value.

Metade desses executivos (46%) acreditam que as IAs generativas tornarão suas organizações mais vulneráveis a ataques cibernéticos, conforme aponta o estudo da Deep Instict. A principal ameaça percebida é um aumento nas preocupações com a privacidade, no volume e velocidade de ataques como phishing e ransomware.

POR QUE IMPORTA?

O entusiasmo em torno da IA generativa pode resultar em empresas experimentando tecnologia sem compreender as ramificações. Casos recentes de alto perfil de dados confidenciais da empresa sendo carregados no ChatGPT sublinham os perigos. 

Com isso, segundo o estudo, os setores tecnologicamente maduros são os mais afetados: 52% na indústria de tecnologia e 51% em serviços financeiros.

Está mais do que evidente que criminosos precisam de pouca ou nenhuma habilidade técnica para aproveitar o potencial da IA generativa. Para não vivermos diante de um “velho oeste” virtual, é preciso investir em medidas de segurança adequadas para evitar ou reduzir maiores fraudes. 

• A IA generativa promete muito para as empresas e pessoas, especialmente quando se fala em aumentar a produtividade e acelerar a inovação.

Expandir a compreensão e o acesso a essas ferramentas é a forma mais importante de desenvolver uma implementação responsável e ética. Contudo, é preciso cautela e conhecimento para gerenciar riscos e tornar o uso da tecnologia uma vantagem competitiva. 

Quando se trata de segurança de dados, a IA generativa é uma ferramenta valiosa – ou uma ameaça existencial para você e sua empresa?

LEITURA RECOMENDADA

Você precisa saber extrair o melhor da Inteligência Artificial. Por isso, participe do IA para Negócios. Esse é o momento para levar seu negócios e organização para o próximo nível com soluções avançadas em gestão! Saiba mais aqui