ChatGPT e a nova IA estão causando estragos na segurança cibernética de maneiras excitantes e assustadoras.

A inteligência artificial generativa está transformando a cibersegurança, auxiliando tanto os atacantes quanto os defensores. Os criminosos cibernéticos estão utilizando a IA para lançar ataques sofisticados e inovadores em grande escala. Já os defensores estão usando a mesma tecnologia para proteger infraestruturas críticas, organizações governamentais e redes corporativas, disse Christopher Ahlberg, CEO da plataforma de inteligência de ameaças Recorded Future.

A Inteligência Artificial Generativa tem ajudado atores mal-intencionados a inovar e desenvolver novas estratégias de ataque, permitindo que fiquem um passo à frente das defesas cibernéticas. A IA ajuda os cibercriminosos a automatizarem ataques, escanear superfícies de ataque e gerar conteúdo que ressona com diferentes regiões geográficas e demografias, permitindo-lhes direcionar uma gama mais ampla de potenciais vítimas em diferentes países. Os cibercriminosos adotaram a tecnologia para criar e-mails de phishing convincentes. O texto gerado por IA ajuda os atacantes a produzirem e-mails altamente personalizados e mensagens de texto mais propensas a enganar os alvos.

"Eu acredito que você não precisa pensar muito criativamente para perceber que, cara, isso pode realmente ajudar [cibercriminosos] a serem autores, o que é um problema", disse Ahlberg.

Defensores estão utilizando a IA para se defender contra ataques. Organizações estão usando essa tecnologia para prevenir vazamentos e encontrar vulnerabilidades na rede de forma proativa. Além disso, ela automatiza de forma dinâmica tarefas como configurar alertas para palavras-chave específicas e detectar informações sensíveis online. Os caçadores de ameaças estão utilizando a IA para identificar padrões incomuns e resumir grandes quantidades de dados, conectando os pontos entre múltiplas fontes de informação e padrões ocultos.

O trabalho ainda requer especialistas humanos, mas Ahlberg diz que a tecnologia de IA generativa que estamos vendo em projetos como o ChatGPT pode ajudar.

"Queremos acelerar o ciclo de análise para nos ajudar a analisar na velocidade do pensamento", disse ele. "Isso é algo muito difícil de fazer e acredito que estamos vendo um avanço aqui, o que é bastante empolgante."

Ahlberg também discutiu as potenciais ameaças que máquinas altamente inteligentes podem trazer. Conforme o mundo se torna cada vez mais digital e interconectado, a capacidade de distorcer a realidade e moldar as percepções pode ser explorada por atores maliciosos. Essas ameaças não se limitam a estados-nação, tornando o cenário ainda mais complexo e assimétrico.

A inteligência artificial tem o potencial de ajudar a proteger contra essas ameaças emergentes, mas também apresenta seu próprio conjunto de riscos. Por exemplo, máquinas com alta capacidade de processamento podem hackear sistemas de forma mais rápida e eficiente do que os humanos. Para combater essas ameaças, precisamos garantir que a IA seja usada defensivamente e com um claro entendimento de quem está no controle.

À medida que a IA se integra cada vez mais na sociedade, é importante que legisladores, juízes e outros tomadores de decisão entendam a tecnologia e suas implicações. Construir alianças sólidas entre especialistas técnicos e formuladores de políticas será crucial para navegar o futuro da IA na caça a ameaças e além.

As oportunidades, desafios e considerações éticas da IA na cibersegurança são complexos e em constante evolução. Garantir modelos de IA imparciais e manter o envolvimento humano na tomada de decisões ajudará a lidar com os desafios éticos. Vigilância, colaboração e um entendimento claro da tecnologia serão cruciais para enfrentar as potenciais ameaças de longo prazo das máquinas altamente inteligentes.

Ahlberg também levantou preocupações sobre a China, a Rússia e os adversários econômicos implantando máquinas autônomas. Esses países provavelmente não vão desacelerar o desenvolvimento de IA ou compartilhar considerações éticas. Embora ter a capacidade de "desligar" tais máquinas seja uma salvaguarda inteligente, ele sugere que a integração da tecnologia na sociedade e na economia global provavelmente tornará difícil o desapego. Ahlberg enfatiza a necessidade de projetar produtos e máquinas com clareza sobre quem as controla.

"A grande coisa que a internet fez em tudo isso é que a internet se tornou o lugar onde toda a informação do mundo migrou", disse Ahlberg. "Esses grandes modelos de linguagem estão fazendo coisas bem mágicas... para acelerar esse ciclo de pensamento."

Ele adicionou: "Nos próximos 25 anos, o mundo se torna um reflexo da internet".