ChatGPT e a nova IA estão causando estragos na cibersegurança de maneiras excitantes e assustadoras

A inteligência artificial generativa está a transformar a cibersegurança, ajudando tanto os atacantes como os defensores. Os cibercriminosos estão a utilizar IA para lançar ataques sofisticados e inovadores em grande escala. E os defensores estão a utilizar a mesma tecnologia para proteger a infraestrutura crítica, organizações governamentais e redes corporativas, afirmou Christopher Ahlberg, CEO da plataforma de inteligência de ameaças Recorded Future.

A inteligência artificial generativa tem ajudado atores mal-intencionados a inovar e desenvolver novas estratégias de ataque, permitindo que fiquem um passo à frente das defesas de cibersegurança. A IA auxilia os cibercriminosos a automatizar ataques, escanear superfícies de ataque e gerar conteúdo que ressoa com várias regiões geográficas e demografias, permitindo que eles direcionem um leque mais amplo de potenciais vítimas em diferentes países. Os criminosos cibernéticos adotaram a tecnologia para criar e-mails de phishing convincentes. O texto gerado pela IA ajuda os atacantes a produzirem e-mails e mensagens de texto altamente personalizados, que têm maior probabilidade de enganar os alvos.

"Acho que não é preciso pensar muito criativamente para perceber que, cara, isso pode realmente ajudar [criminosos cibernéticos] a serem autores, o que é um problema", disse Ahlberg.

Os defensores estão utilizando IA para se proteger contra ataques. As organizações estão usando a tecnologia para prevenir vazamentos e detectar vulnerabilidades na rede de forma proativa. Além disso, ela automatiza dinamicamente tarefas como configurar alertas para palavras-chave específicas e detectar informações sensíveis online. Os caçadores de ameaças estão utilizando IA para identificar padrões incomuns e resumir grandes quantidades de dados, conectando os pontos entre múltiplas fontes de informação e padrões ocultos.

O trabalho ainda requer especialistas humanos, mas Ahlberg afirma que a tecnologia de IA generativa que estamos vendo em projetos como ChatGPT pode ajudar.

"Queremos acelerar o ciclo de análise para nos ajudar a analisar à velocidade do pensamento", disse ele. "Isso é algo muito difícil de fazer e acho que estamos vendo um avanço aqui, o que é bastante emocionante."

Ahlberg também discutiu as ameaças potenciais que máquinas altamente inteligentes poderiam trazer. À medida que o mundo se torna cada vez mais digital e interligado, a capacidade de distorcer a realidade e moldar percepções poderia ser explorada por atores maliciosos. Essas ameaças não se limitam a Estados-nação, tornando o cenário ainda mais complexo e assimétrico.

AI tem o potencial de ajudar a proteger contra essas ameaças emergentes, mas também apresenta seu próprio conjunto de riscos. Por exemplo, máquinas com altas capacidades de processamento podem hackear sistemas mais rapidamente e de forma mais eficaz do que os humanos. Para combater essas ameaças, precisamos garantir que a IA seja usada defensivamente e com uma compreensão clara de quem está no controle.

À medida que a IA se integra cada vez mais na sociedade, é importante que legisladores, juízes e outros tomadores de decisão compreendam a tecnologia e suas implicações. Criar alianças sólidas entre especialistas técnicos e formuladores de políticas será crucial para navegar o futuro da IA na caça a ameaças e além.

As oportunidades, desafios e considerações éticas da IA na cibersegurança são complexos e em constante evolução. Garantir modelos de IA imparciais e manter o envolvimento humano na tomada de decisões ajudará a lidar com os desafios éticos. Vigilância, colaboração e uma compreensão clara da tecnologia serão cruciais para enfrentar as potenciais ameaças de longo prazo de máquinas altamente inteligentes.

Ahlberg também expressou preocupações sobre a China, a Rússia e adversários econômicos que estão implantando máquinas autônomas. Estes países provavelmente não vão desacelerar o desenvolvimento da inteligência artificial ou compartilhar considerações éticas. Embora ter a habilidade de "desligar" tais máquinas seja uma precaução inteligente, ele sugere que a integração da tecnologia na sociedade e na economia global provavelmente tornará difícil desvinculá-las. Ahlberg enfatiza a necessidade de projetar produtos e máquinas com clareza sobre quem as controla.

"A grande coisa que a internet fez em tudo isso é que a internet meio que se tornou o lugar para onde todas as informações do mundo migraram", disse Ahlberg. "Esses grandes modelos de linguagem estão fazendo coisas incríveis ... para acelerar o ciclo de pensamento."

Ele acrescentou: "Nos próximos 25 anos, o mundo torna-se o reflexo da internet."