O Chat GPT foi testado em dois experimentos diferentes para avaliar seu uso como ferramenta para a segurança digital.
Os resultados mostraram que o sistema de inteligência artificial pode ser um aliado importante para o cibercrime, criando malwares "indetectáveis".
No entanto, apresentou alto índice de erro na detecção de links fraudulentos.
O primeiro teste foi realizado pela equipe de especialistas em segurança digital da Forcepoint.
Embora as regras do Chat GPT impeçam o uso direto para programação de malwares, os especialistas conseguiram burlar essa proteção usando o método da esteganografia.
Eles foram capazes de criar vírus com arquivos menores escondidos em imagens maiores, resultando em um arquivo malicioso com baixo nível de detecção por ferramentas de cibersegurança.
O diretor de engenharia de sistemas da Forcepoint na América Latina, Luiz Faro, explicou que os novos cibercriminosos não precisam saber codificar, apenas conhecer o processo e subverter a IA para que ela própria programe o malware.
Esse método é relativamente simples, aumentando consideravelmente o poder de fogo dos cibercriminosos.
No segundo teste, conduzido pela empresa de segurança Kaspersky, a capacidade da inteligência artificial de detectar links fraudulentos foi colocada à prova.
O Chat GPT apresentou um alto índice de falsos positivos na detecção de sites seguros como perigosos.
Mesmo assim, a taxa de proteção ainda é superior aos sistemas de proteção cibernética convencionais.
Fabio Assolini, diretor da equipe global de pesquisa e análise da Kaspersky para a América Latina, comparou a inteligência artificial a um estagiário nesse cenário, com o sistema ainda aprendendo a lógica por trás dos ataques.
A IA tem potencial para ajudar na otimização de processos e ganho de performance na segurança digital, mas suas análises não são verdades absolutas e os modelos de linguagem ainda têm suas limitações.
Publicidade
Aprenda a criar dispositivos incríveis com o especialista Júlio Della Flora. Tenha acesso a aulas prática que te ensinarão o que há de mais moderno em gadgets de hacking e pentest. Se prepare para o mercado de pentest físico e de sistemas embarcados através da certificação SYH2. Saiba mais...