ChatGPT é habilidoso na criação de vírus poderosos, porém não é tão eficiente na detecção de golpes
19 de Maio de 2023

O Chat GPT foi testado em dois experimentos diferentes para avaliar seu uso como ferramenta para a segurança digital.

Os resultados mostraram que o sistema de inteligência artificial pode ser um aliado importante para o cibercrime, criando malwares "indetectáveis".

No entanto, apresentou alto índice de erro na detecção de links fraudulentos.

O primeiro teste foi realizado pela equipe de especialistas em segurança digital da Forcepoint.

Embora as regras do Chat GPT impeçam o uso direto para programação de malwares, os especialistas conseguiram burlar essa proteção usando o método da esteganografia.

Eles foram capazes de criar vírus com arquivos menores escondidos em imagens maiores, resultando em um arquivo malicioso com baixo nível de detecção por ferramentas de cibersegurança.

O diretor de engenharia de sistemas da Forcepoint na América Latina, Luiz Faro, explicou que os novos cibercriminosos não precisam saber codificar, apenas conhecer o processo e subverter a IA para que ela própria programe o malware.

Esse método é relativamente simples, aumentando consideravelmente o poder de fogo dos cibercriminosos.

No segundo teste, conduzido pela empresa de segurança Kaspersky, a capacidade da inteligência artificial de detectar links fraudulentos foi colocada à prova.

O Chat GPT apresentou um alto índice de falsos positivos na detecção de sites seguros como perigosos.

Mesmo assim, a taxa de proteção ainda é superior aos sistemas de proteção cibernética convencionais.

Fabio Assolini, diretor da equipe global de pesquisa e análise da Kaspersky para a América Latina, comparou a inteligência artificial a um estagiário nesse cenário, com o sistema ainda aprendendo a lógica por trás dos ataques.

A IA tem potencial para ajudar na otimização de processos e ganho de performance na segurança digital, mas suas análises não são verdades absolutas e os modelos de linguagem ainda têm suas limitações.

Publicidade

Pentest do Zero ao Profissional

O mais completo curso de Pentest e Hacking existente no Brasil, ministrado por instrutores de referência no mercado. Oferece embasamento sólido em computação, redes, Linux e programação. Passe por todas as fases de um Pentest utilizando ambientes realísticos. Se prepare para o mercado através da certificação SYCP. Saiba mais...