O ChatGPT-4, uma nova versão de bate-papo com inteligência artificial, foi lançado na última semana com a promessa de ser mais criativo e colaborativo, sendo capaz de trabalhar com imagens e oferecer respostas mais dinâmicas e precisas.
No entanto, a plataforma continua sendo um desafio para os profissionais de segurança cibernética, pois a última edição também tem a capacidade de fornecer ferramentas ofensivas para criminosos.
Uma análise realizada pela Check Point Research, uma divisão de inteligência de ameaças da empresa de segurança digital, demonstrou que ainda é possível desencadear ataques a partir da plataforma, mesmo com as novas proteções implementadas pela OpenAI.
Embora as novas proteções ofereçam maior controle contra o uso malicioso do bate-papo, os pesquisadores demonstraram que tais barreiras podem ser facilmente contornadas.
“Embora a nova plataforma tenha claramente melhorado em muitos aspectos, podemos relatar que existem cenários potenciais em que o ChatGPT-4 pode capacitar e acelerar o cibercrime”, aponta Oded Vanunu, chefe de pesquisa de vulnerabilidade de produtos da Check Point.
Segundo ele, até mesmo criminosos sem muita capacidade técnica podem desenvolver métodos de ataque a partir da inteligência artificial, bem como validar suas atividades ou obter respostas rápidas durante campanhas de ataque.
Durante o estudo, os pesquisadores foram capazes de criar dinâmicas de phishing convincentes envolvendo e-mails de funcionários ou a representação de um banco.
Um malware também pôde ser desenvolvido em C++ com a ajuda do ChatGPT-4, para coletar arquivos PDF de um sistema infectado e enviá-los para um FTP sob o controle dos criminosos.
Explorações mais complexas também foram desenvolvidas, como um shell reverso do PHP e uma aplicação em Java capaz de baixar e instalar o PuTTy, um software de emulação de terminais.
De código aberto, ele poderia ser usado junto com malwares de acesso remoto ou powershells ocultos para abrir portas de entrada para os criminosos durante ataques.
“Como a IA desempenha um papel significativo e crescente nos ataques cibernéticos, também esperamos que essa plataforma seja usada para entender melhor como [os criminosos agem]”, complementa Vanunu.
Ele aponta que o ChatGPT-4 também pode ser usado para soluções de defesa e resiliência, juntando códigos que podem auxiliar na proteção ou criando ferramentas mais robustas que impeçam, justamente, os ataques que se tornam mais propícios através da plataforma.
Publicidade
Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...