O ChatGPT pode representar um risco maior para a segurança cibernética do que um benefício real
16 de Março de 2023

O ChatGPT causou sensação com sua interface amigável e respostas geradas por IA convincentes.

Com apenas um comando, o ChatGPT fornecia respostas detalhadas que outros assistentes de IA não conseguiam.

Alimentado por um conjunto de dados massivo em que o ChatGPT havia sido treinado, a amplitude e variedade de tópicos que ele poderia abordar rapidamente impressionaram a indústria de tecnologia e o público em geral.

No entanto, a sofisticação da tecnologia levanta uma questão inevitável: quais são as desvantagens do ChatGPT e tecnologias similares? Com a capacidade de gerar uma infinidade de respostas realistas, o ChatGPT pode ser usado para criar uma série de respostas capazes de enganar um leitor desavisado, fazendo-o pensar que um ser humano real está por trás do conteúdo.

Ao pensar em assistentes de IA, o Google e a Alexa podem vir à mente primeiro.

Você faz uma pergunta como "Qual é o clima hoje?" e recebe uma resposta breve.

Embora algumas características de conversação estejam disponíveis, a maioria não produz texto gerado por IA em formato longo que possa ser expandido por meio de interação adicional.

O ChatGPT é capaz de lidar com uma solicitação complexa e gerar uma resposta completa, potencialmente abrangendo vários parágrafos.

Ele se lembra da conversa anterior e a desenvolve quando questionado, fornecendo respostas mais detalhadas.

Um exemplo é mostrado abaixo: o ChatGPT lista instruções para assar um bolo de chocolate.

Embora essa conversa possa variar de uma lista simples de ingredientes a uma história curta completa, o ChatGPT pode não responder a certos tópicos devido ao seu conjunto de dados.

Além disso, é importante observar que o fato de uma resposta ter sido gerada não significa que ela seja precisa.

O ChatGPT não "pensa" como nós; ele usa dados da internet para gerar uma resposta.

Como resultado, dados incorretos e preconceitos associados podem levar a uma resposta inesperada.

Como mencionado acima, nem todas as respostas são iguais.

Mas esse não é o único risco.

As respostas do ChatGPT podem ser convincentes e, portanto, existe o potencial de gerar conteúdo que possa enganar um indivíduo, fazendo-o acreditar que foi escrito por uma pessoa.

Isso pode levar à utilização mal-intencionada dessa tecnologia no mundo da tecnologia.

Muitos e-mails de phishing são facilmente reconhecíveis, especialmente quando escritos por falantes não nativos.

No entanto, o ChatGPT poderia tornar a tarefa significativamente mais fácil e convincente, como observado neste artigo da CheckPoint.

A velocidade de geração e a qualidade da resposta abrem a porta para e-mails de phishing muito mais convincentes e até mesmo geração de código de exploração simples.

Além disso, como o modelo do ChatGPT é de código aberto, um indivíduo empreendedor poderia criar um conjunto de dados de e-mails gerados pelas empresas existentes para criar uma ferramenta que produz rapidamente e-mails de phishing.

E-mails de phishing podem fornecer aos atores ameaças uma maneira de acessar seu sistema e implantar malware ou ransomware, potencialmente causando danos graves.

À medida que o ChatGPT continua a melhorar, ele se tornará uma ferramenta cada vez mais poderosa para atores mal-intencionados.

E quanto a um falante não nativo tentando convencer um funcionário, por meio de uma conversa, a fornecer suas credenciais?

Embora a interface do ChatGPT existente tenha proteções contra solicitações de informações confidenciais, você pode ver como o modelo de IA ajuda a informar o fluxo e o diálogo que um técnico de helpdesk da Microsoft pode usar, dando autenticidade a uma solicitação.

Felizmente, existem ferramentas que podem ajudar a identificar o conteúdo gerado por IA.

Essas ferramentas funcionam com base em porcentagens, portanto, não podem fornecer certeza absoluta.

No entanto, elas podem levantar dúvidas razoáveis e ajudá-lo a fazer as perguntas certas para determinar se o e-mail é genuíno.

Por exemplo, após colar o conteúdo do e-mail de redefinição de senha criado anteriormente, a ferramenta GPT Zero destaca as seções que podem ser geradas por uma IA.

Isso não é uma detecção à prova de falhas, mas pode fazer você questionar a autenticidade de um determinado conteúdo.

Com golpes de vishing mostrando nenhum sinal de desaceleração e o ChatGTP pronto para evoluir com a tecnologia de IA, investir na solução Specops Secure Service Desk pode ser um passo vital para as organizações se protegerem.

O ChatGPT é um game-changer, fornecendo uma ferramenta fácil de usar e poderosa para conversas geradas por IA.

Embora haja inúmeras aplicações potenciais, as organizações devem estar cientes de como os atacantes podem usar essa ferramenta para melhorar suas táticas e dos riscos adicionais que ela pode representar para sua organização.

Publicidade

Já viu o Cyberpunk Guide?

Imagine voltar ao tempo dos e-zines e poder desfrutar de uma boa revista contendo as últimas novidades, mas na pegada hacking old school.
Acesse gratuitamente o Cyberpunk Guide e fique por dentro dos mais modernos dispositivos usados pelos hackers. Saiba mais...