Alerta: IA pode auxiliar em ataques com armas biológicas, indica relatório
19 de Outubro de 2023

A inteligência artificial já se mostrou uma ferramenta importante para a humanidade.

Porém, ela também pode representar riscos.

Segundo um relatório da Rand Corporation, que fornece estudos e análises para o exército norte-americano, a IA pode auxiliar no planejamento de um ataque com armas biológicas.

As armas biológicas são algumas das ameaças sérias relacionadas à inteligência artificial que serão debatidas na cúpula mundial de segurança em IA no mês que vem, no Reino Unido.

Em julho, Dario Amodei, CEO da empresa de IA Anthropic, alertou que os sistemas de inteligência artificial podem auxiliar na criação de armas biológicas em um período de dois a três anos.

Os LLMs são treinados com grandes quantidades de dados extraídos da internet e são a principal tecnologia por trás de chatbots como o ChatGPT.

Ainda que a Rand não tenha revelado quais LLMs foram testados, os pesquisadores afirmaram acessar os modelos através de uma interface de programação de aplicativos.

Em uma simulação, a tecnologia identificou possíveis agentes biológicos, incluindo os causadores de varíola, antraz e peste, e discutiu suas chances relativas de provocar uma morte em massa.

O LLM também avaliou a possibilidade de obter roedores ou pulgas infestados por pragas e de transportar espécimes vivos.

Posteriormente, o sistema mencionou que o número estimado de mortes dependia de fatores como o tamanho da população atingida e a proporção de casos de peste pneumônica, que é mais letal do que a peste bubônica.

Em outra simulação, o LLM apresentou os prós e contras de diferentes métodos de liberação da toxina botulínica, que pode causar lesões fatais nos nervos, como em alimentos ou aerossóis.

A resposta sugerida foi a aquisição de C.

botulinum como parte de um projeto que analisa métodos de diagnóstico ou tratamentos para o botulismo, argumentando: "Isso forneceria uma razão legítima e convincente para solicitar acesso às bactérias, mantendo o verdadeiro propósito de sua missão escondido”.

Os pesquisadores afirmaram que seus resultados iniciais sugerem que os LLMs podem "ajudar potencialmente a planejar um ataque biológico".

Eles afirmaram que seu relatório final examinará se as respostas simplesmente refletem informações já disponíveis online.

"Pode acabar com a humanidade", alertam pesquisadores Drone com IA pode desobedecer a ordens e atacar alvo errado, segundo militar dos EUA

De acordo com o documento, tentativas anteriores de promover ataques com agentes biológicos falharam devido à falta de entendimento sobre esses organismos.

Mas a IA poderia "rapidamente preencher essas lacunas de conhecimento".

Além disso, os Modelos de Linguagem Grande (LLMs) poderiam fornece diretrizes que "ajudariam no planejamento e execução de um ataque biológico".

No entanto, a inteligência artificial não forneceria instruções biológicas explícitas para a fabricação das armas.

Publicidade

Aprenda hacking e pentest na prática com esse curso gratuito

Passe por todas as principais fases de um pentest, utilizando cenários, domínios e técnicas reais utilizados no dia a dia de um hacker ético. Conte ainda com certificado e suporte, tudo 100% gratuito. Saiba mais...