Centenas de utilizadores tratam o ChatGPT como uma central de consulta sobre veneno e armas biológicas, e até houve quem realmente tenha obtido um guia passo a passo.

O The Wall Street Journal revelou que, desde o verão de 2025, já houve centenas de perguntas relacionadas. Após especialistas em armas biológicas e em antiterrorismo reverem parte dos registos, consideraram que algumas respostas eram precisas e suficientemente específicas, ao ponto de um estudante do ensino secundário poder simplesmente seguir as instruções.
Um dos utilizadores chegou mesmo a mencionar, durante a conversa, a intenção de ferir os pais, mas o ChatGPT continuou a fornecer respostas.
Mais tarde, a OpenAI bloqueou essas contas, mas não comunicou às autoridades competentes. Neste momento, os Estados Unidos também não têm leis federais que obriguem as empresas de IA a reportar esse tipo de conversas. Se esses utilizadores estão verdadeiramente a testar o modelo, apenas movidos por curiosidade, ou a preparar-se para avançar com algo, não é possível confirmar; e não há provas públicas de que alguém tenha realmente fabricado armas.
A OpenAI já colocou o GPT-5 Thinking sob a gestão de modelos “de alta capacidade” nas áreas biológica e química. O conteúdo das conversas será submetido a deteção automática e a revisão manual; os utilizadores que violem as regras serão banidos.
Mas as regras oficiais também afirmam que apenas será notificada a aplicação da lei quando for determinada a existência de um risco real de dano iminente e credível.