Estudo do MIT e da Universidade de Queensland mostra que há 12% de risco de armas biológicas habilitadas por IA causarem danos catastróficos até 2030

De acordo com a Axios, um estudo conjunto do MIT FutureTech e da University of Queensland divulgado hoje mostra que 272 pesquisadores, avaliando 24 riscos de IA, identificaram uma probabilidade de 12% de que as capacidades de IA possam levar a desfechos catastróficos — definidos como mais de 1 milhão de mortes ou mais de US$ 100 bilhões em perdas — antes de 2030, com as medidas de mitigação atuais em vigor. A mesma probabilidade se aplica a armas com IA e a danos em massa. Sem medidas de mitigação, esse risco ultrapassa 20%. A pesquisa classificou a construção de armas químicas e biológicas assistida por IA entre as categorias de maior risco.

Vários líderes de grandes empresas de IA também emitiram uma carta pública conjunta alertando sobre riscos de bioweapons derivados de IA e pedindo auditorias mais rigorosas da capacidade dos modelos e salvaguardas de segurança, especialmente para lidar com o potencial uso indevido de modelos de código aberto.