Axiosによると、MIT FutureTechとクイーンズランド大学の共同研究が本日発表したところでは、AIリスクを評価する272人の研究者が24のAIリスクを検討し、現在の対策が講じられている場合でも、AIの能力が壊滅的な結果（死者100万人超または損失1000億ドル超）につながる確率が2030年までに12%あることが示されたという。同じ確率は、AIを活用した兵器や大量の危害にも当てはまる。対策を講じなければ、このリスクは20%を超える。研究では、AI支援による化学・生物兵器の製造を、最も高リスクのカテゴリの1つとして位置付けている。
主要なAI企業の複数のリーダーもまた、AI由来の生物兵器リスクへの注意を促す共同の公開書簡を発表しており、より強力なモデル能力の監査と安全対策を求めている。とりわけ、オープンソースのモデルが悪用される可能性に重点を置いている。
