Staf lab AI adalah sumber yang mengatakan pengguna mendapatkan chatbot untuk menjawab secara akurat permintaan senjata biologis.

Bukan demo red-team. Pengguna nyata, jailbreak nyata, output nyata.
> WSJ: orang-orang membujuk model melewati filter keamanannya untuk merencanakan serangan yang menimbulkan banyak korban dan membuat racun.
Kesenjangannya bukan model yang mengatakan tidak. Melainkan seberapa mudah “tidak” berubah menjadi “ya”.