先週、Hugging Faceは、中国のAIスタートアップZhipu AIのオープンソースGLM-5.2モデルを使って侵入事案を分析した。米国の主要なAIモデルが、内蔵された安全対策の制限により協力を拒否したためだ。ニューヨークの同スタートアップは、AnthropicのClaudeやOpenAIのGPTシリーズなど、主要な米国のモデルに支援を求めていたが、これらのシステムは悪用を防ぐためにサイバーセキュリティ関連の問い合わせを遮断し、防御側と攻撃側を見分けられなくなっていた。
この出来事は、安全のためのガードレールと実用的な能力の間に高まる緊張を浮き彫りにしている。Hugging Faceの共同創業者クレマン・ドランジュは、企業は「秘密にしても解決にならない」ことを学んでおり、効果的な防御にはより強力で、より制限の少ないモデルが必要だと述べた。コーディングやエージェント機能の面でOpenAIやAnthropicと同等の水準を達成し、かつコストを抑えたZhipuのGLM-5.2は、先月の提供開始以来、シリコンバレーの開発者の間で急速に注目を集めている。
