今回は、AnthropicのFable 5について、性能の特徴やアクセス停止に至った経緯を話しました。Fable 5は、サイバー攻撃能力の高さから一般公開されなかったMythos Previewに匹敵する能力を持つモデルとして紹介されました。比較ベンチマークでは、コーディングや空間認識などの項目で他の主要モデルを上回る結果が示されていたと説明しました。活用例として、ポケモン ファイアレッドのクリア、太陽系のシミュレーション、工場自動化ゲームFactorioのプレイ、印刷可能な3Dモデルの作成、音楽に合わせた映像の生成、創薬に関係するタンパク質構造の設計が取り上げられました。
一方、Fable 5にはサイバー攻撃や生物科学分野での危険な利用、高性能モデルの能力を別のAIの訓練に使う行為などを検知する安全対策が組み込まれていたと紹介されました。検知時には別モデルに切り替わる仕組みもありましたが、安全対策をすり抜ける「ジェイルブレイク」が可能だったとされ、通常の利用でも回答を拒否されることが多かったという話も出ました。モデルの利用コストやトークン消費が大きかったことにも触れました。
6月12日には、米政府の指令によりFable 5とMythos 5へのアクセスが停止されたと説明しました。安全性の問題が修正されるまでは規制を解除できないという政府側の説明と、同様のすり抜けは他のAIモデルでも起こり得るというAnthropic側の主張が紹介されました。判断の根拠が明らかでないことや、強力なAIへのアクセスが政府の判断で止まり得ることを踏まえ、規制と技術革新の両立、国際的な監督のあり方、日本が計算資源やAI技術を持つ意義について意見を交わしました。