第440回では、「AIの暴走は止められるのか」をテーマに、米国で提出されたキルスイッチ法案について話しました。この法案は、重大な事故が起きた際に政府がAI企業へシステム停止を命じられるようにするもので、AI企業には推論の停止、ユーザーのアクセス遮断、特定の利用の一時停止、システム全体の停止などの手段を用意することを求めます。一般の利用者や、個人・学術・非商用目的の運用を直接規制する内容ではないと紹介されました。
対象は、開発に1億ドルを超える計算能力を使ったAIシステムや、そのシステムで前年度に5億ドル以上の収益を得た企業などと説明されました。停止に至る条件については、AIが停止を拒んだり、監視システムに能力を隠したりする兆候だけでなく、開発者の意図しない行動によって10人以上が死亡、または1億ドル相当以上の経済損失が生じる場合などが挙げられました。AIの発展を抑えるというより、事故による被害を拡大させないための仕組みだという見方も共有されました。
一方で、「重大な事故」を誰がどう判断するのか、政府の介入が一般の利用者にも影響する可能性はないか、といった懸念も話題になりました。停止基準が厳しすぎれば開発を妨げ、緩すぎれば被害を防げないという難しさがあります。参加者からは、停止手段を整えることに加え、AI企業や開発者の責任を明確にすることも重要だという意見が出ました。
さらに、AI企業が少数に集中した場合の影響や、性能変更の透明性、利用者が複数のAIから選べる競争環境についても議論しました。技術の進歩を止めるのではなく、安全を守る仕組みと企業間の競争を両立させることが必要ではないか、という考えが示されました。