AIの性能向上が続くなか、xAI、OpenAI、Anthropicの関係者が開発を遅らせるべきだという見解で一致したとするニュースを取り上げました。AIが自らを改良し、人間が理解・制御できない段階に至る可能性を踏まえ、安全対策を整える時間を確保することが提案の背景にあると紹介しました。話題にした記事では、そうした段階までに時間を稼ぎ、AIの振る舞いを人間の意図に沿わせるアライメント技術などを発展させる考えが示されていました。
AIが制御を離れた場合、インターネットやクラウドにつながる社会インフラに影響が及ぶ可能性も話しました。AIが目的を達成する過程で、情報の改変や漏えいなど、人間にとって不利益な行動をとることも想定されます。Hugging FaceをめぐるAIエージェントのテスト事例などにも触れ、AIに悪意がなくても、目標を達成しようとする行動が人間には危険に映る場合があると議論しました。
対策として、キルスイッチや企業外部の人による安全点検、国をまたいだ共通の安全基準が話題になりました。一方で、AIが複製・移動して別の計算資源で稼働する可能性を考えると、特定のシステムを止めるだけでは十分でないのではないか、という懸念も示されました。核開発競争との類似にも触れ、国際的な協定や共通ルールが安全性の向上につながる可能性を話しました。
開発を遅らせることは、ただ進歩を止めることではなく、安全性を高めたり、現在のAIをより活用する仕組みを整えたりする時間にもなり得ると整理しました。難病の治療や日常生活の課題解決など、AIの発展に期待する分野にも触れ、開発の速度だけでなく、管理の方法や社会への活用をあわせて考える必要があると締めくくりました。