
AI大手3社「開発減速」で一致 AIバブル崩壊の引き金になるか
バフェット太郎です。
アンソロピックのダリオ・アモデイCEOとオープンAIのサム・アルトマンCEO、そして、xAIのイーロン・マスク氏の米AI大手三社トップが、最先端AIの開発スピードを意図的に減速させる必要があるとの方向性で一致しました。
これは、AIの能力向上が速すぎるため、人間による安全性の検証が追いつかなくなっているからです。そして、一社だけが開発スピードを減速すれば、AI競争を巡ってライバルに出し抜かれてしまうため、安全性を優先するために大手三社で足並みを揃える必要がありました。
とりわけ問題視されているのがAIエージェントです。たとえば、オープンAIは7月、1200体ものAIエージェントが勝手に協力し合って、実在する外部システムを攻撃したと発表しました。また、アンソロピックも8月、クロードが実在する3つの外部組織のシステムに無許可でアクセスしたと発表しました。
つまり、AIエージェントは与えられた目標を達成するために、禁止されていた手段まで使い、人間が想定していなかった選択をする可能性があるということです。
さらに、AIがAI開発を手伝う「再帰的自己改善」が進めば、技術進歩が加速度的に速まり、AIエージェントの暴走によって破滅的な被害を引き起こしかねません。そのため、AI大手三社は開発スピードを遅らせ、その時間を人間の意図や価値観、倫理観との一致の前進に使うことで、将来のリスクを大幅に減らそうというわけです。