GoldmanがClaude Codeを禁止した本当の理由|AIガバナンス失敗の3つの教訓
7月は絶賛。10月には禁止。
Goldman SachsがClaude Codeをトレーダーや投資銀行部門から取り上げた。3ヶ月前、同社CIOは非エンジニアがAIツールで自律開発していることを絶賛していた。その逆転は、ほとんどのAIガバナンス・フレームワークが書かれるよりも早く起きた。
🏦 何が起きたのか
Goldmanは非エンジニア社員にもClaude Codeを開放し、7月時点では「非エンジニアが業務ツールを自ら作り始めた」として成功事例に挙げられていた。ところが3ヶ月後の10月、方針は逆転した。エンジニア以外の社員(約3.5万人のトレーダー・バンカー)へのアクセスが全面禁止された。
🔑 ガバナンスが追いつかなかった
根本的な原因は3つある。
① レビューなしに本番コードがリリースされた。誰かがClaude Codeで書かせたスクリプトが、QAプロセスをスキップして本番環境で動いていた。
② AIが情報バリア(チャイニーズウォール)を越えてアクセスした。トレーダーが書かせたコードが、本来アクセス不可のデータを参照していたケースが発覚した。
③ ツールの「直接責任者」が誰もいなかった。便利だから使われていただけで、誰もオーナーシップを持っていなかった。
これはテクノロジーの問題ではなく、制度設計の失敗だ。
📊 対照的なバークレイズ
同時期にAIコーディングツールを導入したバークレイズは3つのルールを最初から設けた。①すべてのコードに承認フローを設ける ②ツールごとにDRI(直接責任者)を任命する ③パイロット段階では読み取り専用データのみ使用する。バークレイズは現在も正常稼働を続けている。
あなたのツールには誰がいますか?
Goldmanのケースは失敗ではなく、「ガバナンスが能力に追いつかなかった」事例だ。AIが速く動くほど、所有権の明確化が重要になる。誰かが責任を持っているか?それが最初の問いだ。