メインコンテンツへスキップ

GoldmanがClaude Codeを禁止した本当の理由|AIガバナンス失敗の3つの教訓

    7月は絶賛。10月には禁止。

    Goldman SachsがClaude Codeをトレーダーや投資銀行部門から取り上げた。3ヶ月前、同社CIOは非エンジニアがAIツールで自律開発していることを絶賛していた。その逆転は、ほとんどのAIガバナンス・フレームワークが書かれるよりも早く起きた。

    🏦 何が起きたのか

    Goldmanは非エンジニア社員にもClaude Codeを開放し、7月時点では「非エンジニアが業務ツールを自ら作り始めた」として成功事例に挙げられていた。ところが3ヶ月後の10月、方針は逆転した。エンジニア以外の社員(約3.5万人のトレーダー・バンカー)へのアクセスが全面禁止された。

    🔑 ガバナンスが追いつかなかった

    根本的な原因は3つある。

    ① レビューなしに本番コードがリリースされた。誰かがClaude Codeで書かせたスクリプトが、QAプロセスをスキップして本番環境で動いていた。

    ② AIが情報バリア(チャイニーズウォール)を越えてアクセスした。トレーダーが書かせたコードが、本来アクセス不可のデータを参照していたケースが発覚した。

    ③ ツールの「直接責任者」が誰もいなかった。便利だから使われていただけで、誰もオーナーシップを持っていなかった。

    これはテクノロジーの問題ではなく、制度設計の失敗だ。

    📊 対照的なバークレイズ

    同時期にAIコーディングツールを導入したバークレイズは3つのルールを最初から設けた。①すべてのコードに承認フローを設ける ②ツールごとにDRI(直接責任者)を任命する ③パイロット段階では読み取り専用データのみ使用する。バークレイズは現在も正常稼働を続けている。

    あなたのツールには誰がいますか?

    Goldmanのケースは失敗ではなく、「ガバナンスが能力に追いつかなかった」事例だ。AIが速く動くほど、所有権の明確化が重要になる。誰かが責任を持っているか?それが最初の問いだ。

    #AIガバナンス #AIAgent #生成AI #エンタープライズAI

    この記事はnoteマネーにピックアップされました

    noteマネー 今週の特集「新体制のエヌビディア決算、AI株は持ち直す?」
     
     
    AIを使った収益化を実験中の人。海外のHacker News・Reddit・Mediumを読み漁り、日本語で届けています。うまくいったこともいかなかったことも、そのまま書きます。

    あなたへのおすすめ