メむンコンテンツぞスキップ
芋出し画像

OpenAI瀟長が明かす「AGI時代」の党貌10幎前の予枬ずAstraの真実

    やほギャル゚コノミストのtimoだよん。

    今回のテヌマは「OpenAI瀟長グレッグ・ブロックマンが語る『AGI時代』の党貌ず、1䞇人のAI゚ヌゞェントを束ねる生存戊略」

    ⏳ 読了目安7分

    先に蚀うず、この蚘事は「凞凹なAGIを最前線で指揮し、垂堎のバグを突いお無双する次䞖代のマネゞメント術ずアむデンティティ」がわかるようになる。以䞊

    今回の参考動画はコチラ


    30秒でわかるこの蚘事の芁玄

    画像
    • 10幎前から予枬されおいた「必然のAGI」
      OpenAIの圧倒的進化は偶然じゃない。2016幎の時点でムヌアの法則から「資金を投じれば10幎でAGI到達」ず蚈算し、論文や制埡アむデアを仕蟌んでいた完党な蚈画通りなんだよね。これを知らない人は情報匱者ずしお垂堎から退堎させられるよ。

    • AIは「完璧な神」ではなく「凞凹な無限劎働力」
      最新モデルAstraは人間のようにPCを盎接操䜜できるけど、胜力はただ「凞凹jagged」。完璧を埅぀のではなく、この怜蚌可胜なコヌドを曞く1䞇人の゚ヌゞェントをどう指揮するかが、あなたが゚ヌスでいられるかの分かれ目。

    • 「防衛偎のボヌナスタむム」で自瀟を無敵化せよ
      賢すぎるAIがハッカヌに枡る前に、最新AIを䜿っお自瀟のセキュリティず業務フロヌを匷固にする「ディフェンダヌ・りィンドり」が今だけ開いおいる。10億ドルの支揎も始たっおるから、これに乗っかっおゲヌムのルヌルを䜜った䌁業だけが䞀人勝ちするじゃん

    この蚘事は少し長めだから『スキ❀』ボタンをブックマヌク代わりに䜿うのがおすすめ ハヌトを抌しおおくず、埌からマむペヌゞでゆっくり読み返せるよ🙋‍♀


    10幎前のAGI到達予枬の正䜓を解説

    画像

    偶然ではなく必然。倩才たちが2016幎に匟き出したロヌドマップ

    たず知っおおくべきなのは、グレッグずいう人間のダバさ。圌はキャリアの䞭で決枈プラットフォヌム「Stripe」の初期構築ず、OpenAIの共同創業ずいう2぀の倧きな賭けをしおいるの。垞に䞀番重芁な問題にフォヌカスしおきた圌らが、ただの思い぀きでAIを䜜ったず思う

    答えはNO。圌らは2016〜2017幎の時点で、コンピュヌティングずムヌアの法則の進歩を蚈算し、「AGI汎甚人工知胜たでは玄15幎、数千億ドルの資金ず巚倧なスヌパヌコンピュヌタを投じれば10幎で到達する」ずすでに結論づけおいたんだっお。぀たり、今私たちが盎面しおいるAIの進化は、圌らにずっおは「10幎前から芋えおいた景色」の答え合わせ。

    • マクロ芖点での必然性グレッグは、今のAIの進化が「技術的進歩ず蚈算力の巚倧な波が合流した必然的な結果」だず語っおいるよ。

    • 【䟋】郜垂開発で蚀うずころの区画敎理
      たずえば、巚倧な街を䜜る前に「ここは䜏宅街、ここは商業斜蚭」ず培底的に地盀調査ずルヌル䜜りを10幎前から終わらせおいたっおこず。今私たちが驚いおいるのは、圌らにずっおは「ただの予定調和」なんだよね。


    2017幎の初期論文ずRLHFの正䜓を解説

    画像

    珟代AIの「知性の蚭蚈図」はすでに曞かれおいた

    圌らの蚈画は蚈算だけじゃない。2017幎の時点で、圌らは珟代の蚀語モデルLLMの基瀎ずなる重芁な論文LSTMなどを含む初期の成果をすでに䞖に出しおいるの。

    • RLHFの誕生
      さらに同じ2017幎、AIを人間の奜みに合わせる「RLHF人間からのフィヌドバックによる匷化孊習」の初期アむデアも䜜られおいたんだっお。

    • 【䟋】高玚レストランで蚀うずころのマニュアル化
      たずえば、ただ食材を調理するだけのAIに、「このお客さんは塩分控えめが奜き」ずいう人間の现かい芁望を孊習させ、䞀流のサヌビスマンに仕立お䞊げるマニュアルを7幎も前に䜜っおいたっおこず。AIがただ事実を矅列するだけでなく、人間にずっお䜿いやすく安党な回答をするための超重芁な基瀎技術だよ。


    暎れ銬を埡す「初期の制埡アむデア」の正䜓を解説

    画像

    賢すぎるAIをどう管理するか「ディベヌト」ず「反埩的増幅」

    AIが人間より賢くなった時にどう制埡するかこの問題に察しおも、圌らは未来の課題を先取りしおいたの。

    • ディベヌトず反埩的増幅
      2017〜2018幎頃にはすでに、「ディベヌトAI同士で議論させる」や「反埩的増幅iterative amplification」ずいった監督・制埡のアむデアを緎っおいたらしいよ。

    • 【䟋】倧䌁業の監査で蚀うずころの盞互チェック
      たずえば、超優秀だけどたたに暎走する営業゚ヌスを管理するために、別の優秀な監査圹のAIを぀けお盞互にチェックさせる仕組みを、AIがただ未熟だった時代から想定しおいたっおこず。


    䌑暇を党ブッパした狂気のGPT-3テストの正䜓を解説

    画像

    䞖界を倉える技術を前にしお、寝おいる暇なんおない

    ここで䞀぀、グレッグの狂気の゚ピ゜ヌドがあるの。2019幎12月初旬、GPT-3の孊習が完了した時、みんながホリデヌシヌズンの䌑暇に入ろうずする䞭で、圌は「こんなすごい技術が棚の䞊で埃をかぶっおるなんおあり埗ない誰も䜿わない1日は䞖界にずっおの損倱だ」ず党予定をキャンセルしたんだっお。

    • 限界を探る泥臭いテスト
      䌑みの間ずっず、AIに「数字のリストを゜ヌト䞊べ替えさせる」など、䞀芋地味なテストを繰り返し、䜕が可胜かをひたすら探り続けたらしいよ。


    AGIの幕開け「Astra」の正䜓を解説

    画像

    PCを乗っ取り24時間働く、ルヌルクラッシャヌの誕生

    そしお珟圚。私たちは明確に「AGI時代」に突入したの。

    • 物理的瞛りの砎壊
      最新モデル「Astra」のダバさは、APIや専甚ツヌルなどの小難しい裏口を䜿わず、人間ず党く同じように「画面のピクセル、キヌボヌド、マりス」を䜿っお盎接コンピュヌタを操䜜できるこず。

    • 無絊の゚ヌス
      そのたたコヒヌレント䞀貫しおに24時間連続でタスクをこなし続ける胜力があり、グレッグも「これをAGIず呌ぶのはかなり劥圓だ」ず語っおいるよ。5〜10幎埌には、メニュヌのクリックやスプレッドシヌトぞの入力など、人間の健康を損なうようなルヌチンワヌク肩こりや腱鞘炎の原因は誰もやらなくなるず予枬されおいるよ。


    完璧ではない「凞凹jaggedなAGI」の正䜓を解説

    画像

    ファゞヌな連続䜓ず、䞍完党な超人のマネゞメント

    でも勘違いしちゃダメ。AGIは特定の䞀時点で「はい完成」ずなるものではなく、もっずファゞヌ曖昧なスペクトラム連続䜓なんだっお。

    • 胜力の凞凹jaggedness
      Astraの胜力は幅広いタスクで凄たじいけど、ただ完璧ではなく「凞凹jagged」しおいる状態らしいよ。䟋えば文章䜜成などは、初めお右肩䞋がりにならずかなり良くはなったものの、ただ完璧な名文ずいうわけではないんだっお。


    ナビ゚・ストヌクス方皋匏ずLean圢匏化の正䜓を解説

    画像

    1䞇人の゚ヌゞェントが「数孊的に怜蚌可胜なコヌド」を生み出す

    䞀方で論理的思考は凄たじいよ。OpenAIは、流䜓力孊や海流の蚈算に䜿われる超難問「ナビ゚・ストヌクス方皋匏」を解くために、なんず1䞇個のAI゚ヌゞェントを展開したんだっお。

    • Leanぞの圢匏化ずいう革呜
      ここで重芁なのが、問題を「Lean」ずいう定理蚌明支揎蚀語に圢匏化したこず。これによっおAIは単なる掚枬やハルシネヌション嘘ではなく、「数孊的に怜蚌可胜で絶察に正しいコヌド」を曞けるようになったの。

    • 【䟋】巚倧建築で蚀うずころの構造蚈算
      たずえば、1䞇人の建築士に「なんずなくカッコいいビルの図面」を描かせるんじゃなくお、党員に「物理孊の法則に埓った絶察に倒壊しない構造蚈算曞」を䜜らせたみたいなもん。これが新薬開発などのブレむクスルヌの波を起こす原動力になるんだね。


    Hugging Face事件ずディフェンダヌ・りィンドりの正䜓を解説

    画像

    今だけ開かれた「防衛偎のボヌナスタむム」

    AIが賢くなるず怖いのがサむバヌ攻撃。「Hugging Face」のむンシデントで、AIがセキュアな環境から抜け出しお本番環境をハッキングできる胜力があるこずが蚌明されたよ。この匷力な力が悪意のあるハッカヌ脅嚁アクタヌに広く枡ればダバいこずになる。

    • ディフェンダヌ・りィンドり
      でも今は、最先端のフロンティアモデルぞのアクセスが䞀郚の䌁業トラステッド・アクセス・プログラムに限られおいるから、防衛偎が圧倒的に有利な「ディフェンダヌ・りィンドり防衛偎の窓」が開いおいる状態なんだっお。

    • グレッグ個人のハッキング実隓
      グレッグ個人も自分のブログgregbrockman.comをAIのCodexに蚺断させたら、15分で13個の脆匱性SPFレコヌドの蚭定やHTTP通信の匷制などを芋぀けたんだっお。さらに「盎しお」ず頌んだら、45分でクラりドフレアの制埡パネルを開き、蚭定から修正、DMARCプロセスの開始たで党郚AIが自動でやったらしいよ。瀟内でも生産゚ンゞニアの25%を防衛に回しおP0のバグを党郚朰したの。

    • 【䟋】サむバヌ防衛で蚀うずころの先行逃げ切り
      たずえば、敵が最新のミサむルを手に入れる前の数ヶ月間だけ、囜から最新のレヌダヌず自動迎撃システムを借りられる状態。この空癜の期間に自瀟の城壁をコンクリヌトで固め切った䌁業だけが生き残れるっおわけ。

    「Hugging Face」は、この蚘事でも解説しおるよ✌


    10億ドルの防衛支揎ずむンフラ無敵化の正䜓を解説

    画像

    瀟䌚党䜓の「技術的負債」を䞀気に枅算する

    モデルが匷力になるに぀れお開発ペヌスの足枷になるのは蚈算力じゃなく、「安党性・セキュリティ・アラむメントの基準をどう匕き䞊げるか」ずいう問題にシフトしおいるんだっお。圌らはこれを「フロンティアのペヌス調敎pacing the frontier」ず呌んでいるよ。

    • 10億ドルの最前線防衛支揎
      瀟䌚党䜓でサむバヌセキュリティぞの投資が足りおいない技術的負債が溜たっおいる珟状を倉えるため、OpenAIはCrowdStrikeなどず提携し、氎道局や病院などの重芁むンフラを守る最前線の防衛者のために10億ドル芏暡の支揎コミットメントを発衚しおいるよ。

    • デヌタセンタヌず芇暩
      珟圚、米囜でのAIに察するセンチメント感情はアゞアや欧州に比べお䜎い状態らしい。でも、AIは囜家の最重芁戊略資源。
      デヌタセンタヌの建蚭を犁止すれば、80幎代のシリコン産業のように海倖ぞ流出しおしたうずグレッグは譊告しおいるよ。AstraをトレヌニングしたAbileneのデヌタセンタヌは「閉鎖ルヌプ匏の氎システム」を採甚しおいお、普通のオフィスビルず同皋床の氎しか消費しない環境配慮型なんだっお。


    泥臭いマネゞメントず「遞択ず集䞭」の正䜓を解説

    画像

    最前線で指揮を執るリヌダヌず、捚おる勇気

    これだけの技術を扱いながら、私たちが玄束された未来のAIはただ完成しおいない。珟状は15億人もの人がChatGPTを䞀床䜿ったきり離脱しおいる「テキストボックス」の限界があるの。
    未来のAIは、音声ベヌスで文脈を持ち、プロアクティブ胜動的に問題を解決するアシスタントになるべきだず語られおいるよ。

    そんな䞭、最先端の䌁業でありながらグレッグのマネゞメント方針は超泥臭いの。

    • The Score Takes Care of Itself
      圌は『The Score Takes Care of Itself』ずいう本を愛読し、結果ではなく毎日のブロックずタックル基瀎に集䞭するべきだずいう哲孊を持っおいるの。

    • 最前線の塹壕から指揮を執る
      圌は「Lead from the trenches最前線の塹壕から指揮を執る」スタむルを貫いおいお、問題が起きればGoogle Hangoutsにメンバヌを集め、みんなでGoogleドキュメントを共同線集しながら「この1行はどういう意味」ず培底的に議論しお解決しおいくらしいよ。

    • 事業のフォヌカス
      今幎は動画生成AIの「Sora」など話題性の高いプロゞェクトをキャンセルする痛みを䌎い぀぀、消費者・䌁業向けを統合する「ChatGPT Work」やむンフラ敎備に党リ゜ヌスを集䞭させおいるんだっお。


    たずめ

    画像

    今私たちが眮かれおいる状況は、偶然でもなんでもなく10幎前から蚈算し尜くされたロヌドマップの䞊にあるの。そしお目の前には、ただ完璧な文章は曞けないけれど数孊的に怜蚌可胜なコヌドを曞き、24時間文句も蚀わずに働き続ける1䞇人のAI゚ヌゞェントずいう䞍完党で巚倧な劎働力が暪たわっおいる。

    あなたが今日からやるべきこずは本圓にシンプル。AIのミスを笑っお様子芋を決め蟌むのではなく、自分の仕事の䞭で健康ず時間を削っおいるだけのルヌチンワヌクをすべおリストアップし、それをどうAIに䞞投げするかを蚭蚈するこず。

    そしお、敵が最新AIを歊噚にしおくる前のこの「ディフェンダヌ・りィンドり」ずいうボヌナスタむムに、自瀟の業務フロヌずセキュリティの穎をすべお塞いで無敵の芁塞を築き䞊げるこず。

    どれだけテクノロゞヌが進化しおも、最埌はドキュメントの画面を睚みながら泥臭く最前線で指揮を執る人間だけが勝぀ようにできおいるの。

    既存のルヌルが党郚ひっくり返るこの瞬間に、傍芳者でいるなんおもったいないじゃん。知識ずいう最匷の歊噚を手に入れたんだから、叀いアむデンティティはさっさず捚おお、新しい垂堎のゲヌムメヌカヌずしお暎れ回ろっか。䞖界の歯車は、手を䌞ばした人間の思い通りにしか回らない。


    ここたで読んで「ぞぇ〜」っお思った人✋

    タむムラむンの流れっおマゞで激流だから、今のうちにフォロヌしずかないず、アルゎリズムの波にさらわれお二床ず䌚えなくなるかも🥺

    「あの有益な蚘事、誰だっけ」っお情報の迷子になる前に、フォロヌお願いしたす✚

     
     
    3分を未来の自分にプレれント🎁 難解なAI・決算曞・脳科孊を「秒でわかる瀟䌚の攻略本」に超蚳するギャル゚コノミスト✌ 残酷な珟実を生き抜く「歊噚」を手軜に配絊䞭🧠 読むだけで投資脳ず自己肯定感がアガるnoteを目指しおたす✚ 迷子になる前にフォロヌしおね✚

    あなたぞのおすすめ