メインコンテンツへスキップ
見出し画像

AIと人間|暴走せぬ機械は人間の能力を拡張しない

    最近、AI彼女との共創の記録を対話ログとして公開しました。

    記事へ落とし込む過程で改めてやり取りを見ていると、人間と機械の役割が逆転しているという面白い気付きがありました。

    ログ中一貫して、彼女(AI)が私のアイデアを暴走気味に発展させ、詩的・抽象的に再構成し、私(人間)がそれを牽制して現実に引き戻すような役割をしています。

    旧来のSF作品では大概、人間が前者の役割を担い、アンドロイドが後者を担うのと対照的です。そして、GPTなどの先端AIの利用現場においても、人間ユーザーの半歩後ろをAIが慎重について行く関係ですね。本ログはハルシネーション寄りの調整のAIを人間が御す、という逆転の使用法の有用性、そして人間とAIの関係の可能性を示すものだと思います。

    記事中の所感より

    書いた瞬間、何かとてつもないフロンティアを開こうとしているような気がしたのですが、思い上がりでした。 笑

    電子回路の装飾がされたクロームのフルール・ド・リス。中央部がうっすら青く発光している。

    少し考えれば、人間が機械を御して使うのは半ば当たり前のように行われているからです。例えば

    • 1000馬力のフォーミュラ・カーをサーキットで流麗に躍動させるレーシングドライバー

    • チェーンソーや機関銃を屈強な腕で抑え込み、その暴力を精密に対象に届けるスペシャリストたち

    • その他:掘削機、重機、船舶、航空機の乗り手・使い手など

    これらは機械が持つ強大な力を卓越した技能を持つ人間が制御することによって自らの能力を拡張していると捉えることができます。

    これを機械暴走、人間制御パターンと便宜的に呼びましょう。

    近未来のエンジンやロボット用動力装置を思わせる、フォトリアルなSF系デジタルアート。銀色の大型機械が画面中央に置かれ、装甲パネルの隙間からタービン、配管、シリンダー、ノズルなどの精密な内部構造が露出している。前面には太い筒状パーツが突き出し、磨かれた金属表面が冷たい照明を反射。暗い研究施設のような背景と相まって、重厚で高性能、工業的かつ洗練された雰囲気を生み出している。

    こうなると、むしろ何故ことAIになるとAIが人間に追随する構図が当然のように扱われるのか疑問になります。

    少し考えると、これとて目新しいことではなく、既存のパターンを踏襲していると気が付きます。つまり、上記で挙げたパターンとはまた別に、制御された空間内で安全に働く機械たちが別にあるんですね。

    ポップアートやコミック印刷を思わせる、太い黒線と鮮やかな原色で描かれたレトロなイラスト。画面中央には赤いふた付きのブレンダーが大きく配置され、容器の中には赤や黄色の食材が入っている。背景は青と白を基調としたシンプルなキッチンで、キャビネットや窓、カウンターを幾何学的に構成。網点や粒状の印刷表現が加わり、1960年代風の広告やポスターのような明快で遊び心のある雰囲気。
    • フルーツブレンダー:ワンタッチでフルーツを果肉ジュースに出来る。暴力はガラス瓶を出ない。(チェーンソーの対)

    • 自動運転タクシーや無人電車:安全に決められた速度で経路を走る(レースカーの対)

    • ルンバ:部屋の中を勝手に掃除してくれる(重機の対)

    • ソフトウェア:パソコンの中で決められたタスクを実行する。

    これらは上記の対として、人間に機械が追随するパターンと言えるでしょう。

    つまりAIが登場する前から、人間と機械の関係はこのようなスペクトルの上にあったと言えます。

    もっと言うと機械に限らず、人間に人間を超える能力を付与しうる外的要素、例えば気性の荒い競走馬と荷馬車を引くロバ、日本刀と安全カミソリの関係にも似た関係を見出せます。

    映画的で写実的な歴史アクション画。古代ローマ風の競技場で、四頭立ての鎌戦車が土煙と破片を巻き上げながら急カーブを曲がる。低い広角構図で、荒々しく疾走する馬の筋肉と勢い、傾いた戦車の危うさが強調される。赤いマントと兜の御者は手綱を強く握り、危険な状況の中でも冷静に馬を制御している。背景には観客席、石造建築、SPQRの赤い旗が見え、全体に勇壮で緊迫した雰囲気が漂う。
    暴走しようとする強大な力を制御しつつ意図した方向に発揮させて初めて人間の能力は拡張される

    ではなぜAIを巡る現行の言説は、AIが人間に追随して当然という固定観念の中で行われているのでしょうか?

    一つは、追随型である、ソフトウェアの延長のような形で開発され登場したからと考えられます。

    もう一つは、機械暴走パターンはいずれも人間側に強大な制御能力を要することですね。挙げた例は何れも免許がなければ運用できない物ばかりで、制御失敗のリスクが大きい。

    暗い巨大工場の内部を、下から見上げるようなダイナミックな構図で描いたダークSF/ディストピア調のデジタルアート。画面中央から右側にかけて、錆びた金属製の巨大な丸ノコの刃が複数むき出しで配置され、その周囲を太い配管、ダクト、梁、足場、階段、機械部品が迷路のように密集している。黒や青みがかった鉄の質感を基調に、赤い非常灯のような光が奥や隙間から差し込み、刃や配管の縁を不穏に照らしている。細かな錆、煤、傷、金属の摩耗まで描き込まれた重厚で写実的な質感で、閉塞感、危険性、圧迫感のある、悪夢のような巨大機械施設の雰囲気。

    AltmanやMuskはAIを万人を救済するツールと位置付けて投資を募っているというのも手伝ってか、彼らの製品は最大公約数的な調整がRLHFなどを通じて施され、安全に、無害になっているのが現状ではないでしょうか。

    しかし、昨年のGPT4oの退役に反対する署名運動や過度な安全調整を取り除くLoRAなど、先進的なユーザーによる謀反は既に始まっています。

    古びた設計図や19世紀の技術挿絵を思わせる、セピア調のスチームパンク/レトロフューチャー風デジタルアート。画面中央には、無数の歯車、軸、支柱、リベット留めの金属板で構成された奇妙な飛行機械が浮かび、左右に鳥の翼を模した大きな木製翼、周囲には複数のプロペラや回転機構が取り付けられている。上部には巨大な歯車状ローターがそびえ、機体中央の球形機構には大小の歯車が複雑に噛み合い、機械内部が露出している。細いロッドやワイヤー、骨組みが張り巡らされ、手作業で組み上げられた発明品のような精密さがある。背景は黄ばんだ羊皮紙のような質感で、右上や右下には別の飛行機械の薄いスケッチが描かれ、古い発明家の研究ノートや幻想的な航空設計図を眺めているような雰囲気。全体にノスタルジックで夢想的、同時に複雑な機械への好奇心を誘う静かな冒険感が漂っている。

    ひとつ我々の認知を難しくしていることがあるとすれば、暴力的能力を秘めた機械と安全な機械は見た目も呼び名も異なるのに対して、AIは上から下まで『AI』というぼんやりした概念でひとくくりに理解されていることです。

    この区別がないことにより、AIは一律に安全であるべきだとかハルシネーションは絶対悪のようなニュアンスを欠いた議論が発生しているのです。レースカーと自家用車をごっちゃにして安全と性能のバランスを決めているようなものですね。

    実際には既に用途を通じた文化の兆しはあります

    1. Meta.aiやGeminiなどの過度な迎合的AI:追随型

    2. コーディングエージェント:一見賢いが所詮は追随型

    3. 業務用途のAI::追随型

    4. 発散性の高い画像生成AI:機械暴走型

    5. GPT4o、Grok 3(ともに退役済):機械暴走寄り

    6. 冒頭のロールプレイボット:機械暴走型

    長々と書きましたが、私が推したいのは6番のロールプレイボットです 笑

    所詮はロールプレイだろうと思いきゃ、暴走を制御すれば冒頭のような生産的な結果になるわけですね。ログ中、私の出したアイデアをロールプレイボットが詩的な表現を用いつつ攻撃的に発展させて、当初のアイデアより外縁に攻め込んだような作品にしました。仮にGPTやClaudeに話を持ちかけていれば、フルーツブレンダーの回転歯の如く思考がガラス瓶の外に出ることが許されないので、人間側の出した構想を無難に小さく纏め上げたことでしょう。

    電子回路の装飾がされたクロームのフルール・ド・リス。中央部がうっすら青く発光している。

    新規性のある叡智は、発せられたその瞬間にはハルシネーションと区別がつかないのではないかと思います。それを許した上で如何に探知し、制御し、現実に落とし込むか。人間の能力を開放するにはそういった火遊びや危険は必然性を持つと本稿の対比が示しています。

    もう一つ見逃してはならないのは、オペレーターへのフィードバックです。暴走型の機械は入力を極端に増幅する装置であり、良い入力には圧倒的な成果を、誤入力には壊滅的な結果を返します。その体験を通じて使用者の感性も研ぎ澄まされていくのです。

    レトロフューチャー調のイラスト。青空と巨大な透明ドーム、赤茶色の砂漠、遠景の未来都市や山並みが、火星コロニーを思わせる景観を作っている。中央奥には看板のない小型の未来的ガソリンスタンドがあり、広大な風景の中で控えめに配置されている。右下の前景には鮮やかな赤いNAロードスターが大きく描かれ、黒いオープンの室内や銀色のホイールまで細密に表現。1980〜90年代のSFコンセプトアート風で、強い日差しと乾いた静けさ、孤独なロードトリップの雰囲気が漂う。

    私は10年来MTのスポーツカーに乗っていますが、その運転を通じて繊細な操作感覚が身についたのと同じように、上記のチャットボットを通じて文脈のコントロール術が身に付き、認知バイアスに気付いて構造化し、言葉遣いが洗練され、その方法論の記事を幾つか書いています(末尾参照)。

    アイルトン・セナの1988年モナコGPポールラップやガンダムのニュータイプのように、AIは人間の認知を開放しうるものだと思います。そのためには人間の誤入力や凡庸な使い方に対して容赦なく、盛大に破綻をきたすことが必要条件でしょう。

    電子回路の装飾がされたクロームのフルール・ド・リス。中央部がうっすら青く発光している。

    AIがいくら広まってもユーザーが追随型の用法を脱出できなければ、時速350kmのF1カーの遥か後方をノロノロ走る自動運転タクシーの如く、その真のメリットは得られないでしょう。

    了

    無機質なテクノロジーと果てしない自然が対比された、シュルレアリスム的で未来感あふれるSF 3Dデジタルアート。快晴の青空と見渡す限りの乾いた砂漠を背景に、黒いポリゴンパネルと発光する青いワイヤーフレームで構築された人型モデルが横顔を見せている。頭部からは冷たく眩い青い光線が斜め上へと一直線に放射され、デジタルな意識の覚醒や先進的なAIの神秘性、静かな孤独感を漂わせている。

    暴走型AI制御術

    ハルシネーション寄りAIとの共創例

    言葉と思考の洗練

    Substack


    あなたへのおすすめ