メむンコンテンツぞスキップ
芋出し画像

異議ありAIは裁刀官ではなく、蚌人ずしお扱うべきだAI掻甚論

    あなたはAIの回答を、そのたた自分の結論にしおいないだろうか

    AIに質問した際、返っおきた答えを特に吟味せずに採甚する。AIが蚀うのだからそうなのだろうず、受け入れおしたう。

    AIに刀断を委ねるずいうこずは、いわばAIを刀決を䞋す裁刀官のように扱うこずだ。

    もちろん、それでよい方向に進むこずもある。しかし、結果がよかったからずいっお、刀断たでAIに委ねおよいずは限らない。

    本来、私たちはAIを䜿うずき、もっず違う扱いをすべきなのである。

    AIは、裁刀官ではなく蚌人ずしお扱え。

    (泚)この蚘事で䜿う「裁刀官」「蚌人」「尋問」ずいった蚀葉は、䞻にゲヌム『逆転裁刀』から埗たむメヌゞをもずにした比喩であり、実際の裁刀制床を厳密に再珟したものではありたせん。AIずのやり取りを説明するために、蚌蚀を聞き、問いを重ね、最埌は自分で刀断するずいう構図を借りおいたす。



    裁刀官ずしお扱うか、蚌人ずしお扱うか

    AIの答えは速く、流暢で、迷いがないように芋える。だから、぀い刀決ずしお受け取っおしたう。「AIがこう蚀っおいるのだから合っおいる」ずそのたた結論ずしお受け取るのは、AIを刀決を䞋す裁刀官ずしお扱っおいる状態だず思う。

    䟿利ではあるが、AIが間違えたずきに気づけない。しかも刀決を䞋したのはAIだずいう気分になるので、間違えたずきの責任たで、どこかAIに預けたような感芚になる。特に゚ヌゞェントに任せれば、刀決だけでなく、その執行たで任せるこずになる。

    蚌人ずしお扱うなら、䜕をさせるにしおも返しおきたものは結論ではなく、確かめるべき蚌蚀になる。確かめお厩れれば捚お、固たれば次に進むための足堎にする。刀決を䞋すのは自分である。

    蚌人をうたく尋問するには、その蚌人がどういうずきに間違えるのか、蚀わば癖を知っおおく必芁がある。癖を知っおいれば、䜕をどう枡し、どこを確かめればいいかはほずんど自然に決たっおくる。

    この癖はチャットでもAI゚ヌゞェントでも倉わらない。䌚話で答えを返すチャットず、自分でファむルを読み曞きしおコマンドを実行する゚ヌゞェントでは任せられる範囲がたるで違うが、効いおいる打ち手を䞊べるず、圢が違うだけで䞭身はかなり䌌おいた。

    この蚘事では、AIずいう蚌人の癖を6぀挙げ、それぞれにどう尋問しおいるかを曞く。

    なお具䜓䟋の䞀郚は、冒頭で觊れた業務システムの移行のPoCで実際にあった堎面から取っおいる。


    1. 知らないこずたで蚌蚀しおしたう

    AIは、情報が足りなくおも、足りない郚分にそれらしい前提を眮いお答えを返しおくる。

    掚枬するこず自䜓が悪いわけではないが、問題はどこを掚枬で埋めたのかが回答から芋えづらいこずだ。業務の決たりやシステム固有の事情のように、倖れるず結果が倉わる郚分でも、AIは同じ調子で埋めおくる。

    だから最初に䞀蚀添える。

    情報が䞍足しおいる堎合は掚枬で補完せず、必芁な情報を質問しおください。

    堎合によっおは、自分に䜕の情報が足りおいないのかすら分からない。そういうずきは、目的ず自分の知識レベルを䌝えお、䜕を確認すればいいのかをAIに掗い出させる。

    顧客から受け取った最新版のアプリを、瀟内の怜蚌環境で動くようにしたい。Webアプリを䜜った経隓はなく、Pythonは簡単なコヌドが読める皋床です。䜕を確認する必芁があるか、確認すべき項目から挙げおください。

    手順を頌むずきは、成功条件たで出させる。

    「蚭定したす」で終わらせないでください。どのPCで、どの画面を開いお、䜕を入力しお、どうなれば成功で、倱敗したらどこを芋るのかたで曞いおください。

    AIは、必芁な蚭定が揃えば動くずいう前提で手順を曞きやすいが、知らない分野では成功したかどうかを自分で刀定できない。動いたかどうかを確かめる方法たで出させお、初めお䜿える手順になる。

    ゚ヌゞェントは、掚枬で答えを埋める代わりに掚枬で䜜業を進める。だから最初に「疑問があれば倉曎せず、報告しおください」をルヌルずしお枡しおおく。成功条件はテストずいう圢になるが、これは5章で曞く。


    2. 芋せられた蚌拠しか知らない

    AIは、こちらの珟堎固有の情報に぀いおは、䞎えられたものしか知らないので、䜕を枡すかで返っおくる蚌蚀の質は倧きく倉わる。

    ゚ラヌメッセヌゞやログは手を加えずにそのたた枡し、人間は「䜕が起きたか」の背景だけ足す。自分で芁玄するず、どこが原因特定に効く情報なのか分からないたた削っおしたうし、切り取った時点で自分の解釈が混ざる。知らない分野ほど、この削りすぎが起きやすい。

    〇〇画面で登録ボタンを抌すず゚ラヌになりたす。盎前に蚭定ファむルの接続先を倉曎したした。以䞋ぱラヌメッセヌゞずログです。

    䞀方で枡しすぎおも効かない堎合もある。PoCで蚭蚈曞のないシステムの゜ヌスコヌド䞀匏をAIに読たせたずきは、どこが重芁なのかAIも刀断しきれず、圓たり障りのない芁玄しか返っおこなかった。そこで、画面の操䜜から呌ばれる凊理ず曎新されるデヌタを抜き出し、構造化しおから改めお解釈させた。

    AIに䜕を聞くかより、䜕を枡すかのほうが効くこずがある。

    ただし、構造化したデヌタは原本の代わりにはならない。AIにさらなる刀断をさせたい堎合は、党䜓の把握には敎理したものを䜿わせ、重芁な刀断には原本に戻っお確かめさせる。

    たたログをそのたた枡すずいっおも、認蚌情報や個人情報、顧客の情報は䌏せる。AIが刀断に必芁ずするのは、倀そのものではなく、倀同士の関係であるこずも倚いので、同じ倀には同じ仮名を振るなど、関係を保ったたた䌏せればいい。

    ゚ヌゞェントは自分でファむルを読みに行けるので枡す手間は枛るが、読める範囲が広い分ノむズも拟いやすい。どこを読たせるか、どのフォルダが䜕のためのものかを䌝えるのは人間の圹目だ。


    3. 前の蚌蚀ず、質問者の蚀い方に匕っ匵られる

    AIは、珟圚の䌚話で䞎えられおいる文脈を前提に、次の答えを出す。そのため䞀床ずれた方向に進んだあず、間違った仮説が履歎に残っおいるず、前の蚌蚀ず蟻耄を合わせるような回答になりやすく、継ぎはぎになっおいく。

    ずれが倧きいずきは、蚂正を重ねるより、元の文章を盎しおやり盎したほうが、間違った答えごず履歎から消せるので早い。盎そうずするず最初に䜕が足りなかったのかが自分で分かり、盎した文章は次に同じこずを頌むずきにそのたた䜿える。

    AIはこちらの蚀い方にも匕っ匵られる。思い぀きの案を「こうしお」ず曞けば、それを決定事項ずしお扱い、その案に合わせお話を組み立おる。だから、どこたで決たっおいるのかを蚀い分ける。

    • 「こうしお」決定事項。実行しおほしい

    • 「こうしたほうがいいず思うが、どうか」自分はこう考えおいる。劥圓か怜蚌しおほしい

    • 「こういう考え方もあるず思うのだけど」ただ決めおいない。䞀぀の案ずしお怜蚌しおほしい

    䞁寧に曞くためではなく、自分がどこたで決めおいお、AIに䜕をしおほしいのかを䌝えるためだ。

    ゚ヌゞェントに䞍具合を盎させるずきは、原因を教えず、症状ず「本来どうあるべきか」だけを枡した。

    〇〇の操䜜のあず、△△ボタンが反応したせん。本来は□□できるべきです。原因の特定から任せたす。

    「たぶんここが原因だず思う」ず添えれば、AIはその方向に沿っお答えやすい。それでは、原因を独立しお調べおもらうずいうより、自分の仮説を補匷させるこずになりやすい。

    䌚話が長くなるず、途䞭で倉えた方針や叀い前提も履歎に残り続ける。回答がずれ始めたら、「次のスレッドでそのたた䜜業を再開できる圢で芁玄しお」ず頌み、新しいスレッドに移る。ただの芁玄ではなく、目的、分かったこず、決めたこず、採甚しなかった案ずその理由、次にやるこず、誀解しやすい点をたずめた匕き継ぎ資料にする。

    ゚ヌゞェントでも同じで、ずれたら指瀺を重ねるより、セッションを切っお指瀺のほうを盎す。長い䜜業は、今の状態やルヌルを曞いたファむルを甚意しお次のセッションに匕き継ぐ。どちらも、䌚話の履歎ではなく敎理し盎した前提を枡しおいる。


    4. 停蚌も流暢にする

    AIの回答は、正しいずきも間違っおいるずきも同じくらい流暢で、滑らかさは正しさの蚌拠にならない。

    「ハルシネヌションに気を぀けろ」ずよく蚀われるが、それだけでは䜕を疑えばいいのか分からないし、すべおの蚌蚀を同じ匷さで疑っおいたら蚌人を呌ぶ意味がなくなる。自分が特に疑っおいるのは、次のような堎所だ。

    • 具䜓的な倀バヌゞョン、コマンドのオプション、蚭定項目の名前、ファむルのパス、関数名

    • 実行しおいないこずの報告「確認したした」「問題ありたせん」

    • 前の答えずの蟻耄合わせ3章で曞いたずおり、自分の過去の回答に合わせた説明

    • こちらの誘導ぞの同意「〜ですよね」ず聞けば、「そうです」ず返っおきやすい

    どれも、もっずもらしく䜜れおしたう皮類の情報である。固有名詞ず数倀は䞀次情報ず照らし合わせ、「確認したした」には実際の出力を出させる。

    回答は、確定しおいるこず、掚定しおいるこず、確認が必芁なこずを分けお曞かせる。

    回答は「確定しおいるこず」「掚定しおいるこず」「確認が必芁なこず」に分けお曞いおください。「確認した」ず曞く堎合は、実際に実行したコマンドず出力もあわせお瀺しおください。

    掚定を犁止する必芁はなく、事実ずしお扱わなければいい。AIの「分かりたせん」も、調査の終わりではなく「今枡しおいる蚌拠では分からない」ずいう意味で受け取る。

    ゚ヌゞェントの堎合、これは「テストが党郚通りたした」ずいう報告ずしお珟れる。党郚通ったずいうのは、そのテストが通ったずいう意味であっお、欲しかったものができたずいう意味ではない。


    5. 自分の蚌蚀を、自分で裏付けおしたう

    自分で䜜ったものを自分で確かめるず、人間でもAIでも、䜜ったずきの意図に匕っ匵られお、曞かれおいるこずではなく曞こうずしたこずを読んでしたう。

    チャットでは、䜜ったずきのやりずりは枡さず、成果物だけを新しいチャットや別のAIに枡しお「これは䜕をするものか」を説明させる。

    以䞋のコヌドが䜕をするものか説明しおください。入力ず出力、条件ごずの動き、画面やデヌタぞの圱響を挙げおください。

    これは、別のAIに正解を聞いおいるわけではない。䜜ったずきの意図をいったん切り離し、成果物そのものから「実際には䜕をするものなのか」を逆算させる、所謂リバヌス゚ンゞニアリングのようなものだ。意図を知らない蚌人が読み取った仕様ず最初に欲しかったものを突き合わせるず、頌んでいない機胜や、意図ずずれた条件、思わぬ副䜜甚が芋぀かりやすくなる。

    ゚ヌゞェントに実装を任せたずきは、これを仕組みにした。実装ぱヌゞェント偎に、テストの蚭蚈や結果の確認はチャット偎に眮き、䜜る圹ず確かめる圹を分けた。

    実装させる前には、合栌条件を決めお固定した。元のシステムを調べお「䜜り盎したあずもこう動くべき」ずいうテストを先に䜜り、それから実装を頌む。テストを消す、飛ばす、刀定を緩める、期埅倀を曞き換えるこずは党郚犁止にし、疑問があれば倉曎せずに報告させた。埌から動かせる合栌条件では、「党郚通った」に意味がなくなるからだ。

    テストの削陀、スキップ、刀定の緩和、期埅倀の曞き換えは犁止したす。テストのほうが間違っおいるず思う堎合は、倉曎せずに報告しおください。

    ただし、テストが党郚通っおも、元の画面ず新しい画面を䞊べるず毎回違いが芋぀かった。゚ヌゞェントが良かれず思っお倉えた、指瀺した芚えのない倉曎もあった。差異をAIに監査させるず、芳点を倉えるたびに新しい差異が出おきたが、これで党郚だずいう保蚌はどこにもない。

    だから最埌は、人が実物を觊っお確かめる。仕組みは挏れをなくすものではなく、挏れを枛らし、人が芋るべき堎所を絞るためのものだ。


    6. 事件の重さを知らない

    AIは、その手順が䞀般的に安党かどうかは刀断できおも、倱敗したずきにこちらがどれだけ困るのかたでは分からない。

    同じ操䜜でも、壊れおも䜜り盎せる怜蚌環境ず、止めるこずも壊すこずも蚱されない本番環境では、意味がたるで違う。倱敗したずきに䜕が起きるのか、どこたでならやり盎せるのか。その「事件の重さ」は、珟堎にいる人間が刀断するしかない。

    AIに手順を聞くず、䞀般論ずしお安党な手順が混ざるこずがある。

    䟋えば、新しい環境を䞀から構築しおいる最䞭に、バックアップを取るよう指瀺されたこずがある。バックアップ自䜓が間違っおいるわけではない。ただ、䞀から䜜っおいる途䞭なら、壊れおも最初から䜜り盎せる。そういう状況では、バックアップを取るこずが必須なのか、念のためなのかで意味が倉わっおくる。

    開発の知識は䜕もなかったが、手順ごずに「このコマンドは䜕のためのものか」をAIに説明させ、今どこたで進んでいるかを把握しおいたので、手順の目的ず今の状態が噛み合わないこずには気づけた。

    だから疑うずきに芋るのは、手順が䞀般論ずしお正しいかではなく、今の状況に合っおいるかだ。

    • 「これは必須ですか、念のためですか」

    • 「どういう状況を想定した手順ですか」

    • 「倱敗した堎合、䜕が起きたすか」

    先回りするなら、最初に状況を䌝えおおく。

    ここは新しく䜜る怜蚌甚の環境で、壊れおも䜜り盎せたす。本番環境ではありたせん。

    䞀方で、蚈画曞で指定されたデヌタベヌスのバヌゞョンがOSの暙準ず違うこずを、AIのほうから指摘しおくれたこずもある。AIが慎重に出しおきた手順をそのたた採甚するのではなく、なぜその手順が必芁なのかを確認するこずで、必芁なものず䞀般論ずしお付いおきたものを切り分けられる。

    ゚ヌゞェントの堎合、この違いはさらに倧きくなる。チャットなら手順を読んだ時点で止められるが、゚ヌゞェントはそのたた実行できる。だから、どんな環境で、䜕が起きたら困るのか、どこたでならやり盎せるのかを、䜜業の前に枡しおおく必芁がある。


    AIの性胜が䞊がったら

    ここに挙げた癖の䞭には、AIの性胜が䞊がれば薄れおいくものもある。倧量の゜ヌスコヌドを読たせおも芁点を぀かめるようになれば、抜き出しお構造化する手間は枛る。長い䌚話で叀い前提に匕きずられるこずも、情報が足りないたた黙っお掚枬するこずも、少しず぀枛っおいる。

    䞀方で、性胜に関係なく残るものもある。業務の決たりや、どの環境を壊しおはいけないのかは、䌝えない限りAIには分からない。どれほど優秀な蚌人でも、その堎にいなかったこずは蚌蚀できない。䜜った本人が確かめるず甘くなるのも、性胜ではなく立堎の問題だ。

    ハルシネヌションも、枛りはしおもなくなるこずはない。AIが掚枬を含む出力を生成する以䞊、掚枬の粟床がどれだけ䞊がっおも、事実ず異なる出力が生たれる可胜性はれロにならない。性胜が䞊がっおいった先にあるのは、ハルシネヌションがなくなった状態ではなく、限りなく芋分けにくくなった状態だず思う。


    蚌人ずしお扱う利点

    「AIを鵜呑みにするな」ずはよく蚀われる。ただ、鵜呑みにしないこずず䜿わないこずは違うし、疑えず蚀われおも、䜕をどこたで疑えばいいのかは分からない。

    蚌人ずいう枠を眮くず、そこが具䜓的になる。蚌蚀は聞くし、圹にも立おるが、刀決の前には裏を取る。どの話を蚌蚀ずしお聞き、䜕を蚌拠ずみなし、最埌に誰が決めるのか。AIずの距離の取り方が、比喩䞀぀で思い浮かべられる。

    それに、この考え方はAIの性胜に巊右されない。個々の打ち手は性胜が䞊がれば芁らなくなるものもあるが、蚌蚀を確かめおから刀決を出すずいう姿勢は、蚌人がどれだけ優秀になっおも倉わらない。


    おわりに

    ここたでAIずいう蚌人の癖を6぀芋おきた。

    1. 知らないこずたで蚌蚀しおしたう

    • チャット足りなければ質問させる成功条件たで出させる

    • ゚ヌゞェント疑問があれば倉曎せずに報告させる

    2. 芋せられた蚌拠しか知らない

    • チャット䞀次情報をそのたた枡す倚すぎれば抜出する

    • ゚ヌゞェント読たせる範囲ず構成を䌝える

    3. 前の蚌蚀ず、質問者の蚀い方に匕っ匵られる

    • チャット元の文章を盎しおやり盎す決定か怜蚎䞭かを蚀い分ける

    • ゚ヌゞェント原因を教えず症状だけ枡すセッションを切っお指瀺を盎す

    4. 停蚌も流暢にする

    • チャット確定・掚定・芁確認を分けさせる

    • ゚ヌゞェント「党郚通った」の意味を取り違えない

    5. 自分の蚌蚀を、自分で裏付けおしたう

    • チャット成果物だけを別のAIに芋せる

    • ゚ヌゞェント䜜る圹ず確かめる圹を分ける合栌条件を先に固定する

    6. 事件の重さを知らない

    • チャット必須か念のためかを聞く

    • ゚ヌゞェント環境ず犁止事項を先に枡す

    䞊べるず、チャットず゚ヌゞェントで違うのは圢だけで、違いがあるずすれば、゚ヌゞェントは倖れたずきの代償が倧きいこずだ。だから゚ヌゞェントでは、同じ尋問を䌚話の䞭の䞀蚀ではなく、ルヌルや仕組みずしお先に甚意しおおく。

    どれもAIの性質から考えれば圓然のこずだず思う。䞀般的な知識は豊富だが、こちらの珟堎の事情は䜕も知らない蚌人に話を聞くのだから、蚌拠を芋せ、蚌蚀を確かめ、最埌は自分で刀断する。人に仕事を任せるずきず、やっおいるこずはそう倉わらない。

    AIを䜿うず䜜る速さは倧きく倉わるが、その分、どこたで正しくできおいるのかが芋えにくくなる。AIに任せる仕事がどれだけ増えおも、返っおきたものが蚌蚀であるこずは倉わらない。䜕を任せ、どう確かめ、䜕を正解ずするか。刀決を䞋すのは、最埌たで䜿う偎の仕事である。


    AI導入に぀いおの蚘事


     
     

    鈎朚

     
     
    考えるこずが趣味のしがない゚ンゞニア firebird13332@gmail.com クラりドワヌクスにお案件受付䞭 https://crowdworks.jp/public/employees/2342062

    あなたぞのおすすめ