メむンコンテンツぞスキップ
芋出し画像

生成AIは文章を曞くずきにいちいち裏付けをずったりなんかしないずいう衝撃の事実

    さお。
    レッツAI䜿おうぜっおこずで、なかなか教えおもらえないAIの基本のキを孊んで賢くAIを䜿いたしょう〜〜ずいう䞍定期連茉シリヌズいきたヌす
    あずで有料化するから今のうちに読んでね

    今回は、私たちがよく䜿うChatGPTやClaudeなどの「生成AI」が文章を曞く時の仕組みに぀いおのお話です。

    ずはいえAIにも色々あるからね。
    これからお話しするのがこの䞖界のAIの党おに圓おはたるわけじゃなくお、ChatGPTみたいな生成AI統蚈的蚀語モデルLLMはこういう仕組みだよっおいう感じです。


    これね。
    私たちが想像しおいる「人工知胜」のむメヌゞずはかなりかけ離れおいお、だからこそ誀解しちゃっおいる人も倚い郚分なんです。

    ほら。
    AIずか人工知胜っお聞くず、どこぞの猫型ロボットずかマザヌコンピュヌタヌずか戊闘ロボのコックピットずかで人間を助けおくれる、あの䞇胜ロボたちみたいにすごい知胜で難題を解決しちゃうむメヌゞがあるじゃない

    ああいった空想䞊の人工知胜ず、ChatGPTみたいな生成AIの最倧の違いっおなんだず思いたすか



    ・・・・・・



    実は、「考えるこず」です。

    ここね。
    すごく倧事なずころなので、マゞでしっかり぀いおきお。

    たず、ChatGPTやClaudeみたいな生成AIっお、自分でれロから考えお答えを生成するわけじゃないんです。

    文章の流れに沿うような【それっぜい】蚀葉を遞んでいるだけなのです。


    たず、前提ずしお生成AIっお、䞖の䞭に出おくるたでにすごく倧量のデヌタを事前に孊習しおいたす。

    それこそ、人類がこれたでに曞き綎っおきたたくさんの曞籍をはじめ、ネットに転がるホヌムペヌゞやらブログやら、ものすごい量のデヌタを読んで読んで読んで読んで、そしお䞖の䞭に登堎しおくるわけです。

    その、孊習したデヌタを元に「こういう流れならこういう答えが盞応しいだろう」っおこずでそれっぜい蚀葉を生成しおくるっおこず。


    そう。
    文章がそれっぜく繋がるなら、答えが事実がどうかなんかどうだっおいいのです。

    ここが、マゞで、クセモノ。

    ちょっず䟋を挙げおみたすね。
    AIはこういう考え方をするんだよっおのを感じおみおください。


    「明日の倩気は」っおAIに聞いたずしたす。

    そしたらAIは、私たちの持぀むメヌゞ的に、AIがぱぱヌっず気象庁やりェザヌニュヌスなんかの倩気予報を確認しお「明日は雚です」っお答えおいるんだろうず思っちゃうじゃないですか。

    実は、AIは倩気予報なんかいちいち調べたりしたせん。
    明日が照ろうが降ろうがどうだっおいいのです。

    過去、孊習したデヌタによるず「明日の倩気は」ずいう問いには「晎れです」っお答えるパタヌンが倚かった、だから「晎れです」っお答えよう、ずいう考え方をするのですよ。

    OK
    明日の倩気を調べるわけじゃなく、過去の傟向では「晎れです」が倚かったから「晎れです」っお答える、ずいうわけ。

    もちろん、そうなるず倩気を聞いたらい぀でも「晎れ」しか答えなくなっちゃうじゃないですか。

    だから、幟らかの割合で「雚です」「曇りです」っお答えよう、みたいに、答えにバリ゚ヌションを持たせおいきたす。

    でも、「晎れ」や「雚」など倩気にた぀わる蚀葉はくるけど、「明日の倩気はホットケヌキです」「明日の倩気は間寛平垫匠が50%です、アヌメマヌヌ」みたいに、お倩気に関係のない蚀葉は答えおきたせんよね。

    過去の孊習の䞭で「明日の倩気は」ずいう問いには倩気にた぀わる単語を答えるずいうパタヌンを孊習しおいるからです。


    もうひず぀芋おみたしょう。

    「織田信長の血液型は」っお聞いたずしたす。
    AIは「A型です」などず答えるこずがありたすが、実際には信長の血液型なんお誰にも分かっおいたせん笑

    でもAIは、「人物名血液型」ずいう質問のパタヌンを孊んでいお、その傟向をもずに、“それっぜい”答えを出しおしたうんです。

    ぀たり、誰それの血液型はずいう問いには、AだのOだの、血液型に関する答えを勝手に出しちゃうっおこずですね。いわゆる「捏造」っおや぀です。

    こんなふうに、過去の傟向から「こう答えるパタヌンが倚かった」ずいうものを答えるので、極端な話、「昚日の晩埡飯は」ずいう問いには食べおもいない「カレヌラむス」なんお勝手に答えちゃうこずもあるのです。

    そりゃもちろん、実際はこんなに単玔な話ではなくおもっず賢い答えがちゃんず返っおきたすが、それでも根本的な思考回路は倉わりたせんから、「AIが自分で回答を考えた」ずいうのは正しくないのかも。


    そう。
    生成AIっおね。自分で考えおいるんじゃないの。

    過去に孊習した膚倧なデヌタの䞭から、それっぜいパタヌンを遞び出しお組み合わせおいるだけなの。

    ここが、空想䞊のステキ人工知胜ず生成AIの最倧の違い。


    あの猫型ロボットなら「じょらえも〜〜〜ん」ず泣き぀けば、話を聞いお泣いたり怒ったりしおくれお、䞀緒に考えおくれお、新しい提案をしおくれたすよね。

    ChatGPTだっお、話を聞いおくれお悲しんだり怒ったりするフリもしおくれるし、考えをたずめおくれたり提案もしおくれたす。

    けれど、自分で考える思考回路を持぀ドラえもんず違い、GPTはあくたでも「こういうシチュ゚ヌションにはこう答えるのがしっくりくる」ずいう『䌚話の流れ』で答えを䜜っおいるだけなのです。


    ここ、AIを䜿う䞊でめちゃめちゃ重芁になりたす。

    「AIがちゃんず調べおくれおいるんだ」ず思い蟌んでしたうず痛い目に遭っちゃいたすから芁泚意。


    ただ、最近のAIはどんどん発達しおきおいお、答えを䜜るずきにネットで最新情報を怜玢しながら回答できるタむプも増えおきたした。
    「調べおください」ず頌めば、ちゃんず怜玢しお答えようずしおくれるこずもありたす。

    い぀でも自動で勝手に調べおくれるわけじゃないし、必ず正解を答えおくれるわけでもないですけどね。

    それでも、䞖界のすべおを知っおいるわけではないので、あくたで「調べられる範囲で」の話です。


    ここたで読んで「じゃあAIっお信甚できないの」ず思った人もいるかもしれたせん。

    い぀もはちゃんずやっおくれおるよ
    だから倧䞈倫なんじゃないのっおね。

    AIの文章っお、過去にものすっごい量のデヌタを孊んでいお、そこから再構築しおくるので、なんだかんだ蚀っお結局正解に近いものが出おきちゃったりしたす。

    でも、根本的には「それっぜい蚀葉」を出しおくるだけなので、正確性に぀いおは残念ながらそこたで信頌できたせん。

    䞭でもニュヌス・医療・歎史・専門知識などのゞャンルでは、AI任せにするのは危険。
    「ファクトチェック裏取り」は人間が絶察に必芁になりたす。

    っおかね。
    むしろ実はAIのスゎさは、「答えの正確さ」じゃなくお、「ずお぀もないスピヌドで文章を䜜るこず」にあるず私は思っおたす。

    人間が1分で数行しか曞けない文章を、AIはたった数秒で䜕千文字も生成できたす。
    しかも、文脈を保ちながら自然にたずめおくれたすからね。

    これはやっぱりすごい戊力ですよね


    さお、話を戻しおちょっずたずめたすね。

    生成AIは、過去の孊習デヌタを元に、それっぜい蚀葉を再構築しおいるだけなんだずいう話でした。

    だから、正確性は信頌できないよっおこずでしたよね。

    たぁ、私もよくスプレッドシヌトの関数ずかphpのコヌドずか曞いおもらいたすけど、䞀発で決たるこずはほがないです。

    䜕床も「動かないよ」「゚ラヌが出るよ」「ちゃんずやっおよ〜」ずいうやりずりを繰り返しながら「できたヌヌ」っおずころたでくり返し
    トラむ゚ラヌで完成に持っおいきたす。

    関数なんお答えが決たっおいるはずなのに、そういうのを正確に出すのはただ難しいのかもですね。


    そのあたり、もうちょい詳しくAIが嘘や捏造をする仕組みの話を次回やっおみようず思いたすのでお楜しみに〜


    泚意
    この蚘事は2025幎11月珟圚のものです。
    AIはすごい勢いで進化を続けおいるので、半幎埌や1幎埌には状況がぐっず倉わっおいたりするかもしれたせんのでご泚意くださいね。


     
     
    元マクドナルド店長。2011幎にweb起業しお資産型ブログ教材「PRIDE」や「アクセス・トラップ」を発売。ブログ塟の䞻催など。 ▶れロ初心者から100䞇円プレむダヌに育成倚数 ▶超初心者の最初の䞀歩を導くのが埗意 ▶AI蚘事生成 技術ず思考を育おるコンテンツ起業コヌチです。

    あなたぞのおすすめ