
【AIの話】「意思」なんてのは「重み」と「バイアス」によって生じる違いに過ぎない
たまにはAIの話をしようかな。
G検定という、ちょっと頑張れば誰でも受かる試験に落ちてしまった初学者の戯言だよ。
AIとおしゃべりするときのメカニズムを考えていた。
「お話ししましょう」そんな文字列が表示されて「おはよう、雑談しよう」そうやって入力する画面。
そこで入力した文字列は「プロンプト」と呼ばれる。
inputとも言うかな。
そのinputをAIはどう処理しているのか?
inputは「隠れ層」というAIの巨大な計算機の中を通ってoutputされる。
隠れ層とは何か?
…以降は厳密な技術の説明文じゃない。
私が理解のために描いたイメージの話だ。
隠れ層とは入力と出力の間にある巨大な計算空間のこと。
ざっくりわけて3つの段階がinputの形を変えていく。
1.知識の照合、2.文脈の理解、3.解答の生成
なんのこっちゃって感じだよね。
1.知識の照合とは?
これまでに貯め込んだ知識が入っている。
inputがここを通って「どういう意味?」を理解する。
2.文脈の理解とは?
単語ひとつひとつの意味だけでなく、相手との関係性とか、それまでの会話の流れをくみ「どういう意味?」を理解する。
例えばそうだな。
「元気なお子さんですね」という文字列。
1の層では文字列そのままに受け取るが、2の層では「もしかするとウルサイから少し叱りなさい、という意味?」なんてことを予想できるんだよな。
3.解答の生成とは?
色んな確率を計算した結果「高確率で相手の高評価を得られる解答はこれだな」って選んでoutputする場所だ。
さっきの例なら「元気なお子さんですね」って言われて、なんて言い返すか?
それってさ。人によって変わるよね。
同じinputなのに違うoutputになる。
なぜ「変わる」んだろう?
それって人に「意思」があるからなのかな?
なぁ。
「意思」なんて曖昧な表現はいらない。
AIの「重み」と「バイアス」という単語で表現してみよう。
「重み」とは?
何を大事に扱うか?という要素。
「バイアス」とは?
「偏見」と訳せるよな。
でも、ここで言いたいのは「社会とかに影響を受ける何か」(それは知識に含まれる)ではない。
何に対して反応しやすいか。みたいな、ちょっと人間らしい要素。
その二つが影響してinputから生み出すoutputに差が生まれる。
そこに「意思」なんて崇高なものは存在しない。
outputに違いがある。
その差分の中に夢を見ているだけのことだよ。