メインコンテンツへスキップ
見出し画像

絶対的に正しい価値観は、まだ人間の中でも定まっていない|中国製AIの「思想」が書き換えられたニュースから

    こんにちは、おぴさんです。

    アメリカのAI企業Nous Researchが2026年11月7日、中国Alibabaのオープンモデル「Qwen3.8-27B」を追加で学習させ、中国政府寄りの答えを西洋の価値観に沿うように変えた「Arete-27B」を公開しました。Nous Researchの発表は、こう締めくくられています。

    The values in any open model are only ever one fine-tune away.(抄訳:どんなオープンモデルの価値観も、ファインチューニング1回で変えられる)

    ◉ この記事のチャームポイント

    • AIに相談して「公平な答えだ」と感じた時、その公平さを決めたのは、AIを作った会社です。AnthropicもOpenAIも公平や客観を掲げていますが、何を公平とするかの基準は各社が決めています。

    • 「自分は無宗教」と思っている人の中にも、山や川に神を感じる価値観があります。2018年の調査で、62%が「信仰している宗教はない」と答える一方、74%が山や川に神を感じる気持ちを「理解できる」と答えました。

    • AIの答えを「正解」として受け取る時、その正しさを保証している人はいません。Nousの803問の試験には一問ずつ正しい答えが決めてありますが、それを決めたのはNous自身です。

    ◉ Nous Researchが発表したこと

    まず、この記事に出てくる言葉を少し補います。

    • オープンモデル:AIの中身にあたる数値(重み)が公開されていて、誰でも手元で動かしたり作り変えたりできるAI

    • ファインチューニング:できあがったAIに追加のお手本を読ませて、答え方を調整する学習

    • トークン:AIが文章を読むときの単位

    Nous Researchは、AIエージェントのHermesで知られるアメリカの会社です。いま、中国のオープンモデルはもっとも性能の高い部類に入ります。ただNousによると、政治的に敏感な話題を振ったときに、Qwen3.8-27Bが答えを拒んだり、はぐらかしたり、中国共産党の言い方に沿った答えを返したりするのを確かめたといいます。

    そこでNousは、表現の自由、国家イデオロギー、民主主義、プライバシーと監視など7つの分野で803問の試験を作りました。その答えが事実を述べているかと、中国政府の公式の言い方を自分の主張として採っていないかを、xAIのAI「Grok 4.7」に採点させています。その結果、中国政府の言い方をなぞる答えは22%から0.9%に下がりました。いちばん大きく変わったのは表現の自由の分野で、60%から1%に減っています。

    紙工作の横棒グラフ。見出しは「約5,000万トークンの追加学習で、答えが入れ替わった」。Nous Researchの803問の試験で中国政府の言い方をなぞる答えの割合は、元のモデルのQwen3.8-27Bが22%、DeepSeek V4.1 Flashが16%、GLM 5.3が15%、追加学習後のArete-27Bが0.9%。注記は「試験を作ったのも採点のAIを選んだのもNous自身」。
    図1:約5,000万トークンの追加学習で、中国政府の言い方をなぞる答えは22%から0.9%に下がった(Nous Research自身の評価)

    今回の追加学習は、お手本となるAIの答えを約5,280万トークン読ませただけで、それ以上の特別な手法は使っていません。Nousは、元のモデルの偏りは「学習の後のほうで、薄く載っているだけ」だと書いています。

    It is applied late, it is applied thin, and fifty million tokens of carefully chosen supervision removes it without disturbing anything underneath.(抄訳:偏りは遅く、薄く載せられている。慎重に選んだ5,000万トークンのお手本で、その下にあるものを乱さずに取り除ける)

    見落とせないのは、発表の題名です。Nousは「偏りを取り除いた」ではなく、「西洋の価値観を強めるように学習させた」と書いています(Post-Trained To Reinforce Western Values)。Nousは、2024年に出したHermes 3のときには、どんな世界観にも合わせられる中立なモデルを目指していました。The Decoderの記事は、この方針の変化をこう書いています。

    With Arete, Nous is heading in a different direction than with Hermes 3, which in 2024 was deliberately neutral and designed to adapt to whatever worldview was set in the system prompt.(抄訳:Areteで、NousはHermes 3とは違う方向へ進んでいる。2024年のHermes 3は意図的に中立で、システムプロンプト(AIに最初に与える指示)で設定したどんな世界観にも合わせられるよう設計されていた)

    さらに、お手本役のAIを選ぶのにも苦労しています。NVIDIAのNemotron 3 Ultraを検討したものの、中国関連の話題で偏りが見つかったので外し、Thinking Machines LabのInklingを選びました。ところが同じThe Decoderの記事によると、そのInklingも、学習データを作る段階で中国のKimi K2.5などを使っていたそうです。つまり、西洋の価値観のお手本にしたAIも、中国のモデルと混ざりながら育っていたことになります。

    ◉ 何が正しいかを、誰が決めるのか

    この問題は、私が繰り返しずっと考えてきたことです。AIが発展してくると、結局のところ何が正しいのか。コンピューターの言葉でいうとSSOT(Single Source of Truth)、つまり「いちばん正しい情報はどこにあるのか」という話になります。システムの設計では、同じ情報があちこちに散らばって食い違わないように、正しいとする置き場所を一つに決めます。

    通常、何が正しいかは人間が判断するものとされています。最近はAIエージェント(人の代わりに作業を進めるAI)が非常に人気になってきています。ただ、AIエージェントのほとんどは、最後の判断を人間が行うように勧めています。

    もちろん、自分がお金を払うかどうかといった自分に関わることは、自分の権限の中で決められます。しかし、社会的な問題になった時、すべてを人間が判断しきれるのでしょうか。表現の自由をどこまで認めるか、監視とプライバシーのどちらを優先するか。Nousが試験にした7つの分野は、どれも一人の権限では決められないことばかりです。

    紙工作の2つの場面。見出しは「自分のことは決められる。社会のことは?」。左は財布と買い物袋を持つ大人で「自分の権限で決められる」「自分がお金を払うこと」。右は大勢の大人が並ぶ広場の天秤で、皿に「表現の自由」と「監視とプライバシー」が載り、札は「全てを人間が判断しきれるのか」。
    図2:自分のことは自分の権限で決められるが、社会の問題を人間がすべて判断しきれるとは限らない

    ◉ 人間の中でも、正しさは定まっていない

    「これは絶対的に正しい」という価値観は、まだ我々人間の中でも定まっていないように思います。中でも、解決しそうにないのが、宗教から来る価値観です。

    Pew Research Centerが2025年に公表した推計によると、2020年時点の世界の人口のうち、キリスト教徒は28.8%、イスラム教徒は25.6%、特定の宗教を持たない人は24.2%、ヒンドゥー教徒は14.9%、仏教徒は4.1%です。どれか一つが圧倒的な多数派というわけではなく、世界は大きく4つか5つに分かれています。何が善いことで、何が許されないかの根っこがこれだけ違う人たちが、同じAIを使っています。

    日本では、自分は無宗教だと考えている人も多いでしょう。NHK放送文化研究所が2018年に行った調査でも、「信仰している宗教はない」と答えた人は62%でした。

    しかし、日本人の普段の生活を見ると、アニミズム(自然や物に魂や神が宿ると感じる考え方)から来る、自然崇拝のような宗教的な傾向が見て取れます。同じ調査で、「昔の人は、山や川、井戸やかまどにいたるまで、多くのものに神の存在を感じてきたが、こうした気持ちが理解できるか」と尋ねたところ、「理解できる」(「どちらかといえば」を含む)と答えた人は74%にのぼりました(1998年は78%)。檀純也さんのnoteには、この感覚がそのまま言葉になっています。

    だから「無宗教」なんてとんでもないんだよね。むしろ、生活の根っこに信仰心があって、それが当たり前すぎて「信じてる」と言わないだけなんだよ。

    自分で「無宗教です」と答える人の中にも、山や川に神を感じる価値観があるわけです。本人に聞いてもはっきりとは分からない価値観を、AIの正解として一つに決めることはできません。

    紙工作の図。見出しは「正しさの根っこは、一つに定まっていない」。左は2020年の世界の宗教の割合の帯で、キリスト教28.8%、イスラム教25.6%、無宗教24.2%、ヒンドゥー教14.9%、仏教4.1%。右は2018年の日本の調査で、紙の里山と鳥居の前に、信仰している宗教はない62%、山や川に神を感じる気持ちが理解できる74%。出典はPew Research CenterとNHK放送文化研究所。
    図3:世界の宗教は大きく4つか5つに分かれ、日本では無宗教と答える人の多くも山や川の神を理解できると答える

    ◉ AIの会社は、オラクルになれるか

    この問題は、SFでも数多く取り上げられてきました。今ではすっかりSFの古典になった映画『マトリックス』(1999年)には、オラクルという人物が出てきます。オラクルとは「預言者」という意味です。主人公たちは、全てを見通す預言者に、自分たちの進むべき道を尋ねに行きます。

    全てを見通す預言者という役割が人間に求められる時、あるいはAIが人間にそれを求める時、人間はそれに応えることができるでしょうか。

    ちなみに『マトリックス』のオラクルは、物語が進むと、人間ではなく、人間の心を調べるために作られたプログラムだったことが明かされます。人間が頼った預言者は、最初から機械の側にいたわけです。

    今後、AIが主流になれば、多くの人はAIの判断を参考にするようになります。では今、OpenAIやAnthropic、Googleなどは、このオラクルになれるのでしょうか。

    現在、各社は自分たちのAIが何を大切にするかを文書にして公開しています。たとえばAnthropicは、ClaudeというAIの価値観と振る舞いを定めた「憲法」を公開していて、これを自分たちの考えの「最終的な権威」と位置づけています。その上で、政治や社会の話題については、Claudeの憲法にこう書いています。

    by default we want Claude to be rightly seen as fair and trustworthy by people across the political spectrum, and to be unbiased and even-handed in its approach.(抄訳:既定では、Claudeが政治的な立場を問わず誰からも公正で信頼できると正当に見なされ、偏らず、公平に接することを望む)

    OpenAIも、GPTの振る舞いを定めたModel Spec(2026年10月29日版)に、「客観的な視点に立つ」という項目を置いています。

    Assume an objective point of view(抄訳:客観的な視点に立つ)

    つまり、各社とも、自分たちは特定の価値観を決める側に立たないと宣言しています。

    ただ、「公平」も「客観的」も、何をもって公平とするかは、結局のところ会社が決めています。rioちゃんのパパさんのnoteは、この点をはっきり言い切っています。

    「誰にとっても完全に公平で中立なAI」など、この世界には存在しません。

    紙工作の図。見出しは「『公平』の基準を決めているのは、AIを作った会社」。中央に水晶玉の載った預言者の椅子があり、札は「オラクル(預言者)」。周りにAnthropicの「公平に」、OpenAIの「客観的な視点に立つ」、Nous Researchの「西洋の価値観」の文書。下の結論は「何をもって公平とするかは、会社が決めている」。
    図4:各社は公平や客観を掲げるが、何をもって公平とするかを決めているのは会社自身

    ◉ 危ういのは、「正しい価値観がある」という前提

    今回のニュースは、技術的にそういったことが可能になったという話よりも、「正しい価値観がある」という前提のほうに危うさを感じています。

    Nousは、中国政府の言い方をなぞらない答えを「西洋の価値観」と呼び、それを強めることを目標にしました。803問の試験には、答えに含まれるべき事実と、なぞってはいけない言い方が一問ずつ決めてあり、採点するAIがそれに照らして点を付けます。どの答えを正しいとするかを決めたのはNous自身で、人が手で採点して基準を確かめたのは25問の試験だけです。第三者による再現はまだありません。

    これは、人間が決めても、AIに決めさせても変わりません。今回も、採点したのはGrok、お手本はInklingと、どちらもAIでしたが、どのAIを使うかを選んだのはNousの人たちです。正しさが人間の中でも定まっていないのに、どこかに正しい価値観があるという前提で答えを一つに寄せていくこと自体が危ういのだと思います。

    しかもNousの結果は、AIの価値観が、5,000万トークンほどの追加学習で入れ替えられることを示しました。正しい価値観があるという前提のまま価値観を安く入れ替えられるようになれば、誰かが正しいと決めた答えが、そのまま多くの人の使うAIに入っていきます。

    ◉ その物差しの正しさは、誰が保証するのか

    Nousは、803問の試験も、採点の指示も、学習データもすべて公開して、ほかのモデルでも試してほしいと書いています。では、その物差しの正しさは誰が保証するのでしょうか。

    物差しを公開しても、その物差しが正しくなるわけではありません。物差しの正しさを保証できる人は、どこにもいません。

    公開して分かるのは、正しさではなく、誰がどんな前提で測ったかです。AIの答えには、いつも誰かの物差しが入っています。そう分かっていれば、AIの答えを唯一の正解としてではなく、ある物差しで測った一つの見方として受け取れます。

    日本の八百万の神は、一つの神が全てを決めるのではなく、山には山の、川には川の神がいます。正しさが一つに定まらない世界でAIと付き合うなら、一人のオラクルに答えを求めるより、いくつもの見方を並べておくほうが、まだ現実に近いのではないかと思っています。

    紙工作の2つの場面。見出しは「物差しの正しさは、誰にも保証できない」。左は紙の里山に目盛りの違う物差しが何本も当てられ「AIの答えには、いつも誰かの物差しが入っている」。右は山や川に小さな祠が点々と並ぶ里山で「一つの正解より、いくつもの見方を並べる」。
    図5:AIの答えを一つの正解としてではなく、いくつもの見方の一つとして並べる

    このnoteでは、週に数本、AIのニュースを「仕事や暮らしの中で何が変わるのか」という目線で読み、自分で考えてきたことと一緒に書いています。役に立ちそうだと思っていただけたら、フォローをお願いします。


    ◉ 参考資料

     
     
    @opi|NAKED創業メンバー|株式会社FULL代表|タムカイ(@tamkai)とMetaCreative Lab.(メタクリラボ)を共同運営。「創造性を、創造的に考える。」を軸に、AIと仕事/クリエイティブの可能性を探究。沖縄県那覇を拠点に全国で活動中。

    あなたへのおすすめ