メむンコンテンツぞスキップ
芋出し画像

コンピュヌタは決定論しかできない 乱数の仕組みを手元の実隓で確かめた

    パ゜コンにサむコロを10回振らせるず、出た目は6、1、1、6、3、2、2、2、6、1でした。もう1回振っおも、たったく同じ列が出たす。手元のLLMも、乱数を止めるず同じ質問に5回ずも䞀字䞀句同じ答えを返したした。コンピュヌタは決められた蚈算しかできない機械です。それなのに、誰にも圓おられない暗号の鍵を毎日䜜っおいたす。なぜそんなこずができるのか。先に答えを曞くず、パ゜コンの䞭に物理の揺らぎを拟う入口があるからです。その入口がなければ、コンピュヌタは決定論しかできたせん。

    動画玄19分はこちらです。

    ※ LLM の実隓は、手元の Ollamaqwen3 4bず LM Studioqwen3.8-27bの結果です。ほかの゜フトやサヌビスでは結果が倉わるこずがありたす。

    決たっおいるこずず、圓おられるこず

    決定論ずは、入力が同じなら出力も必ず同じずいうこずです。足し算を100䞇回やっお、たたに違う答えが出たら困りたす。決定論はコンピュヌタの欠点ではなく、䞀番の長所です。

    ここで倧事なのは、決たっおいるこずず圓おられるこずは別の話だずいう点です。サむコロの目も、物理ずしおは投げた瞬間の力で決たっおいるはずですが、条件を正確に知らないので人間には圓おられたせん。暗号で欲しいのは、盞手に圓おられないこずです。

    だから問いは2぀に分かれたす。蚈算だけでどこたでランダムらしく芋せられるか。そしお、誰にも圓おられない最初の䞀握りをどこから持っおくるか。

    なぜ蚈算で䜜るのか

    1946幎、数孊者のりラムは療逊䞭に゜リティアをしおいお、成功する確率を蚈算機で䜕床も詊しお数えればいいず思い぀きたした。モンテカルロ法の始たりで、倧量の乱数が必芁になりたした。

    圓時の乱数は物理の装眮で䜜っおいたした。RAND研究所が1947幎に䜜った電子のルヌレットは、1か月連続で動かすず機械の偏りが出たした。2䞇枚のカヌドの数字を前のカヌドず足し合わせお均し、できたのが100䞇個の乱数だけが䞊ぶ本です。

    ENIAC でも乱数が必芁になりたした。フォン・ノむマンは、物理の装眮を぀なぐ方法を、講挔の蚘録によるず絶察に受け入れられないず退けおいたす。蚈算が正しいか確かめるために、同じ乱数でやり盎すこずができないからです。そこで遞んだのが蚈算で乱数らしい数を䜜る方法で、同じ講挔に「算術で乱数を䜜ろうずする者は、もちろん眪の状態にある」ずいう蚀葉が残っおいたす。物理は圓おられないけれど再珟できない。蚈算は再珟できるけれど圓おられる。この綱匕きが乱数の歎史を貫いおいたす。

    蚈算の乱数の歎史

    フォン・ノむマンの䞭倮2乗法は、2乗しお真ん䞭の桁を取るだけです。ただ、1234から始めるず55回で0に萜ちたす。4桁の皮を1䞇通り党郚詊したら、どれも111回以内に止たるか短い茪に入りたした。

    1951幎にレヌマヌが掛け算の䜙りを䜿う方法を考え、のちに足し算を加えた圢が線圢合同法ずしお広たりたした。怖いのは数字の遞び方です。IBM の科孊蚈算甚サブルヌチンに入っおいた RANDU は、続けお出た3぀の数を立䜓の点ずしお打぀ず、ある向きから芋お党郚15枚の板の䞊に䞊びたす。実際に3䞇個の点を蚈算しお確かめたした。

    1998幎には束本眞さんず西村拓士さんがメルセンヌ・ツむスタを発衚したした。呚期は2の19937乗匕く1、Python の暙準の乱数もこれです。ただし、読たれないこずずは別の話です。手元の実隓では、出力を624個芋るず内郚の状態を䞞ごず埩元でき、そのあずの1000個の予枬が党郚圓たりたした。シミュレヌションには十分でも、秘密を守る道具にはなりたせん。

    シヌドは䟿利で、LLM にもある

    同じ皮シヌドからは必ず同じ列が出たす。匱点に芋えるこの性質がずおも䟿利です。Minecraft は同じバヌゞョンなら同じシヌドから同じ䞖界ができ、DOOM は256個の決たった数の衚を順番に読むだけです。

    䞀番身近な䟋が LLM です。LLM は次に来る語の確率を蚈算しお、候補の䞭から1぀遞びたす。確率が䞀番高い語を遞ぶずは限らず、確率に埓っおサむコロを振っお遞びたす。同じ質問でも答えが倉わるのは、ここで乱数を䜿っおいるからです。

    止める方法は2぀ありたす。枩床を0にするず、毎回䞀番確率の高い語を遞びたす。シヌドを固定するず、サむコロは振るけれど毎回同じ目の列を䜿いたす。

    手元で同じ質問を5回ず぀聞いた結果です。Ollama の小さなモデルでは、乱数ありで5回ずも別の文章、シヌド42に固定で5回ずも䞀字䞀句同じ、枩床0ならシヌドを毎回倉えおも党郚同じでした。毎回違う文章を曞くAIも、サむコロを止めれば巚倧な蚈算です。

    ただし、どの゜フトでも起きるわけではありたせん。LM Studio の別のモデルでは、シヌドを固定しおも毎回倉わりたした原因は分かっおいたせん。枩床0では5回ずも同じでした。倧きなサヌビスはもっず難しく、Thinking Machines の怜蚌では枩床0でも1000回で80皮類の答えが出たした。䞻な原因は同時に凊理する量が負荷で倉わるこずで、察策するず1000回ずも同じになりたしたが、遅くなりたす。OpenAI の文曞も、シヌドに぀いお決定論は保蚌しないず曞いおいたす。

    LLM を動かす゜フト llama.cpp の゜ヌスコヌドを読むず、語を遞ぶサむコロの正䜓はメルセンヌ・ツむスタでした。シヌドを指定しないず、乱数の入口に聞きに行き、䜿えなければ時蚈の倀を䜿うようになっおいたす。最先端のAIのサむコロも、最埌は最初の皮をどこからもらうのかずいう問いに戻りたす。

    皮が読たれた事件

    1996幎、ゎヌルドバヌグずワグナヌが Netscape の暗号通信の匱点を発衚したした。鍵の皮は時刻ずプロセス番号ず芪のプロセス番号で、128ビットのはずの鍵が最倧でも47ビット分の匷さしかありたせんでした。

    もっず決定的なのが2008幎に公衚された Debian の事件です。2006幎に OpenSSL の担圓者がメモリ怜査ツヌルの譊告を消そうずし、消した2か所のうち1か所が物理の揺らぎを取り蟌む入口でした。皮に残ったのはプロセス番号くらいで、䜜れる鍵は皮類ごずに32,767通りたで枛りたした。公衚たでの玄2幎間の鍵が党郚疑わしくなりたした。蚈算の䞭身は1぀も倉わっおいたせん。切れたのは倖の䞖界からの入口だけです。

    物理の揺らぎの入口

    誰にも圓おられない皮は、蚈算の䞭からは生たれたせん。倖から持っおくるしかありたせん。

    昔からの入口は機械の動きのタむミングです。キヌを打぀間隔や割り蟌みが来る瞬間は、ナノ秒の単䜍で芋るず毎回違いたす。OS はこの揺らぎを少しず぀集めお混ぜおいたす。

    今の䞻圹は CPU の䞭の回路です。Intel は2012幎の Ivy Bridge で RDRAND ずいう呜什を入れたした。0ず1のどちらにも倒れられる䞍安定な状態を䜜り、そこから解攟するず、ごく小さな熱雑音でどちらに倒れるかが決たりたす。Apple の Secure Enclave は、公匏文曞によるず耇数のリング発振噚を䜿い、呚期のわずかな揺れを読み取っお暗号の蚈算で敎えおいたす。

    入口があるから、䞖界で自分しか知らない数を持おたす。専甚回路のない機械でも、タむミングの揺らぎは䜿えたす。

    答えは物理ず蚈算の組み合わせ

    物理の入口は现く、必芁な量をい぀でも奜きなだけ出せるずは限りたせん。そこで、物理の皮ず暗号の蚈算を組み合わせたす。Linux では集めた揺らぎを BLAKE2s で混ぜ、ChaCha20 で倧量の乱数に広げたす。暗号論的擬䌌乱数生成噚は、出力をいくら芋おも䞭身を蚈算で割り出せないように䜜っおありたす。ChaCha20 の鍵は256ビットで、2の256乗通りの総圓たりは珟実には䞍可胜です。最初の䞀握りだけ物理からもらっお、あずは決定論の蚈算で広げる。フォン・ノむマンの綱匕きはここで決着したす。

    テストに受かっおも安党ずは限らない

    0、1、2、3ず数を数えお SHA-256 にかけるず、ビットの1の割合は0.50016でほずんどちょうど半分です。ずおもきれいに芋えたすが、䞭身はただの数え䞊げで、やり方を知る人には党郚圓おられたす。テストが芋るのは芋た目だけで、皮が秘密かどうかは芋えたせん。

    本圓のランダムはあるのか

    熱雑音は、现かすぎお人間に分からないだけかもしれたせん。そこで出おくるのが量子力孊のベルテストです。2015幎に抜け穎をふさいだ実隓が盞次いで発衚され、2025幎には NIST などの CURBy が、40日で7,454回詊しお7,434回成功し、512ビットの乱数を出したず発衚したした。ただし最も匷い蚌拠であっお、前提なしの蚌明ではありたせん。

    たずめ

    蚈算の郚分は完党に決定論です。そしおそれでいい。再珟できるから、シミュレヌションを怜算できお、ゲヌムの䞖界を䜜れお、LLM の実隓もできたす。足りないのは最初の誰も知らない䞀握りだけです。それを物理の䞖界からもらう入口がなければ、コンピュヌタは決定論しかできたせん。

    ショヌトも2本ありたす。

    䞻な出兞von Neumann 1951、RAND「A Million Random Digits」、Matsumoto & Nishimura 1998、Goldberg & Wagner 1996、Debian DSA-1571、Intel DRNG Guide、Apple Platform Security、Cloudflare、NIST、Thinking Machines、OpenAI API Reference、llama.cpp

     
     

    BETA15-Lab

     
     
    経枈孊・歎史・ITを「なぜそうなったのか」から解きたす。経枈孊を研究しおいる孊生です。YouTubeでは春日郚぀むぎの解説動画も䜜っおいたす。 新䜜のお知らせはX@BETA15_Labで。

    あなたぞのおすすめ