ใƒกใ‚คใƒณใ‚ณใƒณใƒ†ใƒณใƒ„ใธใ‚นใ‚ญใƒƒใƒ—
่ฆ‹ๅ‡บใ—็”ปๅƒ

LLM#1 LLMใ‚’ไฝœใ‚ŠใชใŒใ‚‰ใ€็†่งฃใ—ใฆใ„ใ

    ้€ฃ่ผ‰ใ€ŒLLMใฎไป•็ต„ใฟใ‚’ใ€ไฝœใ‚ŠใชใŒใ‚‰็†่งฃใ™ใ‚‹ใ€
    ็ฌฌ1ๅ›žใ€€
    LLMใ‚’ไฝœใ‚ŠใชใŒใ‚‰ใ€็†่งฃใ—ใฆใ„ใ
    ใ€€ใ€€ใ€œ temperature 0.7 ใฎๆ„ๅ‘ณใ‚’ใ€็งใฏ่ชฌๆ˜Žใงใใชใ‹ใฃใŸ ใ€œ

    ใฉใ†ใ‚‚ใงใ™๏ผใˆใ‚€ใ—ใ‚“ใงใ™ใ€‚
    LLMใฎไป•็ต„ใฟใŒใ‚ใ‹ใ‚‹ใ‚ˆใ†ใซใชใ‚ŠใŸใใ€Grok ใ‚„ Claude ใชใฉใซๆ•™ใˆใฆใ‚‚ใ‚‰ใ„ใชใŒใ‚‰็†่งฃใ—ใฆใ„ใ“ใ†ใจๆ€ใ„ใพใ™ใ€‚
    ่จ˜ไบ‹ใ‚’AIใจไธ€็ท’ใซๆ›ธใใชใŒใ‚‰ใ€้€ฒใ‚ใฆ่กŒใ“ใ†ใจๆ€ใ„ใพใ™ใ€‚็›ธๆ‰‹ใŒAIใชใฎใงใ€ใ†ใพใๅŽๆŸใงใใ‚Œใฐใ‚ˆใ„ใฎใงใ™ใŒ๐Ÿ’ฆ
    ๏ผˆAIใง้€ฃ่ผ‰ใ‚’ๆ›ธใใจใ€่ฝใกใฉใ“ใ‚ใŒใชใใฆ่–„ใฃใบใ‚‰ใ„ใ‚‚ใฎใซใชใ‚ŠใŒใกใชใฎใงใ€ๆฐ—ใ‚’ใคใ‘ใพใ™๏ผ‰

    ๆ‰‹ๅ…ƒใงLLMใŒๅ‹•ใ„ใŸๆ—ฅ

    ่‡ชๅˆ†ใฎใƒžใ‚ทใƒณใงLLMใŒๅ‹•ใ„ใŸใจใใฏใ€็ด ็›ดใซ่ˆˆๅฅฎใ—ใพใ—ใŸใ€‚

    Ollama ใ‚’ๅ…ฅใ‚Œใฆใ€ใƒขใƒ‡ใƒซใ‚’ๅผ•ใฃๅผตใฃใฆใใฆใ€ใ‚ณใƒžใƒณใƒ‰ใ‚’ๅฉใใ€‚
    ใ‚ฏใƒฉใ‚ฆใƒ‰ใซไฝ•ใ‚‚้€ใฃใฆใ„ใชใ„ใฎใซใ€็›ฎใฎๅ‰ใงๆ–‡็ซ ใŒ็”Ÿๆˆใ•ใ‚Œใฆใ„ใใ€‚
    ๅ›ž็ทšใŒๅˆ‡ใ‚Œใฆใ‚‚ๅ‹•ใใ€‚ไฝ•ๅ›žๅฉใ„ใฆใ‚‚่ชฒ้‡‘ใ•ใ‚Œใชใ„ใ€‚

    ใ—ใฐใ‚‰ใใฏใ€ใใ‚Œใ ใ‘ใงๆฅฝใ—ใ‹ใฃใŸใงใ™ใ€‚


    ใคใพใฟใ‚’ๅ›žใ™ๆ—ฅใ€…

    ใใฎใ†ใกใ€ๅ‡บๅŠ›ใฎ่ชฟๅญใ‚’ๆ•ดใˆใŸใใชใ‚‹ใ€‚
    Modelfileย ใ‚’้–‹ใ„ใฆใ€ใƒ‘ใƒฉใƒกใƒผใ‚ฟใ‚’ใ„ใ˜ใ‚Šๅง‹ใ‚ใŸใ€‚

    temperature   0.7
    top_p         0.9
    top_k         40
    num_ctx       4096

    ๆญฃ็›ดใซ่จ€ใ†ใจใ€ใ“ใฎๆ•ฐๅญ—ใฏใฉใ“ใ‹ใง่ฆ‹ใŸ่จญๅฎšใ‚’ใใฎใพใพๅ†™ใ—ใŸใ‚‚ใฎใงใ—ใŸใ€‚

    ใใ“ใ‹ใ‚‰ๅ…ˆใฏใ€ใฒใŸใ™ใ‚‰ๆ‰‹ๆŽขใ‚Šใงใ—ใŸใ€‚

    • temperatureย ใ‚’ไธŠใ’ใ‚‹ใจๅ‡บๅŠ›ใŒ่’ใ‚Œใ‚‹ๆฐ—ใŒใ™ใ‚‹ใ€‚ไธ‹ใ’ใ‚‹ใจๅŒใ˜ใ“ใจใฐใ‹ใ‚Š่จ€ใ†ๆฐ—ใŒใ™ใ‚‹ใ€‚

    • top_pย ใฏโ€ฆโ€ฆ0.9 ใงใ„ใ„ใ‚‰ใ—ใ„ใ€‚ใชใœ 0.9 ใชใฎใ‹ใฏ็Ÿฅใ‚‰ใชใ„ใ€‚

    • top_kย ใ‚‚ไธ€็ท’ใซๆŒ‡ๅฎšใ—ใฆใ‚ใ‚‹่จ˜ไบ‹ใจใ€ใ—ใฆใ„ใชใ„่จ˜ไบ‹ใŒใ‚ใ‚‹ใ€‚ใฉใฃใกใŒๆญฃใ—ใ„ใฎใ‹ใ€‚

    • num_ctxย ใ‚’ๅข—ใ‚„ใ™ใจใƒกใƒขใƒชใ‚’้ฃŸใ†ใ€‚ใงใ‚‚ใฉใ“ใพใงๅข—ใ‚„ใ™ใจไฝ•ใŒ่ตทใใ‚‹ใฎใ‹ใ€‚

    • ใƒขใƒ‡ใƒซใ‚’้ธใถใจใใ€ๆœซๅฐพใฎ Q4_K_Mย ใจ Q5_K_Mย ใฎ้•ใ„ใฏใ€ๆญฃ็›ดใ‚ˆใๅˆ†ใ‹ใฃใฆใ„ใชใ„ใ€‚

    ใใ—ใฆใ€ใ„ใ˜ใฃใŸ็ตๆžœใฎๅˆคๅฎšใ‚‚ๆ›–ๆ˜งใงใ—ใŸใ€‚

    ใ€Œใชใ‚“ใ‹่‰ฏใใชใฃใŸๆฐ—ใŒใ™ใ‚‹ใ€

    ็”ŸๆˆใฏๆฏŽๅ›ž้•ใ†ใ€‚ๆฏ”ในใฆใ„ใ‚‹ใ‚‚ใฎใŒๆฏŽๅ›ž้•ใ†ใฎใ ใ‹ใ‚‰ใ€
    ่‰ฏใใชใฃใŸใฎใ‹ใ€ใŸใพใŸใพใชใฎใ‹ใ€ๅˆ‡ใ‚Šๅˆ†ใ‘ใ‚‰ใ‚Œใ‚‹ใฏใšใŒใ‚ใ‚Šใพใ›ใ‚“ใ€‚


    ็ฉใฟไธŠใŒใฃใŸใฎใฏใ€็ตŒ้จ“ๅ‰‡ใงใฏใชใใ€ŒใŠใพใ˜ใชใ„ใ€ใ ใฃใŸ

    ใใ‚Œใงใ‚‚ๅ›žๆ•ฐใ‚’้‡ใญใ‚Œใฐใ€ๅคšๅฐ‘ใฎๅ‹˜ใฏๅƒใใ‚ˆใ†ใซใชใ‚Šใพใ™ใ€‚

    ใ€Œใ“ใฎ็”จ้€”ใชใ‚‰ๆธฉๅบฆใฏไฝŽใ‚ใ€ใ€Œ้•ทๆ–‡ใ‚’ๆ›ธใ‹ใ›ใ‚‹ใชใ‚‰ใ‚ณใƒณใƒ†ใ‚ญใ‚นใƒˆใฏๅบƒใ‚ใซใ€ใ€‚
    ๆ‚ชใใฏใชใ„ใ€‚ๅฎŸๅ‹™ใงใฏใใ‚Œใง่ถณใ‚Šใ‚‹ใ“ใจใ‚‚ๅคšใ„ใ€‚

    ใงใ‚‚ใ€ใ‚ใ‚‹ใจใๆฐ—ใฅใ„ใฆใ—ใพใ„ใพใ—ใŸใ€‚

    ็งใฏใ€ใ“ใฎใคใพใฟใŒไฝ•ใ‚’ใ—ใฆใ„ใ‚‹ใฎใ‹ใ€ไธ€ใคใ‚‚่ชฌๆ˜Žใงใใชใ„ใ€‚

    temperatureย ใฏใ€Œๅ‰ต้€ ๆ€งใฎใคใพใฟใ€ใ ใจใ€ใ‚ใกใ“ใกใซๆ›ธใ„ใฆใ‚ใฃใŸใ€‚
    ็งใ‚‚ใใ†็†่งฃใ—ใฆใ„ใŸใ€‚ใ˜ใ‚ƒใ‚ใ€Œๅ‰ต้€ ๆ€งใ€ใจใฏใ€่จˆ็ฎ—ใฎใฉใ“ใซๅ…ฅใฃใฆใ„ใ‚‹้‡ใชใฎใ‹ใ€‚
    ใƒขใƒ‡ใƒซใฎไธญใซใ€Œๅ‰ต้€ ๆ€งใ€ใจใ„ใ†ๅค‰ๆ•ฐใŒใ‚ใ‚‹ใ‚ใ‘ใŒใชใ„ใ€‚ใงใฏใ€ไฝ•ใชใฎใ‹ใ€‚

    top_pย ใฎ 0.9 ใฏไฝ•ใฎ 0.9 ใชใฎใ‹ใ€‚ไฝ•ใจไฝ•ใ‚’่ถณใ—ใฆ 0.9 ใชใฎใ‹ใ€‚
    num_ctxย ใฎ 4096 ใฏใ€Œ4096ใƒˆใƒผใ‚ฏใƒณใ€ใ ใŒใ€ใƒˆใƒผใ‚ฏใƒณใจใฏ็ตๅฑ€ใ€ไฝ•ใฎๅ˜ไฝใชใฎใ‹ใ€‚
    ๆ—ฅๆœฌ่ชžใ ใจไฝ•ๆ–‡ๅญ—ใถใ‚“ใชใฎใ‹ใ€‚

    ่‡ชไฟกใ‚’ๆŒใฃใฆใฏ็ญ”ใˆใ‚‰ใ‚Œใพใ›ใ‚“ใงใ—ใŸใ€‚

    ใคใพใ‚Š็งใŒใ‚„ใฃใฆใ„ใŸใฎใฏ่ชฟๆ•ดใงใฏใชใใ€ใŠใพใ˜ใชใ„ใงใ—ใŸใ€‚
    ๅŠนใ„ใŸใจใใฎ็†็”ฑใ‚‚ใ€ๅŠนใ‹ใชใ‹ใฃใŸใจใใฎ็†็”ฑใ‚‚ๅˆ†ใ‹ใ‚‰ใชใ„ใ€‚
    ใ ใ‹ใ‚‰ๆฌกใซๆดปใ‹ใ›ใชใ„ใ€‚ไฝ•ๅบฆใ‚„ใฃใฆใ‚‚ใ€ๆฏŽๅ›žใ„ใกใ‹ใ‚‰ใ‚„ใ‚Š็›ดใ—ใฆใ„ใ‚‹ใ€‚

    ไฝ“็ณปใŒใชใ„ใ€ใจใ„ใ†ใฎใฏใ“ใ†ใ„ใ†ใ“ใจใงใ—ใŸใ€‚


    ่งฃ่ชฌ่จ˜ไบ‹ใฏใ€ใ„ใกใฐใ‚“็Ÿฅใ‚ŠใŸใ„ใจใ“ใ‚ใง็ต‚ใ‚ใ‚‹

    ใ‚‚ใกใ‚ใ‚“ใ€่ชฟในใพใ—ใŸใ€‚

    Attentionใ€‚Transformerใ€‚ใƒˆใƒผใ‚ฏใƒณใ€‚ๅŸ‹ใ‚่พผใฟใ€‚
    ่จ˜ไบ‹ใฏใ„ใใ‚‰ใงใ‚‚่ฆ‹ใคใ‹ใฃใŸใ—ใ€ๅ›ณใ‚‚ใใ‚Œใ„ใงใ—ใŸใ€‚ใใ—ใฆใ€ใฉใ‚Œใ‚‚ใ“ใ†ๆ›ธใ„ใฆใ‚ใ‚Šใพใ™ใ€‚

    ใ€ŒAttentionใฏใ€ๅ˜่ชžๅŒๅฃซใฎ้–ข้€ฃๅบฆใ‚’่จˆ็ฎ—ใ™ใ‚‹ไป•็ต„ใฟใงใ™ใ€

    โ€ฆโ€ฆใใ‚Œใฏๅˆ†ใ‹ใ‚Šใพใ—ใŸใ€‚ใงใ€ใฉใ†ใ‚„ใฃใฆ๏ผŸ

    ้–ข้€ฃๅบฆใฃใฆใ€ไฝ•ใ‚’ไฝฟใฃใฆๆธฌใ‚‹ใฎใ‹ใ€‚
    ๆธฌใฃใŸใ‚ใจใ€ใใฎๆ•ฐๅญ—ใ‚’ใฉใ“ใซไฝฟใ†ใฎใ‹ใ€‚
    ใใ—ใฆใ€ใใฎ่ฉฑใฏ็งใŒๅ›žใ—ใฆใ„ใŸใคใพใฟใจใ€ใฉใ“ใงใคใชใŒใ‚‹ใฎใ‹ใ€‚

    ใ„ใกใฐใ‚“็Ÿฅใ‚ŠใŸใ„ใจใ“ใ‚ใŒใ€ใ„ใคใ‚‚ไธ€ๆ–‡ใง็‰‡ไป˜ใ‘ใ‚‰ใ‚Œใฆใ„ใพใ—ใŸใ€‚

    ๆ‚ชใ„ใฎใฏ่จ˜ไบ‹ใงใฏใชใ„ใจๆ€ใ„ใพใ™ใ€‚
    ใใ“ใ‹ใ‚‰ๅ…ˆใฏๆ•ฐๅผใ‹ใ€ใ‚ณใƒผใƒ‰ใงใ—ใ‹่ชžใ‚Œใชใ„้ ˜ๅŸŸใชใฎใ ใ‚ใ†ใ€‚
    ใใ—ใฆๆ•ฐๅผใฎใปใ†ใ‚’้–‹ใใจใ€ไปŠๅบฆใฏ่จ˜ๅทใฎๅฎš็พฉใ‹ใ‚‰่ฟทๅญใซใชใ‚‹ใ€‚

    ่ชญใ‚“ใงใ‚‚่ชญใ‚“ใงใ‚‚ใ€ใ€Œๅˆ†ใ‹ใฃใŸๆฐ—ใ€ใ ใ‘ใŒๅข—ใˆใฆใ„ใใ€‚
    ใ“ใฎๆ„Ÿใ˜ใซใฏ่ฆšใˆใŒใ‚ใ‚Šใพใ—ใŸใ€‚
    ่ชฌๆ˜Žใ‚’่ชญใ‚“ใง็†่งฃใ—ใŸๆฐ—ใซใชใฃใฆใ„ใ‚‹ใ ใ‘ใงใ€ๆ‰‹ใ‚’ๅ‹•ใ‹ใ—ใฆใ„ใชใ„ใจใใฎๆ„Ÿ่งฆใ ๏ผ


    ใ ใ‹ใ‚‰ใ€ไฝœใฃใฆใฟใ‚‹ใ“ใจใซใ—ใŸ

    ใƒ—ใƒญใ‚ฐใƒฉใƒŸใƒณใ‚ฐใ‚’่ฆšใˆใŸใจใใฎใ“ใจใ‚’ๆ€ใ„ๅ‡บใ—ใพใ—ใŸใ€‚

    forย ๆ–‡ใฎ่งฃ่ชฌใ‚’10ๅ›ž่ชญใ‚“ใงใ‚‚่บซใซใคใ‹ใชใ‹ใฃใŸใฎใซใ€
    ่‡ชๅˆ†ใง1ๅ›žๆ›ธใ„ใฆใ€็„ก้™ใƒซใƒผใƒ—ใ•ใ›ใฆใ€Ctrl+C ใ‚’ๆŠผใ—ใŸ็žฌ้–“ใซใ‚ใ‹ใ‚Šใพใ—ใŸใ€‚

    ใŸใถใ‚“ใ€ๅŒใ˜ใ“ใจใ‚’ใ™ใ‚Œใฐใ„ใ„ใ€‚

    LLMใ‚’ใ€่‡ชๅˆ†ใฎๆ‰‹ใงใ€ใ„ใกใฐใ‚“ๅฐใ•ใไฝœใฃใฆใฟใ‚‹ใ€‚

    temperatureย ใ‚’ๅค–ใ‹ใ‚‰ๅ›žใ™ใฎใงใฏใชใใ€
    ใใฎๅ‰ฒใ‚Š็ฎ—ใŒๆ›ธใ‹ใ‚Œใฆใ„ใ‚‹่กŒใ‚’ใ€่‡ชๅˆ†ใงๆ›ธใใ€‚
    ใใ†ใ™ใ‚Œใฐใ€ไฝ•ใ‚’ใ—ใฆใ„ใ‚‹ใ‚‚ใฎใชใฎใ‹ใ€ๅซŒใงใ‚‚ๅˆ†ใ‹ใ‚‹ใฏใšใงใ™ใ€‚

    ่ฆๆจกใฏ่ซฆใ‚ใ‚‹ใ€‚ๆœฌ็‰ฉใจๅผตใ‚Šๅˆใฃใฆใ‚‚ไป•ๆ–นใŒใชใ„ใ€‚
    ใงใ‚‚ใ€้ƒจๅ“ใจใ€ใใฎไธฆใณ้ †ใ ใ‘ใฏๆœฌ็‰ฉใจๅŒใ˜ใซใ™ใ‚‹ใ€‚
    ใใ‚Œใชใ‚‰ใ€ๅ‹•ใ‹ใ—ใŸใจใใซ่ตทใใ‚‹ใ“ใจใฏใ€ๆœฌ็‰ฉใงใ‚‚่ตทใใฆใ„ใ‚‹ใฏใšใงใ™ใ€‚

    ๆ–น้‡ใฏใ“ใ†ๆฑบใ‚ใพใ—ใŸใ€‚

    • ใƒฉใ‚คใƒ–ใƒฉใƒชใฎ model = AutoModel.from_pretrained(...)ย ใฏไฝฟใ‚ใชใ„๏ผˆใใ‚Œใงใฏไธญ่บซใŒ่ฆ‹ใˆใชใ„๏ผ‰

    • ้ƒจๅ“ใฏใ™ในใฆ่‡ชๅˆ†ใงๆ›ธใ

    • ใŸใ ใ—ใ€ๅ‹•ใๆœ€ๅฐๅ˜ไฝใงใ„ใ„

    • ๆ‰‹ๅ…ƒใฎใƒžใ‚ทใƒณใฎใ€CPUใ ใ‘ใงๅ‹•ใ่ฆๆจกใซใ™ใ‚‹


    ไฝœใ‚‹ใฎใฏใ€GPT-3ใฎ80ไธ‡ๅˆ†ใฎ1

    ็ต่ซ–ใ‹ใ‚‰่จ€ใ†ใจใ€ClaudeใซๅŠฉใ‘ใฆใ‚‚ใ‚‰ใ„ใชใŒใ‚‰ใ€ๅฝขใซใชใ‚Šใพใ—ใŸใ€‚

    | | ไฝœใฃใŸใ‚‚ใฎ | GPT-3 |
|---|---|---|
| ใƒ‘ใƒฉใƒกใƒผใ‚ฟๆ•ฐ | **214,115** | 1,750ๅ„„ |
| ๅฑคใฎๆ•ฐ | 4 | 96 |
| ๅญฆ็ฟ’ใƒ‡ใƒผใ‚ฟ | **198ๆ–‡ๅญ—** | ็ด„3,000ๅ„„ใƒˆใƒผใ‚ฏใƒณ |
| ๅญฆ็ฟ’ๆ™‚้–“ | **็ด„50็ง’๏ผˆCPU๏ผ‰** | ๆ•ฐๅƒGPUใงๆ•ฐ้€ฑ้–“ |

    ใƒ‘ใƒฉใƒกใƒผใ‚ฟๆ•ฐใซใ—ใฆใ€็ด„80ไธ‡ๅˆ†ใฎ1ใ€‚
    ๅญฆ็ฟ’ใƒ‡ใƒผใ‚ฟใซใ„ใŸใฃใฆใฏใ€่‡ชๅˆ†ใง็”จๆ„ใ—ใŸ198ๆ–‡ๅญ—ใฎ็Ÿญใ„ๆ–‡็ซ ใ ใ‘ใ€‚
    ไฝ•ใ‚’ๆ›ธใ“ใ†ใ‹่ฟทใฃใŸๆœซใ€ๆœใ‚ณใƒผใƒ’ใƒผใ‚’ๆทนใ‚Œใ‚‹่ฉฑใซใ—ใพใ—ใŸใ€‚

    ็งใฏๆฏŽๆœใ‚ณใƒผใƒ’ใƒผใ‚’ๆทนใ‚Œใ‚‹ใ€‚่ฑ†ใ‚’ๆŒฝใ้Ÿณใง็›ฎใŒ่ฆšใ‚ใ‚‹ใ€‚
    ๆนฏใ‚’ๆฒธใ‹ใ—ใ€็ฒ‰ใซๅฐ‘ใ—ใ ใ‘ๆนฏใ‚’่ฝใจใ—ใฆ่’ธใ‚‰ใ™ใ€‚
    ้ฆ™ใ‚ŠใŒ็ซ‹ใกใฎใผใ‚‹ใพใงใฎไธ‰ๅ็ง’ใŒใ€ไธ€ๆ—ฅใงใ„ใกใฐใ‚“้™ใ‹ใชๆ™‚้–“ใ ใ€‚
    ใใ‚Œใ‹ใ‚‰ๆฎ‹ใ‚Šใฎๆนฏใ‚’ใ‚†ใฃใใ‚Šๆณจใใ€‚
    ใ‚ซใƒƒใƒ—ใ‚’ๆŒใฃใฆ็ช“่พบใซๅบงใ‚Šใ€ๅค–ใฎ็ฉบใ‚’็œบใ‚ใ‚‹ใ€‚
    ๆ™ดใ‚ŒใŸๆ—ฅใฏ้ ใใฎๅฑฑใŒ่ฆ‹ใˆใ‚‹ใ€‚ๆ›‡ใฃใŸๆ—ฅใฏ็”บใฎ้ŸณใŒใ‚ˆใ่žใ“ใˆใ‚‹ใ€‚
    ้›จใฎๆ—ฅใฏใ€ๅฑ‹ๆ นใ‚’ๆ‰“ใค้Ÿณใ‚’่žใใชใŒใ‚‰ๆœฌใ‚’่ชญใ‚€ใ€‚
    ใใ†ใ—ใฆใ‚ณใƒผใƒ’ใƒผใ‚’้ฃฒใฟ็ต‚ใˆใ‚‹ใจใ€็งใฏๆœบใซๅ‘ใ‹ใ†ใ€‚

    ่ฑ†ใ‚’ๆŒฝใ„ใฆใ€ๆนฏใ‚’ๆฒธใ‹ใ—ใฆใ€่’ธใ‚‰ใ—ใฆใ€็ช“่พบใง้ฃฒใ‚€ใ€‚ใใ‚Œใ ใ‘ใฎๆ–‡็ซ ใ€‚

    GPUใ‚‚ไฝฟใฃใฆใ„ใพใ›ใ‚“ใ€‚ใ‚ณใƒผใƒ’ใƒผใŒๅ†ทใ‚ใ‚‹ๅ‰ใซๅญฆ็ฟ’ใŒ็ต‚ใ‚ใ‚Šใพใ™ใ€‚

    ่ณขใ„ใ“ใจใฏไฝ•ใ‚‚่จ€ใ‚ใชใ„ใ€‚ๅฝ“็„ถใฎ็ตๆžœใงใ™ใ€‚

    ใงใ‚‚ใ€ๆง‹้€ ใฏๆœฌ็‰ฉใจๅŒใ˜ใ€‚
    AttentionใŒใ‚ใ‚Šใ€ใƒ•ใ‚ฃใƒผใƒ‰ใƒ•ใ‚ฉใƒฏใƒผใƒ‰ๅฑคใŒใ‚ใ‚Šใ€ๆฎ‹ๅทฎๆŽฅ็ถšใŒใ‚ใ‚Šใ€
    ๆœ€ๅพŒใซ่ชžๅฝ™ใฎใถใ‚“ใ ใ‘็ขบ็އใ‚’ๅใๅ‡บใ™ใ€‚้ †็•ชใ‚‚ใ€ๆœฌ็‰ฉใจๅŒใ˜ใ€‚

    ใใ—ใฆไฝ•ใ‚ˆใ‚Šใ€ๅ‹•ใ„ใŸใ€‚


    ไบˆๅ‘Š๏ผšใ“ใ‚Œใ‹ใ‚‰่ตทใใ‚‹ใ“ใจ

    ใ“ใฎ้€ฃ่ผ‰ใงใฏใ€ใใฎ50็ง’ใฎไธญใงไฝ•ใŒ่ตทใใฆใ„ใŸใฎใ‹ใ‚’ใ€้ †็•ชใซๅˆ†่งฃใ—ใฆใ„ใใพใ™ใ€‚

    ๅ…ˆใซใ€ใ„ใใคใ‹ๅ ด้ขใ‚’่ฆ‹ใฆใ„ใŸใ ใใŸใ„ใ€‚
    ็งใŒใ„ใกใฐใ‚“ใ€ŒใŠใŠใฃใ€ใจๅฃฐใ‚’ๅ‡บใ—ใŸใจใ“ใ‚ใงใ™ใ€‚

    ๅญฆ็ฟ’ใ‚’ๅง‹ใ‚ใŸ็›ดๅพŒใ€ใƒขใƒ‡ใƒซใŒๅใๅ‡บใ—ใŸๆ–‡ๅญ—ๅˆ—ใฏใ“ใ†ใ ใฃใŸใ€‚

    ๆ น้ ๆ‰“ใใกใ‚Œใ‚ˆใŒไธ‰ใ‚‰ใƒผใƒƒ่ฑ†ใ—ใ‚€ใ้™ใ‚‰ๆทนใซใคๆฎ‹ๆ นๆ—ฅใซๆ นใ‚†ใ„ใผๆนฏใ็ฉบ้ฆ™ไธ€ๆŒๆ—ฅใ†้ฆ™ใ„ใ“ใ‚‹ใกใ“้ฃฒๆณจ้Ÿณใ ใช

    ๅฎŒๅ…จใชใ‚ดใƒŸใงใ™ใ€‚ใƒฉใƒณใƒ€ใƒ ใซๆ–‡ๅญ—ใ‚’ไธฆในใŸใ ใ‘ใ€‚

    ใจใ“ใ‚ใŒใ€100ๅ›žใปใฉๅญฆ็ฟ’ใ‚’ๅ›žใ—ใŸใ‚ใจใ€ๅŒใ˜ใƒขใƒ‡ใƒซใŒใ“ใ†ๆ›ธใใพใ—ใŸใ€‚

    ้›จใฎๆ—ฅใฏใ€ๅฑ‹ๆ นใ‚’ๆ‰“ใค้Ÿณใ‚’่žใใชใŒใ‚‰ๆœฌใ‚’่ชญใ‚€ใ€‚
    ใใ†ใ—ใฆใ‚ณใƒผใƒ’ใƒผใ‚’้ฃฒใฟ็ต‚ใˆใ‚‹ใจใ€็งใฏๆœบใซๅ‘ใ‹ใ†ใ€‚
    ใ‚ณใƒผใƒ’ใƒผใ‚’ๆทนใ‚Œใ‚‹ใ€‚่ฑ†ใ‚’ๆŒฝใ‹ใ†ใ€‚่ฑ†ใ‚’ๆŒฝใ้Ÿณใง็›ฎใŒ่ฆšใ‚ใ‚‹ใ€‚

    ๆ—ฅๆœฌ่ชžใซใชใฃใฆใ„ใ‚‹ใ€‚ใ—ใ‹ใ‚‚ใ€้€”ไธญใฎใ€Œ่ฑ†ใ‚’ๆŒฝใ‹ใ†ใ€ใŒๆ„›ใŠใ—ใ„โ™ฅ
    ใ€ŒๆŒฝใใ€ใจใ€Œๅ‘ใ‹ใ†ใ€ใฎใ‚ใ„ใ ใง่ฟทใฃใฆใ€ๆททใ–ใฃใฆใ—ใพใฃใฆใ„ใพใ™ใ€‚
    ใƒขใƒ‡ใƒซใŒ่ฟทใฃใฆใ„ใ‚‹็žฌ้–“ใŒใ€ๅ‡บๅŠ›ใซๆฎ‹ใฃใฆใ„ใ‚‹ใ€‚

    ใใ—ใฆ500ๅ›ž็›ฎใซใฏใ€ใ‚‚ใ†ใ“ใฎ่ฟทใ„ใฏๆถˆใˆใฆใ„ใ‚‹ใ€‚

    ใ“ใ†ใ„ใ†ๅ ด้ขใŒใ€ใพใ ใ„ใใคใ‚‚ใ‚ใ‚Šใพใ™ใŒใ€ใ“ใ‚Œใ‹ใ‚‰็ถดใ‚Šใพใ™ใ€‚

    ใใ—ใฆ้€ฃ่ผ‰ใฎ็ต‚็›คใงใ€ใ‚ใฎใคใพใฟใฎๆญฃไฝ“ใซใŸใฉใ‚Š็€ใใพใ™ใ€‚

    ๅ…ˆใซไธ€ใคใ ใ‘่จ€ใฃใฆใ—ใพใ†ใจใ€
    temperature ใฏใ€Œๅ‰ต้€ ๆ€งใฎใคใพใฟใ€ใงใฏใ‚ใ‚Šใพใ›ใ‚“ใงใ—ใŸใ€‚
    ๆธฉๅบฆใ‚’ไธŠใ’ใฆใ„ใใจๅฎŸ้š›ใซไฝ•ใŒ่ตทใใ‚‹ใฎใ‹ใ€ๅ‡บๅŠ›ใ‚’ไธฆในใฆใŠ่ฆ‹ใ›ใ—ใพใ™ใ€‚
    ๅฐ‘ใชใใจใ‚‚ใ€ๅ‰ต้€ ็š„ใซใฏใชใ‚Šใพใ›ใ‚“ใ€‚


    ใ“ใฎ้€ฃ่ผ‰ใฎ็ด„ๆŸ

    ่ชญใฟ็‰ฉใจใ—ใฆๆ›ธใใซใ‚ใŸใฃใฆใ€3ใคๆฑบใ‚ใŸใ“ใจใŒใ‚ใ‚Šใพใ™ใ€‚

    1. ๆ•ฐๅผใฏใปใจใ‚“ใฉๅ‡บใ—ใพใ›ใ‚“

    ๆ•ฐๅผใŒใฉใ†ใ—ใฆใ‚‚ๅฟ…่ฆใชๅ ด้ขใŒใ‚ใ‚Šใพใ™ใŒใ€ใใฎใจใใ‚‚ใ€Œใ“ใฎ่จ˜ๅทใฏใ“ใ†ใ„ใ†ๆ„ๅ‘ณใงใ™ใ€ใจ่ชฌๆ˜Žใ—ใฆใ‹ใ‚‰ไฝฟใ†ใ“ใจใซใ—ใพใ™ใ€‚ๆ•ฐๅผใŒ่ชญใ‚ใชใใฆใ‚‚ๆœ€ๅพŒใพใง่กŒใ‘ใ‚‹ใ‚ˆใ†ใซใ—ใŸใ„ใ€‚

    2. ใ‚ณใƒผใƒ‰ใฏใ€Œ็ตๆžœใ€ใ‚’ไธญๅฟƒใซ่ฆ‹ใ›ใพใ™

    ๅ‹•ใใ‚ณใƒผใƒ‰ใฏๅˆฅ้€”ใ€ๆŠ€่ก“ใƒ‰ใ‚ญใƒฅใƒกใƒณใƒˆใฎใปใ†ใซใพใจใ‚ใพใ™ใ€‚
    ใ“ใฎ้€ฃ่ผ‰ใงใฏใ€ใ‚ณใƒผใƒ‰ใใฎใ‚‚ใฎใ‚ˆใ‚Šใ€Œๅ‹•ใ‹ใ—ใŸใ‚‰ไฝ•ใŒ่ตทใใŸใ‹ใ€ใ‚’ๆ›ธใใพใ™ใ€‚

    3. ใ†ใพใใ„ใ‹ใชใ‹ใฃใŸใ“ใจใ‚‚ๆ›ธใใพใ™

    ๅฎŸ้š›ใ€ใ“ใฎ50็ง’ใฎๅญฆ็ฟ’ใซใฏๅคงใใช่ฝใจใ—็ฉดใŒใ‚ใ‚Šใพใ—ใŸใ€‚
    ๆ•ฐๅญ—ใ ใ‘่ฆ‹ใ‚ŒใฐๅคงๆˆๅŠŸใชใฎใซใ€ใ‚ˆใ่ฆ‹ใ‚‹ใจๆˆๅŠŸใ—ใฆใ„ใชใ„ใ€‚
    ๆฐ—ใฅใ„ใŸใจใใฏใ‘ใฃใ“ใ†ๆฐ—ใพใšใ‹ใฃใŸใฎใงใ™ใŒใ€ใใ“ใŒใ„ใกใฐใ‚“ๅญฆใณใซใชใฃใŸใฎใงใ€ๅพŒใงๆญฃ็›ดใซๆ›ธใใคใ‚‚ใ‚Šใงใ™ใ€‚


    ใใ‚Œใงใ‚‚ใ€ๅˆ†ใ‹ใ‚‹ใ“ใจใซใฏ้™ใ‚ŠใŒใ‚ใ‚‹

    ไป•็ต„ใฟใŒๅˆ†ใ‹ใฃใฆใ‚‚ใ€AIใฎ็ญ”ใˆใ‚’ไบˆๆธฌใงใใ‚‹ใ‚ˆใ†ใซใฏใชใ‚‰ใชใ„ใ€‚
    ๆง‹้€ ใฏ็†่งฃใงใใฆใ‚‚ใ€ๆ•ฐๅƒๅ„„ๅ€‹ใฎๆ•ฐๅญ—ใŒไฝ•ใ‚’ๆ„ๅ‘ณใ—ใฆใ„ใ‚‹ใ‹ใฏใ€
    ใŸใถใ‚“ไฝœใฃใŸไบบใŸใกใซใ‚‚ๅˆ†ใ‹ใฃใฆใ„ใชใ„ใ€‚

    ใ€Œไป•็ต„ใฟใŒๅˆ†ใ‹ใ‚‹ใ€ใจใ€ŒๆŒฏใ‚‹่ˆžใ„ใŒ่ชญใ‚ใ‚‹ใ€ใฏใ€ๅˆฅใฎใ“ใจใงใ™ใ€‚

    ใใ‚Œใงใ‚‚็งใฏใ€่ผช้ƒญใŒ่ฆ‹ใˆใ‚‹ใ ใ‘ใงๅๅˆ†ใ ใจๆ€ใฃใฆใ„ใพใ™ใ€‚
    ใฉใ“ใพใงใŒ่จญ่จˆใงใ€ใฉใ“ใ‹ใ‚‰ใŒๅ‰ฏ็”ฃ็‰ฉใชใฎใ‹ใ€‚
    ไฝ•ใŒๅพ—ๆ„ใงใ€ไฝ•ใŒๅŽŸ็†็š„ใซ่‹ฆๆ‰‹ใชใฎใ‹ใ€‚
    ใใ—ใฆใ€ใ‚ใฎใคใพใฟใ‚’ใ€ใฉใ†ใ„ใ†ๆฐ—ๆŒใกใงๅ›žใ›ใฐใ„ใ„ใฎใ‹ใ€‚

    ใใ‚ŒใŒๅˆ†ใ‹ใ‚Œใฐใ€ใ“ใฎ้“ๅ…ทใจใฎไป˜ใๅˆใ„ๆ–นใฏ็ขบๅฎŸใซๅค‰ใ‚ใ‚‹ใ€‚

    ๆฌกๅ›žใฏใ€ใ„ใกใฐใ‚“ๅ…ฅใ‚Šๅฃใ‹ใ‚‰ๅง‹ใ‚ใพใ™ใ€‚
    num_ctx 4096 ใฎใ€Œ4096ใ€ใŒๆ•ฐใˆใฆใ„ใ‚‹ใ‚‚ใฎใฏใ€ไฝ•ใชใฎใ‹ใ€‚

    ใงใฏใงใฏใ€‚


    ย 
    ย 
    ๅŒ—ๆตท้“ใง่พฒๆฅญใ‚’ใ‚„ใ‚ŠใชใŒใ‚‰ใ€ใƒฉใƒผใƒกใƒณใ‚’้ฃŸในใชใŒใ‚‰ใ€้Ÿณๆฅฝใ‚’่žใใชใŒใ‚‰ใ€AIใ‚„ใ‚ฌใ‚ธใ‚งใƒƒใƒˆใ‚’ใ„ใ˜ใฃใฆใ„ใ‚‹ใŠใ˜ใ•ใ‚“ใงใ™ใ€‚ V ใƒ—ใƒญใƒ•ใ‚ฃใƒผใƒซใฏใ“ใกใ‚‰ V https://note.com/m4n/n/nfbd3f08abb86

    ใ‚ใชใŸใธใฎใŠใ™ใ™ใ‚