
LLM#1 LLMใไฝใใชใใใ็่งฃใใฆใใ
้ฃ่ผใLLMใฎไป็ตใฟใใไฝใใชใใ็่งฃใใใ
็ฌฌ1ๅใLLMใไฝใใชใใใ็่งฃใใฆใใ
ใใใ temperature 0.7 ใฎๆๅณใใ็งใฏ่ชฌๆใงใใชใใฃใ ใ
ใฉใใใงใ๏ผใใใใใงใใ
LLMใฎไป็ตใฟใใใใใใใซใชใใใใGrok ใ Claude ใชใฉใซๆใใฆใใใใชใใ็่งฃใใฆใใใใจๆใใพใใ
่จไบใAIใจไธ็ทใซๆธใใชใใใ้ฒใใฆ่กใใใจๆใใพใใ็ธๆใAIใชใฎใงใใใพใๅๆใงใใใฐใใใฎใงใใ๐ฆ
๏ผAIใง้ฃ่ผใๆธใใจใ่ฝใกใฉใใใใชใใฆ่ใฃใบใใใใฎใซใชใใใกใชใฎใงใๆฐใใคใใพใ๏ผ
ๆๅ ใงLLMใๅใใๆฅ
่ชๅใฎใใทใณใงLLMใๅใใใจใใฏใ็ด ็ดใซ่ๅฅฎใใพใใใ
Ollama ใๅ
ฅใใฆใใขใใซใๅผใฃๅผตใฃใฆใใฆใใณใใณใใๅฉใใ
ใฏใฉใฆใใซไฝใ้ใฃใฆใใชใใฎใซใ็ฎใฎๅใงๆ็ซ ใ็ๆใใใฆใใใ
ๅ็ทใๅใใฆใๅใใไฝๅๅฉใใฆใ่ชฒ้ใใใชใใ
ใใฐใใใฏใใใใ ใใงๆฅฝใใใฃใใงใใ
ใคใพใฟใๅใๆฅใ
ใใฎใใกใๅบๅใฎ่ชฟๅญใๆดใใใใชใใ
Modelfileย ใ้ใใฆใใใฉใกใผใฟใใใใๅงใใใ
temperature 0.7
top_p 0.9
top_k 40
num_ctx 4096ๆญฃ็ดใซ่จใใจใใใฎๆฐๅญใฏใฉใใใง่ฆใ่จญๅฎใใใฎใพใพๅใใใใฎใงใใใ
ใใใใๅ ใฏใใฒใใใๆๆขใใงใใใ
temperatureย ใไธใใใจๅบๅใ่ใใๆฐใใใใไธใใใจๅใใใจใฐใใ่จใๆฐใใใใ
top_pย ใฏโฆโฆ0.9 ใงใใใใใใใชใ 0.9 ใชใฎใใฏ็ฅใใชใใ
top_kย ใไธ็ทใซๆๅฎใใฆใใ่จไบใจใใใฆใใชใ่จไบใใใใใฉใฃใกใๆญฃใใใฎใใ
num_ctxย ใๅขใใใจใกใขใชใ้ฃใใใงใใฉใใพใงๅขใใใจไฝใ่ตทใใใฎใใ
ใขใใซใ้ธใถใจใใๆซๅฐพใฎ Q4_K_Mย ใจ Q5_K_Mย ใฎ้ใใฏใๆญฃ็ดใใๅใใฃใฆใใชใใ
ใใใฆใใใใฃใ็ตๆใฎๅคๅฎใๆๆงใงใใใ
ใใชใใ่ฏใใชใฃใๆฐใใใใ
็ๆใฏๆฏๅ้ใใๆฏในใฆใใใใฎใๆฏๅ้ใใฎใ ใใใ
่ฏใใชใฃใใฎใใใใพใใพใชใฎใใๅใๅใใใใใฏใใใใใพใใใ
็ฉใฟไธใใฃใใฎใฏใ็ต้จๅใงใฏใชใใใใพใใชใใใ ใฃใ
ใใใงใๅๆฐใ้ใญใใฐใๅคๅฐใฎๅใฏๅใใใใซใชใใพใใ
ใใใฎ็จ้ใชใๆธฉๅบฆใฏไฝใใใ้ทๆใๆธใใใใชใใณใณใใญในใใฏๅบใใซใใ
ๆชใใฏใชใใๅฎๅใงใฏใใใง่ถณใใใใจใๅคใใ
ใงใใใใใจใๆฐใฅใใฆใใพใใพใใใ
็งใฏใใใฎใคใพใฟใไฝใใใฆใใใฎใใไธใคใ่ชฌๆใงใใชใใ
temperatureย ใฏใๅต้ ๆงใฎใคใพใฟใใ ใจใใใกใใกใซๆธใใฆใใฃใใ
็งใใใ็่งฃใใฆใใใใใใใๅต้ ๆงใใจใฏใ่จ็ฎใฎใฉใใซๅ
ฅใฃใฆใใ้ใชใฎใใ
ใขใใซใฎไธญใซใๅต้ ๆงใใจใใๅคๆฐใใใใใใใชใใใงใฏใไฝใชใฎใใ
top_pย ใฎ 0.9 ใฏไฝใฎ 0.9 ใชใฎใใไฝใจไฝใ่ถณใใฆ 0.9 ใชใฎใใ
num_ctxย ใฎ 4096 ใฏใ4096ใใผใฏใณใใ ใใใใผใฏใณใจใฏ็ตๅฑใไฝใฎๅไฝใชใฎใใ
ๆฅๆฌ่ชใ ใจไฝๆๅญใถใใชใฎใใ
่ชไฟกใๆใฃใฆใฏ็ญใใใใพใใใงใใใ
ใคใพใ็งใใใฃใฆใใใฎใฏ่ชฟๆดใงใฏใชใใใใพใใชใใงใใใ
ๅนใใใจใใฎ็็ฑใใๅนใใชใใฃใใจใใฎ็็ฑใๅใใใชใใ
ใ ใใๆฌกใซๆดปใใใชใใไฝๅบฆใใฃใฆใใๆฏๅใใกใใใใ็ดใใฆใใใ
ไฝ็ณปใใชใใใจใใใฎใฏใใใใใใจใงใใใ
่งฃ่ชฌ่จไบใฏใใใกใฐใ็ฅใใใใจใใใง็ตใใ
ใใกใใใ่ชฟในใพใใใ
AttentionใTransformerใใใผใฏใณใๅใ่พผใฟใ
่จไบใฏใใใใงใ่ฆใคใใฃใใใๅณใใใใใงใใใใใใฆใใฉใใใใๆธใใฆใใใพใใ
ใAttentionใฏใๅ่ชๅๅฃซใฎ้ข้ฃๅบฆใ่จ็ฎใใไป็ตใฟใงใใ
โฆโฆใใใฏๅใใใพใใใใงใใฉใใใฃใฆ๏ผ
้ข้ฃๅบฆใฃใฆใไฝใไฝฟใฃใฆๆธฌใใฎใใ
ๆธฌใฃใใใจใใใฎๆฐๅญใใฉใใซไฝฟใใฎใใ
ใใใฆใใใฎ่ฉฑใฏ็งใๅใใฆใใใคใพใฟใจใใฉใใงใคใชใใใฎใใ
ใใกใฐใ็ฅใใใใจใใใใใใคใไธๆใง็ไปใใใใฆใใพใใใ
ๆชใใฎใฏ่จไบใงใฏใชใใจๆใใพใใ
ใใใใๅ
ใฏๆฐๅผใใใณใผใใงใใ่ชใใชใ้ ๅใชใฎใ ใใใ
ใใใฆๆฐๅผใฎใปใใ้ใใจใไปๅบฆใฏ่จๅทใฎๅฎ็พฉใใ่ฟทๅญใซใชใใ
่ชญใใงใ่ชญใใงใใใๅใใฃใๆฐใใ ใใๅขใใฆใใใ
ใใฎๆใใซใฏ่ฆใใใใใพใใใ
่ชฌๆใ่ชญใใง็่งฃใใๆฐใซใชใฃใฆใใใ ใใงใๆใๅใใใฆใใชใใจใใฎๆ่งฆใ ๏ผ
ใ ใใใไฝใฃใฆใฟใใใจใซใใ
ใใญใฐใฉใใณใฐใ่ฆใใใจใใฎใใจใๆใๅบใใพใใใ
forย ๆใฎ่งฃ่ชฌใ10ๅ่ชญใใงใ่บซใซใคใใชใใฃใใฎใซใ
่ชๅใง1ๅๆธใใฆใ็ก้ใซใผใใใใฆใCtrl+C ใๆผใใ็ฌ้ใซใใใใพใใใ
ใใถใใๅใใใจใใใใฐใใใ
LLMใใ่ชๅใฎๆใงใใใกใฐใๅฐใใไฝใฃใฆใฟใใ
temperatureย ใๅคใใๅใใฎใงใฏใชใใ
ใใฎๅฒใ็ฎใๆธใใใฆใใ่กใใ่ชๅใงๆธใใ
ใใใใใฐใไฝใใใฆใใใใฎใชใฎใใๅซใงใๅใใใฏใใงใใ
่ฆๆจกใฏ่ซฆใใใๆฌ็ฉใจๅผตใๅใฃใฆใไปๆนใใชใใ
ใงใใ้จๅใจใใใฎไธฆใณ้ ใ ใใฏๆฌ็ฉใจๅใใซใใใ
ใใใชใใๅใใใใจใใซ่ตทใใใใจใฏใๆฌ็ฉใงใ่ตทใใฆใใใฏใใงใใ
ๆน้ใฏใใๆฑบใใพใใใ
ใฉใคใใฉใชใฎ model = AutoModel.from_pretrained(...)ย ใฏไฝฟใใชใ๏ผใใใงใฏไธญ่บซใ่ฆใใชใ๏ผ
้จๅใฏใในใฆ่ชๅใงๆธใ
ใใ ใใๅใๆๅฐๅไฝใงใใ
ๆๅ ใฎใใทใณใฎใCPUใ ใใงๅใ่ฆๆจกใซใใ
ไฝใใฎใฏใGPT-3ใฎ80ไธๅใฎ1
็ต่ซใใ่จใใจใClaudeใซๅฉใใฆใใใใชใใใๅฝขใซใชใใพใใใ

ใใฉใกใผใฟๆฐใซใใฆใ็ด80ไธๅใฎ1ใ
ๅญฆ็ฟใใผใฟใซใใใฃใฆใฏใ่ชๅใง็จๆใใ198ๆๅญใฎ็ญใๆ็ซ ใ ใใ
ไฝใๆธใใใ่ฟทใฃใๆซใๆใณใผใใผใๆทนใใ่ฉฑใซใใพใใใ
็งใฏๆฏๆใณใผใใผใๆทนใใใ่ฑใๆฝใ้ณใง็ฎใ่ฆใใใ
ๆนฏใๆฒธใใใ็ฒใซๅฐใใ ใๆนฏใ่ฝใจใใฆ่ธใใใ
้ฆใใ็ซใกใฎใผใใพใงใฎไธๅ็งใใไธๆฅใงใใกใฐใ้ใใชๆ้ใ ใ
ใใใใๆฎใใฎๆนฏใใใฃใใๆณจใใ
ใซใใใๆใฃใฆ็ช่พบใซๅบงใใๅคใฎ็ฉบใ็บใใใ
ๆดใใๆฅใฏ้ ใใฎๅฑฑใ่ฆใใใๆใฃใๆฅใฏ็บใฎ้ณใใใ่ใใใใ
้จใฎๆฅใฏใๅฑๆ นใๆใค้ณใ่ใใชใใๆฌใ่ชญใใ
ใใใใฆใณใผใใผใ้ฃฒใฟ็ตใใใจใ็งใฏๆบใซๅใใใ
GPUใไฝฟใฃใฆใใพใใใใณใผใใผใๅทใใๅใซๅญฆ็ฟใ็ตใใใพใใ
่ณขใใใจใฏไฝใ่จใใชใใๅฝ็ถใฎ็ตๆใงใใ
ใงใใๆง้ ใฏๆฌ็ฉใจๅใใ
Attentionใใใใใใฃใผใใใฉใฏใผใๅฑคใใใใๆฎๅทฎๆฅ็ถใใใใ
ๆๅพใซ่ชๅฝใฎใถใใ ใ็ขบ็ใๅใๅบใใ้ ็ชใใๆฌ็ฉใจๅใใ
ใใใฆไฝใใใๅใใใ
ไบๅ๏ผใใใใ่ตทใใใใจ
ใใฎ้ฃ่ผใงใฏใใใฎ50็งใฎไธญใงไฝใ่ตทใใฆใใใฎใใใ้ ็ชใซๅ่งฃใใฆใใใพใใ
ๅ
ใซใใใใคใๅ ด้ขใ่ฆใฆใใใ ใใใใ
็งใใใกใฐใใใใใฃใใจๅฃฐใๅบใใใจใใใงใใ
ๅญฆ็ฟใๅงใใ็ดๅพใใขใใซใๅใๅบใใๆๅญๅใฏใใใ ใฃใใ
ๆ น้ ๆใใกใใใไธใใผใ่ฑใใใ้ใๆทนใซใคๆฎๆ นๆฅใซๆ นใใใผๆนฏใ็ฉบ้ฆไธๆๆฅใ้ฆใใใใกใ้ฃฒๆณจ้ณใ ใชๅฎๅ จใชใดใใงใใใฉใณใใ ใซๆๅญใไธฆในใใ ใใ
ใจใใใใ100ๅใปใฉๅญฆ็ฟใๅใใใใจใๅใใขใใซใใใๆธใใพใใใ
้จใฎๆฅใฏใๅฑๆ นใๆใค้ณใ่ใใชใใๆฌใ่ชญใใ
ใใใใฆใณใผใใผใ้ฃฒใฟ็ตใใใจใ็งใฏๆบใซๅใใใ
ใณใผใใผใๆทนใใใ่ฑใๆฝใใใ่ฑใๆฝใ้ณใง็ฎใ่ฆใใใๆฅๆฌ่ชใซใชใฃใฆใใใใใใใ้ไธญใฎใ่ฑใๆฝใใใใๆใใใโฅ
ใๆฝใใใจใๅใใใใฎใใใ ใง่ฟทใฃใฆใๆททใใฃใฆใใพใฃใฆใใพใใ
ใขใใซใ่ฟทใฃใฆใใ็ฌ้ใใๅบๅใซๆฎใฃใฆใใใ
ใใใฆ500ๅ็ฎใซใฏใใใใใฎ่ฟทใใฏๆถใใฆใใใ
ใใใใๅ ด้ขใใใพใ ใใใคใใใใพใใใใใใใ็ถดใใพใใ
ใใใฆ้ฃ่ผใฎ็ต็คใงใใใฎใคใพใฟใฎๆญฃไฝใซใใฉใ็ใใพใใ
ๅ
ใซไธใคใ ใ่จใฃใฆใใพใใจใ
temperature ใฏใๅต้ ๆงใฎใคใพใฟใใงใฏใใใพใใใงใใใ
ๆธฉๅบฆใไธใใฆใใใจๅฎ้ใซไฝใ่ตทใใใฎใใๅบๅใไธฆในใฆใ่ฆใใใพใใ
ๅฐใชใใจใใๅต้ ็ใซใฏใชใใพใใใ
ใใฎ้ฃ่ผใฎ็ดๆ
่ชญใฟ็ฉใจใใฆๆธใใซใใใฃใฆใ3ใคๆฑบใใใใจใใใใพใใ
1. ๆฐๅผใฏใปใจใใฉๅบใใพใใ
ๆฐๅผใใฉใใใฆใๅฟ ่ฆใชๅ ด้ขใใใใพใใใใใฎใจใใใใใฎ่จๅทใฏใใใใๆๅณใงใใใจ่ชฌๆใใฆใใไฝฟใใใจใซใใพใใๆฐๅผใ่ชญใใชใใฆใๆๅพใพใง่กใใใใใซใใใใ
2. ใณใผใใฏใ็ตๆใใไธญๅฟใซ่ฆใใพใ
ๅใใณใผใใฏๅฅ้ใๆ่กใใญใฅใกใณใใฎใปใใซใพใจใใพใใ
ใใฎ้ฃ่ผใงใฏใใณใผใใใฎใใฎใใใๅใใใใไฝใ่ตทใใใใใๆธใใพใใ
3. ใใพใใใใชใใฃใใใจใๆธใใพใ
ๅฎ้ใใใฎ50็งใฎๅญฆ็ฟใซใฏๅคงใใช่ฝใจใ็ฉดใใใใพใใใ
ๆฐๅญใ ใ่ฆใใฐๅคงๆๅใชใฎใซใใใ่ฆใใจๆๅใใฆใใชใใ
ๆฐใฅใใใจใใฏใใฃใใๆฐใพใใใฃใใฎใงใใใใใใใใกใฐใๅญฆใณใซใชใฃใใฎใงใๅพใงๆญฃ็ดใซๆธใใคใใใงใใ
ใใใงใใๅใใใใจใซใฏ้ใใใใ
ไป็ตใฟใๅใใฃใฆใใAIใฎ็ญใใไบๆธฌใงใใใใใซใฏใชใใชใใ
ๆง้ ใฏ็่งฃใงใใฆใใๆฐๅๅๅใฎๆฐๅญใไฝใๆๅณใใฆใใใใฏใ
ใใถใไฝใฃใไบบใใกใซใๅใใฃใฆใใชใใ
ใไป็ตใฟใๅใใใใจใๆฏใ่ใใ่ชญใใใใฏใๅฅใฎใใจใงใใ
ใใใงใ็งใฏใ่ผช้ญใ่ฆใใใ ใใงๅๅใ ใจๆใฃใฆใใพใใ
ใฉใใพใงใ่จญ่จใงใใฉใใใใๅฏ็ฃ็ฉใชใฎใใ
ไฝใๅพๆใงใไฝใๅ็็ใซ่ฆๆใชใฎใใ
ใใใฆใใใฎใคใพใฟใใใฉใใใๆฐๆใกใงๅใใฐใใใฎใใ
ใใใๅใใใฐใใใฎ้ๅ ทใจใฎไปใๅใๆนใฏ็ขบๅฎใซๅคใใใ
ๆฌกๅใฏใใใกใฐใๅ
ฅใๅฃใใๅงใใพใใ
num_ctx 4096 ใฎใ4096ใใๆฐใใฆใใใใฎใฏใไฝใชใฎใใ
ใงใฏใงใฏใ