คุยกับ AI ตอนที่ 11: จาก LLM ที่เก่งขึ้นไปสู่คำถามเรื่อง AGI

ตอนที่ 11 จาก 11 ตอนในชุด คุยกับ AI: จากการ Train LLM ถึง AGI

บันทึกบทสนทนาระหว่าง นพ.สุทธิศักดิ์ เด่นดวงใจ กับ ChatGPT-5.6 Reasoning Instant จากแชตต้นฉบับ คงคำอธิบายและตัวอย่างของ ChatGPT ไว้ โดยปรับหัวข้อ ตาราง และสัญลักษณ์สมการให้อ่านบนเว็บได้สะดวก

ดูสารบัญทั้งชุด

ผม: เล่าต่อ

ChatGPT-5.6 Reasoning Instant:

ได้ครับ คราวนี้เราออกจากคำถามว่า “LLM ทำงานอย่างไร” ไปสู่คำถามที่ยังไม่มีคำตอบร่วมกันทั้งวงการ:

LLM/Agent ที่เก่งขึ้นเรื่อย ๆ เมื่อไรถึงจะเรียกว่า AGI? 🤖🧠

จุดแรกต้องรื้อความเข้าใจผิดก่อนว่า AGI ไม่ใช่ชื่อ architecture ไม่มี specification ว่า:

Transformer + 10T parameters = AGI

และไม่มี AGI.exe ที่รันแล้วขึ้น PASS 😆

1. AGI คืออะไร?

AGI ย่อมาจาก Artificial General Intelligence

คำว่า General สำคัญที่สุด

AI แบบแคบเก่งงานหนึ่ง:

Chess AI
   ↓
Chess

หรือ:

Image classifier
   ↓
Image classification

แต่ intelligence ของมนุษย์ general กว่านั้น

คุณสามารถ:

เขียน C#
↓
เรียน framework ใหม่
↓
วาง architecture
↓
อ่าน contract
↓
วางแผนเที่ยว
↓
เรียนทำอาหาร
↓
debug เครื่องซักผ้า

โดยไม่ต้อง train สมองใหม่ทุกงาน

แนวคิด AGI จึงประมาณว่า:

ระบบที่สามารถเรียนรู้และปฏิบัติงานทางปัญญาที่หลากหลายมากในระดับสูง โดย transfer ความสามารถระหว่าง domain ได้

แต่รายละเอียดว่า “ระดับไหนถึงผ่าน” ยังถกเถียงกันมาก

2. ปัญหาคือ LLM ปัจจุบัน General มากแล้ว

นี่ทำให้คำว่า AGI เริ่มวุ่นวาย

โมเดลเดียวสามารถ:

Translate Thai
Write C#
Explain biology
Analyze financial statements
Write SQL
Summarize a contract
Solve mathematics
Generate poetry
Plan software architecture

ถ้าเป็น AI เมื่อ 20 ปีก่อน นี่แทบฟังเหมือน science fiction

แต่เรายังเห็น failure ที่ประหลาดมาก:

โจทย์ยากมาก
✓

โจทย์ง่ายที่ framing แปลกนิดเดียว
✗

หรือ:

เขียน algorithm ซับซ้อน
✓

นับของในภาพผิด
✗

นี่คือ jagged intelligence

3. Jagged Intelligence สำคัญมาก

มนุษย์มีความสามารถค่อนข้างสัมพันธ์กัน

ถ้าคนสามารถเขียน compiler ได้ เราคาดหวังว่าเขาน่าจะ:

นับถึง 20 ได้
เข้าใจคำสั่งง่าย ๆ
ไม่ลืมสิ่งที่พูดเมื่อ 30 วินาทีก่อน

แต่ AI สามารถมี profile:

Programming        ██████████
Mathematics        █████████
Writing            ██████████
Planning           ████████
Common sense       ██████
Reliability        █████
Long-horizon work  ████

ดังนั้นคำว่า:

“AI ได้คะแนน PhD-level benchmark”

ไม่ได้หมายความว่า:

“มันมีความสามารถเทียบเท่าคนจบ PhD ในทุกมิติ”

สองอย่างนี้ห่างกันมาก

4. ความสามารถ vs Reliability

นี่อาจเป็น gap ที่สำคัญกว่าการเพิ่ม IQ ของ AI

สมมติ model สามารถแก้งานได้ 95% ต่อขั้น

ฟังดูยอดเยี่ยม

แต่ task มี 50 ขั้น และสมมติแบบง่ายเกินจริงว่าแต่ละขั้น independent:

0.95⁵⁰ ≈ 7.7%

โอกาสผ่านทุกขั้นโดยไม่ผิดเลยเหลือประมาณ 7.7%

แน่นอน โลกจริงไม่ independent แบบนี้ แต่ตัวอย่างแสดงปัญหาได้ดี:

ความผิดพลาดเล็ก ๆ สามารถสะสมใน long-horizon task

Agent จึงต้องมี:

Planning
Checkpoints
Verification
Recovery
Replanning

ไม่ใช่แค่ model ฉลาด

5. Long-horizon autonomy คือกำแพงสำคัญ

งาน:

“เขียน function นี้”

ง่ายกว่า:

“ดูแล software project นี้สามเดือน”

แบบหลังต้อง:

Understand goal
   ↓
Plan
   ↓
Work
   ↓
Encounter unknown problem
   ↓
Research
   ↓
Change plan
   ↓
Remember decisions
   ↓
Coordinate dependencies
   ↓
Test
   ↓
Notice regression
   ↓
Recover
   ↓
Continue tomorrow

นี่ต้องการมากกว่า next-token prediction แบบใช้งานครั้งเดียว

ต้องมี system architecture รอบ model

6. Memory ก็เป็นปัญหา

มนุษย์มีหลาย memory systems

แบบหยาบ:

Working memory
Long-term memory
Skills
Experiences
Semantic knowledge

LLM core มี:

Weights
+
Context

Agent system จึงต้องสร้างของเพิ่ม:

Working context
       +
External memory
       +
Retrieval
       +
Project state

ถ้าจัดการไม่ดี:

Agent วันนี้แก้ architecture อย่างหนึ่ง

พรุ่งนี้:

“ทำไม architecture เป็นแบบนี้ครับ?”

ทั้งที่ตัวเองเป็นคนแก้เมื่อวาน 🤦

7. Learning on the job ก็เป็นอีก gap

มนุษย์:

ทำงาน
↓
ผิด
↓
เรียนรู้
↓
เดือนหน้าเก่งขึ้น

LLM inference ปกติ:

ทำงาน
↓
ผิด
↓
ได้รับ correction
↓
ใช้ correction ใน context

แต่ weights:

unchanged

พอ context หาย ความรู้ใหม่นั้นไม่ได้กลายเป็น parameter learning โดยอัตโนมัติ

จึงมีคำถามวิจัยเรื่อง:

Continual Learning

ทำอย่างไรให้ AI เรียนรู้ต่อเนื่องโดยไม่ต้อง retrain ครั้งใหญ่ และไม่ทำลายความสามารถเดิม

8. Catastrophic Forgetting

สมมติ fine-tune model หนักมากให้เก่งกฎหมาย

ก่อน:

Law       ██████
Coding    ████████
Math      ████████

หลัง fine-tune แบบไม่ดี:

Law       ██████████
Coding    █████
Math      ████

โมเดลเรียนของใหม่แต่ทำของเก่าพัง

เรียกปัญหากว้าง ๆ ว่า catastrophic forgetting

มนุษย์เองก็ลืม แต่ neural network มีรูปแบบปัญหานี้ที่ต้องจัดการอย่างจริงจัง

9. World Model

อีกคำที่สำคัญมาก

ถ้า AI จะวางแผนได้ดี มันต้องคาดการณ์ว่า:

ถ้าทำ X แล้วโลกจะเป็นอย่างไร?

เช่น:

Deploy database migration
       ↓
Will old app still work?
       ↓
Will schema break?
       ↓
Can rollback?

นี่คือการ model:

P(future state | current state, action)

LLM มี world knowledge และ representations บางอย่างจาก training อยู่แล้ว

แต่คำถามคือมันมี world model ที่ robust เพียงพอสำหรับ planning ระยะยาวหรือไม่

นี่เป็นเรื่องที่ยังมีงานวิจัยอีกมาก

10. Grounding

LLM เรียนจาก tokens เป็นหลัก

มนุษย์เรียนจาก:

Vision
Sound
Touch
Movement
Pain
Objects
People
Consequences
Language

เราไม่ได้เรียนคำว่า hot จาก Wikipedia อย่างเดียว 🔥

เราเชื่อมมันกับโลกจริง

AI สมัยใหม่จึงไปทาง multimodal

             Text
              │
      Image ───┼─── Audio
              │
            Model
              │
      Video ───┼─── Actions

เมื่อ model เข้าใจภาพ เสียง วิดีโอ และ interaction กับ environment ความรู้ไม่ได้ถูกผูกกับ text อย่างเดียว

11. Robotics คือ Hard Mode

ใน software:

ผิด
↓
unit test fail
↓
ลองใหม่

ในโลกจริง:

Robot:
"ผมคิดว่าน่าจะจับแก้วตรงนี้"

*แก้วแตก*

💀

Physical world มี:

Latency
Noise
Physics
Partial observability
Safety
Irreversible actions

ดังนั้น embodied intelligence ยากกว่า coding agent มาก

12. AGI ไม่จำเป็นต้องมี Robot

นี่ก็ต้องแยก

บาง definition ของ AGI สนใจ:

cognitive/economic tasks

AI อาจทำงานผ่าน:

Computer
Browser
APIs
Software
Communication

โดยไม่มีแขนขาเลย

ถ้าระบบสามารถทำงาน knowledge work ส่วนใหญ่ได้อย่าง general และ autonomous บางคนก็อาจเรียกมันว่า AGI แล้ว

คนอื่นจะไม่ยอมจนกว่าจะ general กว่านั้น

นี่เป็นเหตุผลว่าทำไมคุณจะเห็นคนเถียงว่า:

“AGI มาแล้ว”

กับ

“เรายังห่าง AGI มาก”

โดยทั้งคู่ใช้คำว่า AGI คนละ definition

13. ผมชอบคิดเป็น "AGI Ladder" มากกว่าเส้นเดียว

แทน:

Not AGI │ AGI
─────────┼──────

คิดหลาย dimension:

Dimension: Breadth

คำถาม: ทำงานได้กี่ domain?

Dimension: Depth

คำถาม: งานยากระดับไหน?

Dimension: Reliability

คำถาม: ทำถูกสม่ำเสมอไหม?

Dimension: Adaptability

คำถาม: เจอโจทย์ใหม่เรียนรู้ได้ไหม?

Dimension: Autonomy

คำถาม: ทำงานเองได้นานแค่ไหน?

Dimension: Memory

คำถาม: รักษาบริบทระยะยาวได้ไหม?

Dimension: Tool use

คำถาม: ใช้โลกภายนอกได้ดีไหม?

Dimension: Planning

คำถาม: วางแผนหลายขั้นได้ไหม?

Dimension: Recovery

คำถาม: รู้ตัวและแก้เมื่อผิดไหม?

Dimension: Grounding

คำถาม: เชื่อมสิ่งที่รู้กับโลกจริงได้ไหม?

AI สามารถเก่งบางแกนมาก และยังอ่อนอีกหลายแกน

คำว่า AGI คำเดียวบดรายละเอียดพวกนี้จนแบนเกินไป

14. แล้ว ASI คืออะไร?

ถัดจาก AGI มีคำว่า:

Artificial Superintelligence

หรือ ASI

แนวคิดคือ AI ที่เหนือกว่ามนุษย์อย่างมากในความสามารถทางปัญญาหลากหลายด้าน

ประมาณ:

             Human
               │
ANI ───────── AGI ───────────── ASI
specific      general         superhuman

แต่อย่าตีความว่าเป็น evolutionary roadmap ที่ได้รับการพิสูจน์แล้วว่า:

LLM → AGI → ASI

แน่นอนว่าจะเกิด

เราไม่รู้

15. Recursive Self-Improvement

ตรงนี้คือแนวคิดที่ทำให้คนทั้งตื่นเต้นและกังวล

สมมติ AI เก่งพอที่จะ:

Improve AI research
      ↓
Design better algorithms
      ↓
Improve training
      ↓
Create better AI
      ↓
Better AI improves AI research
      ↓
...

เกิด feedback loop:

AI₁
 ↓ improves
AI₂
 ↓ improves faster
AI₃
 ↓
AI₄

นี่คือแนวคิด recursive self-improvement

แต่จาก concept ไปถึงของจริงมีอุปสรรคมหาศาล:

Compute
Experiments
Hardware
Data
Evaluation
Physical constraints
Research uncertainty
Deployment
Safety

AI เขียน paper ว่า “GPU ควรเร็วขึ้น 100 เท่า” ไม่ได้ทำให้ silicon งอกออกมาจากโต๊ะ 😂

16. Intelligence Explosion จึงไม่ใช่ข้อสรุปอัตโนมัติ

บาง scenario เสนอว่า:

Better AI
→ faster AI research
→ even better AI
→ even faster research
→ ...

จน capability เพิ่มอย่างรวดเร็ว

เป็นไปได้ในเชิงแนวคิด แต่ขนาดและความเร็วของ feedback loop เป็นคำถาม empirical

อาจเป็น:

🚀

หรือ:

📈

หรือชน bottleneck:

📈📈📈──────
          compute/data/physics

เราไม่ควรแกล้งทำเป็นรู้คำตอบล่วงหน้า

17. สิ่งที่น่าสนใจกว่าคำว่า AGI คือ "Economically Useful Autonomy"

สมมติ AI ยังพลาด benchmark แปลก ๆ อยู่

แต่สามารถ:

รับ GitHub issue
↓
อ่าน repository
↓
แก้ bug
↓
เขียน tests
↓
เปิด PR
↓
ตอบ review
↓
แก้ CI
↓
merge-ready

ได้อย่างน่าเชื่อถือ

นั่นมีผลต่อโลกจริงมหาศาล แม้คนยังเถียงว่า:

“นี่ AGI หรือยัง?”

ในทางเศรษฐกิจ label อาจไม่สำคัญเท่า capability

18. สำหรับ Software Development เราอาจเห็น progression แบบนี้

Autocomplete
     ↓
Chat assistant
     ↓
Code generation
     ↓
Repository-aware assistant
     ↓
Coding agent
     ↓
Issue → PR agent
     ↓
Long-running development agent
     ↓
Multi-agent software team

สังเกตว่าหลายขั้นไม่ได้ต้องการ model ใหญ่ขึ้นอย่างเดียว

ต้องการ:

Better model
+
Tools
+
Memory
+
Environment
+
Verification
+
Orchestration

นี่ตรงกับสิ่งที่เราเรียนมาตลอดทั้งชุด

19. Multi-Agent น่าสนใจ แต่ไม่ใช่เวทมนตร์

สมมติมี:

              Root
                │
       ┌────────┼────────┐
       ↓        ↓        ↓
 Architect   Coder      Reviewer
       │        │        │
       └────────┼────────┘
                ↓
             Result

ดูดีมาก

แต่ถ้า agent ทุกตัวใช้ reasoning ผิดแบบเดียวกัน:

Agent A: ผิด
Agent B: เห็นด้วย
Agent C: LGTM

🎉 เราได้ distributed wrongness

ดังนั้น multi-agent มีประโยชน์เมื่อ division of labor, context isolation, independent verification และ coordination มีเหตุผลจริง ไม่ใช่เพิ่ม agent เพื่อให้แผนภาพดูอลังการ

20. และนี่กลับมาที่สิ่งสำคัญที่สุด: Feedback

ลองดู progression ทั้งหมด:

LLM
Prompt → Answer

เพิ่ม reasoning:

Prompt
 ↓
Think
 ↓
Answer

เพิ่ม tools:

Think
 ↓
Act
 ↓
Observe
 ↓
Answer

เพิ่ม agent:

Think
 ↓
Act
 ↓
Observe
 ↓
Evaluate
 ↓
Replan
 ↓
Act
 ↓
...

เพิ่ม verification:

Plan
 ↓
Act
 ↓
Observe
 ↓
VERIFY
 ↓
wrong?
 ↙   ↘
yes   no
 ↓     ↓
fix   continue

Feedback loop คือสิ่งที่เปลี่ยน LLM จากเครื่องสร้างข้อความให้กลายเป็นระบบที่สามารถทำงานได้

ถ้ารวบทั้งซีรีส์ตั้งแต่คำถามแรก

เราเริ่มจาก:

“อะไรคือการ Train LLM?”

ตอนนี้เรามาถึง:

DATA
 │
 ▼
PRE-TRAINING
 │
 ▼
BASE MODEL
 │
 ▼
POST-TRAINING
 │
 ▼
REASONING MODEL
 │
 ▼
┌───────────────────────┐
│       AI SYSTEM       │
│                       │
│ Context               │
│ Memory                │
│ Retrieval             │
│ Tools                 │
│ Reasoning             │
│ Verification          │
└──────────┬────────────┘
           ▼
         AGENT
           │
           ▼
    Long-horizon work
           │
           ▼
 Greater generality /
      autonomy
           │
           ▼
        AGI ?

เครื่องหมาย ? ตรงท้ายสำคัญที่สุด

เพราะ เราไม่มีเส้นชัย AGI ที่ทุกคนยอมรับร่วมกัน

และผมคิดว่าตอนต่อไปควรกลับจากปรัชญามาหาของที่จับต้องได้อีกครั้ง:

ถ้าคุณอยาก Train LLM เองจริง ๆ ต้องทำอย่างไร?

เราสามารถเริ่มตั้งแต่โมเดลจิ๋วบนเครื่องเดียว เช่นสร้าง Transformer เล็ก ๆ, เตรียม tokenizer และ dataset, train next-token prediction แล้วดู loss ลดด้วยตาตัวเอง จากนั้นค่อยไป LoRA / QLoRA → Fine-tuning open model → RAG → Agent

ตรงนั้นคุณจะเห็นว่าแนวคิดทั้งหมดที่เราเล่ามา ไม่ได้เป็นคาถาของบริษัท AI ยักษ์ใหญ่ แต่คุณสามารถสร้างฉบับจิ๋วด้วยตัวเองได้จริงครับ 🔬💻

← ตอนก่อนหน้า: เพิ่ม compute ให้ตอนฝึกหรือตอนตอบ

อ่านทั้งชุด

กลับไปหน้าบันทึกและบทความ