AI มั่วไม่ใช่ปัญหา แต่เป็นเรื่องดี

AI มั่วไม่ใช่ปัญหา แต่กลับเป็นเรื่องดี

ความฉลาดไม่ได้วัดจากการตอบสิ่งที่ถูกต้องเสมอ แต่มาจากการลองความเป็นไปได้ใหม่ๆอยู่เสมอต่างหาก 💪

สรุปบทเรียนจากคอร์สพี่ Matt Pocock ฮงเลยอยากมาแชร์ให้เพื่อนๆฟังครับ ถ้าพร้อมแล้วลุยกันเลย 🥳

Vocabulary คำศัพท์

LLM - Large Language Model - โมเดล AI ที่ถูกเทรนด้วยข้อมูลจำนวนมากกกกก

Token - ข้อความที่ LLM แบ่งเป็นก้อนสั้นๆ เพื่อใช้ตีความและเลือกคำถัดไป

Probability - ความเป็นไปได้

Determinism - ความแน่นอน

Hallucination - หลอน

Next Token Prediction and how it works เดาคำถัดไป

หลักการทำงานของ LLM Model คือ การแบ่งประโยค ให้เป็น token เช่น

"My favorite color is "

เป็น

"My ", "favor", "ite ", "color", "is "

ตามในภาพเลย ครับ

สิ่งที่ LLM Model ทำคือการ “เดาคำถัดไป” โดยใช้หลัก “ความน่าจะเป็น” Probabilistic เพื่อให้คะแนนว่า คำถัดไป มีความน่าจะเป็นที่จะถูกกี่% เช่น

🔴 red -> 30% 🔵 blue -> 28% 🟠 orange 14%

หลังจากนั้นจะมี Sampling Process เพื่อเลือกคำตอบสุดท้าย แต่จะเลือกยังไง เราไปกันต่อครับ

Temperature Control

มี concept ที่เรียกว่า Temperature ซึ่งถูกใช้ในการเลือก คำถาม

ถ้ามี temperature สูง -> แปลว่า LLM จะตอบหลากหลายมากขึ้น

ถ้ามี temperature ต่ำ -> แปลว่า LLM จะ % ความน่าจะถูกมากกว่าเสมอ

🙋❓ คำถามคือในการใช้ AI หรือ LLM Model เขียนโค้ด ที่เราคาดหวังผลลัพธ์ที่ดี เราควรเลือก มั่วน้อย หรือมั่วมาก 🤔

The Likelihood Trap

เมื่อมีคนสงสัย เลยเกิดงานวิจัยที่ชื่อ “Trading Off Diversity and Quality in Natural Language Generation” - 2020

สรุปสั้นๆคือ การตอบตามความน่าจะเป็นสูงง (มั่วน้อย temperature ต่ำ) กลับได้ผลลัพธ์ที่แย่ลง (ตัดสินโดยมนุษย์)

🔴 มั่วน้อย -> ฉลาดน้อย 🟢 มั่วบ้าง -> ฉลาดมาก 🔴🔴 มั่วมากไป -> หลอน (Hallucination)

การเลือกแต่คำตอบที่ถูกเสมอ ปิดโอกาสและความเป็นไปได้ต่างๆ LLM ถูกเทรนมากจากข้อมูลจำนวนมาก และวิธีคิดการให้คะแนนต่างๆ

คำตอบที่น่าจะเป็นที่สุด อาจจะไม่ได้เป็นคำตอบที่ดีที่สุด เพราะข้อมูลที่ popular ในอินเตอร์เน็ต อาจจะเป็น

• ข้อมูลเก่าในอดีต ที่ใช้ไม่ได้แล้ว
• ข้อมูลเทคนิคที่คนส่วนมากใช้ แต่ไม่ใช่เทคนิคที่ดีที่สุด

ดังนั้นความเป็นได้ ไม่ได้เป็นปัญหา, เราแค่ต้องมี judgement การตัดสินใจในการเลือกคำตอบที่ดี

Non-Determinism is a feature 💪

“ความไม่แน่นอน” ไม่ใช่ปัญหา ไม่ใช่ bug แต่มันคือของขวัญ มันคือโอกาสในการสร้างทางเลือกใหม่

“คำตอบที่มีความน่าจะเป็นน้อย” “คำตอบที่คนส่วนใหญ่ไม่ได้เลือก” อาจจะเป็น Hidden Gems หรือเพชรที่ถูกซ่อนอยู่ก็เป็นได้

สรุปโดยหัวหน้าฮง

Non-Determinism ไม่ใช่ปัญหา

AI มั่วบ้าง ไม่ใช่ปัญหา มันเป็นเรื่องดี เราแค่ต้องมี judgement หรือความสามารถในการตัดสินใจ

AI เองก็หลอนได้, ความเป็นไปได้ที่ AI จะทำพฤติกรรมแปลกๆไม่ใช่ 0 ต้องคอยตรวจสอบดูให้ดี 💪

ขอบคุณครับ

หัวหน้าฮง

ถ้าชอบบทความนี้ฝากแชร์ด้วยนะครับ เย้ 🚀