ความจริงอึดอัด 4 อย่างเกี่ยวกับ AI ที่ทุกคนควรรู้

มีข้อมูลผิด ๆ และการคาดเดามากมายเกี่ยวกับสิ่งที่ตอนนี้หลายคนเรียกว่า AI หรือปัญญาประดิษฐ์ แม้ว่าเทคโนโลยีนี้จะถูกนำไปใช้กันอย่างแพร่หลาย แต่ก็ยังมีความจริงพื้นฐานบางประการที่มักถูกมองข้าม ซึ่งสามารถส่งผลต่อมุมมองของคุณเกี่ยวกับความสามารถของเทคโนโลยีนี้และสิ่งที่อนาคตอาจนำพามาได้

โมเดิร์น LLMs เป็นเครื่องทำนาย

บางครั้งคุณอาจจะได้ยินเพื่อนหรือเพื่อนร่วมงานพูดบางอย่างเช่น "ลองถาม ChatGPT ดูสิว่าพวกเขาคิดอย่างไร" ในขณะที่กำลังคิดเกี่ยวกับคำถาม แม้ว่านี่จะเป็นสำนวนที่ไม่ได้จำกัดเฉพาะ AI แต่ก็เป็นการตั้งคำถามที่มีข้อบกพร่องในตัวเอง

โมเดลภาษาขนาดใหญ่ (LLMs) ในปัจจุบันไม่มีความสามารถในการ 'คิด' หรือใช้ตรรกะกับคำถามที่คุณถามพวกมัน โดยพื้นฐานแล้ว พวกมันเป็นเครื่องทายคำตอบ คำตอบของพวกมันเป็นผลจากการจับคู่รูปแบบ เป็นการสร้างคำตอบขึ้นตามความน่าจะเป็นว่าคำใดควรมาต่อจากคำที่คุณกำหนด

รูปแบบเหล่านี้จะถูก “เรียนรู้” โดยการป้อนข้อมูลการฝึกเข้าไปในโมเดล ผลิตภัณฑ์เช่น ChatGPT และ Gemini ได้รับการฝึกฝนเกี่ยวกับสิ่งที่ควรพูดตามข้อความที่พวกเขาวิเคราะห์ พวกมันไม่ใช่เครื่องจักรที่กำลัง คิด แต่เป็นธนาคารความจำขนาดยักษ์ที่สามารถประกอบคำตอบตามความน่าจะเป็น

โมเดลเหล่านี้ไม่ได้ "เข้าใจ" สิ่งที่คุณกำลังถามพวกเขา และพวกเขาไม่ได้มีเหตุผล พวกเขาอาจทำการคำนวณและพยายาม "แก้ไข" ปัญหา แต่ผลลัพธ์ไม่ได้มาจากตรรกะ การทำนายและความเข้าใจเป็นสองสิ่งที่แตกต่างกันอย่างมาก

ข้อจำกัดของวิธีการนี้สามารถเห็นได้จากวิธีที่โมเดลเหล่านี้ยังสามารถผิดพลาดอย่างมั่นใจ ตัวอย่างคลาสสิกคือการถามแชทบอทว่ามีตัวอักษร R กี่ตัวในคำว่า “raspberry” แต่โมเดลกลับให้คำตอบที่แสดงว่ามันไม่ได้นับเลย หรือการถามหาเคล็ดลับการทำความสะอาดแล้วได้รับสูตรการสร้างก๊าซคลอรีนที่เป็นอันตรายแทน

โมเดลปัญญาประดิษฐ์หมดข้อมูลการฝึกคุณภาพ

สิ่งที่ทำให้ LLMs ทำงานได้ตั้งแต่แรกคือข้อมูล โมเดลถูกสร้างโดยผู้คนที่ฉลาดกว่าผมมาก หลังจากนั้นพวกมันจะถูกนำไปใช้กับคลังข้อมูลการฝึกฝนขนาดมหึมา ในแง่นั้น เครื่องมือ AI สมัยใหม่เหมือนกับสิ่งที่เติบโตขึ้นมากกว่าการถูกออกแบบ คุณสามารถวางรากฐานได้ แต่ข้อมูลที่คุณป้อนให้โมเดลของคุณจะมีผลกระทบอย่างมากต่อผลลัพธ์สุดท้าย (ซึ่งมักจะเป็นไปอย่างไม่คาดคิด)

จนถึงตอนนี้ เราได้ป้อนข้อมูลเกือบทุกอย่างให้กับโมเดล AI สมัยใหม่แล้ว ซึ่งรวมถึงคลังข้อมูลจากอินเทอร์เน็ตที่ครอบคลุมหลายสิบปีในรูปแบบของ Common Crawl, ทุกบทความในวิกิพีเดีย, สำเนาดิจิทัลของหนังสือที่ตีพิมพ์, โค้ดโปรแกรมมิ่ง, และเนื้อหาที่ผู้ใช้สร้างขึ้นในเว็บไซต์โซเชียลมีเดีย

แม้ว่าจะสามารถขยายด้านฮาร์ดแวร์โดยการสร้างศูนย์ข้อมูลมากขึ้น (ซึ่งกำลังเกิดขึ้นแน่นอน) ข้อจำกัดในด้านข้อมูลกลับเป็นเรื่องที่ยากกว่าที่จะเอาชนะได้ สิ่งนี้ทำให้เกิดการคาดเดาว่าเราใกล้จะถึงขีดจำกัดของสิ่งที่โมเดลปัจจุบันสามารถทำได้แล้ว

บริษัทอย่าง Frontier Labs AI เริ่มใช้โมเดลปัญญาประดิษฐ์เพื่อสร้างข้อมูลฝึกอบรมสังเคราะห์ใหม่ ปัญหาของวิธีนี้คล้ายกับสิ่งที่คุณอาจพบหากคุณตัดสินใจทำสำเนาของสำเนาในโลกจริง หากคุณกำลังฝึกโมเดลด้วยข้อมูลที่เสื่อมคุณภาพลงเพียงเล็กน้อยในแต่ละครั้ง ในที่สุดคุณอาจพบสิ่งที่เรียกว่า 'โมเดลพังทลาย'

การเขียนโค้ดแบบ Vibe ไม่ได้ดีอย่างที่โฆษณาไว้

หากคุณลองเข้าไปในวงการผู้คลั่งไคล้เทคโนโลยีบนอินเทอร์เน็ต คุณอาจเจอคำวิจารณ์เกี่ยวกับ "vibe coding" อยู่พอสมควร นี่คือชื่อเรียกวิธีการใช้โมเดล AI ในการสร้างโค้ดโดยที่ผู้ใช้ไม่ได้เข้าใจว่ารหัสนั้นทำงานอย่างไรจริง ๆ

นี่ไม่ได้หมายความว่าจะไม่มีการใช้โค้ดแบบ vibe ที่ยอมรับได้เลย โดยเฉพาะในกลุ่มนักงานอดิเรกและผู้ที่กำลังเรียนรู้ การใช้โค้ดแบบ vibe สามารถช่วยให้คุณประสบความสำเร็จในโครงการต่าง ๆ เช่น การสร้างกรอบรูป E-Ink จากศูนย์โดยใช้ Arduino ตามที่ Patrick Campanale ของ How-To Geek กล่าวไว้:

“ส่วนใหญ่ของโครงการจริง ๆ แล้วถูกสร้างโดย Antigravity และ Gemini 3.0 Pro ผมใช้ความรู้พื้นฐานเรื่อง C/C++ ของผมบ้างในการปรับเปลี่ยนตรงนี้ตรงนั้น หรือเพื่อให้ Antigravity ทำงานตามทิศทางที่ต้องการ… ซึ่งก็ยังเร็วกว่าการพยายามเรียนรู้ Python และ C/C++ ตั้งแต่เริ่มต้นเพื่อสร้างแอปประเภทนี้มาก ผมคงไม่สามารถสร้าง ทำต้นแบบ ทดสอบ และปล่อยโครงการแบบนี้ได้ในไม่กี่วันหากไม่มี Antigravity”

นอกเหนือจากงานอดิเรก การใช้ AI เขียนโค้ดยังมีปัญหาใหญ่บางประการ แม้ว่าระบบ LLM จะถูกใช้ใน IDE เพื่อช่วยโปรแกรมเมอร์เขียนโค้ดได้เร็วขึ้นด้วยคำแนะนำ แต่สิ่งนั้นไม่ใช่สิ่งที่ผมกำลังพูดถึง เมื่อพูดถึงการเขียนโค้ดที่เสร็จสมบูรณ์และนำไปใช้งาน โมเดล AI สมัยใหม่ก็ยังไม่พร้อม

ตัวอย่างเช่น ถ้าโมเดลสามารถเขียนโค้ดได้สมบูรณ์แบบ 99% ของเวลาทั้งหมด นั่นก็ถือว่าเป็นปัญหา สำหรับนักเขียนโค้ดมนุษย์ เปอร์เซ็นต์ของโค้ดที่ไม่ทำงาน (หรือมากกว่า) เป็นปัญหาร้ายแรงที่ต้องแก้ไข แม้ว่ามนุษย์ก็ทำผิดพลาด แต่พวกเขาก็เข้าใจว่ามีอะไรบ้างที่เข้ามาในผลงานของพวกเขาในตอนแรก การเข้าใจปัญหาเป็นสิ่งสำคัญในการหาวิธีแก้ไข

ด้วยการดูแลของมนุษย์อย่างเหมาะสม โค้ดสามารถถูกทำความสะอาดและแก้ไขได้ แต่กระบวนการนี้ใช้เวลานานและไม่ใช่ว่าจะทำได้เสมอไปหากปัญหาอยู่ลึกอยู่ในรากฐานของโครงการ มันเหมือนกับการซ่อมรากฐานของบ้านหลังจากที่โครงสร้างหลักได้ถูกสร้างขึ้นแล้ว

นี่คือเหตุผลว่าทำไมคุณไม่ควรเชื่อโฆษณาที่สัญญาว่าคุณสามารถสร้างแอปในฝันของคุณ (และทำกำไรจากมัน) ได้ แม้ว่าคุณจะไม่มีประสบการณ์ในการเขียนโปรแกรมก็ตาม

คุณอาจมีส่วนร่วมกับโมเดลเหล่านี้ ในบางวิธี

บริษัทที่พัฒนา AI มีความเป็นไปได้เกือบแน่นอนว่าพวกเขาได้ป้อนเนื้อหาที่คุณสร้างขึ้นเข้าสู่โมเดลของพวกเขาเพื่อฝึกฝนให้ดีขึ้น อาจเป็นสิ่งที่ดูเป็นเรื่องธรรมดา เช่น ความคิดเห็นในฟอรัม หรือโพสต์บนโซเชียลมีเดีย หรืออาจเป็นโพสต์บล็อกที่คุณเขียน หรือเอกสารงานโรงเรียนที่เผยแพร่บนเว็บ

แต่วัสดุการฝึกสอนที่ใช้กับโมเดลเหล่านี้นั้นไม่ได้จำกัดอยู่เพียงแค่คำบนหน้าจอเท่านั้น ภาพถ่ายที่คุณได้ถ่ายและแชร์ออนไลน์ แม้จะอยู่ภายใต้ใบอนุญาตที่ห้ามการใช้งานเพิ่มเติม ก็น่าจะถูกดึงมาและป้อนเข้าเครื่องจักร AI งานศิลปะที่คุณสร้างมาอาจเป็นสิบปีแล้ว หรือเพลงที่คุณผลิตและลืมไปนาน ดูเหมือนว่าจะถูกนำมาใช้ได้อย่างเสรี

โค้ดต้นฉบับใด ๆ ที่คุณเคยแชร์หรือโปรเจกต์ซอฟต์แวร์โอเพนซอร์สที่คุณเคยมีส่วนร่วมก็มีแนวโน้มที่จะถูกใช้เป็นข้อมูลฝึกฝนเช่นกัน หากคุณเคยมีหนังสือที่ตีพิมพ์ หรือภาพยนตร์ที่ฉาย หรือผลงานศิลปะที่จัดแสดง คู่ดิจิทัลของมันก็อาจถูกนำมาใช้เช่นกัน

ไม่เชื่อฉันเหรอ? ลองถามตัวเองดูว่า ฟิลเตอร์สไตล์ Studio Ghibli ของ ChatGPT ทำไมถึงสามารถใกล้เคียงกับต้นฉบับของนักวาดอนิเมเตอร์ได้ขนาดนั้น คุณไม่ได้ให้อนุญาตสำหรับเรื่องนี้ และคุณก็จะไม่ได้รับค่าตอบแทนแม้แต่บาทเดียวด้วย

จากการอ่านสิ่งนี้ คุณอาจคิดว่าผมเป็นชายแก่ขี้บ่นที่ไม่เห็นด้วยกับการใช้เครื่องมือ AI เลย สำหรับเรื่องนั้น ผมขอบอกว่า ชายแก่ขี้บ่นจะดีใจในการใช้เทคโนโลยีนี้เพื่อตรวจสอบเสียงนกไหม? นั่นแหละคือสิ่งที่ผมคิด