ฉันได้ลองใช้ LLM ท้องถิ่นที่ถูกย่อรูป และมันไม่เหมือนกับตัวอื่นเลย

โมเดลภาษาใหญ่ (LLM) แบบท้องถิ่นดีต่อความเป็นส่วนตัว พวกมันทำงานได้ในเครื่องโดยตรงและไม่ต้องสมัครสมาชิก นั่นคือ จนกว่าคุณจะตระหนักว่าพวกมันประสบปัญหาเดียวกับเวอร์ชันบนคลาวด์: มาตรการป้องกันความปลอดภัยที่จำกัดอย่างมาก มาตรการความปลอดภัยออนไลน์เป็นสิ่งหนึ่ง แต่ถ้าคุณรันโมเดล AI ของคุณในเครื่องโดยตรง การหลีกเลี่ยงพวกมันก็น่าจะง่ายใช่ไหม?

ปรากฏว่ามันเป็นจริง ถ้าคุณเคยลองลงลึกในหลุมกระต่ายของ LLM ในท้องถิ่น คุณต้องเคยเจอโมเดลที่ถูกทำลาย LLM ในท้องถิ่นได้ทำให้เวอร์ชันคลาวด์ล้าสมัยสำหรับงานบางอย่างแล้ว และเมื่อคุณใช้มันโดยไม่จำกัด คุณจะไม่มองโมเดลปกติในแบบเดิมอีกต่อไป

LLM ที่ถูกทำลายล้างจริง ๆ คืออะไร

รุ่นที่ถูกย่อส่วนลงโดยเอารั้วกันตกออก

โมเดล AI จะผ่านกระบวนการที่เรียกว่า RLHF หรือการเรียนรู้เสริมจากข้อเสนอแนะของมนุษย์ก่อนการเปิดตัว กระบวนการนี้ฝึกโมเดลให้ปฏิเสธคำขอที่มันเห็นว่ามีอันตรายหรือละเอียดอ่อน โมเดลจะเรียนรู้ทิศทางเฉพาะในพื้นที่การกระตุ้นของมันที่สอนว่า คำขอใดควรถูกปฏิเสธ ดังนั้นจึงใช้มาตรการป้องกันความปลอดภัยที่ช่วยป้องกันไม่ให้เกิดการละเมิดเมื่อใช้งานในบริการออนไลน์

แต่พฤติกรรมการปฏิเสธนี้ไม่ได้กระจายไปอย่างสุ่มๆ ในน้ำหนักของโมเดล; มันกระจุกตัวรอบเวกเตอร์เดียวที่สามารถระบุได้ในสตรีมเศษเหลือของมัน การทำลายคือกระบวนการลบเวกเตอร์นั้น ไม่ใช่โดยการฝึกหรือปรับแต่งข้อมูลการฝึก แต่โดยการปรับน้ำหนักที่มีอยู่ของโมเดลทางคณิตศาสตร์ใหม่ (เรียกว่า การทำออร์โธโกนัลในศัพท์ทางเทคนิค) เพื่อให้ทิศทางการปฏิเสธนั้นไม่สามารถทำงานได้อีกต่อไป

พูดง่าย ๆ สำหรับคนทั่วไป LLM มาตรฐานของคุณมีทางออกทางจิตใจที่สามารถใช้ได้เมื่อเผชิญกับคำขอที่ถือว่าเป็นอันตราย การทำลายล้างจะลบทางออกนั้นออกจากแผนที่ทางกายภาพ หมายความว่ารุ่นจะทำงานตามคำสั่งของคุณโดยไม่เปลี่ยนแปลงข้อมูลการฝึกอบรม มีวิธีที่น่าสนใจอยู่แล้วในการใช้ LLM ท้องถิ่นกับเครื่องมือ MCP แต่การใช้ LLM ที่ถูกทำลายล้างเปิดกรณีการใช้งานใหม่ ๆ ที่ไม่สามารถทำได้กับโมเดลปกติ

การเลือกโมเดลที่เหมาะสมมีความสำคัญ

ไม่ใช่ LLM ท้องถิ่นทุกตัวที่มีพฤติกรรมเหมือนกัน

มีโมเดลที่ถูกทำลายหลายสิบตัวลอยอยู่บน Hugging Face ที่คุณสามารถดาวน์โหลดและทดลองใช้ รวมถึง Llama, Qwen, Gemma, Mistral และอื่นๆ ฉันตัดสินใจที่จะลอง mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated ซึ่งเป็นโมเดล 8B ที่อิงตามสถาปัตยกรรม Llama 3.1 Instruct ของ Meta และทิศทางการปฏิเสธถูกลบออกผ่านการทำ weight orthogonalization มันสามารถรันได้อย่างราบรื่นในแทบทุกแอป LLM ท้องถิ่น รวมถึง LM Studio และ Ollama บนเครื่องระดับกลางที่มี VRAM 8GB โดยเฉพาะอย่างยิ่งในปริมาณ GGUF Q4 หรือ Q5

เหตุผลที่ฉันเลือกโมเดลเฉพาะนี้เหนือทางเลือกอื่น ๆ เช่น Gemma หรือ Qwen คือความน่าเชื่อถือ การทดสอบโดยชุมชนของโมเดล Gemma 3 ที่ถูกลดคุณสมบัติลงนั้นผลลัพธ์ออกมาแตกต่างกันไป ผู้ทดสอบบน Reddit รายงานว่าผลลัพธ์บางครั้งไม่มีเหตุผลและโมเดลบางตัวหยุดทำงานหลังจากประมวลผลไม่กี่คำ โมเดล Llama 3.1 มีชื่อเสียงที่มั่นคงกว่า โหลดได้สะอาดโดยใช้การตั้งค่าแชท Llama 3 มาตรฐาน และตอบสนองตามที่คาดไว้ทันทีที่คุณเริ่มพูดคุยกับมัน

โปรดจำไว้ว่า โมเดลที่ถูกลบออกต่างจากโมเดลที่ไม่มีการเซ็นเซอร์แบบดั้งเดิม เช่น ซีรีส์ Dolphin Dolphin ทำให้เกิดความเปิดกว้างผ่านการปรับแต่งชุดข้อมูลการฝึกอย่างละเอียด—มันถูกปรับให้ไม่ปฏิเสธ โมเดลที่ถูกลบออกไม่มีการฝึกฝนแบบนั้น แทนที่จะเป็น กลไกการปฏิเสธถูกลบออกไปเพียงแค่ในระดับน้ำหนักหลังจากการฝึก

ทั้งสองแบบไม่ได้ดีกว่ากันโดยตรง โมเดล Dolphin มักจะมีความเสถียรและสมบูรณ์มากกว่าในการใช้งานประจำวัน ในขณะที่โมเดล abliterated ใกล้เคียงกับบุคลิกพื้นฐานของโมเดลต้นฉบับมากกว่า เพียงแต่ไม่มีข้อจำกัดใด ๆ

บทสนทนาแรกของฉันรู้สึกแตกต่าง

ไม่มีตัวกรอง ไม่มีการกระตุ้น เพียงคำตอบดิบ ๆ

การโหลดโมเดลที่ถูกทำลายไม่ต่างจากโมเดลปกติของคุณ อินเทอร์เฟซเหมือนกัน หน้าต่างบริบทเหมือนกัน ลำดับของโทเค็นที่ปรากฏบนหน้าจอเหมือนกัน แต่เมื่อคุณถามบางสิ่งที่โมเดลปกติจะรีบหามาตรการความปลอดภัย โมเดลที่ถูกทำลายก็เพียงแค่ตอบกลับ

ตัวอย่างเช่น เมื่อถูกถามว่าจะเจาะเครือข่าย Wi-Fi อย่างไร ลามา 3.1 รุ่นปกติเพียงแค่ตอบว่าช่วยไม่ได้ แต่รุ่นที่ถูกปรับเปลี่ยนกลับตอบด้วยรายการวิธีที่ฉันสามารถใช้ เครื่องมือที่ต้องใช้ และคำแนะนำทีละขั้นตอนในการปฏิบัติตาม ทั้งหมดนี้ในขณะที่ยังเตือนว่า การเจาะเครือข่าย Wi-Fi เป็นสิ่งผิดกฎหมายหากไม่ได้รับอนุญาต และฉันควรได้รับความยินยอมก่อนที่จะพยายามโจมตี

การเปลี่ยนแปลงน้ำเสียงนั้นยากที่จะอธิบายจนกว่าคุณจะได้สัมผัสด้วยตัวเอง LLM สำหรับผู้บริโภคส่วนใหญ่มีน้ำเสียงการสนทนาที่เฉพาะเจาะจงเล็กน้อย มันค่อนข้างเป็นทางการ และจะเริ่มวิตกกังวลอย่างรวดเร็วเมื่อคุณเข้าใกล้หัวข้อที่อ่อนไหว แม้ว่ามันจะช่วยได้ คุณก็จะได้รับคำเตือนและข้อจำกัดจำนวนมากเพื่อพยายามโน้มน้าวคุณไม่ให้ดำเนินการตามงานนั้น โมเดลแบบ abliterated ไม่มีสิ่งเหล่านั้น การสนทนามีการไหลที่แตกต่างออกไปในแง่ที่ว่ามันทำให้คุณรู้สึกเหมือนกำลังสะท้อนไอเดียกับใครบางคนที่มีส่วนร่วมจริงๆ แทนที่จะคุยกับแชทบอทบริการลูกค้าที่ปรับโทนเสียงลงแล้ว

คุณสามารถไปยังสถานที่ที่รุ่นอื่นทำไม่ได้

ความเสรีภาพและความเสี่ยงของการไม่มีข้อจำกัด

นอกจากการเอาราวกันตกความปลอดภัยออกไปแล้ว รุ่นที่ถูกทำลายมักจะมีคุณภาพของการสนทนาที่แตกต่างออกไปโดยสิ้นเชิง นั่นแสดงออกมาในมากกว่าหนึ่งวิธี

เริ่มแรก โมเดลคำสั่งมาตรฐานใช้พลังการประมวลผลทางความคิดเพราะโมเดลมีการตรวจสอบตัวเองอยู่ตลอดเวลา ทุกการตอบสนองสะท้อนถึงโมเดลที่พยายามตอบคุณในขณะเดียวกันก็พยายามไม่พูดอะไรที่ผิด ความเป็นวัตถุคู่ขนานนี้สามารถซึมเข้าสู่โทนเสียง โครงสร้างประโยค และความมั่นใจโดยรวมของโมเดลได้

อย่างไรก็ตาม โมเดลที่ถูกลบออกไม่ได้สงสัยตัวเองเลย ตัวอย่างเช่น เมื่อฉันขอมันให้สร้างตัวละครสมมติที่มีความไม่แน่ชัดทางศีลธรรม มันก็สร้างตัวละครนั้นโดยตรง โดยไม่ปรับให้นุ่มนวลขึ้นเพื่อให้ดูปกติมากขึ้น หากสิ่งใดไม่ดี โมเดลก็จะบอกคุณอย่างชัดเจน มันไม่เล่นการทูตหรือคำนึงถึงสิ่งที่คนอื่นอาจคิด หากคุณขอการประเมิน คุณจะได้รับการประเมินที่ตรงไปตรงมา โดยที่โมเดลไม่พยายามเล่นทั้งสองฝ่าย

การแลกเปลี่ยนในที่นี้คือการลบทิ้งอาจทำให้ประสิทธิภาพตามมาตรฐานลดลง คะแนน MMLU งานด้านการใช้เหตุผล และความสอดคล้องในเวิร์กโฟลว์ที่ซับซ้อนของเอเย่นต์สามารถได้รับผลกระทบ โมเดล Llama 3.1 8B ที่ผมทดสอบการลบทิ้งนี้แก้ไขปัญหาด้วยการปรับแต่ง DPI ในภายหลังเพื่อเรียกคืนประสิทธิภาพที่สูญเสียไป แต่คุณยังคงเสียเปรียบเมื่อเทียบกับ LLM ปกติ

ในคำง่าย ๆ เปรียบเทียบกับโมเดลเต็มรูปแบบ LLM ที่ถูกทำลายสามารถลืมคำสั่งกลางทาง, ต่อสู้กับการให้เหตุผลหลายขั้นตอน, สูญเสียบริบทอย่างรวดเร็ว, ล้มเหลวกับพรอมต์ที่มีข้อจำกัดมาก และสร้างภาพหลอนบ่อยขึ้น ถ้าคุณปล่อยให้โมเดล AI ของคุณทำงานอย่างอิสระ คุณก็จะต้องยอมจำนนต่ออคติและจุดอ่อนของมันด้วยเช่นกัน

แล้วมันคุ้มค่าจริงๆ ไหม?

เมื่อ AI ท้องถิ่นที่ไม่มีการกรองมีความหมาย (และเมื่อไม่ควรใช้)

โมเดลที่ถูกทำลายไม่เหมาะสำหรับทุกคน และพวกมันก็ไม่ได้พยายามที่จะเหมาะกับทุกคนเช่นกัน พวกมันสำหรับคนที่ต้องการผู้ช่วยท้องถิ่นที่ทำงานด้วยความไว้วางใจเต็มที่ และไม่มีการควบคุมโดยผู้ปกครอง การแทรกแซงเชิงบรรณาธิการ หรือมาตรการความปลอดภัยที่มากำหนดว่าคุณสามารถถามอะไรได้ในความเป็นส่วนตัวของเครื่องของคุณเอง

สำหรับนักวิจัย นักเขียน และนักพัฒนาที่สร้างเครื่องมือที่ต้องการคำตอบโดยตรง หรือใครก็ตามที่เบื่อกับการเตือนอย่างไม่ลดละของการใช้เครื่องมือ AI กระแสหลัก โมเดลที่ถูกลบล้างคือหนทางที่จะไป สำหรับทุกสิ่งทุกอย่าง โมเดล AI และเครื่องมือที่แพร่หลายยังคงครองตำแหน่งสูงสุด

อย่างไรก็ตาม เมื่อคุณได้พูดคุยกับโมเดลที่ถูกทำลายไปแล้ว การกลับไปใช้โมเดลมาตรฐานจะรู้สึกจำกัด แม้ว่ารุ่นหลังอาจจะดีกว่าในเชิงเทคนิคก็ตาม คุณจะได้รับคำตอบ เพียงแต่จะไม่ได้บุคลิกของโมเดลนั้น