การจัดแนวโมเดล

การสร้างพรอมต์สำหรับโมเดลปัญญาประดิษฐ์ (AI) เช่น Gemini หรือ Gemma ที่จับความตั้งใจของคุณได้อย่างสมบูรณ์แบบอาจไม่ใช่เรื่องง่าย บ่อยครั้งที่คุณต้องเขียนพรอมต์ด้วยตนเอง แล้วทดสอบใน Use Case ต่างๆ เพื่อให้แน่ใจว่าเหมาะกับความต้องการของคุณ จากผลลัพธ์ที่ได้ คุณอาจทำการอัปเดตอย่างตรงเป้าหมาย ลงในพรอมต์: เปลี่ยนคำบางคำในที่เดียว เพิ่มประโยคใหม่ใน อีกรายการ กระบวนการนี้ไม่มีหลักการใดๆ และอาจไม่นำไปสู่กระบวนการที่ดีที่สุด ผลลัพธ์

Google ได้พัฒนาวิธีการที่ใช้ LLM เพื่ออัปเดตเทมเพลตพรอมต์โดยอัตโนมัติตามความคิดเห็นที่คุณให้ไว้เกี่ยวกับเอาต์พุตของโมเดลเป็นภาษาที่เข้าใจง่าย ระบบจะส่งความคิดเห็นของคุณพร้อมกับพรอมต์และเอาต์พุตของโมเดลไปยัง LLM ซึ่งจะอัปเดตพรอมต์ให้สอดคล้องกับลักษณะการทำงานที่ต้องการมากขึ้น

วิธีนี้ทำได้ 2 วิธีดังนี้

• ไลบรารี Python model-alignment แบบโอเพนซอร์สให้คุณ ผสานแนวทางนี้เข้ากับซอฟต์แวร์และเวิร์กโฟลว์ของคุณได้อย่างยืดหยุ่น
• เวอร์ชันของแนวทางนี้ผสานรวมอยู่ใน Vertex AI Studio ซึ่งช่วยให้คุณใช้เวิร์กโฟลว์นี้ได้ด้วยการคลิกเพียงไม่กี่ครั้ง

ไลบรารีโอเพนซอร์ส

Model Alignment เป็นไลบรารี Python แบบโอเพนซอร์สที่เผยแพร่เป็นแพ็กเกจใน PyPI ซึ่งช่วยให้ปรับข้อความแจ้งจากความคิดเห็นของมนุษย์ผ่าน API ได้ ไลบรารีนี้อิงตามการวิจัยของเราในเรื่อง ข้อความแจ้งการอัปเดตผ่านความคิดเห็นของมนุษย์ และ การสร้างตัวแยกประเภทอัตโนมัติจากข้อมูลที่มีป้ายกำกับ

ดูแลจัดการเทมเพลตพรอมต์สำหรับ Gemma โดยใช้ไลบรารีการปรับแนวโมเดล

เริ่มใช้ Google Colab

ไลบรารีนี้รองรับเวิร์กโฟลว์ 2 แบบสำหรับการอัปเดตเทมเพลตข้อความแจ้งโดยอัตโนมัติ ดังนี้

1. การอัปเดตตามหลักการแบบเป็นขั้นเป็นตอน เวิร์กโฟลว์นี้ใช้ LLM เพื่อกลั่นหลักเกณฑ์จากการวิจารณ์เอาต์พุตของโมเดลโดยอ้อม หรือการแก้ไขเอาต์พุตของโมเดลโดยตรง คุณสามารถ สร้างหลักเกณฑ์ซ้ำๆ อย่างน้อย 1 ข้อก่อนที่จะส่งไปยัง LLM ซึ่งจะอัปเดตเทมเพลตข้อความแจ้งให้เป็นไปตามหลักเกณฑ์เหล่านั้น คุณสามารถ รวมถึงหลักเกณฑ์ที่คัดสรรมาด้วยตนเอง และใส่หลักเกณฑ์ดังกล่าวไว้ควบคู่กับหลักเกณฑ์ที่กลั่นโดย LLM
2. การวิจารณ์เอาต์พุตของโมเดลโดยตรง เวิร์กโฟลว์นี้จะนําความคิดเห็นของคุณเกี่ยวกับเอาต์พุตทั้งหมดของโมเดลไปป้อนให้กับ LLM โดยตรง พร้อมกับพรอมต์และเอาต์พุตของโมเดลเพื่อสร้างเทมเพลตพรอมต์ที่อัปเดตแล้ว

เวิร์กโฟลว์ทั้ง 2 อย่างนี้อาจเป็นประโยชน์กับแอปพลิเคชันของคุณ ผู้มีชื่อเสียง ข้อเสียคือการแสดงแนวทาง ซึ่งอาจเป็นกระบวนการที่มีประโยชน์และเป็นรูปธรรม ที่ช่วยบอกข้อมูลได้ เช่น แนวทางการ ความโปร่งใส

รูปที่ 1 โฟลว์ชาร์ตนี้แสดงตำแหน่งและวิธีการจัดแนวโมเดลทั้งสอง เกิดความแตกต่างในเวิร์กโฟลว์ไลบรารี เพื่อให้การอัปเดตโดยตรงหรือเป็นไปตามหลักเกณฑ์ เทมเพลตข้อความแจ้ง โปรดทราบว่ากระบวนการนี้เป็นกระบวนการที่ต้องทำซ้ำๆ และเวิร์กโฟลว์เหล่านี้ไม่ได้แยกกันใช้ คุณสามารถสลับใช้เวิร์กโฟลว์ต่างๆ ได้ทุกเมื่อ

ดูโน้ตบุ๊ก Colab ที่ใช้ Gemini เพื่อจัดแนวพรอมต์สำหรับ Gemma 2 โดยใช้เวิร์กโฟลว์ทั้ง 2 รายการ

การจัดแนวใน Vertex AI Studio

Vertex AI Studio ของ Google ได้เพิ่ม ฟีเจอร์ "ปรับแต่งข้อความแจ้ง" ตามเวิร์กโฟลว์โดยตรง จากไลบรารีโอเพนซอร์ส การจัดเรียงโมเดลเพื่อเสริมการเขียน การทำงาน การประเมินผล และเปรียบเทียบ

หลังจากเรียกใช้พรอมต์แล้ว คุณสามารถแสดงความคิดเห็นเกี่ยวกับวิธีที่โมเดลควรทำงานให้ต่างออกไป และ Vertex AI Studio จะใช้ Gemini เพื่อร่างการเขียนใหม่ คุณสามารถยอมรับการเปลี่ยนแปลงที่เสนอและเรียกใช้พรอมต์ที่อัปเดตแล้วอีกครั้งได้ด้วยการคลิกปุ่มเดียว หรือจะอัปเดตความคิดเห็นและขอให้ Gemini ร่างข้อความอื่นก็ได้

รูปที่ 2 "ข้อความแจ้งให้ปรับแต่ง" ฟีเจอร์ของ Vertex AI Studio ที่ใช้เพื่อ อัปเดตพรอมต์ตามความคิดเห็นของผู้ใช้

ลิงก์

สำรวจการจัดแนวโมเดลด้วยตัวเอง

• เรียกใช้สมุดบันทึก Colab ที่ใช้ Gemini เพื่อจัดเรียงข้อมูลต่างๆ สำหรับโมเดล Gemma 2 รุ่นน้ำหนักแบบเปิดซึ่งใช้แนวทางความสอดคล้องทั้ง 2 แบบ
• ลองใช้ฟีเจอร์การปรับแนวโมเดล "ปรับแต่งพรอมต์" ใน Vertex AI Studio