Tags:
Node Thumbnail

OpenAI เผยแพร่เอกสาร (document) เรียกว่า Model Spec ซึ่งเป็นร่างเวอร์ชันแรก เพื่ออธิบายเบื้องหลังการตัดสินใจและพฤติกรรมของโมเดล AI ที่ใช้ใน OpenAI API และ ChatGPT ซึ่งช่วยให้ผู้ใช้งานเข้าใจวัตถุประสงค์ และกรณีต่าง ๆ ที่โมเดล AI ตัดสินใจทำหรือไม่ทำ

เป้าหมายของ Model Spec คือการกำหนดค่าสามส่วนได้แก่ Objectives หรือสิ่งที่ต้องการทำ, Rules กฎที่ตรวจสอบ, Default behaviors เทมเพลตพื้นฐานในการกำหนดรูปแบบการโต้ตอบ ทั้งหมดนี้สามารถเปลี่ยนแปลงได้เมื่อเวลาผ่านไป

OpenAI บอกว่าเอกสาร Model Spec นี้ ปัจจุบันถูกใช้เป็นกฎขั้นสูงในการควบคุมจัดการ ChatGPT และโมเดล AI ต่าง ๆ ที่พัฒนาใน OpenAI ผ่านการทดสอบซ้ำและเก็บรวบรวมความเห็นจากมนุษย์

การเผยแพร่เอกสารรนี้ OpenAI บอกว่าเป็นการนำเสนอเพื่อการถกเถียงในระดับสาธารณะ ว่าโมเดล AI ที่ควรเป็นควรมีพฤติกรรมและการตัดสินใจอย่างไร และเป็นข้อมูลเสริมสำหรับฝ่ายต่าง ๆ ที่เกี่ยวข้องเพื่อทำความเข้าใจ และพิจารณาในประเด็นต่าง ๆ

อ่านร่างแรกของ Model Spec ได้ที่นี่

ที่มา: OpenAI

No Description

ตัวอย่างวิธีการตัดสินใจ

No Description

Get latest news from Blognone

Comments

By: chieffy on 9 May 2024 - 15:46 #1311474

ก็พักหลังเริ่มมีปัญหา AI ตอบสนองต่อพฤติกรรมผู้ใช้งานส่วนใหญ่เพราะ RLHF งานที่มีลำดับเจาะจงชัดเจนเริ่มมีปัญหา เนื่องจากพื้นฐานการฝึกฝน และการใช้งานส่วนใหญ่เน้น output มากกว่า นอกจากนี้การศึกษาและวิจัย AI ในสาขาอื่นอาจมีเงื่อนใขเฉพาะที่ต้องทดสอบจากการใช้งานทั่วไป ไม่สามารถใช้โมเดลเฉพาะได้ แต่กลายเป็นว่า AI ไม่ทำตามขั้นตอน การที่มีระบบนี้อาจเป็นไปได้ที่จะทำให้ผู้ใช้สามารถตั้งค่าให้ได้ AI ที่เหมาะสมกับการใช้งานมากขึ้น