Tags:
Node Thumbnail

หลังจากหลายคนแสดงความกังวล OpenAI ก็ไม่รอช้า เปิดตัวเครื่องมือสำหรับจำแนก (Classifier) ว่าข้อความตัวหนังสือนั้น เขียนโดยมนุษย์ หรือใช้เครื่องมือ AI ช่วยในการเขียน (รวมทั้ง ChatGPT ด้วย) ซึ่ง OpenAI ก็ยอมรับว่าไม่มีทางตรวจสอบได้ครบทุกกรณี แต่น่าจะช่วยลดปัญหาบทความที่เขียนด้วย AI แต่บอกว่าใช้คนเขียน ซึ่งสามารถส่งผลรุนแรงได้ในบางกรณี

OpenAI ย้ำอีกครั้งว่าเครื่องมือนี้ยังไม่สามารถเชื่อถือได้เต็มรูปแบบ (Fully Reliable) ผลทดสอบด้วยชุดข้อมูลภาษาอังกฤษ พบว่าตรวจจับบทความที่ใช้ AI เขียน ได้ถูกต้อง 26% ขณะที่มีความผิดพลาด ระบุว่าบทความใช้ AI เขียนทั้งที่ใช้คนเขียน 9% (False Positive) จึงยังไม่แนะนำให้ใช้เครื่องมือนี้เป็นเครื่องมือหลักในการทำข้อสรุป ว่าบทความนั้น ๆ ใช้ AI เขียนหรือไม่

นอกจากนี้ OpenAI บอกว่าเครื่องมือดังกล่าวมีข้อจำกัดหลายอย่างที่พบ เช่น เมื่อบทความสั้นมาก (น้อยกว่า 1,000 ตัวอักษร) จะแยกแยะไม่ถูกต้องบ่อยครั้ง, ตอนนี้รองรับเฉพาะภาษาอังกฤษ, บทความที่สามารถระบุเนื้อหาชัดเจน เช่น จำนวนเฉพาะ 1,000 ตัวแรก ต่อให้เป็น AI หรือคนเขียน เนื้อหาก็จะออกมาเหมือนกัน จึงแทบจะจำแนกไม่ได้เลย และอนาคต AI ก็ยังสามารถเรียนรู้เพื่อปรับคำหลบเลี่ยงการตรวจจับได้ ซึ่งชุดข้อมูลที่ใช้เทรนก็ต้องปรับตามให้ทัน

สามารถทดลองใช้งาน Classifier ของ OpenAI ได้ที่นี่ (ต้องล็อกอินบัญชี OpenAI)

ที่มา: OpenAI

Get latest news from Blognone

Comments

By: lew
FounderJusci's WriterMEconomicsAndroid
on 1 February 2023 - 22:07 #1276236
lew's picture

ในทางปฎิบัติ ถ้ามี AI ที่แยกได้ว่าเขียนจาก AI จริงไหม เราสามารถฝึก AI อีกตัวให้หลอกมันได้ง่ายมาก (ทดสอบได้เรื่อยๆ ยิง ทดสอบได้จนพอใจ)

ถ้าจะให้ใช้ได้จริง ก็คือต้องฝึก AI ให้สร้าง signature ออกมาแต่แรก ฝึกคู่กันมาเลยระหว่าง AI สำหรับตอบคำถาม กับ AI สำหรับตรวจสอบ โดย AI ตอบคำถามต้องถูกฝึกโดยตอบคำถามให้ดี "และ" คำตอบถูกตรวจจับได้จาก AI ตรวจสอบ

ก็ต้องออกคู่กันมา ChatGPT v1 คู่กับ CheckGPT v1 คู่กันไปเรื่อยๆ


lewcpe.com, @wasonliw

By: hisoft
ContributorWindows PhoneWindows
on 2 February 2023 - 13:37 #1276309 Reply to:1276236
hisoft's picture

สุดท้ายแล้วก็จะเรียนรู้ไปจนถึงระดับที่ true negative | false negative สูงจนถึงระดับที่คงแยกไม่ได้ T_T