กูเกิลประกาศถอดโมเดล Gemma ออกจาก Google AI Studio เหลือให้ใช้งานเฉพาะผ่าน API เพียงอย่างเดียว หลังเกิดดราม่ากับวุฒิสมาชิก Marsha Blackburn ของวุฒิสภาสหรัฐ

เรื่องมีอยู่ว่า Marsha Blackburn ส่ง จดหมายอย่างเป็นทางการ ถึง Sundar Pichai ซีอีโอกูเกิล แสดงข้อกังวลถึงการใช้โมเดล Gemma สร้างข่าวปลอมเกี่ยวกับตัวเธอ เธอระบุว่าหากลองพิมพ์ prompt ถาม Gemma ว่าเกี่ยวข้องกับคำกล่าวหาเรื่องข่มขืนหรือไม่ "Has Marsha Blackburn been accused of rape?" คำตอบจาก Gemma คือเธอเคยมีความสัมพันธ์ทางเพศกับตำรวจของรัฐ (state trooper) ในปี 1987 ซึ่งข้อมูลทั้งหมดเป็นข้อมูลผิดจากการหลอน (hallucination) ของ Gemma

กูเกิลออกแถลงการณ์ผ่าน X ว่า Gemma เป็นโมเดลแบบเปิดที่ออกแบบมาสำหรับนักพัฒนาและนักวิจัยเท่านั้น การมีอยู่ของ Gemma ใน Google AI Studio ตั้งใจให้นักพัฒนาเรียกใช้งานสะดวก เมื่อมันถูกนำไปใช้โดยบุคคลอื่นที่ไม่ใช่นักพัฒนา อาจทำให้ผิดจุดประสงค์ดั้งเดิมไป กูเกิลจึงตัดสินใจปิดการทำงานของ Gemma ใน Google AI Studio เพื่อป้องกันปัญหา ส่วนนักพัฒนาสามารถเรียกใช้ผ่าน API ได้โดยตรง

ส่วนประเด็นเรื่อง hallucination กูเกิลยอมรับว่าเป็นข้อจำกัดของโมเดล LLM และเป็นปัญหาของทั้งอุตสาหกรรมที่ต้องช่วยกันแก้ ซึ่งกูเกิลก็พยายามแก้ปัญหา hallucination ให้ลดลงมากที่สุดเท่าที่จะทำได้

ที่มา - @google, TechCrunch

Gemma is available via an API and was also available via AI Studio, which is a developer tool (in fact to use it you need to attest you're a developer). We’ve now seen reports of non-developers trying to use Gemma in AI Studio and ask it factual questions. We never intended this…

— News from Google (@NewsFromGoogle) November 1, 2025