กูเกิลปล่อยไลบรารี google-genai เวอร์ชั่น 1.0 (และอัพเดตรัวๆ จนเป็น 1.2 ในตอนนี้) นับเป็นการออกไลบรารีกลางสำหรับการใช้ Generative AI ของกูเกิล หลังจากที่ก่อนหน้านี้การพัฒนาแอปพลิเคชั่น LLM บนกูเกิลนั้นมีสองฝั่งแยกจากกัน

บริการ LLM ของกูเกิลนั้นแยกออกเป็นสองทาง คือ Google AI Studio และ Google Cloud Vertex AI แม้โมเดลที่ใช้งานจะคล้ายกัน แต่กระบวนการยืนยันตัวตนผู้ใช้และ API นั้นไม่ตรงกัน โดยฝั่ง AI Studio จะใช้ API key คล้ายของ OpenAI ขณะที่ฝั่ง Vertex AI ใช้ JSON เหมือน API อื่นๆ และก่อนหน้านี้ไลบรารีทั้งสองฝั่งก็ต่างกัน ทำให้แยกกันยิ่งกว่า OpenAI และ Azure ที่คอนฟิกเพิ่มเพียงเล็กน้อย

ตอนนี้ไลบรารี google-genai ทำให้การพัฒนาแอปพลิเคชั่นใช้โค้ดเดียวกันได้ โดยรองรับการทำงานตรงกันทั้งการระบุ schema ฝั่งขาออก, การเรียกใช้เครื่องมือ, การสตรีมข้อมูลตอบกลับ, หรือแม้แต่การทำ finetuning

ผู้เขียนแอปพลิเคชั่นยังคงใช้ไลบรารีเดิมต่อไปได้ แต่หลังจากนี้การซัพพอร์ตน่าจะหันมาเป็น google-genai ทั้งหมด แม้ว่าระยะแรกอาจจะมีฟีเจอร์บางส่วนบนแต่ละแพลตฟอร์มไม่ครบ เช่น การอัพโหลดไฟล์ขนาดใหญ่

ปัญหา API ไม่นิ่งของกูเกิลเป็นปัญหาที่มีคนบ่นกันมานาน ก่อนหน้านี้ฝั่ง AI Studio แก้ปัญหาด้วยการรองรับไลบรารีของ OpenAI แต่หลังจากนี้ก็น่าจะทำฟีเจอร์ต่างๆ บนไลบรารีของตัวเองครบถ้วนขึ้น

ที่มา - GitHub: python-genai, @patloeber