AWS เปิดตัว Neo-AI โครงการโอเพ่นซอร์สใหม่ที่พัฒนาเครื่องมือสำหรับการ optimize โมเดล machine learning เพื่อการดีพลอยบนแพลตฟอร์มที่หลากหลายโดยเฉพาะการรันบน edge device ซึ่ง AWS ใช้เทคโนโลยีที่ทางบริษัทพัฒนา SageMaker Neo บริการ machine learning บน AWS มาพัฒนา Neo-AI นี้ด้วย

Neo-AI สามารถใช้โมเดลจาก TensorFlow, MXNet, PyTorch, ONNX และ XGBoost จากนั้นก็ทำการ optimize ได้ ซึ่ง AWS ระบุว่า Neo-AI สามารถทำให้โมเดลเร็วขึ้นกว่าเดิมได้สูงสุดถึง 2 เท่าโดยไม่เสียความแม่นยำ ซึ่งตัวเครื่องมือนี้รองรับฮาร์ดแวร์ชิพจากทั้ง Intel, Nvidia และ ARM ซึ่งจะซัพพอร์ต Xilinx, Cadence และ Qualcomm ในอนาคตด้วย

นอกจากเรื่องการ optimize ตัวโมเดลแล้ว เครื่องมือ Neo-AI นี้ยังใช้เพื่อการแปลงโมเดลเหล่านี้เป็นฟอร์แมตใหม่ เพื่อป้องกันปัญหาเรื่องความเข้ากันได้กับรันไทม์บนอุปกรณ์ที่โมเดลไปทำการรันด้วย

โครงการ Neo-AI นี้ใช้ Apache Software License ตัวซอร์สโค้ดสามารถเข้าไปดูได้จาก GitHub

ที่มา - AWS Machine Learning Blog, TechCrunch