AWS เปิดตัวชิปของตัวเอง 2 ตัวพร้อมกันในงาน re:Invent 2023 ได้แก่ ซีพียู Graviton 4 และชิปฝึกปัญญาประดิษฐ์ Trainium 2

Graviton 4 เป็นซีพียู ARMv9 ภายในเป็นคอร์ Neoverse V2 96 คอร์ เพิ่มขึ้นจาก Graviton3 ที่เคยมี 64 คอร์ และยังมีแบนวิดท์แรมเพิ่มขึ้น 30% ใส่แรมได้มากขึ้น 3 เท่าตัว ความพิเศษอีกอย่างคือชิปใหม่นี้สามารถเข้ารหัสการส่งข้อมูลออกนอกชิปทั้งหมด

Trainium 2 ชิปฝึกปัญญาประดิษฐ์ ออกแบบมารองรับการฝึก LLM ระดับล้านล้านพารามิเตอร์ ประสิทธิภาพการฝึกรวมเพิ่มขึ้นกว่ารุ่นแรก 4 เท่าและรองรับหน่วยความจำได้มากกว่าเดิม 3 เท่า ตอนนี้ Anthropic และ MosaicML ผู้พัฒนา LLM ก็ออกมาแสดงความสนใจจะใช้ Trainium 2 ฝึกโมเดล LLM ตัวต่อไป

วันนี้ที่งาน AWS re:Invent 2022 AWS ได้เปิดตัว EC2 รุ่นใหม่หลายตัว โดยแกนกลางเป็น Graviton ซีพียูที่ออกแบบเอง และรันผ่าน Nitro ฮาร์ดแวร์ hypervisor ของตัวเองที่ขณะนี้เดินทางมาถึง v5 แล้ว

C7gn เป็น EC2 ในกลุ่มที่เน้นซีพียู (Compute Optimized) เช่นนำมาทำระบบเน็ตเวิร์ค, วิเคราะห์ข้อมูล หรือการคำนวณแบบคลัสเตอร์ ใช้ซีพียู Graviton 3E รุ่นใหม่ที่เปิดตัวพร้อมกัน รองรับแบนด์วิดท์เน็ตเวิร์ค 200 Gbps และประมวลผลแพ็คเก็ตได้สูงขึ้น 50% (เทียบกับ C6gn) มีให้เลือกหลายขนาด สูงสุด 64 vCPU และแรม 128 GiB เริ่มให้ทดลองแล้วผ่านการลงทะเบียน

AWS เริ่มให้บริการเซิร์ฟเวอร์ EC2 ในตระกูล C7g ที่เป็นซีพียู Graviton 3 ที่เปิดให้บริการวงปิดไปเมื่อปลายปี 2021 โดยยังคงชูความคุ้มค่าเมื่อเทียบพลังประมวลผลกับซีพียู x86

ฟีเจอร์ความปลอดภัยของ Graviton 3 ได้แก่ การแยกแคชแต่ละเครื่องเสมือนออกจากกัน, เข้ารหัสหน่วยความจำตลอดเวลา, และยืนยันตำแหน่ง pointer

ราคาเครื่อง C7g พอๆ กับเครื่อง C6a ที่เป็นซีพียู AMD EPYC รุ่นที่ 3 แต่มีเครื่องเล็กสุดคือ c7g.medium ซีพียู 1 vCPU แรม 1GB ราคาประมาณ 26 ดอลลาร์ต่อเดือน (C6a เริ่มที่ 2 vCPU)

ตอนนี้เครื่อง C7g ยังมีให้บริการแค่สองเขตในสหรัฐฯ ตะวันตกและตะวันออก และเตรียมขยายเพิ่มเติมต่อไปภายหลัง

AWS เปิดตัวซีพียู Graviton3 ซีพียูที่ AWS ออกแบบเพื่อใช้งานในคลาวด์ของตัวเอง ระบุว่าประสิทธิภาพสูงขึ้น 25% แต่เฉพาะการประมวลผลเลขทศนิยมและการเข้ารหัสจะมีประสิทธิภาพดีขึ้นมาก สูงสุดถึงเท่าตัว นอกจากนี้ยังมีฟีเจอร์เพิ่มเติม เช่น

AWS และ NVIDIA ประกาศเปิดตัวเลือกให้ผู้ใช้สามารถใช้งานชิปกราฟิกบนเซิร์ฟเวอร์ที่เป็นซีพียู Graviton2 ของ AWS โดยไม่ระบุว่าจะใช้ชิปกราฟิกรุ่นใด

Graviton2 เป็นซีพียูสถาปัตยกรรม Arm ที่มีจุดขายว่าประสิทธิภาพต่อราคาดีกว่าเซิร์ฟเวอร์ x86 (ยังแก้อยู่บ้างในงานบางประเภท) แต่สำหรับการใช้งานคู่กับชิปกราฟิกเช่นนี้นอกจากงานกลุ่มปัญญาประดิษฐ์แล้ว ยังสามารถใช้รันเกมแอนดรอยด์เพื่อสตรีมภาพไปยังเครื่องปลายทางได้เลย โดย Graviton ได้เปรียบเพราะโค้ดเกมบนโทรศัพท์จำนวนมากเป็นโค้ด Arm อยู่แล้ว ทำให้ไม่ต้องแปลงโค้ดอีกชั้น

เซิร์ฟเวอร์ Graviton2 พร้อมชิปกราฟิก NVIDIA จะเปิดให้ใช้งานได้ภายในครึ่งหลังของปี 2021

Amazon เริ่มใช้งานซีพียูออกแบบเอง Graviton2 ที่เป็น ARM ใช้สำหรับเซิร์ฟเวอร์บน AWS โดยชูจุดเด่นเรื่องราคา/ประสิทธิภาพที่ดีกว่า x86 แต่ในช่วงแรกๆ ยังใช้เฉพาะบริการเช่าเครื่อง EC2 โดยตรงเท่านั้น

ช่วงหลัง Amazon เริ่มนำ Graviton2 มาใช้กับบริการอื่นๆ ในเครือ AWS เพิ่มมากขึ้น บริการล่าสุดคือฐานข้อมูล Amazon Aurora (ซอฟต์แวร์ฐานข้อมูลของ AWS เองที่เข้ากันได้กับ MySQL/PostgreSQL) ที่หันมาใช้เครื่อง Graviton2 โดยระบุว่ามีประสิทธิภาพดีขึ้นสูงสุด 20% และราคาต่อประสิทธิภาพดีขึ้นสูงสุด 35%

AWS เปิดตัวซีพียู Graviton ของตัวเอง (เป็น ARM) ในปี 2018, อัพเกรดเป็น Graviton 2 ในปี 2019 และเพิ่งเริ่มนำ Graviton 2 มาให้บริการในเดือนพฤษภาคม 2020 นี้เอง

ล่าสุด AWS ประกาศว่าบริการ Amazon ElastiCache จะเริ่มนำ instance ที่เป็นซีพียู Graviton 2 (M6g และ R6g) มาใช้งานแล้ว ความน่าสนใจคือ ElastiCache จะเลือกใช้ Graviton 2 เป็นค่าดีฟอลต์ด้วย ถ้าลูกค้าไม่เปลี่ยนค่าอะไร แปลว่าจะรันบน ARM แทนที่จะเป็น x86 นั่นเอง

AWS เปิดตัวซีพียู Graviton2 มาตั้งแต่งาน re:Invent ปีที่แล้ว ตอนนี้เครื่อง M6g ก็เปิดให้ใช้งานได้จริงแล้ว

ตัวเครื่องเริ่มต้นที่ m6g.medium ซีพียู 1 คอร์และแรม 4GB ราคาในสหรัฐฯ ชั่วโมงละ 0.0385 ดอลลาร์หรือเดือนละ 27.72 ดอลลาร์ ไล่ขึ้นไปถึง m6g.16xlarge ซีพียู 64 คอร์ แรม 256GB ชั่วโมงละ 2.464 ดอลลาร์ หรือเดือนละ 1774.08 ดอลาร์

AWS เปิดตัวซีพียู Graviton2 หลังจากเปิดตัวรุ่นแรกเมื่อปีที่แล้ว โดยระบุว่ารุ่นใหม่นี้จะราคาต่อประสิทธิภาพถูกกว่าซีพียู x86 ถึง 40% โดยปรับกระบวนการผลิตไป 7 นาโนเมตร, เพิ่มประสิทธิภาพการประมวลผลเลขทศนิยมสองเท่าตัว, เพิ่มขนาดแคช 2 เท่าตัว, และความเร็วเข้าถึงหน่วยความจำไป 5 เท่า

เครื่องที่ใช้ชิป Graviton2 มี 3 ตระกูล (รุ่นที่ห้อยท้าย d คือรุ่นสตอเรจแบบ NVMe) ได้แก่

ข่าวที่น่าสนใจจากงาน AWS re:Invent 2018 คือ EC2 เปิดตัวเครื่องประเภท A1 ที่ใช้ซีพียู ARM แถมเป็นซีพียู ARM ที่ Amazon ออกแบบเองทั้งหมดด้วย

AWS ให้ข้อมูลของซีพียูตัวนี้ว่าชื่อ Graviton พัฒนาบนสถาปัตยกรรม ARM และออกแบบมาเพื่อลดต้นทุนเป็นหลัก (เมื่อเทียบกับ x86) รูปแบบงานที่ AWS แนะนำให้รันบน A1 คืองานที่สามารถแตกเป็นเวิร์คโหลดขนาดเล็กๆ แล้วสเกลตามจำนวนเครื่องได้ เช่น container, microservice, webserver, caching เป็นต้น