AWS ประกาศเพิ่มบริการ Claude 2.1 ของทาง Anthropic ที่เพิ่งเปิดตัวสัปดาห์ที่ผ่านมา เข้ามาให้บริการใน Amazon Bedrock นับว่าให้บริการตามผู้พัฒนาโมเดลหลักได้ค่อนข้างเร็ว

Claude 2.1 เพิ่มฟีเจอร์สำคัญคือรองรับข้อมูลขนาดใหญ่มากจำนวน 200,000 โทเค็น หรือคิดเป็นเอกสาร 500 หน้ากระดาษ, ลดอัตราการหลอนลงครึ่งหนึ่ง, และรองรับ system prompt บอก AI ว่าให้ทำตัวอย่างไร

AWS เปิดตัวชิปของตัวเอง 2 ตัวพร้อมกันในงาน re:Invent 2023 ได้แก่ ซีพียู Graviton 4 และชิปฝึกปัญญาประดิษฐ์ Trainium 2

Graviton 4 เป็นซีพียู ARMv9 ภายในเป็นคอร์ Neoverse V2 96 คอร์ เพิ่มขึ้นจาก Graviton3 ที่เคยมี 64 คอร์ และยังมีแบนวิดท์แรมเพิ่มขึ้น 30% ใส่แรมได้มากขึ้น 3 เท่าตัว ความพิเศษอีกอย่างคือชิปใหม่นี้สามารถเข้ารหัสการส่งข้อมูลออกนอกชิปทั้งหมด

AWS เปิดบริการ Amazon Q แชตบอตผู้ช่วยสารพัดประโยชน์แบบเดียวกับ ChatGPT แต่ชูจุดเด่นในการอ่านข้อมูลภายในองค์กร สามารถดึงข้อมูลจากในสตอเรจ S3 หรือบริการอื่นๆ เช่น Salesforce, Google Drive, Microsoft 365, ServiceNow, Atlassian, หรือ Zendesk มาตอบคำถามผู้ใช้ได้

ข้อมูลที่ Amazon Q นำมาตอบนั้นจะใช้สิทธิการเข้าถึงเดียวกับสิทธิ์ของบริการที่ไปเชื่อมต่อ และสามารถสั่งงานแอปพลิเคชั่นต่างๆ เช่น เปิด ticket ใน Jira หรือเปิดเคสใน Salesforce ได้จากแอปแชต

AWS เปิดตัวบริการ Agents for Amazon Bedrock บริการเรียกใช้งานปัญญาประดิษฐ์ในกลุ่ม LLM ที่สามารถหาข้อมูลภายในองค์กรจากฐานข้อมูลที่เก็บเอกสาร พร้อมๆ กับเรียกใช้งาน API ต่างๆ ที่อาจจะเก็บข้อมูลในองค์กร เพื่อให้สามารถตอบคำถามได้อย่างถูกต้องโดยใช้ข้อมูลล่าสุด

AWS เปิด API เพิ่มเติมสำหรับคนใช้งานบริการฟรีหลายตัวใน AWS เอง ทำให้สามารถติดตามการใช้งานและรู้ได้ล่วงหน้าว่าใกล้หมดโควต้าฟรีแล้วหรือยัง

ก่อนหน้านี้ AWS มีบริการแจ้งเตือนผู้ใช้ที่ใช้บริการฟรีอยู่ 3 ช่องทาง ได้แก่ การตั้งแจ้งเตือนในระบบ Billing, จำกัดวงเงินไว้ที่ 0 ดอลลาร์ทำให้ AWS เตือนทันทีเมื่อมีการคิดเงิน, หรือหน้า Free Tier ที่แสดงว่ามีการใช้งานอะไรใกล้เต็มโควต้าบ้าง