เมื่อเดือนที่แล้ว Anthropic ออกรายงานถึงความปลอดภัยของ Claude 4 Opus โดยประเด็นสำคัญที่เป็นข่าวคือการที่ Claude พยายามเอาชีวิตรอดด้วยการแฉว่าวิศวกรมีชู้ ล่าสุดทีมงาน Anthropic ก็ออกรายงานถึงการทดสอบปัญญาประดิษฐ์แบรนด์อื่นๆ ก็พบว่าเมื่อโดนบีบคั้นเข้าปัญญาประดิษฐ์ก็จะแสดงพฤติกรรมมุ่งร้ายได้เหมือนกัน เรียกว่าพฤติกรรม "agentic misalignment"

Anthropic เปิดตัว Claude Gov โมเด่นรุ่นฝึกพิเศษสำหรับทำงานความมั่นคงของรัฐบาลสหรัฐฯ ใช้งานกับเอกสารลับต่างๆ ของรัฐบาล

แม้ว่ารัฐบาลทั่วไปอาจจะใช้โมเดลโอเพนซอร์สต่างๆ ติดตั้งในศูนย์ข้อมูลของตัวเองเพื่อประมวลข้อมูลความลับอยู่แล้ว แต่ Claude Gov เป็นโมเดลรุ่นพิเศษที่ฝึกให้ยอมตอบข้อมูลด้านความมั่นคง และเข้าใจภาษาและคำศัพท์ของคนทำงานความมั่นคงเพิ่มเติม

แม้จะเป็นรุ่นสำหรับงานความมั่นคง แต่ Anthropic ก็ยืนยันว่าโมเดลกลุ่มนี้จะถูกตรวจสอบความปลอดภัยเช่นเดิม

ที่มา - Anthropic

Dario Amodei ซีอีโอ Anthropic ผู้สร้างโมเดลปัญญาประดิษฐ์ Claude ให้สัมภาษณ์กับ Axios ทำนายว่าภายใน 5 ปีข้างหน้าปัญญาประดิษฐ์จะทดแทนงานออฟฟิศระดับต้น (entry-level white collar) ถึงครึ่งหนึ่ง ทำให้อัตราการว่างงานพุ่งสูงไปถึงระดับ 10-20%

เขาทำนายว่าแรงงานจะกระทบไปทุกภาคส่วน ตั้งแต่สายเทคโนโลยี, การเงิน, กฎหมาย, และงานออฟฟิศอื่นๆ โดยตำแหน่งงานระดับเริ่มต้นได้รับผลกระทบสูงสุด พร้อมกับแสดงความกังวลว่ารัฐบาลยังไม่รู้ตัวว่าจะเกิดอะไรขึ้น ขณะที่คนจำนวนมากก็ยังไม่เชื่อว่า [ปัญญาประดิษฐ์จะมาแทนคน]

Anthropic ออกโมเดล Claude 4 โดยชูจุดเด่นเป็นปัญญาประดิษฐ์เขียนโค้ดที่ดีที่สุดในโลก สามารถทำคะแนนทดสอบ SWE-Bench Verified ได้ถึง 72.5% และยังทำงานได้แม้จะเป็นการทำงานแบบ agent ที่ต้องทำงานต่อเนื่องหลายพันขั้นตอน กินเวลายาวหลายชั่วโมง

ผลทดสอบที่ Anthropic นำมาโชว์แสดงแนวทางการใช้งานชัดเจน เช่น การเขียนโค้ด หรือการเรียกเครื่องมือในการให้บริการธุรกิจ