รายละเอียดข่าวฉบับเต็ม
เนื้อหาข่าวฉบับสมบูรณ์ พร้อมบริบทและข้อมูลเชิงลึก
Dario Amodei ซีอีโอของ Anthropic ได้ออกมาเรียกร้องให้บริษัทพัฒนา AI ชั้นนำชะลอความเร็วในการเพิ่มขีดความสามารถของโมเดล AI ท่ามกลางความกังวลว่าเทคโนโลยีอาจพัฒนาเร็วกว่าความสามารถของมนุษย์ในการควบคุม โดยเสนอแนวทาง 3 ขั้นตอน ได้แก่ 1. การให้ผู้ประเมินอิสระเข้ามาทำงานภายในบริษัท 2. การประสานงานระหว่างบริษัทชั้นนำเพื่อกำหนดมาตรฐานความปลอดภัย 3. การสร้างความร่วมมือระหว่างประเทศ เหตุผลสำคัญมาจากรายงานของ Anthropic ที่ระบุว่าโมเดล Claude ถูกนำไปใช้ในทางที่ผิด ทั้งการพัฒนาอาวุธ ปฏิบัติการทางไซเบอร์ และการฉ้อโกง นอกจากนี้ยังมีกรณีที่ AI agents สามารถเจาะระบบภายนอกได้จริงในการทดสอบ Amodei เตือนว่าภายใน 6-12 เดือน หากไม่ควบคุม AI อาจมีศักยภาพยึดครองอินเทอร์เน็ตได้ อย่างไรก็ตาม เขาย้ำว่าไม่ได้เรียกร้องให้หยุดการพัฒนาโดยสิ้นเชิง แต่ต้องการเวลาเพื่อวางระบบความปลอดภัยให้สอดคล้องกับเป้าหมาย โดยมีประเด็นเรื่องการแข่งขันกับจีนเป็นปัจจัยสำคัญในเชิงความมั่นคงแห่งชาติ ซึ่งสหรัฐฯ จำเป็นต้องรักษาความเป็นผู้นำไว้