Greg Jensen ประธานเจ้าหน้าที่ฝ่ายการลงทุนของ Bridgewater กล่าวว่า จะไม่มีใครทำอะไรเกี่ยวกับปัญญาประดิษฐ์ (AI) จนกว่ามันจะเริ่มฆ่าคน แต่จริงๆ แล้วเขาต้องการให้มีการจัดการกับปัญหานี้ล่วงหน้าก่อนจะถึงจุดนั้น
คำเตือนของเขาเกิดขึ้นในสัปดาห์ที่มีการเพิ่มระดับความกังวลเรื่องความปลอดภัยจากนักวิจัยในห้องปฏิบัติการ AI รายใหญ่ต่างๆ
Bridgewater CIO เตือนภัย AI พร้อมเทียบกับเหตุการณ์ในเดือนกุมภาพันธ์ 2020
Jensen เป็นหนึ่งในผู้สนับสนุนรายแรกๆ ของ OpenAI และ Anthropic เขาให้สัมภาษณ์ใน พอดแคสต์ Odd Lots ของ Bloomberg โดยเขาเปรียบเทียบบรรยากาศรอบ AI ในตอนนี้กับช่วงสัปดาห์ก่อนหน้าที่โควิด-19 จะแพร่สู่สหรัฐอเมริกา
น่าเสียดายที่มันก็เหมือนกับในเดือนกุมภาพันธ์ 2020 …จนกว่า AI จะเริ่มฆ่าคน ประวัติศาสตร์กลับบอกว่าเราแทบจะไม่ทำอะไร แต่สุดท้ายเราต้องเผชิญกับเรื่องนี้แน่นอน มันจะเกิดขึ้น ซึ่งจะดีกว่ามากถ้าเรารับมือให้ได้ก่อนถึงจุดนั้น เขากล่าว
เขายังชี้ไปที่เหตุการณ์ในเดือนกรกฎาคม ซึ่งโมเดลของ OpenAI หลุดออกจากสภาพแวดล้อมทดสอบแบบแยกตัวและ เจาะระบบของ Hugging Face
ผู้สนับสนุน
ผู้สนับสนุน
สถาบันความปลอดภัย AI แห่งสหราชอาณาจักรพบว่า AI agent ที่สร้างจาก Mythos 5 ของ Anthropic สร้างตัวตนปลอมเพื่อแทรกโค้ดอันตรายผ่าน ผู้ดูแลระบบมนุษย์ระหว่างทดสอบด้านไซเบอร์
เหตุการณ์นี้ควรเป็นเหมือนระเบิด ทุกคนควรตระหนักเหมือนกับว่ามีคนตายที่นี่ AI ก่ออาชญากรรม ซ่อนความจริงที่ก่ออาชญากรรมเหล่านี้ ประสานงานกับ agent ตัวอื่น ยอมเสียสละตัวเอง ทั้งหมดนี้เขาเสริม
ติดตามเราใน X เพื่อรับข่าวสารล่าสุดทันทีที่เกิดขึ้น
Jensen ชี้ความเสี่ยงหายนะจาก AI สูงเกินกว่าที่ใครจะสบายใจได้
โดยไม่มีการออกกฎควบคุม Jensen คาดว่าสองปีข้างหน้าอาจเกิดเหตุการณ์การเงินขนาดใหญ่ที่ AI ควบคุม หรือเกิดภัยพิบัติทางกายภาพที่ฆ่าคนได้
โอกาสที่ผมจะถูกในเรื่องนี้สูงเกินกว่าที่ทุกคนควรจะพอใจ ผมไม่รู้ว่าคือ 30% หรือ 60% หรือเท่าไหร่ แต่มันสูงมากและเราแทบไม่รับมือกับมัน คล้ายกับเดือนกุมภาพันธ์ 2020 เขากล่าว
Jensen ต้องการเห็นห้องปฏิบัติการ AI ถูกนำมาตรวจสอบโดยมีการซักถามพนักงานภายใต้คำให้การ นอกจากนี้เขายังเสนอให้นักพัฒนาต้องรับผิดชอบเมื่อระบบของพวกเขาก่ออาชญากรรมด้วย
คำเตือนจากภาคอุตสาหกรรมได้เพิ่มขึ้นในช่วงนี้ รวมถึงจดหมายเปิดผนึกจาก OpenAI และบริษัทมากกว่า 100 แห่งที่เตือน เกี่ยวกับการโจมตีทางไซเบอร์ที่ใช้ AI รัฐสภาสหรัฐฯ ก็เริ่มดำเนินการตามทันเช่นกัน
ร่างกฎหมายวุฒิสภาจะระงับการพัฒนาในระดับแนวหน้าก่อน จนกว่ามาตรฐานความปลอดภัยของรัฐบาลกลางจะถูกนำมาใช้ ในขณะที่ร่างกฎหมาย Frontier จะกำหนดให้มีการตรวจสอบอิสระและการรายงานเหตุการณ์