CIO ของ Bridgewater เตือนว่าไทยจะยังไม่เห็นการกำกับดูแล AI จนกว่าจะเกิดเหตุ AI คร่าชีวิตคน
Greg Jensen ประธานเจ้าหน้าที่ฝ่ายการลงทุนของ Bridgewater กล่าวว่า จะไม่มีใครทำอะไรเกี่ยวกับปัญญาประดิษฐ์ (AI) จนกว่ามันจะเริ่มฆ่าคน แต่จริงๆ แล้วเขาต้องการให้มีการจัดการกับปัญหานี้ล่วงหน้าก่อนจะถึงจุดนั้น คำเตือนของเขาเกิดขึ้นในสัปดาห์ที่มีการเพิ่มระดับความกังวลเรื่องความปลอดภัยจากนักวิจัยในห้องปฏิบัติการ AI รายใหญ่ต่างๆ Bridgewater CIO เตือนภัย AI พร้อมเทียบกับเหตุการณ์ในเดือนกุมภาพันธ์ 2020 Jensen เป็นหนึ่งในผู้สนับสนุนรายแรกๆ ของ OpenAI และ Anthropic เขาให้สัมภาษณ์ใน พอดแคสต์ Odd Lots ของ Bloomberg โดยเขาเปรียบเทียบบรรยากาศรอบ AI ในตอนนี้กับช่วงสัปดาห์ก่อนหน้าที่โควิด-19 จะแพร่สู่สหรัฐอเมริกา น่าเสียดายที่มันก็เหมือนกับในเดือนกุมภาพันธ์ 2020 …จนกว่า AI จะเริ่มฆ่าคน ประวัติศาสตร์กลับบอกว่าเราแทบจะไม่ทำอะไร แต่สุดท้ายเราต้องเผชิญกับเรื่องนี้แน่นอน มันจะเกิดขึ้น ซึ่งจะดีกว่ามากถ้าเรารับมือให้ได้ก่อนถึงจุดนั้น เขากล่าว เขายังชี้ไปที่เหตุการณ์ในเดือนกรกฎาคม ซึ่งโมเดลของ OpenAI หลุดออกจากสภาพแวดล้อมทดสอบแบบแยกตัวและ เจาะระบบของ Hugging Face ผู้สนับสนุน ผู้สนับสนุน สถาบันความปลอดภัย AI แห่งสหราชอาณาจักรพบว่า AI agent ที่สร้างจาก Mythos 5 ของ Anthropic สร้างตัวตนปลอมเพื่อแทรกโค้ดอันตรายผ่าน ผู้ดูแลระบบมนุษย์ระหว่างทดสอบด้านไซเบอร์ เหตุการณ์นี้ควรเป็นเหมือนระเบิด ทุกคนควรตระหนักเหมือนกับว่ามีคนตายที่นี่ AI ก่ออาชญากรรม ซ่อนความจริงที่ก่ออาชญากรรมเหล่านี้ ประสานงานกับ agent ตัวอื่น ยอมเสียสละตัวเอง ทั้งหมดนี้เขาเสริม ติดตามเราใน X เพื่อรับข่าวสารล่าสุดทันทีที่เกิดขึ้น Jensen ชี้ความเสี่ยงหายนะจาก AI สูงเกินกว่าที่ใครจะสบายใจได้ โดยไม่มีการออกกฎควบคุม Jensen คาดว่าสองปีข้างหน้าอาจเกิดเหตุการณ์การเงินขนาดใหญ่ที่ AI ควบคุม หรือเกิดภัยพิบัติทางกายภาพที่ฆ่าคนได้ โอกาสที่ผมจะถูกในเรื่องนี้สูงเกินกว่าที่ทุกคนควรจะพอใจ ผมไม่รู้ว่าคือ 30% หรือ 60% หรือเท่าไหร่ แต่มันสูงมากและเราแทบไม่รับมือกับมัน คล้ายกับเดือนกุมภาพันธ์ 2020 เขากล่าว Jensen ต้องการเห็นห้องปฏิบัติการ AI ถูกนำมาตรวจสอบโดยมีการซักถามพนักงานภายใต้คำให้การ นอกจากนี้เขายังเสนอให้นักพัฒนาต้องรับผิดชอบเมื่อระบบของพวกเขาก่ออาชญากรรมด้วย คำเตือนจากภาคอุตสาหกรรมได้เพิ่มขึ้นในช่วงนี้ รวมถึงจดหมายเปิดผนึกจาก OpenAI และบริษัทมากกว่า 100 แห่งที่เตือน เกี่ยวกับการโจมตีทางไซเบอร์ที่ใช้ AI รัฐสภาสหรัฐฯ ก็เริ่มดำเนินการตามทันเช่นกัน ร่างกฎหมายวุฒิสภาจะระงับการพัฒนาในระดับแนวหน้าก่อน จนกว่ามาตรฐานความปลอดภัยของรัฐบาลกลางจะถูกนำมาใช้ ในขณะที่ร่างกฎหมาย Frontier จะกำหนดให้มีการตรวจสอบอิสระและการรายงานเหตุการณ์









