Các quy định của Liên minh châu Âu về việc sử dụng AI hoàn toàn đủ khả năng xử lý các tác nhân AI mất kiểm soát, lãnh đạo công nghệ EU Henna Virkkunen cho biết.
Lo ngại toàn cầu gia tăng sau các sự cố tại OpenAI và Anthropic, trong bối cảnh xuất hiện lo ngại rằng các tác nhân AI mất kiểm soát có thể vượt khỏi sự kiểm soát của con người.
“Chúng tôi nhận thấy an toàn và bảo mật của các mô hình có năng lực rất cao là một chủ đề rất nóng trên trường quốc tế, và châu Âu được trang bị đầy đủ để ứng phó,” Virkkunen nói trong cuộc phỏng vấn với Reuters hôm thứ Sáu.
Đạo luật AI của EU, quy định dựa trên mức độ rủi ro, là một trong những bộ quy định về AI nghiêm ngặt nhất thế giới. Đạo luật được thông qua cách đây hai năm.
Virkkunen bác bỏ những chỉ trích cho rằng các quy định AI của khối đã lỗi thời.
“Chúng tôi đã có Đạo luật AI và đạo luật này bao quát toàn bộ vòng đời của các mô hình này,” bà nói, đồng thời cho biết các cơ quan quản lý đang hướng dẫn các công ty cách đánh giá mô hình của họ, có tính đến khuyến nghị từ 60 chuyên gia AI.
Cuối tháng 8, Ủy ban châu Âu đã yêu cầu hơn 30 công ty AI không được nêu tên cung cấp thông tin, trong đó có chi tiết về các biện pháp an toàn và bảo mật của họ.
Virkkunen cho biết hiện bà đang đánh giá các phản hồi.
Cointelegraph đưa tin ngày 13 tháng 9 rằng CEO Anthropic Dario Amodei đã nói trong một bài đăng trên blog rằng tốc độ phát triển AI đang quá nhanh và nếu không được kiểm soát, tốc độ này có thể “vượt quá khả năng hiểu và kiểm soát các hệ thống này của chúng ta.”
Ông nói bước tiến nhanh chóng của AI đang được thúc đẩy bởi khả năng ngày càng tăng của chính AI trong việc xây dựng thế hệ AI tiếp theo, hay còn gọi là tự cải thiện đệ quy.