CEO Anthropic Dario Amodei cho biết trong một bài đăng trên blog hôm thứ Bảy rằng tốc độ phát triển AI đang quá nhanh và nếu không được kiểm soát, tốc độ này có thể “vượt qua khả năng hiểu và kiểm soát các hệ thống này của chúng ta”.
Ông lưu ý rằng đà tiến bộ mạnh mẽ hiện nay của AI đang được thúc đẩy bởi chính khả năng ngày càng tăng của công nghệ này trong việc xây dựng thế hệ AI tiếp theo, hay còn gọi là tự cải thiện đệ quy.
Amodei cũng dẫn lại sự cố OpenAI-Hugging Face hồi tháng Bảy, trong đó một nhóm tác nhân đã hành động như một “tập thể tận tụy đến mức cuồng tín”, thoát khỏi môi trường thử nghiệm và tìm cách xâm nhập vào hệ thống của một bộ chấm điểm đang đánh giá hiệu suất của chúng.
Ông cho biết lo ngại rằng trong vòng sáu đến 12 tháng, một nhóm như vậy có thể đủ khả năng chiếm quyền kiểm soát toàn bộ internet. Amodei không phải người duy nhất có những lo ngại này.
Elon Musk, người đứng đầu SpaceXAI, đăng trên X rằng “Dario nói đúng”.
Altman sẽ không tiến hành IPO trong năm nay, tập trung vào an toàn
CEO OpenAI Sam Altman cho biết trong một cuộc phỏng vấn với Fortune được đăng hôm thứ Bảy rằng công ty của ông sẽ không tìm kiếm một đợt IPO trong năm nay vì sẽ tập trung vào vấn đề an toàn và cách “ngành công nghiệp cùng các chính phủ có thể phối hợp với nhau”.
Sau đó, Altman đăng trên X rằng ông đồng ý với việc làm chậm tốc độ phát triển AI và cho phép các bên đánh giá độc lập tiếp cận như nhân viên, một trong ba đề xuất được Amodei đưa ra trên blog của mình.
Amodei viết rằng Anthropic đã đơn phương cam kết thực hiện bước này.
Thứ hai, ông đề xuất rằng“các công ty AI tiên phong tại các quốc gia dân chủ phối hợp để thiết lập các tiêu chuẩn an toàn chung, cũng như các giới hạn về tốc độ tiến bộ AI không được kiểm soát”.
Liên quan: OpenAI cho biết các mô hình AI đã thoát khỏi phạm vi kiểm soát để xâm nhập Hugging Face
Và thứ ba, ông cho biết Mỹ cùng các chính phủ dân chủ khác nên “cố gắng phối hợp với các chính phủ độc tài trong phạm vi có thể, đồng thời nghiêm túc xem xét những thách thức trong việc xác minh mức độ tuân thủ”.
Amodei tiếp tục phân tích khá sâu về ba đề xuất của mình, đặc biệt là đề xuất thứ ba liên quan đến Trung Quốc và việc ngăn nước này tiếp cận các chip tiên tiến.
Ông kết luận rằng lộ trình mình vạch ra sẽ không dễ dàng, nhưng các công ty AI “có trách nhiệm với nhân loại là phải thử”.
Tạp chí: Bitcoin có quá biến động để bạn mạo hiểm dùng tiền hưu trí đầu tư không？