Sam Altman ủng hộ kiểm soát tốc độ phát triển AI tiên tiến, OpenAI sẽ triển khai các đánh giá an toàn độc lập

TradingKey - Giám đốc điều hành (CEO) của OpenAI, ông Sam Altman, đã đăng tải trên mạng xã hội X vào ngày 14 tháng 9 nhằm ủng hộ việc thiết lập một khung an toàn liên bang dành cho các công ty AI tiên phong. Ông tuyên bố rằng áp lực cạnh tranh mà Mỹ phải đối mặt trong lĩnh vực AI không thể là lý do để các công ty hành động thiếu thận trọng hoặc để khả năng của mô hình vượt xa khả năng giám sát và đảm bảo an toàn.

[Nguồn: X]

Altman đã nêu ra hai nhóm rủi ro chính: thứ nhất, nhân loại có thể mất kiểm soát đối với tương lai, do đó AI phải luôn phục vụ con người; thứ hai, AI tiên tiến có thể dẫn đến sự tập trung quyền lực quá mức, trao ảnh hưởng quá lớn cho một số ít cá nhân, công ty hoặc thậm chí là các quốc gia.

OpenAI ủng hộ việc đưa vào các đơn vị đánh giá độc lập. Altman tin rằng các công ty AI tiên phong không nên chờ đợi luật pháp liên quan hoặc các miễn trừ chống độc quyền, mà nên bắt tay ngay vào việc phát triển các tiêu chuẩn an toàn chung. Khi khả năng của mô hình phát triển, công nghệ căn chỉnh và an toàn phải đi trước một bước, và các biện pháp giám sát phải theo kịp.

OpenAI bổ sung lập luận an toàn trước khi huấn luyện các mô hình tiên phong

Altman cho biết việc điều chỉnh nhịp độ phát triển không đồng nghĩa với việc dừng nghiên cứu và phát triển. Dù các lập luận về an toàn và hoạt động giám sát liên tục sẽ làm tăng chi phí cũng như có thể làm chậm đôi chút tiến trình huấn luyện, việc phát triển mô hình và tiến bộ công nghệ vẫn sẽ tiếp tục.

Trước đây, các chính sách mở rộng quy mô có trách nhiệm được áp dụng bởi một số công ty AI tiên phong và khung chuẩn bị sẵn sàng do OpenAI thiết lập chủ yếu tập trung vào các mô hình đã được huấn luyện hoàn chỉnh cùng rủi ro triển khai của chúng. Altman tin rằng việc quản lý an toàn cũng cần bao hàm cả quá trình phát triển và đánh giá mô hình.

Đối với việc huấn luyện học tăng cường tiên phong vốn được kỳ vọng sẽ nâng cao đáng kể năng lực của mô hình, OpenAI đã bắt đầu xây dựng các lập luận an toàn rõ ràng trước khi tiến hành huấn luyện, đồng thời vẫn duy trì các hoạt động đánh giá an toàn trước khi phát hành mô hình. Công ty hy vọng các doanh nghiệp AI tiên phong khác sẽ tham khảo phương pháp này và đề xuất giải pháp riêng, qua đó thúc đẩy việc hình thành các tiêu chuẩn chung về sự chệch hướng mô hình, hoạt động giám sát và tính an toàn.

Altman tuyên bố rằng việc kiểm soát nhịp độ phát triển không đồng nghĩa với việc dừng nghiên cứu và phát triển. Các lập luận an toàn cùng hoạt động giám sát liên tục đòi hỏi nhiều nguồn lực hơn và sẽ khiến tốc độ nâng cao năng lực của AI tiên phong thấp hơn so với khi không áp dụng các biện pháp này, nhưng những hoạt động nghiên cứu và phát triển liên quan vẫn sẽ tiếp tục tiến về phía trước.

OpenAI phản hồi ba đề xuất của Anthropic

Bình luận của Altman được đưa ra nhằm phản hồi các khuyến nghị do CEO Dario Amodei của Anthropic đề xuất vào ngày 12/9. Ông Amodei lưu ý rằng khi AI ngày càng tham gia sâu hơn vào việc phát triển các mô hình thế hệ tiếp theo, năng lực của mô hình có thể tiến bộ nhanh hơn khả năng hiểu và kiểm soát các rủi ro liên quan của ngành.

Ông Amodei đã đề xuất ba biện pháp: các công ty AI hàng đầu cung cấp cho các nhóm đánh giá bên thứ ba quyền truy cập liên tục với cấp độ gần như nhân viên; thúc đẩy việc thiết lập các tiêu chuẩn an toàn chung giữa các công ty liên quan tại các quốc gia dân chủ; và thực hiện sự phối hợp quốc tế với sự tham gia của các quốc gia như Mỹ và Trung Quốc.

Anthropic đã cam kết mời các nhóm đánh giá bên ngoài. Altman cũng tuyên bố rằng OpenAI sẽ áp dụng các cơ chế đánh giá độc lập tương tự, mặc dù công ty vẫn chưa tiết lộ quyền truy cập cụ thể của bên đánh giá và lộ trình thực hiện.

Về vấn đề tốc độ phát triển, các ưu tiên của ông Trump khác với ưu tiên của một số nhà lãnh đạo tại các công ty AI hàng đầu. Ông Trump tin rằng Mỹ không cần phải làm chậm lại sự phát triển AI để tránh làm suy giảm vị thế dẫn đầu so với Trung Quốc. Trong khi đó, Altman ủng hộ tiếp tục hoạt động R&D đồng thời đảm bảo rằng các biện pháp căn chỉnh, an toàn và giám sát không bị tụt hậu so với sự tiến bộ về năng lực của mô hình.