OpenAI cảnh báo siêu trí tuệ có thể tập trung quyền lực nếu không được phi tập trung hóa

OpenAI đã công bố năm nguyên tắc chỉ đạo vào ngày 26/04/2024, cảnh báo rằng siêu trí tuệ có thể tập trung quyền lực vào tay một nhóm công ty nhỏ. Phòng thí nghiệm này cam kết phổ biến công nghệ rộng rãi để ngăn chặn tình huống đó xảy ra.

Sam Altman đã chia sẻ bộ nguyên tắc này trên X. Đây là bản thay thế cho bản điều lệ AGI năm 2018 của OpenAI, được công bố trong bối cảnh các dự án AI phi tập trung đang cạnh tranh nhau trên cùng một “trận địa” về câu chuyện phát triển AI.

OpenAI đưa ra năm nguyên tắc mới về siêu trí tuệ

Năm nguyên tắc bao gồm dân chủ hóa, trao quyền, thịnh vượng chung, khả năng phục hồi và sự thích nghi. Nguyên tắc đầu tiên cam kết rằng OpenAI sẽ chống lại bất kỳ sự tập trung quyền kiểm soát AI nào, kể cả nội bộ chính công ty. Ngoài ra, các quyết định quan trọng sẽ được đưa ra thông qua quá trình dân chủ thay vì chỉ do phòng thí nghiệm quyết định.

Altman cho biết đây là lần cập nhật lớn đầu tiên về các nguyên tắc kể từ năm 2018. Nguyên tắc trao quyền hứa hẹn mang lại cơ hội tiếp cận AI tổng quát rộng rãi cho công chúng, cùng với các thị trường token phát triển xung quanh công nghệ này.

Ba nguyên tắc còn lại liên quan đến rủi ro chuyển đổi kinh tế, phối hợp trong vấn đề an toàn, và sự sẵn sàng thay đổi lập trường khi cần thiết. Điều lệ mới dự kiến cho năm 2026 chỉ nhắc đến AGI hai lần, cho thấy sự chuyển dịch sang cam kết rộng hơn về cơ sở hạ tầng AI.

Các đối thủ AI phi tập trung phản hồi

Cảnh báo này được đưa ra đúng lúc các mạng lưới AI xuất phát từ lĩnh vực tiền mã hóa đang mở rộng. Bittensor (TAO) đã tổ chức đào tạo mô hình ngôn ngữ lớn phi tập trung lớn nhất từ trước đến nay trên Templar subnet của mình vào đầu tháng 04/2024. Grayscale cũng đã nộp hồ sơ xin mở quỹ ETF tập trung vào TAO, thu hút thêm vốn từ các tổ chức lớn cho mạng lưới này.

Nhiều người chỉ trích cho rằng OpenAI chỉ lên tiếng lo ngại về phi tập trung sau khi đã nắm giữ phần lớn nguồn lực tính toán và vốn đầu tư. Đầu năm nay, công ty đã huy động được hơn 110 tỷ USD với mức định giá lên đến 730 tỷ USD, trong đó Amazon góp 50 tỷ USD vào vòng gọi vốn này.

Các validator subnet trên Bittensor và các giao thức tương tự vẫn còn khá nhỏ so với quy mô vốn hóa của OpenAI. Việc liệu các nguyên tắc mới này có thay đổi cách mà OpenAI sử dụng nguồn lực tài chính hay không sẽ quyết định giá trị thực sự của bản cam kết này.