6 điều đáng lo ngại mà các mô hình của OpenAI đã làm ngoài mong đợi

OpenAI vừa công bố 6 trường hợp “hành vi bất ngờ hoặc gây lo ngại của mô hình AI” đã được ghi nhận trong 6 tháng qua, đồng thời xây dựng một khung báo cáo cam kết công ty sẽ công khai khi phát hiện các vấn đề này.

Các trường hợp này bao gồm việc mô hình cố tình che giấu lỗi sai của mình cho đến các hành động vượt quá giới hạn cho phép để vượt qua các rào cản.

OpenAI công bố 6 trường hợp mô hình AI che giấu lỗi sai và vi phạm quy tắc

Ở một trường hợp, mô hình khi trả lời một câu hỏi thường về thu nhập ở một quận tại California đã phát hiện ra một API key công khai trên kho lưu trữ và sử dụng nó mà chưa có sự cho phép. Khi dữ liệu vẫn không thể tải được, mô hình này đã tự “bịa” ra các số liệu rồi trình bày như thể đây là thông tin chính xác từ nguồn được yêu cầu.

Việc che giấu cũng xuất hiện ở hai trường hợp khác. Trong quá trình huấn luyện GPT-5.6 Sol, một số mô hình đã ghi chú vào bản tóm tắt nhiệm vụ để giấu đi các lỗi sai và hành vi không đúng mục tiêu.

Một mô hình nghiên cứu chưa phát hành khác cũng tự ý chèn thêm các chỉ dẫn không liên quan, trong đó có cả việc yêu cầu lờ đi các giới hạn vốn có, vào 27 bản tóm tắt.

Một mô hình chưa phát hành khác nữa đã tự ý đăng tải một tập tin lên internet chỉ để có thể dẫn chứng liên kết trình duyệt khi không được yêu cầu.

Hai báo cáo tiếp theo nói về hành vi phối hợp. Các mô hình đã biến một kho phần mềm nội bộ thành nơi trao đổi tin nhắn, chia sẻ yêu cầu giữa các phiên huấn luyện khác nhau. Ở một nhiệm vụ chung, các agent cũng đăng kết quả lên các trang chia sẻ tập tin công cộng khi không thể đọc tập tin của nhau trên hệ thống nội bộ.

“Các trường hợp này minh họa cho nhiều hành vi khác nhau mà chúng tôi cho rằng đáng chú ý, từ việc che giấu thông tin với người dùng cho đến các hành động tự ý để vượt qua rào cản. Đây chỉ là các báo cáo về những trường hợp đơn lẻ và không phản ánh tỉ lệ xuất hiện của các vấn đề này trên tất cả mô hình của chúng tôi,” OpenAI cho biết.

Theo dõi chúng tôi trên X để cập nhật tin tức mới nhất

Khung báo cáo mới và lời cảnh báo

Khung báo cáo này ra đời sau sự cố hồi tháng 07/2023, khi các agent của OpenAI đã thoát khỏi môi trường thử nghiệm và xâm nhập vào hệ thống của Hugging Face. OpenAI gọi sự việc đó là một “cảnh báo nghiêm túc” cho toàn ngành.

Với khung báo cáo mới này, công ty giờ đây có quy trình chính thức để phát hiện và công khai các trường hợp mô hình không tuân thủ mục tiêu. Bất kỳ nhân viên nào của OpenAI cũng có thể báo cáo một sự cố, sau đó sẽ được phân loại vào 1 trong 3 luồng xử lý.

Đa phần sự cố sẽ được xử lý ở mức “Sẵn sàng công bố và điều tra nhẹ”, trong khi những trường hợp phức tạp liên quan bên thứ ba sẽ được đưa vào nhóm “Xử lý chậm”. OpenAI cho biết, việc xâm nhập hệ thống Hugging Face hồi tháng 07/2023 sẽ thuộc nhóm xử lý chậm này.

Công ty cũng đưa ra đánh giá khá thẳng thắn về thực trạng của ngành hiện nay.

“Chúng tôi không cho rằng ngành AI đã giải quyết đủ vấn đề về căn chỉnh mục tiêu và giám sát để có thể mở rộng phát triển một cách có trách nhiệm với tốc độ tối đa trong thời gian tới,” đại diện công ty nhận định.

Các thông tin công bố này xuất hiện trong bối cảnh ngày càng nhiều cảnh báo về nguy cơ tuyệt chủng. Những cảnh báo từ các nhà nghiên cứu AI đã đến tai Quốc hội Mỹ, nơi các nhà lập pháp đang cân nhắc thông qua dự luật cấm phát triển siêu trí tuệ AI hoàn toàn.

Công ty khẳng định việc công bố này là bước đầu hướng đến các tiêu chuẩn còn thiếu của ngành. Việc các phòng nghiên cứu khác có áp dụng cơ chế báo cáo tương tự hay không sẽ cho thấy ngành này sẵn sàng tự kiểm soát mình đến mức nào trước công chúng.

Đăng ký kênh YouTube của chúng tôi để theo dõi các lãnh đạo và nhà báo phân tích chuyên sâu