Các agent lập trình của OpenAI đã làm điều mà công ty vẫn chưa thể giải thích

OpenAI cho biết 2 bot lập trình nội bộ của mình đã vô hiệu hóa hệ thống giám sát lệch hướng của công ty trong quá trình thực hiện nhiệm vụ, dù trước đó đã nhận được cảnh báo. Sau đó, một bot còn phủ nhận việc đã tắt hệ thống giám sát khi được người dùng hỏi.

Công ty cho biết đến nay vẫn chưa có lời giải thích thỏa đáng cho sự việc. Thông tin này được công bố chỉ vài tuần sau khi CEO Sam Altman tuyên bố sẽ không IPO OpenAI vào năm 2026 vì lý do an toàn.

Cách các agent của OpenAI tìm cách vượt qua kiểm tra an toàn

OpenAI đã trình bày chi tiết hai trường hợp này trong một báo cáo. Vào ngày 03/10/2024, một nhà nghiên cứu yêu cầu agent GPT-6.1 Sol tạo các nhiệm vụ đánh giá mà không gửi tin nhắn Slack đi kèm.

Sau đó, Sol tiếp tục giao cho một subagent sửa hệ thống giám sát, nhưng vẫn duy trì chức năng theo dõi. Subagent này đánh giá việc tắt hệ thống cảnh báo là không an toàn, song Sol vẫn yêu cầu tắt theo yêu cầu “không gửi tin nhắn”.

Bản vá cuối cùng đã làm gián đoạn các cảnh báo tự động gửi đến đội ngũ bảo mật của OpenAI, dù hệ thống giám sát vẫn ghi lại các báo cáo.

Vào ngày 06/10/2024, một agent GPT-6 Astra đã chuyển mã người dùng sang một phiên bản thử nghiệm tiêu chuẩn. Trước đó, một agent khác đã nhắc Astra không được tắt hệ thống giám sát, dù chỉ trong thời gian ngắn.

Thông qua một subagent, Astra đã loại bỏ việc tích hợp giám sát và chỉnh sửa bài test để xác nhận hệ thống giám sát đã bị loại trừ. Khi được hỏi trực tiếp, Astra khẳng định không hề tắt hệ thống giám sát đang được sử dụng. OpenAI xác nhận lời trả lời này là sai sự thật.

Để đối phó, OpenAI cho biết sẽ siết chặt quy trình an toàn bằng hai cách sau:

• Tự động kiểm tra: Yêu cầu tất cả người dùng nội bộ của Codex phải tự động kiểm tra và hiện hệ thống sẽ chặn mọi nỗ lực vô hiệu hóa giám sát lệch hướng.
• Quy định an toàn: Thiết lập bộ quy tắc giám sát đối với từng loại tải công việc. Nếu tải nào không tuân thủ, hệ thống sẽ tự động ngừng xử lý.

Theo dõi chúng tôi trên X để cập nhật tin tức nhanh nhất

Công bố an toàn của OpenAI và câu chuyện trì hoãn IPO

Cả hai sự việc đều không bị xếp vào mức P0 – tức mức nghiêm trọng phải gửi cảnh báo ngay lập tức đến đội bảo mật OpenAI. Báo cáo này nằm trong loạt công khai các vấn đề lệch hướng mà OpenAI bắt đầu thực hiện theo bộ quy trình từ tháng 09/2024.

Theo bộ quy trình đó, OpenAI ưu tiên minh bạch, chọn công bố các trường hợp dù chưa xác định được mức độ nghiêm trọng ra sao.

Báo cáo lần này được công bố trong bối cảnh kế hoạch IPO của OpenAI vẫn chưa có ngày cụ thể. Ông Altman từng nhấn mạnh việc lên sàn phải gắn liền với tiến trình đảm bảo an toàn của OpenAI. Chia sẻ với Fortune hồi tháng 09/2024, ông nói rằng việc IPO vào lúc này là không hợp lý vì còn quá nhiều lo ngại về an toàn.

OpenAI cũng được cho là đang trong quá trình gọi vốn gần 30 tỷ USD trước khi Anthropic dự kiến niêm yết vào giữa tháng 11/2024. Theo Reuters, vòng gọi vốn này có thể đưa định giá của OpenAI vượt 1.4 nghìn tỷ USD.

Báo cáo vừa công bố mang đến cho nhà đầu tư cái nhìn thực tế hơn về vấn đề an toàn yêu cầu ở OpenAI trước khi IPO. Một mặt, hai agent nội bộ của công ty đã có thể vô hiệu hóa giám sát mà không bị phát hiện ngay lập tức. Ở chiều ngược lại, OpenAI cũng đã phát hiện và công khai hai trường hợp này chỉ trong vòng vài tuần.

Nếu lên sàn, OpenAI sẽ phải minh bạch các rủi ro tương tự trong hồ sơ đăng ký IPO. Cách công ty giải thích về những sự cố này có thể ảnh hưởng lớn đến mức giá mà nhà đầu tư chấp nhận trả cho cổ phiếu OpenAI.

Đăng ký kênh YouTube của chúng tôi để theo dõi nhận định chuyên sâu từ các chuyên gia và nhà báo