Bạn có thể tin tưởng ChatGPT với ý tưởng quan trọng nhất của mình không? Giáo sư NYU khuyên nên cân nhắc kỹ

Một nhà toán học của NYU cho biết một trong những mô hình của OpenAI đã đạt được kết quả nghiên cứu chưa công bố của ông chỉ trong một ngày sau khi biết tên ông, nên hiện giờ ông luôn giữ ý tưởng gốc của mình tránh xa các công cụ AI của hãng. OpenAI thì khẳng định các gợi ý của ông không thể ảnh hưởng đến hệ thống của họ.

Tristan Buckmaster đã lên tiếng cảnh báo chỉ vài ngày sau khi OpenAI công bố 722 bài báo toán học do AI viết. Theo ông, một tài khoản của mình vẫn mặc định bật chế độ huấn luyện mô hình.

Chuyện gì đã xảy ra với nghiên cứu chưa công bố của Buckmaster?

Buckmaster và Levent Alpöge, một nhà toán học tại Anthropic (đối thủ của OpenAI), đã dành phần lớn một năm nghiên cứu về một bước tiến cho bài toán Navier-Stokes, một bài toán về dòng chảy chất lỏng với giải thưởng lên tới 1 triệu USD.

Buckmaster đã sử dụng Codex, công cụ hỗ trợ lập trình của OpenAI, trên tài khoản cá nhân trả phí để kiểm tra công trình của mình. Bản thảo nghiên cứu của họ được lưu trên máy chủ của OpenAI.

Ông chia sẻ với CNBC rằng OpenAI không có bất kỳ tiến triển nào trước khi ông tiết lộ tên mình. Sau đó, ông cho biết các mô hình AI của OpenAI đã đạt đến “chính xác vị trí mà chúng tôi đã dừng lại” chỉ trong vòng một ngày.

Vào tháng 09, Buckmaster từng không cáo buộc ai, theo BeInCrypto. Nhưng hiện tại, ông cho rằng việc này là đáng ngờ.

“Trước khi họ biết tên tôi, họ không tiến bộ gì. Sau khi biết tên tôi, họ đột nhiên bắt đầu đúng từ chỗ chúng tôi dừng lại… Tôi thấy điều này rất đáng ngờ,” ông cho biết.

Trước khi OpenAI công bố bằng chứng Navier-Stokes vào ngày 08/09, Buckmaster nói hãng từng đề nghị cho ông đứng tên tác giả duy nhất với điều kiện ông bỏ Alpöge ra ngoài. Ông đã từ chối.

OpenAI phủ nhận bất cứ liên hệ nào với dữ liệu của ông.

“Chúng tôi có thể khẳng định một cách chắc chắn rằng các prompt Codex của tiến sĩ Buckmaster trong hai tháng gần đây không thể ảnh hưởng tới hệ thống, bao gồm cả việc đào tạo,” kênh ABC dẫn lời một phát ngôn viên của OpenAI.

Buckmaster cho biết khung thời gian nói trên phía OpenAI đưa ra liên tục thay đổi, có lúc phía công ty lại đặt mốc là ngày 03/07.

Vì sao Buckmaster khuyên các nhà nghiên cứu nên giữ ý tưởng tránh xa AI?

Dù vẫn còn sử dụng Codex, Buckmaster không còn nhập vào những ý tưởng mà ông muốn giữ bản quyền cá nhân nữa.

Ông nói rằng nhiều thành viên hội đồng xét duyệt tài trợ nghiên cứu thường dán bản đề xuất vào các công cụ AI để viết tóm tắt, vô tình trao kế hoạch chưa công bố vào tay các công ty AI.

Bản phát hành của OpenAI hồi tháng 10 lấy ý tưởng từ 4,000 bài toán chưa giải. Theo Buckmaster, điều này đã làm ảnh hưởng lớn tới chương trình nghiên cứu của những nhà toán học trẻ mới vào nghề.

Nhà nghiên cứu trưởng của OpenAI, Sébastien Bubeck, đã chia sẻ với New York Times rằng các đề nghị của ông xuất phát từ mong muốn giúp Buckmaster.

Một phát ngôn viên của OpenAI cũng xác nhận họ đã đạt được “tiến bộ đáng kể” với một bài toán 1 triệu USD khác.