Bạn có nên tin tưởng chatbot với tiền của mình không? Bài kiểm tra 10,000 câu trả lời đã có kết luận

Các mô hình AI phổ biến thất bại ở 57% các câu hỏi liên quan đến tài chính cá nhân, theo hãng fintech Saturn của Anh. Tỷ lệ thất bại tăng lên 88% với những câu hỏi phức tạp, nhiều bước.

Kết quả này xuất hiện trong bối cảnh ngày càng nhiều người dùng tin vào chatbot khi hỏi về các vấn đề liên quan đến tiền bạc.

Những câu hỏi phức tạp làm khó hầu hết các mô hình AI

Nghiên cứu đã so sánh 121 câu hỏi ở 18 mô hình miễn phí và trả phí từ các nhà cung cấp như ChatGPT, Gemini, Claude và Copilot. Mỗi câu hỏi được lặp lại tối đa 5 lần, tổng cộng hơn 10,000 câu trả lời khác nhau.

Một câu trả lời bị coi là sai nếu có thông tin không chính xác, bỏ sót phần quan trọng hoặc thiếu cảnh báo cần thiết.

Các mô hình miễn phí hoạt động kém nhất, thất bại ở 63% câu trả lời, trong khi con số này ở bản trả phí là 49%. Đối với các câu hỏi khó nhất, mô hình miễn phí thất bại tới 93%.

Claude Opus 5 ở chế độ reasoning đạt kết quả tốt nhất nhưng vẫn thất bại ở 39% câu trả lời. Các lỗi thường gặp gồm tính toán sai, bỏ qua quy định thuế mới và nhầm lẫn những quy tắc không tồn tại.

Một câu trả lời sai về thuế lương hưu thậm chí có thể khiến người tiết kiệm chịu phạt tới 17,500 bảng Anh từ cơ quan thuế.

“Hàng triệu người đang tin tưởng mô hình AI để xin tư vấn tài chính, nhưng lại nhận được các câu trả lời sai có thể khiến họ mất tiền,” ông Amal Jolly, giám đốc điều hành Saturn, chia sẻ.

Theo dõi chúng tôi trên X để cập nhật tin tức mới nhất ngay khi diễn ra

Niềm tin vào chatbot AI vẫn liên tục tăng

Trong khi đó, việc sử dụng AI ngày càng phổ biến ở nhiều thị trường và lứa tuổi. Khảo sát toàn cầu của EY với 18,000 người tiêu dùng cho thấy 49% từng dùng AI để hỗ trợ tiết kiệm và đầu tư.

Cơ quan quản lý tài chính Anh cho biết vào tháng 08/2023, 4/5 nhà đầu tư nhỏ lẻ thiếu kinh nghiệm đã từng dùng AI để hỗ trợ đầu tư. Trong số người tham gia khảo sát, 56% nói họ tin tưởng các công cụ này, cao hơn so với truyền hình và radio (47%).

Bên cạnh đó, nghiên cứu cũng phát hiện 44% người được hỏi nghĩ sai rằng thông tin tài chính do AI tạo ra đã được giám sát, quản lý.

Khảo sát của PensionBee với 1,000 người trưởng thành tại Mỹ phát hiện gần 6/10 người sẵn sàng làm theo lời khuyên tài chính mà không tự kiểm chứng lại. Gần 1/4 chia sẻ rằng chatbot từng đưa thông tin sai về tài chính cá nhân cho họ.

Ông Jolly cho biết, tư vấn tài chính từ AI hiện không được kiểm soát, nên người tiêu dùng không có quyền được bồi thường như tư vấn từ chuyên gia tài chính truyền thống. Ông cũng kêu gọi FCA hành động kịp thời để bảo vệ người dùng.

Đăng ký kênh YouTube của chúng tôi để xem các nhà lãnh đạo, nhà báo chia sẻ góc nhìn chuyên sâu