Chi phí suy luận giảm mạnh 90%. Nvidia hợp tác với LangChain để thiết lập tiêu chuẩn AI Agent, cạnh tranh giành cổng vào mới của ứng dụng AI

TradingKey - Vào ngày 8 tháng 7, NVIDIA ( NVDA) và khung phát triển AI LangChain đã đồng công bố bản thiết kế NVIDIA NeMoClaw Deep Agents. Động thái này đánh dấu sự mở rộng toàn diện của NVIDIA từ một nhà cung cấp sức mạnh tính toán AI thuần túy thành một nền tảng hệ sinh thái định hình các tiêu chuẩn phát triển Agent cấp doanh nghiệp, mở ra không gian tăng trưởng mới cho mảng kinh doanh phần mềm của hãng.

Bản thiết kế cung cấp cho các doanh nghiệp một kiến trúc tham chiếu mở, có thể tùy chỉnh và có thể quản trị cho các tác nhân AI (AI agents), nhằm giải quyết các thách thức cốt lõi như khả năng kiểm soát, quản trị và sự tiến hóa liên tục mà các doanh nghiệp phải đối mặt trong quá trình triển khai tác nhân.

Thay vì chỉ đơn thuần nâng cao năng lực mô hình, bản thiết kế này chú trọng hơn vào năng lực kỹ nghệ phần mềm của các Agent cấp doanh nghiệp. Dữ liệu chính thức cho thấy giải pháp này không chỉ đạt được hiệu suất hàng đầu trong nhiều bài kiểm tra hiệu năng (benchmarks) mà còn giảm chi phí suy luận của Agent hơn 10 lần. Giải pháp này tạo ra sự phối hợp hiệu quả giữa phần cứng và phần mềm với nền tảng suy luận Blackwell, giúp giảm thêm chi phí triển khai các ứng dụng AI.

Khi AI tạo sinh tiến triển từ tạo nội dung sang thực thi tác vụ tự động, các Agent đang trở thành dạng thức cốt lõi của các ứng dụng AI doanh nghiệp. Tuy nhiên, các doanh nghiệp liên tục đối mặt với những thách thức trong quá trình triển khai, chẳng hạn như tính bảo mật, khả năng kiểm soát và sự khó khăn khi tích hợp vào các quy trình kinh doanh.

Cốt lõi của bản thiết kế mới được công bố không phải là xây dựng một khung Agent mới, mà là cung cấp một kiến trúc tham chiếu hoàn chỉnh cấp doanh nghiệp. Dựa trên sự hợp tác với LangChain, bản thiết kế áp dụng thiết kế kiến trúc mở, cho phép các doanh nghiệp có toàn quyền kiểm soát các hệ thống cơ sở, tùy chỉnh các năng lực của Agent và liên tục nâng cấp khi hoạt động kinh doanh phát triển, thay vì phụ thuộc vào một nền tảng đóng.

Tập trung vào Quản trị Agent để Giải quyết các Trở ngại trong Triển khai ở Cấp độ Doanh nghiệp

Thay vì nhấn mạnh vào "những tác vụ mà Agent có thể hoàn thành", giải pháp được NVIDIA giới thiệu lần này tập trung nhiều hơn vào cách các Agent được quản trị, giám sát, kiểm toán và tối ưu hóa liên tục. Khả năng này đặc biệt quan trọng đối với các ngành chịu sự quản lý chặt chẽ như tài chính, y tế và chính phủ, đồng thời cũng hạ thấp rào cản để các doanh nghiệp triển khai Agent trên quy mô lớn.

Harrison Chase, đồng sáng lập kiêm Giám đốc điều hành của LangChain, cho biết: "Chìa khóa để xây dựng các agent tốt hơn nằm ở việc liên tục cải tiến các hệ thống xung quanh mô hình. Khi các đội ngũ có thể điều chỉnh đồng bộ bộ nhớ, việc sử dụng công cụ, quy trình đánh giá và hành vi của mô hình, các khả năng này sẽ tạo ra hiệu ứng cộng hưởng. Sự hợp tác của chúng tôi với NVIDIA chứng minh rằng các doanh nghiệp không chỉ có thể đạt được hiệu suất mạnh mẽ thông qua một ngăn xếp công nghệ mở, mà còn duy trì được quyền kiểm soát đối với các hệ thống agent mà họ xây dựng."

Khi các Agent đảm nhận các tác vụ ngày càng có rủi ro cao, phát triển từ các trợ lý trả lời câu hỏi thành các thực thể thực thi có khả năng hành động trong các hệ thống cốt lõi, nhu cầu của doanh nghiệp đối với khả năng kiểm soát và tính bảo mật của các hệ thống AI ngày càng tăng lên.

Kiến trúc mở do bản thiết kế NeMo Claw cung cấp cho phép các doanh nghiệp sở hữu toàn bộ ngăn xếp công nghệ từ đầu đến cuối, giúp họ tùy chỉnh và liên tục cải tiến dựa trên các lợi thế chuyên môn độc đáo của mình, đồng thời vận hành hệ thống trong bất kỳ môi trường nào, bao gồm cả cơ sở hạ tầng riêng, đám mây riêng và các khung quản trị độc quyền của họ.

Giảm thiểu chi phí thông qua sự hiệp lực giữa phần cứng và phần mềm

Kiểm soát chi phí luôn là nút thắt cốt lõi đối với việc thương mại hóa AI trên quy mô lớn, và bản thiết kế NeMoClaw đã chứng minh những lợi thế vượt trội về mặt này.

Theo dữ liệu đánh giá do LangChain công bố, mô hình Nemotron 3 Ultra được trang bị bộ công cụ Deep Agents đã đạt điểm số toàn diện là 0,86, với chi phí suy luận cho một tác vụ duy nhất chỉ là 4,48 USD, trong khi mô hình đối thủ cạnh tranh gần nhất có chi phí lên tới 43,48 USD — tương đương mức giảm khoảng 90%. Thành tựu này không đến từ việc huấn luyện lại chính mô hình, mà được thực hiện bằng cách tối ưu hóa các chiến lược gọi công cụ, cơ chế quản lý ngữ cảnh và quy trình lập luận trung gian.

Ở cấp độ phần cứng, kiến trúc Blackwell của Nvidia đã giảm chi phí suy luận trên mỗi mã thông báo (token) xuống còn khoảng 1/35 so với nền tảng thế hệ trước thông qua các nâng cấp về kiến trúc, cải thiện đáng kể hiệu suất thông lượng suy luận.

Bản thiết kế NeMoClaw tiếp tục khai thác tiềm năng phần cứng từ cấp độ phần mềm. Thông qua việc tối ưu hóa có hệ thống việc lập kế hoạch tác vụ của Agent, gọi công cụ, quản lý ngữ cảnh và các đường dẫn lập luận, nó cho phép cùng một mức sức mạnh tính toán có thể hỗ trợ nhiều tác vụ hơn, tối đa hóa sự hiệp lực giữa phần cứng và phần mềm.

Sự kiện ra mắt này là một bước đi then chốt của Nvidia trong việc hoàn thiện hệ sinh thái phần mềm NeMo của mình, giải quyết các khuyết điểm ở lớp phát triển Agent. Trong những năm gần đây, Nvidia đã xây dựng một ngăn xếp phần mềm AI hoàn chỉnh xung quanh CUDA, TensorRT, NIM và NeMo, nhằm mục tiêu trở thành một nền tảng đầu-cuối bao gồm huấn luyện mô hình, triển khai suy luận và phát triển ứng dụng doanh nghiệp.

Khi các Agent trở thành lõi vận hành của các ứng dụng AI, các khung phát triển đang nổi lên như một cổng kết nối mới vào hệ sinh thái. Việc hợp tác với LangChain cho phép Nvidia tích hợp các khả năng của mình vào quy trình làm việc AI của doanh nghiệp thông qua các khung phổ biến, cạnh tranh giành quyền thống trị trong kỷ nguyên Agent thay vì chỉ dừng lại ở hạ tầng cơ sở.

Đối với thị trường vốn, cách bố trí chiến lược này có ý nghĩa vô cùng to lớn. Khi cuộc cạnh tranh trong mảng hạ tầng AI dần bão hòa, việc chỉ dựa vào doanh số bán GPU sẽ khiến việc duy trì đà tăng trưởng định giá trở nên khó khăn, trong khi các dịch vụ phần mềm và nền tảng mang lại biên lợi nhuận gộp cùng mức độ gắn bó của khách hàng cao hơn.

Bằng cách hoàn thiện hệ sinh thái NeMo và mở rộng sang các tiêu chuẩn Agent, Nvidia đang phát triển từ một nhà cung cấp phần cứng thành một nền tảng hệ sinh thái AI toàn diện (full-stack), đặt nền móng để thu về nhiều doanh thu phần mềm hơn và phí thặng dư hệ sinh thái trong tương lai.

Hiện tại, các doanh nghiệp như Abridge, Amdocs và Box đã tích hợp các agent chuyên dụng vào nền tảng của họ, và các nhà tích hợp hệ thống như EY đang mở rộng khả năng triển khai công nghệ của Nvidia xung quanh bản thiết kế NeMoClaw để hỗ trợ khách hàng tùy chỉnh, đánh giá và quản trị các agent trong các quy trình làm việc có giá trị cao.

Về lâu dài, chiến lược bố trí của Nvidia không chỉ nhằm chiếm lĩnh thị phần trong kỷ nguyên Agent, mà còn nhằm xây dựng một rào cản hệ sinh thái AI vững chắc không thể lay chuyển.

Thông qua giải pháp toàn diện kết hợp chặt chẽ giữa phần cứng và phần mềm, Nvidia đang liên kết chặt chẽ khách hàng vào hệ sinh thái công nghệ của mình, củng cố vị thế cốt lõi trong chuỗi ngành AI và chuẩn bị đầy đủ cho sự bùng nổ sắp tới của các ứng dụng AI.