Kiến trúc Gemini được tích hợp trực tiếp vào Silicon: Tiết lộ chi tiết kỹ thuật về chip suy luận AI mới “Frozen v2” của Google, khả năng xử lý trên mỗi đơn vị điện năng tiêu thụ tăng tới 10 lần

Nguồn Tradingkey

TradingKey - Theo The Information, dẫn nguồn từ hai người am hiểu vấn đề, Google ( GOOGL) đang phát triển một chip máy chủ hoàn toàn mới có thể tích hợp trực tiếp kiến trúc nền tảng của mô hình lớn Gemini vào phần cứng của chip, từ đó cải thiện đáng kể hiệu quả vận hành trong việc cung cấp dịch vụ AI cho người dùng.

Chip suy luận AI này, với mật danh nội bộ là "Frozen v2", giải quyết trực tiếp vấn đề nhức nhối hiện tại của Google là tình trạng thiếu hụt nghiêm trọng sức mạnh tính toán AI. Các nguồn tin tiết lộ rằng khoảng cách về sức mạnh tính toán đã gây ra các cuộc xung đột tài nguyên nội bộ, thậm chí buộc Google Cloud phải từ chối nhiều đơn đặt hàng từ khách hàng bên ngoài. Nhóm R&D ước tính rằng một khi chip được triển khai chính thức, số lượng token được xử lý trên mỗi đơn vị điện năng tiêu thụ sẽ đạt gấp 6 đến 10 lần so với thế hệ chip AI tự phát triển mới nhất hiện nay của Google.

1-2597621f464f428b8d557d5548b684e3

[Nguồn: TradingView]

Được thúc đẩy bởi thông tin này, giá cổ phiếu của Google đã tăng trưởng mạnh mẽ trong ngày hôm nay, chạm mức cao nhất trong ngày là 359,67 USD. Tính đến thời điểm đưa tin, cổ phiếu này vẫn tăng 3,28% ở mức 358,14 USD, giúp giá cổ phiếu quay trở lại trên các đường trung bình động 5 ngày, 10 ngày và 20 ngày.

Tại sao được gọi là đóng băng?

Nguồn gốc của mật danh "Frozen" bắt nguồn từ khái niệm thiết kế cốt lõi của nó: khắc vĩnh viễn một phần logic tính toán của mô hình lớn Gemini lên phần cứng silicon — tương tự như việc "đóng băng" phần mềm trong chip. Các kỹ sư hiện vẫn đang hoàn thiện các mô-đun chức năng cốt lõi của chip cũng như các giải pháp phối hợp giữa các thành phần khác nhau, và Google có kế hoạch triển khai chip AI này sớm nhất là vào năm 2028.

Dự án Frozen nhằm mục đích tạo ra một dòng sản phẩm chip AI hoàn toàn mới để bổ trợ cho các Bộ xử lý Tensor (TPU) hiện có của Google, chứ không phải để thay thế chúng.

Hiện tại, các chip AI được sử dụng rộng rãi nhất — Nvidia ( NVDA) GPU và TPU của Google — đều là các chip đa năng có thể thích nghi với nhiều mô hình lớn khác nhau. Tuy nhiên, khi các chip đa năng chạy bất kỳ mô hình nào, chúng cần thực hiện một lượng lớn các phán đoán logic tốn thời gian trong thời gian thực; ngược lại, chip suy luận AI Frozen v2 tích hợp trực tiếp logic tính toán nền tảng được điều chỉnh cho các mô hình dòng Gemini, giúp giảm đáng kể các bước tính toán của chip và sự di chuyển dữ liệu, từ đó đạt được bước nhảy vọt về chất trong hiệu suất suy luận.

Những người am hiểu vấn đề cho biết chip AI chuyên dụng này có thể phản hồi các truy vấn của người dùng nhanh hơn, điều này dự kiến sẽ hỗ trợ Google trong việc ra mắt các kịch bản ứng dụng AI hoàn toàn mới.

Vụ đặt cược chiến lược của Google vào chip Frozen v2: Tích hợp sâu phần cứng và phần mềm

Lộ trình công nghệ của Frozen v2 đồng nghĩa với việc Google đang thực hiện một canh bạc chiến lược—đặt cược rằng họ sẽ tiếp tục sử dụng kiến trúc nền tảng của mô hình lớn Gemini hiện tại. Chỉ khi các thế hệ tiếp theo của mô hình Gemini áp dụng kiến trúc nền tảng nhất quán với kiến trúc được sử dụng khi thiết kế chip AI, chúng mới có thể hoạt động bình thường trên con chip này.

Các nguồn tin am hiểu vấn đề cho biết thêm rằng Google vẫn có thể thực hiện tối ưu hóa lặp trên con chip này, bao gồm cả việc cập nhật các trọng số mô hình tích hợp sẵn—trọng số là các cấu hình tham số cốt lõi quyết định cách mô hình AI trả lời câu hỏi.

Một người phát ngôn của Google phản hồi rằng các đội ngũ của công ty "liên tục nghiên cứu, phát triển và thử nghiệm nhiều công nghệ đổi mới sáng tạo khác nhau, nỗ lực đạt được hiệu suất tối ưu và hiệu quả năng lượng cho người dùng cũng như khách hàng doanh nghiệp", đồng thời cho biết thêm rằng "không phải tất cả các dự án R&D cuối cùng đều sẽ đi vào sản xuất hàng loạt, nhưng hoạt động khám phá công nghệ toàn diện này là một phần cốt lõi trong lộ trình công nghệ độc quyền toàn diện (full-stack) của chúng tôi."

Tham vọng tích hợp phần mềm - phần cứng của Google cho chip Frozen v2

Việc tiết lộ chip AI Frozen v2 phản ánh logic chiến lược sâu sắc của Google trong lĩnh vực hạ tầng AI, trong đó nỗi lo ngại về năng lực tính toán AI là động lực thúc đẩy chính. Khi quy mô của các mô hình Gemini tiếp tục phình to, trần hiệu suất năng lượng của các dòng chip đa dụng ngày càng cận kề. Việc nhúng trực tiếp logic của mô hình lớn vào phần cứng là một giải pháp triệt để nhằm phá vỡ nút thắt cổ chai về hiệu suất năng lượng của tính toán AI.

Điều này cũng cho thấy Google đang tái hiện lộ trình tích hợp dọc "kiểu Apple" kết hợp giữa phần mềm và phần cứng. Từ các chip TPU tự phát triển cho đến dòng chip AI chuyên dụng Frozen, Google đang nỗ lực thiết lập một chu trình khép kín toàn trình từ kiến trúc mô hình đến thiết kế chip trong kỷ nguyên AI. Nếu lộ trình này thành công, nó sẽ kéo giảm mạnh chi phí suy luận AI, mở đường cho việc thương mại hóa Gemini.

Tuy nhiên, các rủi ro đi kèm cũng là điều không thể xem nhẹ. Sự liên kết chặt chẽ giữa chip và mô hình đồng nghĩa với việc một khi kiến trúc nền tảng của Gemini trải qua một đợt nâng cấp lớn, các chip AI Frozen có thể nhanh chóng trở nên lỗi thời. Việc Google định vị Frozen v2 là một "nền tảng thử nghiệm kỹ thuật" thay vì một sản phẩm sản xuất hàng loạt chính là minh chứng cho thấy lộ trình này vẫn cần thời gian để kiểm chứng.

Tuyên bố miễn trừ trách nhiệm: Chỉ dành cho mục đích thông tin. Hiệu suất trong quá khứ không đảm bảo cho kết quả trong tương lai.
placeholder
Giá Bitcoin tăng vọt lên trên 106,000 USD, lập kỷ lục lịch sử so với vàngBitcoin (BTC) đã đạt được một cột mốc quan trọng hôm nay, vượt qua mốc 106,000 USD trong giờ giao dịch sớm tại châu Á. Khi BTC phá vỡ kỷ lục mới, tỷ lệ BTC-vàng cũng đạt đỉnh mới.Mặc dù giá BTC đã giả
Tác giả  BeInCrypto
ngày17 tháng 12 năm 2024
Bitcoin (BTC) đã đạt được một cột mốc quan trọng hôm nay, vượt qua mốc 106,000 USD trong giờ giao dịch sớm tại châu Á. Khi BTC phá vỡ kỷ lục mới, tỷ lệ BTC-vàng cũng đạt đỉnh mới.Mặc dù giá BTC đã giả
placeholder
WTI giảm xuống gần 75,00$ khi điều kiện vận chuyển cải thiện ở HormuzGiá dầu West Texas Intermediate (WTI) giảm nhẹ trong giờ giao dịch châu Á vào thứ Sáu, giảm xuống khoảng 75,10$/thùng và đảo ngược mức tăng khiêm tốn đã ghi nhận trong phiên trước đó.
Tác giả  FXStreet
6 tháng 19 ngày Thứ Sáu
Giá dầu West Texas Intermediate (WTI) giảm nhẹ trong giờ giao dịch châu Á vào thứ Sáu, giảm xuống khoảng 75,10$/thùng và đảo ngược mức tăng khiêm tốn đã ghi nhận trong phiên trước đó.
placeholder
Tổng thống Mỹ Donald Trump nói Mỹ đang tấn công Iran 'rất mạnh'Tổng thống Mỹ Donald Trump cho biết các cuộc tấn công mới nhất của Mỹ nhằm vào Iran đang được tiến hành để tưởng nhớ các quân nhân Mỹ đã thiệt mạng trong những ngày gần đây, Guardian đưa tin hôm thứ Hai.
Tác giả  FXStreet
Hôm qua 02: 15
Tổng thống Mỹ Donald Trump cho biết các cuộc tấn công mới nhất của Mỹ nhằm vào Iran đang được tiến hành để tưởng nhớ các quân nhân Mỹ đã thiệt mạng trong những ngày gần đây, Guardian đưa tin hôm thứ Hai.
placeholder
Vàng kéo dài đà phục hồi mong manh từ mức thấp nhất trong tháng nhờ USD yếu; đà tăng có vẻ bị hạn chếVàng (XAU/USD) đảo chiều mức giảm nhẹ trong phiên giao dịch châu Á xuống khu vực 3.983$-3.982$ và hiện đang tìm cách tăng dựa trên mức bật lên của ngày thứ Sáu từ mức thấp nhất trong tháng. Mức tăng trong ngày được hỗ trợ bởi đồng đô la Mỹ (USD) mềm hơn, vốn có xu hướng mang lại lợi ích cho hàng hóa.
Tác giả  FXStreet
19 giờ trước
Vàng (XAU/USD) đảo chiều mức giảm nhẹ trong phiên giao dịch châu Á xuống khu vực 3.983$-3.982$ và hiện đang tìm cách tăng dựa trên mức bật lên của ngày thứ Sáu từ mức thấp nhất trong tháng. Mức tăng trong ngày được hỗ trợ bởi đồng đô la Mỹ (USD) mềm hơn, vốn có xu hướng mang lại lợi ích cho hàng hóa.
placeholder
WTI giảm xuống dưới 82,00$ khi các tín hiệu ngoại giao tạm thời xuất hiệnGiá dầu West Texas Intermediate (WTI) kéo dài đà giảm sang ngày thứ hai liên tiếp, giao dịch quanh mức 81,90$/thùng trong giờ châu Á vào thứ Ba. Giá dầu giảm khi các tín hiệu ngoại giao tạm thời đã xuất hiện.
Tác giả  FXStreet
2 giờ trước
Giá dầu West Texas Intermediate (WTI) kéo dài đà giảm sang ngày thứ hai liên tiếp, giao dịch quanh mức 81,90$/thùng trong giờ châu Á vào thứ Ba. Giá dầu giảm khi các tín hiệu ngoại giao tạm thời đã xuất hiện.
goTop
quote