Hình ảnh: MTECH Digital - AI-generated original illustration — Minh họa biên tập nguyên bản của MTECH Digital, được tạo với sự hỗ trợ của AI.
NVIDIA và Meta mở rộng hợp tác Muse, tập trung tối ưu mô hình, vận hành tác tử an toàn và hạ tầng AI thế hệ mới.
Điểm chính
- Hai bên sẽ tối ưu hiệu năng huấn luyện và suy luận cho Muse.
- Meta dự kiến mở rộng Vera Rubin, Vera CPU, Spectrum-X và BlueField-4.
- OpenShell và Sentry đang được xem xét để tăng an toàn khi vận hành tác tử.
- NVIDIA cũng công bố kế hoạch đầu tư 3 tỷ USD vào đợt chào bán cổ phần của Meta.
NVIDIA và Meta công bố mở rộng hợp tác xoay quanh trợ lý Muse cùng họ mô hình Muse, với kế hoạch phối hợp từ huấn luyện, suy luận đến hạ tầng AI. Thỏa thuận cho thấy hai bên đang hướng tới tối ưu toàn hệ thống thay vì chỉ dừng ở việc cung cấp phần cứng.
Hai bên đã công bố những gì?
Theo thông cáo của NVIDIA, hai công ty sẽ tối ưu quy trình vận hành Muse nhằm cải thiện hiệu năng và tổng chi phí sở hữu. Meta cũng dự kiến mở rộng triển khai nền tảng Vera Rubin, Vera CPU, mạng Ethernet Spectrum-X và bộ xử lý dữ liệu BlueField-4.
Hai bên còn xem xét hợp tác với kiến trúc tham chiếu OpenShell và công nghệ giám sát Sentry của NVIDIA. Mục tiêu được công bố là hỗ trợ triển khai tác tử an toàn hơn và theo dõi hành vi trong quá trình vận hành; tuy nhiên, chưa có lịch triển khai cụ thể cho từng hạng mục.
Vì sao thông tin này đáng chú ý?
AI tác tử tạo áp lực đồng thời lên nhiều lớp, gồm phục vụ mô hình, mạng, độ trễ, khả năng quan sát và chi phí vận hành. Vì vậy, tối ưu đồng bộ các lớp này có thể quan trọng không kém việc tăng số lượng bộ tăng tốc. Với doanh nghiệp đang đánh giá AI tác tử, thông báo này cho thấy hạ tầng chuyên biệt cho các tác vụ kéo dài và có sử dụng công cụ đang được chú trọng hơn.
NVIDIA đồng thời công bố kế hoạch đầu tư 3 tỷ USD vào đợt chào bán cổ phần của Meta. Axios cũng đưa tin độc lập về khoản đầu tư và việc mở rộng hợp tác Muse.
Những điểm cần theo dõi
Các câu hỏi tiếp theo là khi nào công việc tối ưu chung được đưa vào sản phẩm, mức cải thiện thực tế của Muse và cách triển khai các công nghệ bảo mật, giám sát. Trước khi có dữ liệu cụ thể, những lợi ích về hiệu năng và an toàn vẫn nên được xem là kế hoạch hướng tới tương lai.



