NVIDIA công bố siêu máy tính có sức mạnh ấn tượng từ hàng nghìn GPU

Sức mạnh của siêu máy tính Eos chuyên xử lý AI mới được xếp hạng nhanh thứ chín trên thế giới.

Theo TechSpot, siêu máy tính Eos của Nvidia, được thiết kế chuyên cho các tác vụ xử lý AI, đã chính thức lộ diện với những thông số ấn tượng. Được mệnh danh là "nhà máy AI", Eos là minh chứng cho sức mạnh của công nghệ NVIDIA khi hoạt động ở quy mô lớn.

Eos sở hữu 576 hệ thống Nvidia DGX H100, mỗi hệ thống trang bị 8 GPU H100 Tensor Core, với tổng cộng 4.608 GPU. Ngoài ra, siêu máy tính này còn được trang bị mạng lưới Nvidia Quantum-2 InfiniBand và phần mềm chuyên dụng. Sự kết hợp này mang lại hiệu suất AI FP8 lên tới 18.4 exaflop.

NVIDIA công bố siêu máy tính có sức mạnh ấn tượng từ hàng nghìn GPU - 1

Siêu máy tính Eos của NVIDIA được cấu tạo từ hơn 4.000 GPU.

Với kiến trúc mạng hỗ trợ tốc độ truyền dữ liệu lên đến 400Gb/s, Eos có thể huấn luyện các mô hình ngôn ngữ lớn, hệ thống đề xuất và mô phỏng lượng tử, cùng nhiều tác vụ AI khác. Nvidia cho biết Eos được xây dựng dựa trên kiến thức từ các siêu máy tính Nvidia DGX trước đó như Saturn 5 và Selene. Hiện tại, các nhà phát triển của Nvidia đang sử dụng Eos cho các nghiên cứu về AI.

Eos đã gây chú ý khi xếp hạng thứ 9 trong danh sách Top500 của những siêu máy tính nhanh nhất thế giới vào năm ngoái. Siêu máy tính đứng đầu trong bảng xếp hạng Top500 là hệ thống Frontier tại Phòng thí nghiệm Quốc gia Oak Ridge ở Tennessee (Mỹ), với điểm HPL là 1.194 PFlop/s, trong khi Eos đạt 121.4 PFlop/s. Rất có thể điểm số này sẽ được cải thiện trong thời gian tới.

Tháng 11 năm ngoái, Eos đã hoàn thành bài benchmark huấn luyện MLPerf dựa trên mô hình GPT-3 với 175 tỷ tham số được huấn luyện trên 1 tỷ token chỉ trong 3,9 phút - cải thiện gần 3 lần so với 10,9 phút của 6 tháng trước. Nvidia tuyên bố rằng do benchmark sử dụng một phần của bộ dữ liệu GPT-3 hoàn chỉnh, bằng cách ngoại suy, Eos giờ đây có thể huấn luyện chỉ trong 8 ngày, nhanh hơn 73 lần so với hệ thống sử dụng 512 GPU A100, vốn là tiêu chuẩn hiệu suất cao nhất khi GPT-3 ra mắt vào năm 2020.

Eos cũng đi kèm với một bộ phần mềm tích hợp dành cho phát triển và triển khai AI, bao gồm quản lý dàn máy và biên dịch, lưu trữ tính toán và thư viện mạng được tăng tốc, cùng với hệ điều hành được tối ưu hóa cho khối lượng công việc AI.

Thanh Phong

Tin liên quan

Tin mới nhất

Một góc nhìn khác về chiến tranh

Một góc nhìn khác về chiến tranh

Chỉ trong 2 năm qua, Nguyễn Đình San liên tiếp cho ra đời 4 cuốn tiểu thuyết: "Khúc quanh nghiệt ngã", "Sụp đổ", "Mầm đá", "Hoàng hôn tím" và tập truyện ngắn "Góc khuất những mảnh đời". Đó là chưa kể 2 tập phê bình lý luận: "Nhạc Việt Nam - những vùng sáng tối" về âm nhạc và "Dạo gót vườn văn" về văn học. Sức sáng tạo của ông quá đáng nể khi đã ở tuổi 80. Phóng viên có cuộc phỏn

Nguyễn Mạnh Tuấn – một chân dung khác (Nghĩ vụn khi đọc “Chua ngọt đời văn”)

Nguyễn Mạnh Tuấn – một chân dung khác (Nghĩ vụn khi đọc “Chua ngọt đời văn”)

Nguyễn Mạnh Tuấn là người “đa” nhà: nhà viết truyện ngắn, nhà viết tiểu thuyết, nhà viết truyện thiếu nhi, nhà viết kịch bản điện ảnh, kịch bản phim truyền hình, kịch bản sân khấu. Mấy chục năm qua, nhiều người đã không còn nghi ngờ về cái sự lắm vai nhiều nhà đó của ông. Chỉ cần lướt qua… tiểu sử nhà văn cũng đủ xác tín điều đó. Nhưng một Nguyễn Mạnh Tuấn - tiểu lu

Nhà hát Giao hưởng Nhạc - Vũ kịch TP.HCM ghi dấu hành trình 33 năm với kiệt tác “Madama Butterfly”

Nhà hát Giao hưởng Nhạc - Vũ kịch TP.HCM ghi dấu hành trình 33 năm với kiệt tác “Madama Butterfly”

Tròn 33 năm đồng hành cùng đời sống âm nhạc hàn lâm, Nhà hát Giao hưởng Nhạc - Vũ kịch TP.HCM (HBSO) giới thiệu Madama Butterfly, một trong những kiệt tác nổi tiếng nhất của lịch sử opera thế giới. Với sự đồng hành của Tổng Lãnh sự quán Italia tại TP.HCM cùng dàn nghệ sĩ Việt Nam - Italia, hai đêm diễn 11 và 12/9 tại Nhà hát Thành phố không chỉ đưa một tác phẩm kinh điển đến gần hơn vớ

Khoa học về khoảnh khắc chúng ta đang sống

Khoa học về khoảnh khắc chúng ta đang sống

Ta luôn sống trong hiện tại, nhưng “hiện tại” thực sự là gì? Một khoảnh khắc kéo dài bao lâu, và liệu “bây giờ” có thực sự tồn tại trong vũ trụ, hay chỉ là trải nghiệm được kiến tạo bởi bộ não con người?

“Tử thư di truyền” – hành trình đọc lại lịch sử tiến hóa

“Tử thư di truyền” – hành trình đọc lại lịch sử tiến hóa

Nếu chúng ta có thể nhìn vào một sinh vật đang sống và tìm thấy trong đó dấu vết của những thế giới đã biến mất hàng triệu năm trước? Nếu quá khứ của sự sống không chỉ được lưu giữ trong những hóa thạch nằm sâu dưới lòng đất, mà vẫn hiện diện trong gene, hình thái và hành vi của muôn loài ngày nay?