NVIDIA công bố siêu máy tính có sức mạnh ấn tượng từ hàng nghìn GPU

Sức mạnh của siêu máy tính Eos chuyên xử lý AI mới được xếp hạng nhanh thứ chín trên thế giới.

Theo TechSpot, siêu máy tính Eos của Nvidia, được thiết kế chuyên cho các tác vụ xử lý AI, đã chính thức lộ diện với những thông số ấn tượng. Được mệnh danh là "nhà máy AI", Eos là minh chứng cho sức mạnh của công nghệ NVIDIA khi hoạt động ở quy mô lớn.

Eos sở hữu 576 hệ thống Nvidia DGX H100, mỗi hệ thống trang bị 8 GPU H100 Tensor Core, với tổng cộng 4.608 GPU. Ngoài ra, siêu máy tính này còn được trang bị mạng lưới Nvidia Quantum-2 InfiniBand và phần mềm chuyên dụng. Sự kết hợp này mang lại hiệu suất AI FP8 lên tới 18.4 exaflop.

NVIDIA công bố siêu máy tính có sức mạnh ấn tượng từ hàng nghìn GPU - 1

Siêu máy tính Eos của NVIDIA được cấu tạo từ hơn 4.000 GPU.

Với kiến trúc mạng hỗ trợ tốc độ truyền dữ liệu lên đến 400Gb/s, Eos có thể huấn luyện các mô hình ngôn ngữ lớn, hệ thống đề xuất và mô phỏng lượng tử, cùng nhiều tác vụ AI khác. Nvidia cho biết Eos được xây dựng dựa trên kiến thức từ các siêu máy tính Nvidia DGX trước đó như Saturn 5 và Selene. Hiện tại, các nhà phát triển của Nvidia đang sử dụng Eos cho các nghiên cứu về AI.

Eos đã gây chú ý khi xếp hạng thứ 9 trong danh sách Top500 của những siêu máy tính nhanh nhất thế giới vào năm ngoái. Siêu máy tính đứng đầu trong bảng xếp hạng Top500 là hệ thống Frontier tại Phòng thí nghiệm Quốc gia Oak Ridge ở Tennessee (Mỹ), với điểm HPL là 1.194 PFlop/s, trong khi Eos đạt 121.4 PFlop/s. Rất có thể điểm số này sẽ được cải thiện trong thời gian tới.

Tháng 11 năm ngoái, Eos đã hoàn thành bài benchmark huấn luyện MLPerf dựa trên mô hình GPT-3 với 175 tỷ tham số được huấn luyện trên 1 tỷ token chỉ trong 3,9 phút - cải thiện gần 3 lần so với 10,9 phút của 6 tháng trước. Nvidia tuyên bố rằng do benchmark sử dụng một phần của bộ dữ liệu GPT-3 hoàn chỉnh, bằng cách ngoại suy, Eos giờ đây có thể huấn luyện chỉ trong 8 ngày, nhanh hơn 73 lần so với hệ thống sử dụng 512 GPU A100, vốn là tiêu chuẩn hiệu suất cao nhất khi GPT-3 ra mắt vào năm 2020.

Eos cũng đi kèm với một bộ phần mềm tích hợp dành cho phát triển và triển khai AI, bao gồm quản lý dàn máy và biên dịch, lưu trữ tính toán và thư viện mạng được tăng tốc, cùng với hệ điều hành được tối ưu hóa cho khối lượng công việc AI.

Thanh Phong

Tin liên quan

Tin mới nhất

Thúc đẩy hợp tác đào tạo về âm nhạc Việt Nam - Trung Quốc

Thúc đẩy hợp tác đào tạo về âm nhạc Việt Nam - Trung Quốc

Ngày 13/4, tại Thủ đô Bắc Kinh, trong khuôn khổ chuyến thăm và làm việc tại Bắc Kinh chuẩn bị tổ chức chương trình nghệ thuật hữu nghị Việt Nam-Trung Quốc chào mừng chuyến thăm cấp nhà nước đến Trung Quốc của Tổng Bí thư, Chủ tịch nước Tô Lâm và Phu nhân Ngô Phương Ly, PGS.TS, Thứ trưởng Bộ VHTTDL Tạ Quang Đông đã có chương trình làm việc với GS.TS. Lý Tâm Thảo, Giám đốc Học viện

Tinh thần thượng võ trong truyện ngắn Mishima Yukio

Tinh thần thượng võ trong truyện ngắn Mishima Yukio

Mishima Yukio (tên thật là Hiraoka Kimitake) là một trong những nhà văn đặc biệt nhất xứ sở hoa anh đào, và sinh thời – là văn nhân Nhật Bản nổi tiếng trên toàn thế giới. Sinh năm 1925 giữa thủ đô Tokyo trong một gia đình quý tộc có nguồn gốc samurai, ông luôn yêu vẻ đẹp của cái chết, tôn thờ cái cao cả của sự chết trong tác phẩm.

Vụ án Moncada dưới ngòi bút của Marta Rojas

Vụ án Moncada dưới ngòi bút của Marta Rojas

Marta Rojas sinh năm 1931 tại Santiago de Cuba, tốt nghiệp trường báo chí Manuel Márquez Sterling ở La Habana năm 1953. Sự nghiệp báo chí của bà khá đồ sộ, để lại dấu ấn sâu đậm trong nền báo chí Cuba ở tính chân thực và sức chiến đấu mạnh mẽ. Nhà văn lớn của Cuba - Alejo Carpentier đánh giá cao Marta Rojas: “Các bài viết của bà là mẫu mực của phong cách báo chí lớn”. Với cương vị phóng viên

Phát huy truyền thống hữu nghị Việt Nam-Trung Quốc, nâng tầm kết nối chiến lược trong giai đoạn phát triển mới

Phát huy truyền thống hữu nghị Việt Nam-Trung Quốc, nâng tầm kết nối chiến lược trong giai đoạn phát triển mới

Trước thềm chuyến thăm cấp Nhà nước đến Trung Quốc, Tổng Bí thư, Chủ tịch nước Tô Lâm đã có bài viết đăng trên Nhân dân Nhật báo - cơ quan ngôn luận của Đảng Cộng sản Trung Quốc - với tiêu đề: "Phát huy truyền thống hữu nghị Việt Nam-Trung Quốc, nâng tầm kết nối chiến lược trong giai đoạn phát triển mới". Thời báo Văn học nghệ thuật xin trân trọng giới thiệu bài viết đến b

Tổng Bí thư, Chủ tịch nước Tô Lâm và Phu nhân bắt đầu thăm cấp Nhà nước đến Trung Quốc

Tổng Bí thư, Chủ tịch nước Tô Lâm và Phu nhân bắt đầu thăm cấp Nhà nước đến Trung Quốc

Nhận lời mời của Tổng Bí thư Ban Chấp hành Trung ương Đảng Cộng sản Trung Quốc, Chủ tịch nước Cộng hòa Nhân dân Trung Hoa Tập Cận Bình và Phu nhân, sáng 14/4, Tổng Bí thư, Chủ tịch nước Tô Lâm và Phu nhân cùng đoàn đại biểu cấp cao Việt Nam đã đến thủ đô Bắc Kinh, bắt đầu chuyến thăm cấp Nhà nước đến Trung Quốc từ ngày 14-17/4.

Hà Huy Thanh và “triết lý” tình thương

Hà Huy Thanh và “triết lý” tình thương

Tình cờ tôi được gặp một người đồng hương Hà Tĩnh. Hơn thế, sau câu chuyện tôi nhận ra “Triết lý Tình thương” mà ông nêu ra, theo đuổi. Ông là doanh nhân Hà Huy Thanh, người khá “làu kinh sử”, ôm ấp những khát vọng văn hóa, nhân bản.