NVIDIA công bố siêu máy tính có sức mạnh ấn tượng từ hàng nghìn GPU

Sức mạnh của siêu máy tính Eos chuyên xử lý AI mới được xếp hạng nhanh thứ chín trên thế giới.

Theo TechSpot, siêu máy tính Eos của Nvidia, được thiết kế chuyên cho các tác vụ xử lý AI, đã chính thức lộ diện với những thông số ấn tượng. Được mệnh danh là "nhà máy AI", Eos là minh chứng cho sức mạnh của công nghệ NVIDIA khi hoạt động ở quy mô lớn.

Eos sở hữu 576 hệ thống Nvidia DGX H100, mỗi hệ thống trang bị 8 GPU H100 Tensor Core, với tổng cộng 4.608 GPU. Ngoài ra, siêu máy tính này còn được trang bị mạng lưới Nvidia Quantum-2 InfiniBand và phần mềm chuyên dụng. Sự kết hợp này mang lại hiệu suất AI FP8 lên tới 18.4 exaflop.

NVIDIA công bố siêu máy tính có sức mạnh ấn tượng từ hàng nghìn GPU - 1

Siêu máy tính Eos của NVIDIA được cấu tạo từ hơn 4.000 GPU.

Với kiến trúc mạng hỗ trợ tốc độ truyền dữ liệu lên đến 400Gb/s, Eos có thể huấn luyện các mô hình ngôn ngữ lớn, hệ thống đề xuất và mô phỏng lượng tử, cùng nhiều tác vụ AI khác. Nvidia cho biết Eos được xây dựng dựa trên kiến thức từ các siêu máy tính Nvidia DGX trước đó như Saturn 5 và Selene. Hiện tại, các nhà phát triển của Nvidia đang sử dụng Eos cho các nghiên cứu về AI.

Eos đã gây chú ý khi xếp hạng thứ 9 trong danh sách Top500 của những siêu máy tính nhanh nhất thế giới vào năm ngoái. Siêu máy tính đứng đầu trong bảng xếp hạng Top500 là hệ thống Frontier tại Phòng thí nghiệm Quốc gia Oak Ridge ở Tennessee (Mỹ), với điểm HPL là 1.194 PFlop/s, trong khi Eos đạt 121.4 PFlop/s. Rất có thể điểm số này sẽ được cải thiện trong thời gian tới.

Tháng 11 năm ngoái, Eos đã hoàn thành bài benchmark huấn luyện MLPerf dựa trên mô hình GPT-3 với 175 tỷ tham số được huấn luyện trên 1 tỷ token chỉ trong 3,9 phút - cải thiện gần 3 lần so với 10,9 phút của 6 tháng trước. Nvidia tuyên bố rằng do benchmark sử dụng một phần của bộ dữ liệu GPT-3 hoàn chỉnh, bằng cách ngoại suy, Eos giờ đây có thể huấn luyện chỉ trong 8 ngày, nhanh hơn 73 lần so với hệ thống sử dụng 512 GPU A100, vốn là tiêu chuẩn hiệu suất cao nhất khi GPT-3 ra mắt vào năm 2020.

Eos cũng đi kèm với một bộ phần mềm tích hợp dành cho phát triển và triển khai AI, bao gồm quản lý dàn máy và biên dịch, lưu trữ tính toán và thư viện mạng được tăng tốc, cùng với hệ điều hành được tối ưu hóa cho khối lượng công việc AI.

Thanh Phong

Tin liên quan

Tin mới nhất

Đoàn đại biểu cấp cao Ủy ban Trung ương MTTQ Việt Nam thăm và làm việc tại Vương quốc Tây Ban Nha

Đoàn đại biểu cấp cao Ủy ban Trung ương MTTQ Việt Nam thăm và làm việc tại Vương quốc Tây Ban Nha

Trong các ngày từ 28 đến 30/10, Đoàn đại biểu cấp cao Ủy ban Trung ương MTTQ Việt Nam do bà Hà Thị Nga - Ủy viên Trung ương Đảng, Phó Chủ tịch - Tổng Thư ký Ủy ban Trung ương MTTQ Việt Nam dẫn đầu đã có chuyến thăm và tham dự Đại hội đồng AICESIS và tiến hành các hoạt động đối ngoại song phương hiệu quả tại Vương quốc Tây Ban Nha.

Từ chân dung nghệ sĩ đến câu chuyện về người sưu tập

Từ chân dung nghệ sĩ đến câu chuyện về người sưu tập

Ngày 30/10, triển lãm “Tranh - Tượng Chân dung: Họa sĩ & Nhà sưu tập” được giới thiệu tại Something Gallery (Hà Nội), quy tụ 25 tác phẩm hội họa và điêu khắc của 12 nghệ sĩ thuộc nhiều thế hệ. Được tuyển chọn từ một bộ sưu tập hình thành qua nhiều năm, triển lãm mang đến những góc nhìn đa dạng về nghệ thuật chân dung, đồng thời gợi mở câu chuyện về mối quan hệ giữa nghệ sĩ

Đời sống quá khứ, hiện tại và văn hóa các tộc người miền núi phía Bắc trong một số tiểu thuyết của Đoàn Hữu Nam và Cao Duy Sơn

Đời sống quá khứ, hiện tại và văn hóa các tộc người miền núi phía Bắc trong một số tiểu thuyết của Đoàn Hữu Nam và Cao Duy Sơn

Mỗi khi nói về, chẳng hạn như “sức mạnh nội sinh” hoặc “quyền lực mềm” của quốc gia dân tộc Việt Nam khi hòa vào làn sóng toàn cầu hóa, người ta thường nhắc đến từ văn hóa: “Văn hóa Việt Nam”, “Bản sắc văn hóa dân tộc Việt Nam” v.v... Cách gọi tên sự vật, sự việc như vậy không sai, nhưng nó rất dễ khiến ta bị sập vào cái “bẫy phổ quát”, tức là chỉ nhìn thấy nhữn

Tái cấu trúc kinh tế du lịch bằng công nghệ thông minh

Tái cấu trúc kinh tế du lịch bằng công nghệ thông minh

Du lịch Việt Nam đang bước vào giai đoạn chuyển đổi quan trọng: từ phục hồi và mở rộng quy mô sang nâng cao chất lượng tăng trưởng. Trong giai đoạn trước, số lượt khách, tốc độ tăng trưởng và tổng thu thường được sử dụng như những thước đo nổi bật về thành công. Tuy nhiên, khi quy mô thị trường ngày càng lớn, câu hỏi chiến lược không còn đơn thuần là đón thêm bao nhiêu lượt