NVIDIA

شتاب‌دهندهٔ NVIDIA H100 PCIe 80GB

کارت گرافیک NVIDIA Data Center منتخب

کارت شتاب‌دهندهٔ دیتاسنتری با معماری Hopper، ۸۰ گیگابایت حافظهٔ HBM2e و پهنای باند ۲ ترابایت بر ثانیه؛ طراحی‌شده برای آموزش و استنتاج مدل‌های زبانی، HPC و بارهای AI در سرورهای استاندارد PCIe.

80 GB HBM2e · 2 TB/s
PCIe Gen5 x16
معماری Hopper با Transformer Engine
توان ۳۵۰ وات، دو اسلاته
MIG تا ۷ نمونهٔ ایزوله
مناسب LLM، HPC و استنتاج
مشاوره و استعلام

قیمت و شرایط تأمین پس از بررسی درخواست توسط کارشناسان مبنا اعلام می‌شود.

H100 نسل بعد از A100 است و با معماری Hopper موتور اختصاصی Transformer Engine را اضافه می‌کند؛ این موتور با دقت پویای FP8 توان آموزش مدل‌های زبانی بزرگ را چند برابر نسل قبل می‌برد.

نسخهٔ PCIe بدون نیاز به شاسی اختصاصی روی سرورهای استاندارد ۲U و ۴U نصب می‌شود، حداکثر ۳۵۰ وات مصرف دارد و با پل NVLink می‌توان دو کارت را جفت کرد تا حافظه و پهنای باند مشترک در اختیار مدل قرار گیرد.

فناوری MIG امکان تقسیم یک کارت به حداکثر هفت نمونهٔ ایزوله را می‌دهد؛ بنابراین برای سرویس‌دهی چند تیم یا چند مدل روی یک سخت‌افزار مناسب است.

کاربردهای رایج

آموزش مدل‌های زبانی بزرگ (LLM)استنتاج و سرویس‌دهی مدل‌های AIشبیه‌سازی علمی و محاسبات HPCبینایی ماشین و پردازش تصویر صنعتیرندر و مهندسی با دقت دوگانه (FP64/TF32)

محصولات مرتبط

کارت گرافیک
مشاوره و استعلام