معماری GPUهای NVIDIA و AMD؛ سیر تکامل، تفاوت‌ها و تأثیر معماری بر عملکرد

در مقاله قبلی با عنوان “تفاوت GPU و کارت گرافیک در سرورهای HPE” بررسی کردیم که GPU چیست، چه تفاوتی با کارت گرافیک دارد و اجزای اصلی یک کارت GPU سروری چگونه در کنار یکدیگر قرار می‌گیرند. همچنین دیدیم که GPUهای دیتاسنتری فقط برای پردازش‌های گرافیکی استفاده نمی‌شوند و در حوزه‌هایی مانند هوش مصنوعی، یادگیری عمیق و پردازش‌های سنگین نیز کاربرد دارند.

اما پس از شناخت GPU، یک سؤال مهم مطرح می‌شود: چرا دو GPU با تعداد هسته یا حتی کاربرد مشابه، می‌توانند عملکرد کاملاً متفاوتی داشته باشند؟

پاسخ این سؤال تا حد زیادی به معماری GPU (GPU Architecture) مربوط می‌شود. معماری GPU مشخص می‌کند واحدهای پردازشی و قابلیت‌های مختلف یک پردازنده گرافیکی چگونه طراحی شده‌اند و در کنار یکدیگر کار می‌کنند. به همین دلیل، شناخت معماری GPU برای مقایسه مدل‌های مختلف و انتخاب GPU برای سرور HPE اهمیت زیادی دارد.

در این مقاله، ابتدا بررسی می‌کنیم معماری GPU چیست و چرا اهمیت دارد. سپس سیر تکامل معماری GPUهای NVIDIA از Pascal تا Blackwell را مرور می‌کنیم و در ادامه به معماری CDNA شرکت AMD و تفاوت آن با رویکرد NVIDIA می‌پردازیم. در پایان نیز توضیح می‌دهیم چرا هنگام انتخاب GPU سرور HPE، نباید فقط به تعداد هسته‌ها یا ظرفیت حافظه توجه کرد.

معماری GPU چیست و چرا اهمیت دارد؟

بسیاری از کاربران هنگام خرید GPU، ابتدا به نام محصول توجه می‌کنند؛ برای مثال NVIDIA H100 یا RTX 6000 Ada. اما نام محصول به‌تنهایی نمی‌تواند عملکرد واقعی یک GPU را مشخص کند. یکی از مهم‌ترین عوامل تعیین‌کننده عملکرد، معماری GPU است.

معماری GPU را می‌توان تا حدی مشابه معماری پردازنده‌های Intel Xeon در نظر گرفت. همان‌طور که نمی‌توان یک Xeon Gen6 را صرفاً بر اساس مشخصات ظاهری با یک Xeon Gen2 مقایسه کرد، دو GPU با تعداد هسته مشابه نیز ممکن است به دلیل تفاوت در معماری، عملکرد کاملاً متفاوتی داشته باشند.

به همین دلیل، هنگام بررسی GPU برای سرور HPE، شناخت معماری آن در کنار مشخصاتی مانند تعداد هسته و ظرفیت حافظه اهمیت زیادی دارد.

هر نسل جدید GPU معمولاً در بخش‌های زیر بهبود پیدا می‌کند:

• افزایش تعداد واحدهای پردازشی
• بهینه‌سازی Tensor Coreها
• افزایش پهنای باند حافظه
• کاهش مصرف انرژی به ازای هر واحد پردازش
• پشتیبانی از فرمت‌های عددی جدید مانند FP8
• بهبود ارتباط بین چند GPU
• افزایش توان پردازش هوش مصنوعی

سیر تکامل معماری GPUهای NVIDIA

معماری‌های NVIDIA در طول سال‌ها تغییرات قابل‌توجهی داشته‌اند. هر نسل جدید، قابلیت‌ها و بهبودهایی را برای پردازش‌های گرافیکی، هوش مصنوعی و محاسبات سنگین ارائه کرده است.

شناخت این روند کمک می‌کند تفاوت میان نسل‌های مختلف GPUهای NVIDIA را بهتر درک کنیم و هنگام انتخاب GPU برای سرور HPE، تنها به نام محصول یا تعداد هسته‌ها اکتفا نکنیم.

معماری Pascal؛ سال ۲۰۱۶

Pascal نقطه آغاز استفاده گسترده از GPUها در مراکز داده بود.

نمونه شاخص:

• Tesla P100

ویژگی‌های مهم معماری Pascal:

• حافظه HBM2
• جهش بزرگ در پردازش FP64
• استفاده گسترده در HPC

در بسیاری از ابررایانه‌های اولیه HPE Apollo از این نسل استفاده می‌شد.

معماری Volta؛ سال ۲۰۱۷

با معرفی Volta، مفهوم Tensor Core برای اولین بار وارد GPUهای NVIDIA شد.

نمونه معروف:

• Tesla V100

ویژگی‌های مهم معماری Volta:

• Tensor Core نسل اول
• مناسب Deep Learning
• حافظه HBM2
• افزایش چشمگیر سرعت آموزش شبکه‌های عصبی

در این نسل، GPU از یک پردازنده گرافیکی صرف به یک شتاب‌دهنده هوش مصنوعی تبدیل شد.

معماری Turing؛ سال ۲۰۱۸

معماری Turing بیشتر برای کارت‌های حرفه‌ای طراحی و رندرینگ شناخته می‌شود.

نمونه‌ها:

• RTX 6000
• RTX 8000

ویژگی‌های مهم معماری Turing:

• معرفی RT Core
• Ray Tracing
• Tensor Core نسل دوم
• مناسب CAD، BIM و VDI

بسیاری از سازمان‌هایی که از HPE ProLiant برای طراحی صنعتی استفاده می‌کردند، به سراغ کارت‌های مبتنی بر معماری Turing رفتند.

معماری Ampere؛ سال ۲۰۲۰

Ampere یکی از موفق‌ترین معماری‌های NVIDIA محسوب می‌شود و در حوزه هوش مصنوعی و پردازش‌های سنگین نقش مهمی داشت.

نمونه‌ها:

• NVIDIA A100
• RTX A6000

ویژگی‌های مهم معماری Ampere:

• Tensor Core نسل سوم
• Multi-Instance GPU (MIG)
• HBM2e
• افزایش چندبرابری عملکرد AI نسبت به Volta

در این نسل، امکان تقسیم یک GPU به چند GPU مجازی فراهم شد؛ قابلیتی که در محیط‌های ابری و مجازی‌سازی اهمیت زیادی دارد.

معماری Ada Lovelace؛ سال ۲۰۲۲

Ada Lovelace بیشتر برای پردازش‌های ترکیبی AI و Graphics طراحی شده است.

نمونه‌ها:

• RTX 6000 Ada
• NVIDIA L4
• NVIDIA L40
• NVIDIA L40S

ویژگی‌های مهم معماری Ada Lovelace:

• Tensor Core نسل چهارم
• RT Core نسل سوم
• AV1 Encoder
• مناسب AI Inference
• مناسب Omniverse
• مناسب VDI
• مناسب طراحی سه‌بعدی

در بسیاری از سرورهای HPE ProLiant Gen11 و Gen12، کارت‌های L4 و L40S برای پردازش هوش مصنوعی و مجازی‌سازی دسکتاپ استفاده می‌شوند.

معماری Hopper؛ سال ۲۰۲۲

Hopper یکی از نقاط عطف معماری GPUهای NVIDIA در صنعت هوش مصنوعی محسوب می‌شود.

نمونه‌ها:

• NVIDIA H100
• NVIDIA H200

مهم‌ترین ویژگی‌های معماری Hopper:

• GH100 GPU
• حدود ۸۰ میلیارد ترانزیستور
• Tensor Core نسل چهارم
• Transformer Engine
• پشتیبانی از FP8
• NVLink نسل چهارم
• HBM3 و HBM3e

این معماری به‌طور ویژه برای آموزش مدل‌های زبانی بزرگ (LLM)، هوش مصنوعی مولد (Generative AI)، پردازش‌های HPC و تحلیل داده‌های عظیم طراحی شده است.

به همین دلیل، سرورهایی مانند HPE Cray XD670 و برخی مدل‌های HPE Apollo از کارت‌های مبتنی بر معماری Hopper بهره می‌برند.

معماری Blackwell؛ نسل جدید

Blackwell نسل جدید معماری NVIDIA است.

نمونه‌ها:

• NVIDIA B100
• NVIDIA B200
• NVIDIA RTX PRO Blackwell Server Edition

ویژگی‌های شاخص معماری Blackwell:

• نسل جدید Tensor Core
• پشتیبانی گسترده‌تر از FP4 و FP6
• افزایش ظرفیت حافظه HBM3e
• بهبود چشمگیر کارایی انرژی
• طراحی ویژه برای مدل‌های هوش مصنوعی با صدها میلیارد پارامتر

انتظار می‌رود نسل جدید سرورهای AI شرکت HPE نیز به‌صورت گسترده از این معماری بهره ببرند.

معماری GPUهای AMD در مقابل NVIDIA

NVIDIA تنها تولیدکننده GPUهای دیتاسنتری نیست. AMD نیز با معماری CDNA وارد بازار HPC و AI شده است.

در معماری GPUهای AMD، CDNA بر پردازش‌های علمی و هوش مصنوعی تمرکز دارد و نمونه‌هایی مانند MI250X و MI300X را شامل می‌شود.

برخلاف معماری RDNA که برای کارت‌های گرافیکی مصرف‌کننده طراحی شده است، CDNA به‌طور کامل بر پردازش‌های علمی و هوش مصنوعی تمرکز دارد.

به همین دلیل، کارت AMD Instinct MI300X در بسیاری از پروژه‌های آموزش مدل‌های زبانی بزرگ، رقیب مستقیم NVIDIA H100 و H200 محسوب می‌شود.

چرا معماری GPU از تعداد هسته مهم‌تر است؟

گاهی دو GPU تعداد هسته‌های تقریباً مشابهی دارند، اما عملکرد آن‌ها کاملاً متفاوت است. بنابراین، برای مقایسه GPUها نمی‌توان فقط به تعداد هسته‌ها توجه کرد.

برای مثال، NVIDIA H100 و NVIDIA A100 هر دو برای هوش مصنوعی طراحی شده‌اند، اما H100 به لطف معماری Hopper، Tensor Coreهای پیشرفته‌تر، حافظه سریع‌تر و Transformer Engine، در بسیاری از بارهای کاری هوش مصنوعی چندین برابر سریع‌تر از A100 عمل می‌کند.

این مثال نشان می‌دهد که تفاوت معماری GPU می‌تواند تأثیر قابل‌توجهی بر عملکرد نهایی داشته باشد.

بنابراین، هنگام انتخاب GPU برای سرور HPE نباید تنها به تعداد هسته‌ها یا ظرفیت حافظه توجه کرد. معماری GPU یکی از مهم‌ترین عوامل تعیین‌کننده کارایی، بهره‌وری انرژی و قابلیت‌های پردازشی آن است.

سوالات متداول

معماری GPU چیست؟

معماری GPU به ساختار و طراحی پردازنده گرافیکی اشاره دارد و یکی از مهم‌ترین عوامل تعیین‌کننده عملکرد، بهره‌وری انرژی و قابلیت‌های پردازشی آن است.

چرا معماری GPU اهمیت دارد؟

زیرا دو GPU با تعداد هسته مشابه می‌توانند به دلیل تفاوت در معماری، عملکرد کاملاً متفاوتی داشته باشند. معماری بر قابلیت‌های پردازشی، بهره‌وری انرژی و عملکرد GPU تأثیر می‌گذارد.

اولین معماری NVIDIA که Tensor Core را معرفی کرد کدام است؟

Volta اولین معماری NVIDIA بود که مفهوم Tensor Core را وارد GPUهای این شرکت کرد.

معماری Ampere چه ویژگی مهمی داشت؟

یکی از ویژگی‌های مهم معماری Ampere، Multi-Instance GPU (MIG) بود که امکان تقسیم یک GPU به چند GPU مجازی را فراهم کرد.

معماری Hopper برای چه کاربردهایی طراحی شده است؟

معماری Hopper به‌طور ویژه برای آموزش مدل‌های زبانی بزرگ، هوش مصنوعی مولد، پردازش‌های HPC و تحلیل داده‌های عظیم طراحی شده است.

جمع‌بندی

معماری GPU یکی از مهم‌ترین عواملی است که باید هنگام بررسی و انتخاب شتاب‌دهنده‌های پردازشی مورد توجه قرار گیرد. تعداد هسته یا ظرفیت حافظه به‌تنهایی نمی‌تواند عملکرد واقعی یک GPU را مشخص کند.

سیر تکامل معماری GPUهای NVIDIA از Pascal، Volta و Turing تا Ampere، Ada Lovelace، Hopper و Blackwell نشان می‌دهد که هر نسل با بهبودهایی در زمینه پردازش هوش مصنوعی، حافظه، مصرف انرژی و قابلیت‌های پردازشی همراه بوده است.

در مقابل، AMD نیز با معماری CDNA و تمرکز بر پردازش‌های علمی و هوش مصنوعی، در حوزه‌های HPC و AI حضور دارد.

در نهایت، هنگام انتخاب GPU سرور HPE، بهتر است معماری را در کنار تعداد هسته، ظرفیت حافظه و نوع بار کاری بررسی کنید. توجه به این موارد باعث می‌شود مقایسه GPUها دقیق‌تر باشد و انتخاب مناسب‌تری برای نیازهای پردازشی انجام شود.

در مقاله بعدی، به سراغ انواع کارت‌های GPU در سرورهای HPE می‌رویم و بررسی می‌کنیم هر شتاب‌دهنده برای چه نوع کاری مناسب است.

⌊گردآورنده محتوا: عرفان مشعوف⌋     ⌊طراح گرافیک: سونیا کلانتری⌋      ⌊کارشناس محتوا و سئو: نیلوفرمنوچهری⌋