وقتی 1.1 ترابایت گرافیک روی سرورت باشه، دیگه چه چیزی لازمه؟

معرفی سرور Aivres KR6288  هیولای پردازش گرافیکی و هوش مصنوعی

با پا گذاشتن به دوران هوش مصنوعی هر روز شاهد پیشرفت سخت افزارها هستیم، اگر در دهه چهارم زندگیتون باشید، کاملا باید یادتون بیاد وقتی کارت گرافیک های 16 و 32 مگابایتی های NVIDIA رو می خریدیم، چقدر ذوق می کردیم و خیالمون راحت بود که تا سالها سیستم هامون می تونن تمام بازیها رو عالی اجرا کنند و ما احتمالا ته خط تکنولوژی رو لمس کردیم. امروز بعد از گذشت دو دهه، تکنولوژی اونقدر پیشرفت کرده که حتی که نمی تونیم بگیم ته خط تکنولوژی اصلا کجا هست.

توی این مقاله قراره یک سرور گرافیکی بهتون معرفی کنیم که خریدنش به اندازه یک ماشین لوکس 2024 براتون آب می خوره، اگر جزو افرادی هستین که به خوندن متن علاقه ایی ندارین. ویدئو این گزارش رو میتونین در لینک زیر ببینین.

لینک ویدئو 

ویژگی های کلیدی سرور KR6288

این سرور 6 یونیت (6U)، در دو سری با پردازنده های Intel Xeon Scalable یا AMD Epyc 9004 تولید میشه، که با 8 پردازنده گرافیکی NVIDIA H200 با ظرفیت  VRAM 141 گیگابایت در هر GPU مجهز شده، که می تواند به ما تا 32 پتافلاپس توان پردازشی بدهد، این حجم عظیم از قدرت پردازشی  دیگه برای بازی کردن یا حتی بازی ساختن استفاده نمیشه، خیلی کارهای پیچیده تری رو میشه باهاش انجام داد.

مشخصات سخت افزاری

علاوه بر اینکه KR6288 از جدیدترین پردازنده‌های ای ام دی یا زئون نسل چهارم و پنجم بهره می‌برد دارای حجم Ram بسیار بالایی نیز هست، در نسخه AMD تعداد 28 Dimm در نسخه اینتلی دارای 32 Dimm می باشد، این حافظه ها DDR5 تا 4800MT/s روی این سرور پشتیبانی میشوند.

از همه این بحث ها که بگذریم قطعا به بخش ذخیره سازی خواهیم رسید. این سرور می تواند تا 24 NVMe را توی خودش جا بدهد. که اگر همه آنها را 7.68 ترابایتی در نظر بگیریم حجم ذخیره سازی بی نظیری خواهیم داشت .

در بخش پردازش گرافیکی این سرور که 4 یونیت رو به خودش اختصاص داده . 8 تا پردازنده گرافیکی میبینیم که با تکنولوژی NVLINK به هم متصل هستن. دلیل این اتصال اینه که همه این پردازشگر ها به حافظه های HBM 3e مجهز هستند که می توانند با سرعت 9.8 گیاگبیت بر ثانیه دیتا رو از خودشون عبور بدن و برای پردازش موازی قطعا Bridge های معمولی کارا نیستند.

32 پتافلاپس یعنی 32,000,000,000,000,000 عملیات در ثانیه

همانطور که در بالا اشاره کردیم ، سرور KR6288 توان محاسباتی 32 پتافلاپسی داره، به این معنا که توانایی انجام 32 میلیون میلیارد عملیات در ثانیه را دارد. این قدرت برای کاربردهایی مانند شبیه‌سازی آب و هوا، تحلیل داده‌های ژنتیکی، مدل‌سازی‌های علمی، و حتی توسعه متاورس کارآمده. نه این اینکه نشه این کارهارو با سرور های ضعیف تر انجام داد. ولی کاری که سرورها ماه ها براشون طول می کشه انجام بدن این سرور می تونه در چند ساعت انجام بده. برخی از این کارها عبارتند از :

پردازش هوش مصنوعی: آموزش مدل‌های بزرگ LLM مانند GPT

• تحلیل داده‌های پزشکی: شبیه‌سازی ساختار دارو و پیش‌بینی اثرات با بررسی میلیون ترکیب در آزمایشات
• شبیه‌ سازی آب و هوا: پیش‌ بینی دقیق تغییرات جوی
• تحلیل داده‌های مالی: پیش‌بینی بازارهای مالی و تحلیل ریسک
• مدل‌ سازی صنعتی: طراحی قطعات پیچیده در مهندسی
• تحلیل داده‌ های فضایی: پردازش تصاویر ماهواره‌ای و داده‌ های زمین‌ شناسی

مدیریت ترافیک با کارت شبکه های 400 گیگابیتی

این سرور مجهز به NIC های پیشرفته Connect X7 هست که می تونن با سرعت 400 گیابیت دیتا رو از حودشون عبور بدن ، 8 تا کارت شبکه 400 گیگابیتی و یک DPU روی این سرور وجود دارد، یکی از چالش هایی که ممکن هست روی این سرور بوجود بیاد این هست که پهنای باند شبکه این سرور حدود 3.6 ترابیت در ثانیه هست از آنجا که کلیه این ترافیک توسط پردازنده اصلی دستگاه باید بررسی شود این حجم واقعا برای دوتا پردازنده بسیار زیاد هست، شرکت سازنده برای این موضوع دوتا برنامه چیده .

یکی اینکه یک بخشی از ترافیک دستگاه توسط DPU بررسی بشه ، DPU همون کارت شبکه مجهز به پردازنده اس که توی لایه اول ترافیک شبکه رو بررسی می کنه و اگر نیاز نباشه پردازنده رو اشغال نمی کنه.

دوم اینکه از PCIe Switch روی این سرور استفاده شده که هر GPU بدون اینکه بخواد پردازنده رو اشغال کنه میتونه از طریق شبکه با بقیه دستگاه ها ارتباط بگیره یا Communicate کنه.

سیستم Cooling این سرور یه صورت Air Cooling با صدای خیلی زیاده نسخه های Liquid این سرور هنوز وارد بازار نشده اند.

جمع بندی

سرور Aivres KR6288 با ترکیب فناوری‌ های پیشرفته برای پردازش‌های سنگین و کاربرد های پیچیده طراحی شده است. از ظرفیت 1.1 ترابایت گرافیک و توان پردازشی 32 پتافلاپس گرفته تا استفاده از NVLINK و NICهای قدرتمند، این سرور انتخابی مطمئن برای دیتاسنترها و سازمان‌ های فعال در حوزه‌های هوش مصنوعی و صنعتی است.

با چنین قابلیت‌هایی، KR6288 نه‌تنها به‌عنوان یک ابزار پردازشی قوی شناخته می‌شود، بلکه آینده‌ای روشن را برای هوش مصنوعی و دیگر فناوری‌های پیشرفته رقم می‌زند.