کارت گرافیک Radeon RX 7900XTX کمپانی AMD با عملکرد استثنایی، مدل هوش مصنوعی DeepSeek R1 را اجرا کرده است. نتایج حاکی از آن است که در بنچمارکهای استنتاج، GeForce RTX 4090 شرکت انویدیا را شکست میدهد. برتری کارت گرافیک Radeon RX 7900XTX با نسخه اول هوش مصنوعی DeepSeek، بسیار مشهود است و شاهد عملکرد قدرتمند کارت گرافیک AMD هستیم.
AMD به سرعت، پشتیبانی از مدلهای R1 LLM شرکت DeepSeek را ارائه کرد و عملکردی خیرهکنندهای را به نمایش گذاشت. مدل جدید از هوش مصنوعی DeepSeek طوفانی در این صنعت ایجاد کرده است. در حالی که بسیاری از افراد در مورد منابع محاسباتی مورد استفاده برای آموزش این مدل کنجکاوند، به نظر میرسد مصرفکنندگان معمولی قادر هستند، با استفاده از کارت گرافیک Radeon RX 7900XTX مبتنی بر معماری RDNA 3، عملکرد کافی و مورد نیاز برای اجرای این مدل را به دست آورند. کمپانی AMD، بنچمارکهای استنتاج مدل R1 را منتشر کرده که در آن، کارت گرافیک پرچمدار سری RX 7000 این شرکت در مقایسه با رقیب خود از انویدیا (RTX 4090 و RTX 4080 Super) عملکرد بهتری را نشان میدهد. علاوه بر این، AMD دستورالعملهایی را برای کاربران منتشر کرده است تا DeepSeek R1 را روی پردازندههای Ryzen AI اجرا کنند.
آیا دوران سلطه انویدیا بر سختافزارهای هوش مصنوعی به پایان رسیده است؟
کارتهای گرافیکی ردهی مصرف کننده، برای بارهای کاری هوش مصنوعی، برای بسیاری از کاربران مفید بودهاند. عمدتاً از آنجایی که عملکرد آنها به ازای هر دلار نسبت به شتابدهندههای اصلی هوش مصنوعی بهتر است. علاوه بر این، اجرای مدلها بهصورت محلی باعث محافظت از حریم خصوصی میشود. این مورد، یکی از نگرانیهای اصلی در مورد مدلهای هوش مصنوعی DeepSeek بوده است. خوشبختانه، AMD راهنمایی جامع برای اجرای DeepSeek R1 Distillations روی کارتهای گرافیکی خود منتشر کرده است. دستورالعملها آورده شده است که در ادامه میخوانید.
به گفته David McAfee، معاون ارشد و مدیر کل واحد پردازندههای رایزن و گرافیکهای رادئون در AMD؛ این کمپانی Radeon 7900 XTX را در برابر RTX 4090 و RTX 4080 Super آزمایش کرده و نتایج نشان میدهد که پردازندههای گرافیکی مبتنی بر ریزمعماری RDNA 3 در برخی شرایط بین 13 تا 34 درصد سریعتر از سختافزارهای انویدیا عمل میکند. وی تصویری از بنچمارک را در شبکه ایکس (توییتر) خود منتشر کرد، که در ادامه میبینید.
نحوهی بکارگیری :
- گام 1: اطمینان حاصل کنید که از درایور Adrenalin نسخه 25.1.1 Optional یا بالاتر استفاده میکنید.
- گام 2: LM Studio نسخه 0.3.8 یا بالاتر را از سایت lmstudio.ai/ryzenai دانلود کنید.
- گام 3: LM Studio را نصب کنید و صفحه ابتدایی (onboarding) را رد کنید.
- گام 4: روی تب Discover کلیک کنید. AMD
- گام 5: مدل DeepSeek R1 Distill خود را انتخاب کنید. مدلهای کوچکتر مانند Qwen 1.5B عملکرد بسیار سریعی ارائه میدهند (و به عنوان نقطه شروع توصیه میشوند)، در حالی که مدلهای بزرگتر قابلیت استدلال بهتری دارند. همه آنها بسیار توانمند هستند.
- گام 6: در سمت راست، اطمینان حاصل کنید که گزینه Q4 K M برای کمکیفیتسازی (quantization) انتخاب شده باشد و سپس روی Download کلیک کنید.
- گام 7: پس از دانلود، به تب Chat بروید و مدل DeepSeek R1 Distill را از منوی کشویی انتخاب کنید و اطمینان حاصل کنید که گزینه Manually select parameters تیک خورده باشد.
- گام 8: در لایههای بارگذاری GPU، اسلایدر را به حداکثر مقدار منتقل کنید.
- گام 9: روی Model Load کلیک کنید.
- گام 10: با مدل استدلالی که بهطور کامل روی سختافزار محلی AMD شما اجرا میشود، تعامل داشته باشید!
اگر این دستورالعملها برای شما کار نکرد، AMD یک ویدیو آموزشی در یوتیوب منتشر کرده است که مراحل مختلف را بهطور دقیق شرح میدهد. حتماً آن را بررسی کنید و مدلهای LLM DeepSeek را روی سیستمهای محلی AMD خود اجرا کنید تا از استفاده نادرست از دادههای خود جلوگیری کنید. با کارتهای گرافیک آینده Nvidia و AMD، پیشبینی میشود که قدرت استنتاج بهطور چشمگیر افزایش یابد. چرا که این کارتها بهطور خاص دارای موتورهای هوش مصنوعی برای تسهیل چنین بارهای کاری هستند.