اخبار سخت‌افزار

آنلاک تنسور کارت گرافیک؛ ابزار متن‌باز که سرعت هوش مصنوعی RTX 20، 30 و 40 را تا دو برابر می‌کند

کارت گرافیک GeForce RTX 4090 از خانواده Ada

یکی از جنجالی‌ترین خبرهای سخت‌افزاری هفته گذشته به کاربران هوش مصنوعی مربوط بود. چند پروژه متن‌باز در گیت‌هاب نشان دادند که انویدیا روی کارت‌های گرافیک گیمینگ سری RTX 20، 30 و 40، سرعت بخشی از محاسبات هسته‌های تنسور را عمداً نصف کرده و با یک ترفند سطح پایین می‌شود این محدودیت را برداشت. حالا یک ابزار جدید به نام nv-uefi-unlocker این کار را روی ویندوز هم ساده کرده است. آنلاک تنسور کارت گرافیک در برخی آزمایش‌ها سرعت محاسبات ماتریسی را تقریباً دو برابر کرده است.

اما قبل از اینکه هیجان‌زده شوید، باید بدانید دقیقاً چه چیزی سریع‌تر می‌شود، چه چیزی نه و چه خطرهایی دارد. در این مطلب همه این‌ها را صادقانه توضیح می‌دهیم.

آنلاک تنسور کارت گرافیک دقیقاً چه محدودیتی را برمی‌دارد؟

هسته‌های تنسور، واحدهایی در کارت‌های RTX هستند که ضرب ماتریس‌ها را انجام می‌دهند؛ همان محاسباتی که اساس آموزش و اجرای مدل‌های هوش مصنوعی است. وقتی این هسته‌ها اعداد کم‌دقت FP16 یا BF16 را ضرب می‌کنند و نتیجه را با دقت بالاتر FP32 جمع می‌زنند (که در آموزش مدل و بسیاری از کارهای استنتاج رایج است)، کارت‌های گیمینگ این دستورها را با نصف سرعت اجرا می‌کنند. اما همان سیلیکون وقتی با نام کارت حرفه‌ای فروخته می‌شود، با سرعت کامل کار می‌کند.

این سرعت با فیوزهایی که در کارخانه تنظیم می‌شوند تعیین می‌شود. توسعه‌دهندگان این پروژه‌ها راهی پیدا کرده‌اند که قبل از بارگذاری درایور انویدیا، دو رجیستر کنترل سرعت را بازنویسی کنند. هیچ هسته اضافه یا حافظه اضافه‌ای فعال نمی‌شود؛ فقط همان واحدهای موجود با سرعت کامل کار می‌کنند.

آنلاک تنسور کارت گرافیک چقدر سرعت را بالا می‌برد؟

نتایج گزارش‌شده چشمگیرند، اما باید توجه داشت که بیشترشان را خود توسعه‌دهندگان یا تعداد محدودی کاربر اندازه گرفته‌اند:

کارت نوع محاسبه نتیجه گزارش‌شده
RTX 4090 FP16 با جمع FP32 (حداکثر نظری) از ۱۶۵.۶ به ۳۳۱.۶ ترافلاپس
RTX 4090 ضرب ماتریس واقعی ۱۲ تا ۳۴ درصد بهبود
RTX 3090 Ti BF16 از ۸۷.۵ به ۱۵۷.۴ ترافلاپس
RTX 3060 ۱۲ گیگابایتی BF16 حدود ۸۰ درصد بهبود (گزارش کاربران)
RTX 4060 لپ‌تاپ FP16 GEMM از ۲۹.۹ به ۴۹.۳ ترافلاپس (۶۵٪)
RTX 2080 Ti FP16 حدود ۳۶ تا ۶۴ درصد بسته به اندازه ماتریس

طبق صفحه پروژه اصلی gpu-unlock، در کارهای واقعی هم بهبودهای قابل توجهی گزارش شده است: ۳۰ تا ۵۵ درصد در تولید تصویر با مدل‌هایی مثل SDXL در ComfyUI، ۲۵ تا ۵۰ درصد در فاین‌تیونینگ و ۲۵ تا ۵۵ درصد در مرحله پردازش اولیه پرامپت در مدل‌های زبانی.

چه چیزی سریع‌تر نمی‌شود؟

این نکته بسیار مهم است. سرعت تولید متن در مدل‌های زبانی (یعنی تعداد توکن در ثانیه هنگام نوشتن پاسخ) تقریباً تغییر نمی‌کند. دلیلش این است که این مرحله بیشتر به پهنای باند حافظه وابسته است تا قدرت محاسباتی. همچنین محاسبات FP16 با جمع FP16 از اول محدود نبوده‌اند و تغییری نمی‌کنند. در بازی‌ها هم هیچ تفاوتی ایجاد نمی‌شود. پس اگر بیشتر با یک چت‌بات محلی کار می‌کنید، احتمالاً تفاوت محسوسی نمی‌بینید؛ اما اگر تولید تصویر، ویدیو یا آموزش مدل انجام می‌دهید، اثر آن واقعی است.

کارت گرافیک ASUS TUF Gaming RTX 4070 Ti از خانواده RTX 40
کارت گرافیک ASUS TUF Gaming RTX 4070 Ti از خانواده RTX 40 — منبع: اَوِستا آی‌تی / کتابخانه موجود

آنلاک تنسور کارت گرافیک روی کدام کارت‌ها کار می‌کند؟

  • سری RTX 30 (Ampere): پایدارترین وضعیت را دارد و گزارش‌های کاربران زیاد است.
  • سری RTX 40 (Ada Lovelace): پشتیبانی آزمایشی، از جمله برخی کارت‌های لپ‌تاپ.
  • سری RTX 20 (Turing): آزمایشی و فقط برای FP16، چون این نسل BF16 ندارد.
  • سری RTX 50 (Blackwell): پشتیبانی نمی‌شود.

ابزار nv-uefi-unlocker از یک فلش USB بوت می‌شود، تغییرات را در سطح فرم‌ور اعمال می‌کند و بعد کنترل را به ویندوز می‌دهد. نسخه‌های قبلی فقط روی لینوکس و به‌صورت ماژول کرنل کار می‌کردند.

کارت گرافیک EVGA GeForce RTX 3070 از خانواده RTX 30
کارت گرافیک EVGA GeForce RTX 3070 از خانواده RTX 30 — منبع: اَوِستا آی‌تی / کتابخانه موجود

خطرها و محدودیت‌ها؛ قبل از امتحان حتماً بخوانید

ما در اَوِستا آی‌تی به‌عنوان فروشنده قطعه، درباره آنلاک تنسور کارت گرافیک صادقانه توصیه می‌کنیم با احتیاط کامل به این موضوع نگاه کنید:

  • مصرف برق و حرارت: توسعه‌دهنده پروژه Turing صریحاً هشدار داده که هسته‌های تنسور در حالت کامل برق زیادی می‌کشند و کار کردن با حداکثر توان ممکن است به سخت‌افزار آسیب بزند.
  • گارانتی: دستکاری سطح پایین کارت گرافیک ممکن است شرایط گارانتی را تحت تأثیر قرار دهد. قبل از هر کاری شرایط گارانتی کارتتان را بررسی کنید.
  • موقتی بودن: این آنلاک ماندگار نیست و با یک ری‌استارت معمولی، کارت به حالت نصف سرعت برمی‌گردد.
  • آزمایش محدود: بسیاری از نتایج روی یک یا چند کارت اندازه‌گیری شده‌اند و برخی مدل‌ها مشکلات شناخته‌شده دارند.
  • واکنش احتمالی انویدیا: ممکن است درایورهای آینده این روش را مسدود کنند.

این خبر برای کسی که سیستم هوش مصنوعی می‌خرد چه معنایی دارد؟

جدا از خود ابزار آنلاک تنسور کارت گرافیک، این ماجرا چند درس مهم برای انتخاب سیستم هوش مصنوعی دارد:

  1. حافظه گرافیکی هنوز پادشاه است: RTX 3090 کارکرده با ۲۴ گیگابایت حافظه به محبوب‌ترین کارت برای اجرای مدل‌ها در خانه تبدیل شده، دقیقاً چون حافظه زیاد را با قیمت کمتر ارائه می‌دهد. مدلی که در حافظه جا نشود، با هیچ آنلاکی سریع نمی‌شود.
  2. نوع کارتان را بشناسید: تولید تصویر و آموزش مدل به قدرت محاسباتی حساس‌اند، اما اجرای چت‌بات‌ها بیشتر به پهنای باند حافظه وابسته است. انتخاب کارت باید بر اساس کار اصلی شما باشد.
  3. کارت‌های قدیمی‌تر هنوز ارزش دارند: کارت‌های سری 30 و 40 برای کارهای هوش مصنوعی هنوز گزینه‌های جدی هستند.
  4. کل سیستم مهم است: رم سیستم، SSD سریع برای بارگذاری مدل‌ها، پاور قوی و خنک‌کاری مناسب برای کار طولانی‌مدت، همه به اندازه کارت گرافیک اهمیت دارند.

اگر قصد خرید یا ارتقای سیستم برای اجرای مدل‌های هوش مصنوعی، Stable Diffusion یا آموزش مدل دارید، صفحه سیستم‌های هوش مصنوعی اَوِستا آی‌تی را ببینید. همچنین می‌توانید با مشاوره خرید کامپیوتر نیازتان را با کارشناسان ما در میان بگذارید یا از استعلام قیمت سیستم پیش‌فاکتور بگیرید. درباره وضعیت کارت‌های رده‌بالا و نسخه احتمالی ۲۴ گیگابایتی RTX 5080 هم در مطلب قیمت RTX 5080 نوشته‌ایم.

سؤالات متداول

آیا آنلاک تنسور کارت گرافیک سرعت بازی را بالا می‌برد؟

خیر. این تغییر فقط روی محاسبات خاص هوش مصنوعی اثر دارد و در بازی‌ها هیچ بهبودی ایجاد نمی‌کند.

آیا روی RTX 5060 یا RTX 5070 کار می‌کند؟

خیر. سری RTX 50 در حال حاضر پشتیبانی نمی‌شود و ابزارها فقط برای سری‌های 20، 30 و 40 ساخته شده‌اند.

آیا سرعت چت‌بات محلی من بیشتر می‌شود؟

سرعت پردازش اولیه پرامپت بهتر می‌شود، اما سرعت تولید متن (توکن در ثانیه) تقریباً ثابت می‌ماند، چون به پهنای باند حافظه وابسته است.

آیا این کار امن است؟

این ابزارها آزمایشی‌اند، ممکن است مصرف برق و دما را بالا ببرند و روی گارانتی اثر بگذارند. ما استفاده از آن‌ها را روی سیستم کاری اصلی توصیه نمی‌کنیم.

جمع‌بندی

آنلاک تنسور کارت گرافیک نشان داد که کارت‌های گیمینگ انویدیا توان پنهان قابل توجهی برای هوش مصنوعی دارند. برای تولید تصویر، ویدیو و آموزش مدل، بهبود واقعی و چشمگیر است؛ اما برای بازی و تولید متن تقریباً بی‌اثر است و خطرهای سخت‌افزاری و گارانتی هم دارد. مهم‌ترین درس این ماجرا برای خریداران این است که در انتخاب سیستم هوش مصنوعی، حافظه گرافیکی و نوع کار را در اولویت بگذارند. جزئیات فنی پروژه را می‌توانید در صفحه گیت‌هاب gpu-unlock ببینید.

تصویر شاخص: کارت گرافیک GeForce RTX 4090 از خانواده Ada — منبع: NVIDIA

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *