تتيح لك أداة Nvidia الجديدة تشغيل نماذج GenAI على جهاز الكمبيوتر

تطلق Nvidia، التي تحرص دائمًا على تحفيز شراء أحدث وحدات معالجة الرسومات الخاصة بها، أداة تتيح لمالكي بطاقات GeForce RTX 30 Series و40 Series تشغيل برنامج chatbot مدعوم بالذكاء الاصطناعي دون اتصال بالإنترنت على جهاز كمبيوتر يعمل بنظام Windows.

تتيح الأداة التي تسمى Chat with RTX للمستخدمين تخصيص نموذج GenAI على غرار ChatGPT الخاص بـ OpenAI عن طريق توصيله بالمستندات والملفات والملاحظات التي يمكنه الاستعلام عنها بعد ذلك.

“بدلاً من البحث في الملاحظات أو المحتوى المحفوظ، يمكن للمستخدمين ببساطة كتابة الاستعلامات”، كتبت Nvidia في منشور بالمدونة. “على سبيل المثال، يمكن للمرء أن يسأل: ما هو المطعم الذي أوصى به شريكي أثناء وجوده في لاس فيغاس؟” وستقوم Chat with RTX بفحص الملفات المحلية التي يشير إليها المستخدم وتقديم الإجابة مع السياق.

يتم تعيين الدردشة مع RTX بشكل افتراضي على نموذج Mistral مفتوح المصدر لبدء التشغيل AI ولكنه يدعم النماذج النصية الأخرى بما في ذلك Meta’s Llama 2. وتحذر Nvidia من أن تنزيل جميع الملفات الضرورية سوف يستهلك قدرًا لا بأس به من مساحة التخزين – من 50 جيجابايت إلى 100 جيجابايت، اعتمادًا على الطراز (النماذج). ) المحدد.

حاليًا، تعمل ميزة Chat with RTX مع تنسيقات النصوص وPDF و.doc و.docx و.xml. سيؤدي توجيه التطبيق إلى مجلد يحتوي على أي ملفات مدعومة إلى تحميل الملفات في مجموعة بيانات الضبط الدقيق للنموذج. بالإضافة إلى ذلك، يمكن للدردشة مع RTX الحصول على عنوان URL لقائمة تشغيل YouTube لتحميل نسخ مقاطع الفيديو في قائمة التشغيل، مما يتيح لأي نموذج محدد الاستعلام عن محتوياته.

الآن، هناك بعض القيود التي يجب وضعها في الاعتبار، والتي تحددها Nvidia وفقًا لائتمانها في دليل إرشادي.

اعتمادات الصورة: نفيديا

لا تستطيع الدردشة مع RTX تذكر السياق، مما يعني أن التطبيق لن يأخذ في الاعتبار أي أسئلة سابقة عند الإجابة على أسئلة المتابعة. على سبيل المثال، إذا سألت “ما هو الطائر الشائع في أمريكا الشمالية؟” وأتبع ذلك بسؤال “ما هي ألوانها؟”، ولن تعرف الدردشة مع RTX أنك تتحدث عن الطيور.

تعترف Nvidia أيضًا بأن أهمية استجابات التطبيق يمكن أن تتأثر بمجموعة من العوامل، بعضها أسهل في التحكم فيه من البعض الآخر – بما في ذلك صياغة السؤال وأداء النموذج المحدد وحجم مجموعة بيانات الضبط الدقيق. من المرجح أن يؤدي طلب الحقائق المغطاة في مستندين إلى نتائج أفضل
النتائج من طلب ملخص وثيقة أو مجموعة من الوثائق. وستتحسن جودة الاستجابة عمومًا مع مجموعات بيانات أكبر – كما هو الحال مع توجيه الدردشة مع RTX إلى محتوى أكبر حول موضوع معين، كما تقول Nvidia.

لذا فإن الدردشة مع RTX هي لعبة أكثر من أي شيء يمكن استخدامه في الإنتاج. ومع ذلك، لا يزال هناك ما يمكن قوله عن التطبيقات التي تسهل تشغيل نماذج الذكاء الاصطناعي محليًا، وهو ما يعد اتجاهًا متزايدًا.

وفي تقرير حديث، توقع المنتدى الاقتصادي العالمي نموًا “مثيرًا” في الأجهزة ذات الأسعار المعقولة التي يمكنها تشغيل نماذج GenAI دون الاتصال بالإنترنت، بما في ذلك أجهزة الكمبيوتر والهواتف الذكية وأجهزة إنترنت الأشياء ومعدات الشبكات. قال المنتدى الاقتصادي العالمي إن الأسباب هي الفوائد الواضحة: ليست النماذج غير المتصلة بالإنترنت أكثر خصوصية بطبيعتها فحسب – فالبيانات التي تعالجها لا تترك الجهاز الذي تعمل عليه أبدًا – ولكنها تتميز بزمن وصول أقل وأكثر فعالية من حيث التكلفة من النماذج المستضافة على السحابة.

وبطبيعة الحال، فإن إضفاء الطابع الديمقراطي على أدوات تشغيل النماذج وتدريبها يفتح الباب أمام الجهات الفاعلة الخبيثة – حيث يؤدي بحث Google السريع إلى العديد من قوائم النماذج التي تم ضبطها بدقة على المحتوى السام من زوايا الويب عديمة الضمير. لكن أنصار تطبيقات مثل Chat with RTX يقولون إن الفوائد تفوق الأضرار. سيتعين علينا أن ننتظر ونرى.