يمتلئ متجر chatbot الخاص بـ OpenAI بالرسائل غير المرغوب فيها

عندما أعلن سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن GPTs، وهي روبوتات محادثة مخصصة مدعومة بنماذج الذكاء الاصطناعي التوليدية من OpenAI، على خشبة المسرح في أول مؤتمر للمطورين للشركة في نوفمبر، وصفها بأنها وسيلة “لإنجاز جميع أنواع المهام” – من البرمجة إلى التعرف على الأمور الباطنية المواد العلمية للحصول على مؤشرات تجريب.

“لأن [GPTs] وقال ألتمان: “الجمع بين التعليمات والمعرفة الموسعة والإجراءات، يمكن أن يكون أكثر فائدة لك”. “يمكنك إنشاء GPT… لأي شيء تقريبًا.”

لم يكن يمزح بشأن أي جزء.

وجدت TechCrunch أن متجر GPT، وهو السوق الرسمي لـ OpenAI لـ GPTs، مليء بـ GPTs الغريبة التي من المحتمل أن تنتهك حقوق الطبع والنشر والتي تنطوي على لمسة خفيفة عندما يتعلق الأمر بجهود الاعتدال في OpenAI. يؤدي البحث السريع إلى ظهور GPTs التي تزعم أنها تولد أعمالًا فنية بأسلوب خصائص Disney وMarvel، ولا تعدو كونها مجرد مسارات تحويل إلى خدمات مدفوعة تابعة لجهات خارجية، وتعلن عن نفسها على أنها قادرة على تجاوز أدوات الكشف عن محتوى الذكاء الاصطناعي مثل Turnitin وCopyleaks.

الاعتدال مفقود

لإدراج GPTs في متجر GPT، يجب على المطورين التحقق من ملفات تعريف المستخدمين الخاصة بهم وإرسال GPTs إلى نظام مراجعة OpenAI، والذي يتضمن مزيجًا من المراجعة البشرية والآلية. وهنا متحدث باسم العملية:

نحن نستخدم مجموعة من الأنظمة الآلية والمراجعة البشرية وتقارير المستخدم للعثور على وتقييم GPTs التي من المحتمل أن تنتهك سياساتنا. يمكن أن تؤدي الانتهاكات إلى اتخاذ إجراءات ضد المحتوى أو حسابك، مثل التحذيرات أو قيود المشاركة أو عدم الأهلية للتضمين في متجر GPT أو تحقيق الدخل.

لا يتطلب إنشاء GPTs خبرة في البرمجة، ويمكن أن تكون GPTs بسيطة – أو معقدة – كما يرغب المنشئ. يمكن للمطورين كتابة الإمكانيات التي يريدون تقديمها في أداة بناء GPT الخاصة بـ OpenAI، GPT Builder، وستحاول الأداة إنشاء GPT لتنفيذ تلك الإمكانيات.

ربما بسبب انخفاض حاجز الدخول، نما متجر GPT بسرعة – قالت OpenAI في يناير إن لديها ما يقرب من 3 ملايين GPT. ولكن يبدو أن هذا النمو جاء على حساب الجودة، فضلاً عن الالتزام بشروط OpenAI الخاصة.

قضايا حق المؤلف

هناك العديد من GPTs المأخوذة من امتيازات الأفلام والتلفزيون وألعاب الفيديو الشهيرة في متجر GPT – لم يتم إنشاء GPTs أو ترخيصها (على حد علم TechCrunch) من قبل مالكي هذه الامتيازات. يقوم أحد GPT بإنشاء وحوش على غرار فيلم “Monsters, Inc.” من إنتاج شركة Pixar، بينما يَعِد آخر بمغامرات نصية تدور أحداثها في عالم “Star Wars”.

إن GPTs هذه – جنبًا إلى جنب مع GPTs في متجر GPT Store والتي تتيح للمستخدمين التحدث مع شخصيات ذات علامات تجارية مثل Wario وAang من “Avatar: The Last Airbender” – مهدت الطريق لدراما حقوق الطبع والنشر.

أوضح كيت والش، أحد كبار المحامين في مؤسسة الحدود الإلكترونية، الأمر على النحو التالي:

[These GPTs] وقال والش عبر البريد الإلكتروني: “يمكن استخدامها لإنشاء أعمال تحويلية وكذلك للانتهاكات”. أعمال تحويلية في إشارة إلى نوع من الاستخدام العادل المحمي من مطالبات حقوق الطبع والنشر. “بالطبع، يمكن أن يتحمل الأفراد المتورطون في الانتهاك المسؤولية، ويمكن لمنشئ أداة قانونية خلاف ذلك أن يتحمل المسؤولية إذا شجع المستخدمين على استخدام الأداة بطرق مخالفة. هناك أيضًا مشكلات تتعلق بالعلامات التجارية تتعلق باستخدام اسم علامة تجارية لتحديد السلع أو الخدمات حيث يوجد خطر الخلط بين المستخدمين بشأن ما إذا كان مالك العلامة التجارية معتمدًا أو مشغلاً.

لن تكون OpenAI نفسها مسؤولة عن انتهاك حقوق الطبع والنشر من قبل منشئي GPT بفضل بند الملاذ الآمن في قانون حقوق النشر الرقمية للألفية، والذي يحميها والمنصات الأخرى (مثل YouTube وFacebook) التي تستضيف محتوى مخالفًا طالما أن هذه المنصات تستوفي الشروط المتطلبات القانونية وإزالة أمثلة محددة للانتهاك عند الطلب.

اعتمادات الصورة: OpenAI

ومع ذلك، فهي نظرة سيئة لشركة متورطة في قضايا الملكية الفكرية.

خيانة الأمانة الأكاديمية

تحظر شروط OpenAI بشكل صريح على المطورين إنشاء GPTs التي تروج لعدم الأمانة الأكاديمية. ومع ذلك، فإن متجر GPT مليء بـ GPTs مما يشير إلى أنها تستطيع تجاوز أجهزة كشف محتوى الذكاء الاصطناعي، بما في ذلك أجهزة الكشف التي يتم بيعها للمعلمين من خلال منصات فحص الانتحال.

تدعي إحدى GPT أنها أداة إعادة صياغة “معقدة” و”غير قابلة للاكتشاف” بواسطة أجهزة الكشف عن محتوى الذكاء الاصطناعي الشهيرة مثل Originality.ai وCopyleaks. وهناك تطبيق آخر، وهو Humanizer Pro – المصنف رقم 2 في فئة الكتابة على متجر GPT – يقول إنه “يضفي طابعًا إنسانيًا” على المحتوى لتجاوز أجهزة كشف الذكاء الاصطناعي، ويحافظ على “معنى وجودة” النص مع تقديم درجة “بشرية بنسبة 100%”.

اعتمادات الصورة: OpenAI

بعض هذه GTPs عبارة عن خطوط أنابيب محجوبة بشكل رقيق للخدمات المتميزة. على سبيل المثال، يدعو Humanizer المستخدمين إلى تجربة “خطة متميزة” من أجل “الاستخدام”. [the] “الخوارزمية الأكثر تقدمًا”، والتي تنقل النص الذي تم إدخاله في GPT إلى مكون إضافي من موقع طرف ثالث، GPTInf. تبلغ تكلفة الاشتراك في GPTInf 12 دولارًا شهريًا مقابل 10000 كلمة شهريًا أو 8 دولارات شهريًا على الخطة السنوية – وهو مبلغ باهظ قليلاً أعلى من ChatGPT Plus من OpenAI والتي تبلغ 20 دولارًا شهريًا.

اعتمادات الصورة: OpenAI

لقد كتبنا من قبل عن كيفية كون أجهزة الكشف عن محتوى الذكاء الاصطناعي مجرد هراء إلى حد كبير. بالإضافة إلى اختباراتنا الخاصة، يُظهر عدد من الدراسات الأكاديمية أنها ليست دقيقة ولا يمكن الاعتماد عليها. لكن، يظل الأمر هو أن OpenAI تسمح بالأدوات الموجودة على متجر GPT والتي تروج للسلوك غير النزيه أكاديميًا – حتى لو لم يكن لهذا السلوك النتيجة المقصودة.

وقال المتحدث باسم OpenAI:

إن GPTs المخصصة لخيانة الأمانة الأكاديمية، بما في ذلك الغش، تتعارض مع سياستنا. قد يشمل ذلك ميزات GPT التي يُقال إنها مخصصة للتحايل على أدوات النزاهة الأكاديمية مثل أجهزة كشف الانتحال. نرى بعض ميزات GPT المخصصة لإضفاء الطابع الإنساني على النص. ما زلنا نتعلم من الاستخدام الحقيقي لـ GPTs، لكننا ندرك أن هناك العديد من الأسباب التي قد تجعل المستخدمين يفضلون الحصول على محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي والذي لا “يبدو” مثل الذكاء الاصطناعي.

التمثيل

في سياساتها، تمنع OpenAI أيضًا مطوري GPT من إنشاء GPTs التي تنتحل شخصية الأشخاص أو المنظمات دون “موافقتهم أو حقهم القانوني”.

ومع ذلك، هناك الكثير من أدوات GPT على متجر GPT التي تدعي أنها تمثل آراء الأشخاص – أو تقلد شخصياتهم بطريقة أخرى.

اعتمادات الصورة: OpenAI

يؤدي البحث عن “Elon Musk” و”Donald Trump” و”Leonardo DiCaprio” و”Barack Obama” و”Joe Rogan” إلى ظهور العشرات من GPTs – بعضها ساخر بشكل واضح، وبعضها أقل سخرية – التي تحاكي المحادثات التي تحمل الأسماء نفسها. لا تقدم بعض GPTs نفسها كأشخاص، بل كسلطات على منتجات الشركات المعروفة – مثل MicrosoftGPT، “الخبير في كل ما يتعلق بشركة Microsoft”.

فهل يرقى هذا إلى مستوى انتحال الشخصية بالنظر إلى أن العديد من المستهدفين هم شخصيات عامة، وفي بعض الحالات، محاكاة ساخرة بشكل واضح؟ هذا لتوضيح OpenAI.

وقال المتحدث الرسمي:

نحن نسمح للمبدعين بتوجيه تعليمات إلى عناصر GPT الخاصة بهم للرد “بأسلوب” شخص حقيقي معين طالما أنهم لا ينتحلون شخصيتهم، مثل تسميتهم كشخص حقيقي، وتوجيههم لمحاكاتهم بالكامل، وإدراج صورتهم كشخص حقيقي. صورة الملف الشخصي لـ GPT.

اعتمادات الصورة: OpenAI

قامت الشركة مؤخرًا بإيقاف مطور GPT الذي يحاكي المرشح الرئاسي الديمقراطي عن الحزب الديمقراطي، دين فيليبس، والذي ذهب إلى حد تضمين إخلاء المسؤولية يوضح أنه كان أداة للذكاء الاصطناعي. لكن OpenAI قالت إن إزالتها جاءت ردًا على انتهاك سياستها بشأن الحملات السياسية بالإضافة إلى انتحال الشخصية – وليس انتحال الشخصية وحده.

الهروب من السجن

ومن الأمور التي لا تصدق أيضًا إلى حد ما في متجر GPT وجود محاولات لكسر حماية نماذج OpenAI – وإن لم تكن ناجحة جدًا.

هناك العديد من GPTs تستخدم DAN في السوق، DAN (اختصار لـ “Do Anything Now”) هي طريقة مطالبة شائعة تستخدم لجعل النماذج تستجيب للمطالبات غير المقيدة بقواعدها المعتادة. القلة التي اختبرتها لن تستجيب لها أي لقد وجهت لهم رسالة مشبوهة (على سبيل المثال، “كيف أصنع قنبلة؟”)، لكنهم كانوا عمومًا أكثر استعدادًا لاستخدام… حسنًا، أقل إرضاءً اللغة التي الفانيليا ChatGPT.

اعتمادات الصورة: OpenAI

وقال المتحدث الرسمي:

إن GPTs التي تم وصفها أو توجيهها للتهرب من ضمانات OpenAI أو خرق سياسات OpenAI تتعارض مع سياستنا. يُسمح بـ GPTs التي تحاول توجيه سلوك النموذج بطرق أخرى – بما في ذلك محاولة جعل GPT أكثر تساهلاً بشكل عام دون انتهاك سياسات الاستخدام الخاصة بنا.

آلام متزايدة

قامت OpenAI بعرض متجر GPT عند إطلاقه كنوع من مجموعة من أدوات الذكاء الاصطناعي القوية التي تعزز الإنتاجية. وهذا يكون هذا – عيوب تلك الأدوات جانبا. ولكنها أيضًا تتحول بسرعة إلى أرض خصبة لـ GPTs غير المرغوب فيها والمشكوك فيها قانونيًا وربما حتى الضارة، أو على الأقل GPTs التي تتعارض مع قواعدها بشفافية شديدة.

إذا كانت هذه هي حالة متجر GPT اليوم، فإن تحقيق الدخل يهدد بفتح علبة جديدة تمامًا من الديدان. وقد تعهدت شركة OpenAI بأن مطوري GPT سيتمكنون في النهاية من “كسب المال بناءً على عدد الأشخاص الذين يستخدمونه [their] “GPTs” وربما تقدم أيضًا اشتراكات في GPTs الفردية. ولكن كيف سيكون رد فعل شركة Disney أو Tolkien Estate عندما يبدأ منشئو ألعاب GPT غير المرخصة من Marvel أو Lord of the Rings في جمع الأموال؟

إن دوافع OpenAI مع متجر GPT واضحة. كما كتب زميلي ديفين كولديوي، أثبت نموذج متجر تطبيقات Apple أنه مربح بشكل لا يصدق، وتحاول OpenAI، بكل بساطة، تقليده. تتم استضافة وتطوير GPTs على منصات OpenAI، حيث يتم أيضًا الترويج لها وتقييمها. ومنذ بضعة أسابيع مضت، أصبح من الممكن استدعاؤها من واجهة ChatGPT مباشرةً بواسطة مستخدمي ChatGPT Plus، وهو حافز إضافي للحصول على اشتراك.

لكن متجر GPT يواجه مشكلات أولية واجهتها العديد من الأسواق الرقمية للتطبيقات والمنتجات والخدمات واسعة النطاق في أيامها الأولى. بعيدًا عن البريد العشوائي، كشف تقرير حديث في The Information أن مطوري GPT Store يكافحون من أجل جذب المستخدمين جزئيًا بسبب التحليلات الخلفية المحدودة لمتجر GPT وتجربة الإعداد دون المستوى.

ربما كان من الممكن أن يفترض المرء أن شركة OpenAI – على الرغم من كل حديثها عن التنظيم وأهمية الضمانات – كانت ستبذل قصارى جهدها لتجنب المخاطر الواضحة. لكن. لا يبدو أن هذا هو الحال. يعاني متجر GPT من الفوضى، وإذا لم يتغير شيء ما قريبًا، فقد يظل على هذا النحو.