تطلق Google تقنية لوضع علامة مائية على النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي

تعمل Google على جعل SynthID Text، وهي تقنيتها التي تتيح للمطورين وضع علامة مائية واكتشاف النص الناتج عن نماذج الذكاء الاصطناعي التوليدية، متاحة بشكل عام.

يمكن تنزيل نص SynthID من منصة الذكاء الاصطناعي Hugging Face ومجموعة أدوات Responsible GenAI Toolkit المحدثة من Google.

وكتبت الشركة في منشور على X: “اليوم، نحن نفتح مصدر أداة العلامات المائية SynthID Text الخاصة بنا”. “وهي متاحة مجانًا للمطورين والشركات، وستساعدهم في تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.”

فكيف يعمل؟

بالنظر إلى سؤال مثل “ما هي فاكهتك المفضلة؟”، تتنبأ نماذج توليد النص بالرمز “الرمزي” الذي من المرجح أن يتبع رمزًا آخر – رمزًا واحدًا في كل مرة. الرموز هي اللبنات الأساسية التي يستخدمها النموذج التوليدي لمعالجة المعلومات. يمكن أن تكون حرفًا واحدًا أو كلمة أو جزءًا من عبارة.

يقوم النموذج بتعيين درجة لكل رمز مميز محتمل، وهي النسبة المئوية لاحتمال تضمينه في النص الناتج. تقول Google إن نص SynthID يقوم بإدراج بيانات إضافية في توزيع الرمز المميز هذا عن طريق “تعديل احتمالية إنشاء الرموز المميزة”.

وكتبت الشركة في منشور بالمدونة: “النمط النهائي للنتائج لكل من اختيارات الكلمات للنموذج بالإضافة إلى درجات الاحتمالية المعدلة يعتبر علامة مائية”. “تتم مقارنة هذا النمط من الدرجات مع النمط المتوقع للدرجات للنص الذي يحمل علامة مائية وغير مائية، مما يساعد SynthID على اكتشاف ما إذا كانت أداة الذكاء الاصطناعي قد أنشأت النص أو ما إذا كان قد يأتي من مصادر أخرى.”

تدعي Google أن SynthID Text، الذي تم دمجه مع نماذج Gemini الخاصة بها منذ ربيع هذا العام، لا يؤثر على جودة أو دقة أو سرعة إنشاء النص، ويعمل حتى على النص الذي تم اقتصاصه أو إعادة صياغته أو تعديله.

لكن الشركة تعترف أيضًا بأن تقنية العلامات المائية الخاصة بها لها حدود.

على سبيل المثال، لا يعمل SynthID Text بشكل جيد مع النص القصير أو النص الذي تمت إعادة كتابته أو ترجمته من لغة أخرى، ومع الإجابات على الأسئلة الواقعية. توضح الشركة: “فيما يتعلق بالاستجابات للمطالبات الواقعية، هناك فرص أقل لضبط توزيع الرمز المميز دون التأثير على الدقة الواقعية”. “يتضمن هذا مطالبات مثل “ما هي عاصمة فرنسا؟” أو الاستعلامات التي يُتوقع فيها حدوث اختلاف طفيف أو عدم وجود أي اختلاف، مثل “إلقاء قصيدة لويليام وردزورث”.”

جوجل ليست الشركة الوحيدة التي تعمل على تقنية العلامات المائية النصية AI. قامت OpenAI لسنوات بالبحث في طرق وضع العلامات المائية، لكنها أخرت إصدارها بسبب مخاوف فنية وتجارية.

يمكن لتقنيات وضع العلامات المائية، إذا تم اعتمادها على نطاق واسع، أن تساعد في تحويل التيار ضد “أجهزة كشف الذكاء الاصطناعي” غير الدقيقة – ولكنها شائعة بشكل متزايد – والتي تشير بشكل خاطئ إلى المقالات المكتوبة بطريقة أكثر عمومية.