تستعد شركة OpenAI لإضافة علامة مائية غير مرئية إلى النصوص التي يتم إنشاؤها بواسطة أدوات الذكاء الاصطناعي التابعة لها، وعلى رأسها ChatGPT وCodex، في خطوة قد تغير طريقة التعامل مع المحتوى المولد بالذكاء الاصطناعي خلال الفترة المقبلة. وتحمل التقنية الجديدة اسم textGrain، وتعتمد على تغيير أنماط اختيار الكلمات أثناء عملية توليد النص، بطريقة لا يمكن للقارئ العادي ملاحظتها، بينما تستطيع أدوات كشف متخصصة التعرف على هذا النمط وتحديد ما إذا كان النص قد تم إنشاؤه بواسطة أحد نماذج OpenAI. وتأتي هذه الخطوة في وقت يتزايد فيه الاعتماد على أدوات الذكاء الاصطناعي في الكتابة والتعليم والعمل والإعلام، ما يجعل القدرة على التمييز بين المحتوى البشري والمحتوى المولد آليًا أكثر أهمية، خاصة مع تزايد المخاوف بشأن استخدام النصوص المولدة دون الإفصاح عن مصدرها.
علامة مائية جديدة داخل نصوص ChatGPT
تطلق OpenAI على نظام العلامة المائية الجديد اسم textGrain، ويعتمد على آلية مختلفة عن العلامات المرئية التقليدية التي تظهر على الصور أو المستندات. وبدلًا من إضافة رمز أو عبارة واضحة إلى النص، يقوم النظام بتعديل الطريقة التي يختار بها نموذج الذكاء الاصطناعي الكلمات أثناء إنتاج المحتوى. وتكون هذه التغييرات غير ملحوظة تقريبًا أثناء القراءة الطبيعية، لكنها تترك نمطًا يمكن لأداة الكشف التابعة للشركة التعرف عليه. وتكمن أهمية هذه الطريقة في أن العلامة المائية ترتبط بعملية توليد النص نفسها، ما يعني إمكانية استمرار إمكانية اكتشافها حتى بعد نسخ النص ولصقه في مكان آخر. ومع ذلك، تختلف قدرة النظام على الكشف باختلاف طول النص وطبيعته ومدى التعديلات التي تجرى عليه بعد إنشائه.
لماذا تطلق OpenAI تقنية textGrain؟
تأتي هذه الخطوة في ظل الاهتمام المتزايد عالميًا بتنظيم استخدام الذكاء الاصطناعي التوليدي، خاصة مع دخول قواعد جديدة حيز التنفيذ في بعض الأسواق. وترتبط التقنية أيضًا بمتطلبات قانون الذكاء الاصطناعي الأوروبي، الذي يتضمن قواعد تهدف إلى جعل بعض المحتويات الناتجة عن الذكاء الاصطناعي قابلة للتعرف عليها آليًا. وتخطط OpenAI لإتاحة textGrain داخل الاتحاد الأوروبي، بينما لم تعلن عن إطلاق عالمي شامل للنظام في الوقت الحالي. وفي الوقت نفسه، أصبح النظام متاحًا بصورة اختيارية لعملاء واجهة برمجة التطبيقات API حول العالم على بعض النماذج. كما تعمل الشركة على إتاحة أدوات الكشف أمام الباحثين والمؤسسات المتخصصة، بما يسمح بدراسة التقنية ومدى قدرتها على التعرف على النصوص المولدة آليًا في ظروف مختلفة.
هل تؤثر العلامة المائية على جودة نصوص ChatGPT؟
قد يثير إدخال علامة مائية داخل النصوص مخاوف لدى المستخدمين بشأن تأثيرها على جودة المحتوى أو أسلوب الكتابة، إلا أن OpenAI تقول إن الاختبارات الأولية لم تظهر تأثيرات كبيرة على أداء النماذج. ووفقًا للشركة، كانت نتائج عدد من اختبارات قياس الأداء متقاربة بين النصوص التي تحمل العلامة المائية والنصوص التي لا تحملها. وهذا يعني أن المستخدم قد لا يلاحظ أي اختلاف واضح في أسلوب النص أو جودته عند استخدام النظام. كما تؤكد OpenAI أن التقنية لا تهدف إلى جمع معلومات شخصية عن المستخدم، ولا تستطيع تحديد السؤال أو الـPrompt الذي تم إدخاله إلى ChatGPT، بل تركز على اكتشاف النمط الناتج عن عملية توليد النص. وبالتالي، فإن العلامة المائية تتعلق بمصدر المحتوى وليس بهوية الشخص الذي استخدم الأداة.
العلامة المائية لا تضمن كشف كل نص بالذكاء الاصطناعي
رغم أهمية التقنية، لا تعتبر العلامة المائية وسيلة مضمونة للكشف عن جميع النصوص التي ينتجها الذكاء الاصطناعي. وتوضح OpenAI أن دقة أداة الكشف تتأثر بعوامل متعددة، من بينها طول النص وطبيعته وطريقة كتابته. فعندما يكون النص قصيرًا جدًا أو تكون الكلمات التي يمكن للنموذج استخدامها محدودة بسبب طبيعة المهمة، تصبح عملية التعرف على العلامة أكثر صعوبة. كما يمكن أن تتراجع قدرة النظام على الكشف بعد إجراء تعديلات بشرية على النص، مثل استبدال عدد من الكلمات بمرادفات أو إعادة صياغة الجمل. وقد تؤدي الترجمة من لغة إلى أخرى أيضًا إلى إضعاف إمكانية التعرف على النمط الأصلي. لذلك لا ينبغي التعامل مع أداة الكشف باعتبارها اختبارًا نهائيًا يثبت مصدر أي نص بصورة قاطعة.
ماذا يعني اكتشاف العلامة المائية في النص؟
اكتشاف العلامة المائية يعني أن النص يحمل نمطًا مرتبطًا بعملية توليد أحد نماذج OpenAI التي تستخدم التقنية، لكنه لا يعني أن المعلومات الموجودة في النص صحيحة أو خاطئة. فالعلامة المائية تحدد مصدرًا محتملًا لطريقة إنتاج النص، ولا تتحقق من دقة المعلومات أو جودة المحتوى. وبالمثل، فإن عدم اكتشاف العلامة لا يعني بالضرورة أن النص كتبه إنسان، فقد يكون النص قد خضع لإعادة صياغة واسعة أو ترجمة إلى لغة أخرى، أو يكون قد تم إنتاجه باستخدام نموذج ذكاء اصطناعي مختلف، أو باستخدام إصدار لا يعتمد نظام العلامة المائية. ولهذا تظل أدوات الكشف مجرد وسيلة مساعدة، ولا يمكن الاعتماد عليها وحدها لاتخاذ قرارات مهمة بشأن مصدر المحتوى.
أسئلة شائعة
ما هي علامة textGrain؟
هي تقنية طورتها OpenAI لإضافة نمط غير مرئي إلى النصوص التي يتم إنشاؤها بواسطة بعض نماذجها، بحيث يمكن لأداة متخصصة محاولة التعرف على مصدر النص.
هل يمكن للمستخدم رؤية العلامة المائية؟
لا، فهي مصممة بحيث لا تكون ملحوظة أثناء قراءة النص، لأنها تعتمد على طريقة اختيار الكلمات وليس على إضافة رمز ظاهر.
هل تكشف العلامة هوية مستخدم ChatGPT؟
بحسب وصف التقنية، لا تهدف العلامة إلى تحديد هوية المستخدم أو معرفة السؤال الذي كتبه، وإنما إلى التعرف على نمط مرتبط بعملية توليد النص.
هل يمكن إزالة العلامة؟
قد تتأثر قدرة الكشف بإعادة الصياغة أو استبدال الكلمات أو الترجمة، ولذلك لا تعد العلامة وسيلة غير قابلة للتجاوز.
هل عدم وجود العلامة يعني أن النص بشري؟
لا، لأن النص قد يكون صادرًا عن نموذج آخر أو إصدار لا يستخدم التقنية، أو يكون قد خضع لتغييرات جعلت اكتشاف العلامة أكثر صعوبة.
هل تعني العلامة أن المعلومات صحيحة؟
لا، فهي تتعلق بمصدر توليد النص ولا تتحقق من صحة المعلومات الواردة داخله.
مستقبل الكشف عن المحتوى المولد بالذكاء الاصطناعي
تعكس تقنية textGrain اتجاهًا متزايدًا لدى شركات الذكاء الاصطناعي نحو إيجاد وسائل تساعد على معرفة مصدر المحتوى الرقمي، خصوصًا مع الانتشار السريع لأدوات الكتابة التوليدية. وأصبح هذا الأمر مهمًا في مجالات متعددة مثل التعليم والصحافة والنشر والبحث العلمي، حيث قد يكون من الضروري معرفة ما إذا كان المحتوى قد كتبه إنسان أو تم إنشاؤه باستخدام نموذج آلي. لكن نجاح أي نظام للعلامات المائية سيعتمد على قدرته على تحقيق توازن بين سهولة الكشف وصعوبة التلاعب به، مع الحفاظ في الوقت نفسه على جودة النصوص وعدم التأثير في تجربة المستخدم. ومن المتوقع أن يستمر تطوير هذه التقنيات بالتوازي مع تطور أدوات إعادة الصياغة والترجمة والتحرير التي قد تجعل اكتشاف المصدر أكثر تحديًا.
