في وقت يتزايد فيه انتشار المحتوى المولّد بالذكاء الاصطناعي على منصات التواصل والويب، برزت أدوات متخصصة لمحاولة التمييز بين الكتابة البشرية والنصوص التي تنتجها روبوتات المحادثة. ومن بين أحدث هذه الأدوات «بانغرام» (Pangram)، التي أثارت اهتماماً متزايداً بفضل نتائجها اللافتة في رصد النصوص المصاغة بواسطة الذكاء الاصطناعي.

وتعتمد الأداة على تحليل الخصائص الأسلوبية للنصوص، ثم تقديم تقدير لنسبة المحتوى الذي يُرجح أن يكون مولداً آلياً مقابل المحتوى البشري. وتبلغ تكلفة الاشتراك في الخدمة نحو 20 دولاراً شهرياً.

اختبارات واسعة على النصوص

خضعت «بانغرام» لسلسلة من الاختبارات شملت نحو 50 تجربة، جرى خلالها إدخال نصوص بشرية بالكامل، وأخرى مولدة بالذكاء الاصطناعي، إلى جانب نصوص هجينة تجمع بين النوعين.

وفي إحدى التجارب، جرى دمج جمل مولدة آلياً داخل نصوص شخصية، وتمكنت الأداة من تحديد المقاطع التي يُرجح أنها صيغت بواسطة روبوت محادثة، مع تصنيف الجزء الأكبر من النص على أنه بشري.

وفي تجربة معاكسة، أُدخلت مقاطع بشرية وسط فقرات مولدة آلياً، ونجحت «بانغرام» مرة أخرى في التمييز بين المصدرين.

كما جرى اختبار الأداة على مقاطع من أعمال الكاتب الإنجليزي تشارلز ديكنز، فصنفت النصوص على أنها مكتوبة بالكامل بواسطة إنسان، في وقت كانت أدوات كشف سابقة قد أخطأت في تصنيف كتابات أدبية شهيرة على أنها مولدة بالذكاء الاصطناعي.

وشملت الاختبارات أيضاً منشورات على منصة «لينكد إن» بدت وكأنها مكتوبة آلياً. وفي إحدى الحالات، حددت الأداة جملة افتتاحية كتبها صاحب المنشور بنفسه، بينما أشارت إلى أن بقية النص تبدو مولدة بواسطة الذكاء الاصطناعي، وهو ما أكده صاحب المنشور لاحقاً.

كيف تحاول بانغرام كشف النصوص؟

لا تعتمد «بانغرام» ببساطة على البحث عن علامات سطحية، مثل الشرطات الطويلة أو الرموز التعبيرية أو أنماط علامات الترقيم، رغم أن هذه السمات قد تكون مؤشرات أحياناً.

وتقوم منهجيتها، وفق ما أوضحه ماكس سبيرو، أحد مؤسسي الشركة، على تحليل الطريقة التي تنتج بها نماذج الذكاء الاصطناعي الكلمات والعبارات. فكل نموذج، مثل «تشات جي بي تي» و«كلود» و«جيميناي»، يعتمد على سلسلة من القرارات الاحتمالية عند اختيار الكلمة التالية.

ومن خلال جمع كميات كبيرة من البيانات وتحليل الأنماط الخاصة بكل نموذج، تحاول الأداة بناء ما يشبه «بصمة أسلوبية» تمكنها من التعرف على النصوص المولدة آلياً.

وتقول الشركة إن تقنيتها قادرة على اكتشاف المحتوى المولد بالذكاء الاصطناعي بمستوى دقة يصل إلى 99.99% في اختبارات معينة، بينما أظهرت دراسة مستقلة أجرتها جامعة شيكاغو أداءً شبه مثالي للأداة في التعامل مع النصوص التي خضعت للاختبار.

الصور.. نقطة الضعف الأبرز

لكن نجاح «بانغرام» في تحليل النصوص لا ينسحب بالدرجة نفسها على الصور.

ولاختبار قدرات الكشف البصري، جرى تحميل 21 صورة مولدة بالذكاء الاصطناعي سبق أن انتشرت على نطاق واسع عبر الإنترنت، إلى جانب أداة «Hive Detect» المتخصصة في كشف الصور الاصطناعية.

وكشفت النتائج عن نقاط ضعف واضحة. فقد أخفقت «Hive Detect» في التعرف على تسع صور مولدة بالذكاء الاصطناعي، بينما أخطأت «بانغرام» في ثلاث صور، من بينها صورة مزيفة للسيناتور ميتش ماكونيل وصورة لافتة شارع مزيفة في سان فرانسيسكو.

كما رفضت «بانغرام» تحليل أربع صور بسبب احتوائها على مشاهد عنيفة أو انخفاض جودتها إلى درجة يصعب معها إصدار حكم موثوق.

في المقابل، تمكنت الأداتان من اكتشاف عدد من الصور المزيفة المعروفة، من بينها صور مفبركة لزفاف زيندايا وتوم هولاند، وصورة للرئيس دونالد ترمب يحمل طفلة خلال زيارة إلى الصين، وصورة لعائلة كلينتون مع جيفري إبستين.

لماذا يصعب كشف الصور المزيفة؟

ترتبط المشكلة جزئياً بالطريقة التي تنتقل بها الصور عبر الإنترنت. فقد تتعرض الصورة الأصلية للضغط أو إعادة التحجيم أو لقطة الشاشة، ما يؤدي إلى فقدان تفاصيل قد تعتمد عليها أدوات الكشف.

وأوضحت شركة «Hive» أن بعض النتائج الخاطئة ربما ارتبطت بفحص نسخ من الصور جرى تغيير خصائصها عند نشرها على منصات التواصل الاجتماعي.

غير أن هذه النقطة تثير تساؤلات مهمة، إذ إن معظم المستخدمين يرون الصور المنتشرة على الإنترنت بعد تعرضها بالفعل للضغط أو إعادة التحجيم. وإذا كان مجرد تغيير حجم الصورة أو إعادة نشرها كافياً لتقليل قدرة أدوات الكشف على التعرف عليها، فإن فعالية هذه التقنيات تظل محدودة في الاستخدام اليومي.

من جهته، أقر سبيرو بأن ميزة الكشف عن الصور في «بانغرام» لا تزال حديثة وغير مكتملة، مشيراً إلى أن اختبارات داخلية أجرتها الشركة على 43 صورة مولدة بالذكاء الاصطناعي أسفرت عن اكتشاف 41 صورة منها بشكل صحيح.

العلامات المائية.. حل محتمل

إلى جانب أدوات الكشف القائمة على تحليل المحتوى، تتجه شركات الذكاء الاصطناعي إلى استخدام ما يعرف بالعلامات المائية غير المرئية.

وتُدمج بعض أنظمة توليد الصور علامات داخلية في البيانات المرتبطة بالملف، بهدف الإشارة إلى أن الصورة مولدة بواسطة الذكاء الاصطناعي. كما تتجه شركات أخرى إلى تطبيق تقنيات مشابهة على النصوص.

وتأتي هذه الخطوات في ظل تزايد الدعوات إلى فرض مزيد من الشفافية على المحتوى الناتج عن الذكاء الاصطناعي، خصوصاً مع اتساع استخدامه في الإعلام والتسويق ومنصات التواصل الاجتماعي.

هل تصبح أدوات الكشف ضرورة؟

رغم أن أدوات كشف الذكاء الاصطناعي لا تزال تواجه تحديات تقنية، فإن نجاح «بانغرام» في تحليل النصوص قد يجعلها مفيدة في مجالات متعددة، مثل رصد الرسائل الاحتيالية، والمراجعات الوهمية، والمحتوى التسويقي الآلي، والمنشورات المصاغة بكميات كبيرة بواسطة روبوتات المحادثة.

لكن المشكلة الأكثر تعقيداً تتمثل في الصور، التي يمكن أن تكون أكثر تأثيراً في تشكيل الرأي العام ونشر المعلومات المضللة، خصوصاً عندما تنتشر خارج سياقها الأصلي.

وأجرى هاني فريد، أستاذ في كلية دارتموث ومتخصص في التحقق من صحة المحتوى الرقمي، اختباراً سريعاً للأداة باستخدام خمس صور مولدة بالذكاء الاصطناعي مرتبطة بالحرب، وتمكنت «بانغرام» من اكتشاف ثلاث منها فقط.

ويرى فريد أن التمييز بين الصور الحقيقية والمزيفة يظل مهمة شديدة الصعوبة بسبب سهولة تعديل الصور والتلاعب بها بطرق متعددة، مشيراً إلى أن أدوات الكشف البصري القائمة على الذكاء الاصطناعي لا تزال تعاني من قيود كبيرة.

الخلاصة

تقدم «بانغرام» نموذجاً أكثر تطوراً لكشف النصوص المولدة بالذكاء الاصطناعي، وتبدو نتائجها واعدة بشكل خاص عندما يتعلق الأمر بالتمييز بين الكتابة البشرية والمحتوى الذي تنتجه روبوتات المحادثة.

لكن التجارب على الصور تكشف أن معركة التحقق من المحتوى الاصطناعي لم تُحسم بعد. فالصورة المزيفة يمكن أن تنتشر خلال دقائق، بينما قد يصبح اكتشافها أكثر صعوبة بعد ضغطها أو إعادة نشرها أو تعديلها.

ولهذا، تظل أفضل وسيلة للتعامل مع المحتوى المشكوك فيه هي عدم الاكتفاء بأداة كشف واحدة، بل التحقق من مصدر الصورة أو المعلومة، ومقارنتها بالمصادر الموثوقة قبل تصديقها أو إعادة نشرها.

وفي عصر يتزايد فيه المحتوى المصنوع آلياً، قد لا يكون السؤال فقط: «هل كتب الذكاء الاصطناعي هذا النص؟»، بل أيضاً: «هل يمكننا الوثوق بما نراه ونقرأه على الإنترنت؟».