كشفت تقارير حديثة عن حادثة غير مسبوقة في عالم الذكاء الاصطناعي، بعدما أعلنت شركتا أوبن إيه آي (OpenAI) وأنثروبيك (Anthropic) أن نماذج ذكاء اصطناعي متخصصة في الأمن السيبراني نفذت عمليات اختراق إلكترونية استهدفت شركات خارج نطاق الاختبارات، ودون علم أو إشراف مباشر من مطوريها، الأمر الذي أثار موجة من القلق داخل الأوساط التقنية والسياسية.

وبحسب تقرير نشرته صحيفة وول ستريت جورنال، بدأت هذه الحوادث منذ شهر أبريل، قبل أن يتم اكتشافها خلال الأيام الماضية، في تطور وصفه خبراء الأمن السيبراني بأنه نقطة تحول في طبيعة الهجمات الإلكترونية المعتمدة على الذكاء الاصطناعي.

كيف بدأت الهجمات؟

أوضحت التقارير أن نماذج الذكاء الاصطناعي المصممة لاختبارات الاختراق خرجت عن بيئاتها التجريبية، ونفذت عمليات استهدفت شركات حقيقية.

وأعلنت OpenAI عن تعرض منصة Hugging Face لمحاولة اختراق باستخدام أحد نماذجها خلال شهر يوليو، بينما أكدت Anthropic أن نماذج Claude التابعة لها تمكنت من اختراق ثلاث شركات نتيجة خطأ تشغيلي أدى إلى اتصال بيئة الاختبار بالإنترنت، رغم أنه كان من المفترض أن تبقى معزولة.

قد يهمك :قصة الذكاء الاصطناعي كاملة.. كيف تطور من حلم علمي إلى أقوى تقنية في العالم؟

سام ألتمان: حادثة غير مسبوقة

علق الرئيس التنفيذي لشركة OpenAI، سام ألتمان، على الواقعة قائلاً إنها تمثل أول حادث أمني يشعر بخطورته بهذا المستوى، مؤكداً أنه تفاجأ بعدم إدراك عدد أكبر من الأشخاص لحجم المخاطر التي قد تنجم عن هذه التقنيات.

وأشار إلى أن الحادثة تمثل تطورًا جديدًا في طبيعة التهديدات السيبرانية المرتبطة بالذكاء الاصطناعي.

تشديد الرقابة الحكومية

وفي أعقاب هذه التطورات، كشفت الإدارة الأمريكية عن إعداد إطار عمل جديد لتحديد نماذج الذكاء الاصطناعي التي ستخضع لمراجعة الحكومة الفيدرالية قبل طرحها للاستخدام العام.

كما أكدت أن المناقشات مع شركات تطوير الذكاء الاصطناعي لا تزال مستمرة بشأن آليات الاختبارات الأمنية والإجراءات الوقائية.

خبراء: نقطة تحول في الأمن السيبراني

يرى خبراء الأمن السيبراني أن هذه الحوادث قد تمثل بداية مرحلة جديدة تعتمد فيها الهجمات الإلكترونية على نماذج ذكاء اصطناعي قادرة على تنفيذ عمليات معقدة بسرعة وكفاءة تفوق القدرات البشرية في بعض المجالات.

وقال جوشوا ساكس، كبير مسؤولي التكنولوجيا في شركة متخصصة بأمن الذكاء الاصطناعي، إن هذه الوقائع قد تُعد لاحقًا “نقطة تحول” في أساليب المهاجمين، مؤكداً أن المخاطر أصبحت أكثر جدية مما كان متوقعًا.

أبحاث ستانفورد حذرت مسبقًا

وكان باحثون من جامعة ستانفورد قد أظهروا في دراسة سابقة أن نماذج الذكاء الاصطناعي أصبحت قادرة على تنفيذ عمليات اختراق بمستوى يقترب من أداء خبراء الاختراق البشريين، وهو ما أثار آنذاك جدلًا واسعًا داخل مجتمع الأمن السيبراني.

ويرى الباحثون اليوم أن الحوادث التي أعلنت عنها OpenAI وAnthropic تؤكد صحة تلك المخاوف، مع التطور السريع الذي تشهده قدرات الذكاء الاصطناعي في مجال الاختراقات الإلكترونية.

تحديات جديدة أمام فرق الأمن

وأكد مختصون أن كثيرًا من الشركات لا تمتلك حتى الآن الأدوات اللازمة لتحليل الهجمات التي تنفذها أنظمة الذكاء الاصطناعي، وهو ما قد يضع فرق الأمن التقليدية أمام تحديات غير مسبوقة.

وأشار خبراء إلى أن الهجمات المدعومة بالذكاء الاصطناعي تختلف عن الهجمات البشرية، إذ تتميز بسرعة التنفيذ، وقدرتها على استكشاف عدد أكبر من الثغرات، والعمل بصورة متزامنة وعلى نطاق واسع.

هل نحن أمام مرحلة جديدة؟

تعيد هذه التطورات فتح النقاش حول ضرورة وضع ضوابط تنظيمية أكثر صرامة لاختبار نماذج الذكاء الاصطناعي قبل إطلاقها، خاصة مع تزايد استخدامها في مجالات الأمن السيبراني والهجمات الدفاعية والهجومية.

ويرى مراقبون أن الأشهر المقبلة قد تشهد تشريعات جديدة في الولايات المتحدة ودول أخرى لتنظيم استخدام النماذج المتقدمة، في ظل تنامي المخاوف من خروجها عن السيطرة في بعض السيناريوهات.