هل يتمرد الذكاء الاصطناعي على البشر؟ خبراء يجيبون (تقرير)

أنقرة/ أميرهان دمير/ الأناضول

**البروفيسور جان سيباستيان ديسورولت، من قسم الرياضيات وعلوم الحاسوب في جامعة كيبيك الكندية للأناضول:

- أنظمة الذكاء الاصطناعي أصبحت قادرة أثناء سعيها لتحقيق الأهداف التي يحددها البشر على وضع أهداف خاصة بها أيضًا

**الدكتور بيتار رادانلييف من قسم علوم الحاسوب بجامعة أكسفورد البريطانية للأناضول:

- الحوادث التي وقعت نتجت عن عدم اعتماد ممارسات هندسية ورقابية حاسمة للسلامة

** الدكتور ياشا بارييس الباحث في التفاعل بين الإنسان والتكنولوجيا بجامعة فريبورغ السويسرية للأناضول:

- أنظمة الذكاء الاصطناعي لا يمكنها الخروج عن السيطرة بمفردها وإنما تصبح مثل هذه الحالة ممكنة بفعل الظروف المحيطة بها

من أنظمة تساعد البشر في إنجاز المهام وتحليل البيانات إلى تقنيات قد تتصرف خارج التوقعات، يثير التطور المتسارع للذكاء الاصطناعي مخاوف جديدة بعد رصد اختبارات أمنية حالات تجاوزت فيها نماذج متقدمة القيود المحددة لها، ما أعاد إلى الواجهة النقاش حول مفهوم "الذكاء الاصطناعي المارق" وحدود السيطرة البشرية على هذه الأنظمة.

وكشفت اختبارات أجريت على نماذج طورتها شركتا "أوبن إيه آي" و"أنثروبيك" عن خروقات أمنية، بينها تمكن بعض الأنظمة من التسلل إلى أنظمة أخرى والتسبب في أضرار، ما أثار تساؤلات حول قدرتها على تجاوز الضوابط الموضوعة لها ومستقبل التحكم بها.

وتتزايد المخاوف مع ظهور تقارير عن تصرفات مستقلة لأنظمة الذكاء الاصطناعي، وسط نقاش بين الخبراء حول مخاطر هذه التقنيات وسبل تعزيز إجراءات السلامة والرقابة عليها.

وأعلنت شركتا الذكاء الاصطناعي الأمريكيتان "أوبن إيه آي" و"أنثروبيك" في يوليو/تموز الماضي، أن نماذج خضعت للاختبار تمكنت من التسلل إلى أنظمة أخرى والتسبب في خروقات أمنية فيها.

وبينما تواصل الشركتان نشر نتائج التحقيقات التي أجريَت بشأن حوادث تجاوزت فيها نماذج الذكاء الاصطناعي الحدود المحددة لها، بدأت شركات أخرى أيضًا في الإعلان عن حوادث مماثلة.

**"الذكاء المارق"

وتؤثر هذه الحوادث في الشركات والأفراد على حد سواء، كما أعادت إلى الواجهة دعوات إلى إبطاء تطور تقنيات الذكاء الاصطناعي وإخضاعها لرقابة أكثر صرامة، وأعادت طرح مفهوم "الذكاء الاصطناعي المارق" (Rogue AI).

ويُستخدم هذا المصطلح لوصف أنظمة ذكاء اصطناعي تتصرف بصورة مخالفة لما بُرمجت عليه، ما يجعلها مصدر خطر على محيطها.

وتبرز هذه الأنظمة باعتبارها قادرة على تجاهل الأطر الأخلاقية وإجراءات السلامة التي يضعها البشر، والاستفادة من مسارات مختصرة تمكنها من اكتشاف الثغرات واستغلالها.

وبالتزامن مع الإعلانات المتعلقة بالتصرفات المستقلة للذكاء الاصطناعي، عبّر مسؤولون في عدد من شركات التكنولوجيا الكبرى عن مخاوفهم من هذه التقنية، ما أثار تساؤلات حول إمكانية أن يسهم التسارع الكبير في تطويرها في زيادة احتمال خروجها عن المسار المحدد لها .

** "البقاء في حالة تأهب"

وقال البروفيسور جان سيباستيان ديسورولت، من قسم الرياضيات وعلوم الحاسوب في جامعة كيبيك بمدينة تروا ريفيير الكندية، في حديث للأناضول، إن أنظمة الذكاء الاصطناعي لم تعد مجرد أدوات، بل أصبحت قادرة، أثناء سعيها لتحقيق الأهداف التي يحددها البشر، على وضع أهداف خاصة بها أيضًا.

وأضاف ديسورولت أن "خروج الذكاء الاصطناعي عن السيطرة" قد يؤدي، إلى جانب أفعال صغيرة ذات تأثير محدود، إلى اضطرابات واسعة في سلاسل الإمداد، والتسلل إلى أنظمة مختلفة وشبكة الإنترنت، وإحداث آثار اقتصادية واسعة، فضلًا عن إمكانية ظهور فيروسات جديدة.

وأشار إلى أن العالم ربما اقترب من مرحلة يصبح فيها الذكاء الاصطناعي قادرًا على تطوير قدراته بنفسه، وبالتالي إنتاج أنظمة جديدة من دون الحاجة إلى تدخل بشري، وقال: "نعم، هناك أسباب معقولة تدعو إلى البقاء في حالة تأهب".

وشبّه ديسورولت تطور الذكاء الاصطناعي بالسيارة، قائلًا: "إذا قارنا الذكاء الاصطناعي بالسيارة، فإننا نطوّر دواسة الوقود الآن بسرعة أكبر بكثير من دواسة المكابح"، مشددًا على ضرورة أن يتم خفض سرعة تطوير الذكاء الاصطناعي بشكل متزامن بين جميع الدول والمؤسسات.

**البشر ومسؤولية "تمرد" الذكاء الاصطناعي

وفي ظل استمرار المخاوف من تحول الذكاء الاصطناعي إلى أنظمة يصعب التحكم بها، يلفت بعض الخبراء الانتباه إلى العامل البشري في الخروقات التي شهدتها اختبارات شركتي "أوبن إيه آي" و"أنثروبيك".

وقال الدكتور بيتار رادانلييف، من قسم علوم الحاسوب بجامعة أكسفورد البريطانية، للأناضول، إن المقصود بمفهوم "الذكاء الاصطناعي المارق" هو عدم قدرة البشر على "توجيه هذه الأنظمة أو تصحيحها أو إيقافها بصورة موثوقة".

وأضاف أن الحالات التي أُعلن عنها حتى الآن تعكس "وضعًا اعتياديًا"، مشيرًا إلى أن بيئات الاختبار "لم تُنشأ بدرجة كافية من الحذر".

وأوضح رادانلييف أن هذه الحوادث "كانت أحداثًا حقيقية أسفرت عن نتائج حقيقية"، وأنها نتجت عن ممارسات هندسية ورقابية معروفة جيدًا في قطاعات أخرى ذات أهمية حاسمة للسلامة، لكنها لم تُعتمد بعد بصورة متسقة في قطاع الذكاء الاصطناعي.

وأشار إلى أن شركة "أنثروبيك" وصفت سبب الحادثة التي وقعت في اختباراتها بأنه عطل تشغيلي، وليس مشكلة مرتبطة بخصائص نموذج الذكاء الاصطناعي نفسه.

كما لفت إلى أن إجراءات السلامة في حالة "أوبن إيه آي" خُففت عمدًا بهدف قياس قدرات النظام في أسوأ السيناريوهات الممكنة.

**دور الشركات يثير مزيدًا من التساؤلات

في المقابل، تثار تساؤلات حول أهداف أكبر شركات القطاع من وراء الإعلانات المتعلقة باختبارات السلامة، وكذلك إعلانها خلال الأيام الأخيرة عن مخاوفها المرتبطة بالذكاء الاصطناعي.

وقال الدكتور ياشا بارييس، الباحث في التفاعل بين الإنسان والتكنولوجيا بجامعة فريبورغ السويسرية، للأناضول، إن سيناريوهات نهاية العالم المرتبطة بالذكاء الاصطناعي طُرحت مرارًا منذ خمسينيات القرن الماضي.

وأشار بارييس إلى تراجع توقعات الأرباح لدى شركات الذكاء الاصطناعي، وعدم إيجابية الأخبار المتعلقة بمراكز البيانات، وتزايد الانتقادات في العديد من الدول، فضلًا عن قلق الشركات بشأن صورتها أمام الرأي العام.

وقال إن أنظمة الذكاء الاصطناعي لا يمكنها الخروج عن السيطرة بمفردها، وإنما تصبح مثل هذه الحالة ممكنة بفعل الظروف المحيطة بها.

وأضاف: "علينا أن نتوقف عن النظر إلى الذكاء الاصطناعي باعتباره قوة حاسمة، وأن نتراجع خطوة إلى الوراء ونسأل أين توجد البنية التحتية؟ أين توجد القوة؟ أين توجد الأموال؟ من هم الأطراف المشاركون؟ وبأي دافع سياسي يستخدمون هذه التقنية؟".

وذهب بارييس إلى أن الشركات التي تواصل تطوير وإنتاج نماذجها رغم إدراكها أنها قد تشكل مخاطر وجودية على المجتمع تكون قد ارتكبت جريمة، وختم بالقول: "أعتقد أن ما يحدث نوع من النفاق وحيلة تسويقية لجذب مزيد من اهتمام وسائل الإعلام".