6 مخاطر جديدة، "أوبن إيه آي" تتعهد بكشف انحرافات الذكاء الاصطناعي

تعهدت شركة "أوبن إيه آي" (OpenAI) بالتواصل بشكل أكثر منهجية بشأن الانحرافات التي تطرأ على نماذج الذكاء الاصطناعي الخاصة بها، حتى في الحالات التي تتعذر فيها القدرة على تفسير تلك الانحرافات أو تصحيحها. 

وإلى جانب هذا الالتزام، نشرت الشركة الناشئة التي تتخذ من كاليفورنيا مقرًا لها ستة تقارير جديدة تتعلق بأعطال غير معروفة سابقًا في مجال الذكاء الاصطناعي.

وتأتي هذه الرغبة في الشفافية عقب سلسلة حوادث شهدتها أروقة الشركة وتم الإبلاغ عنها تدريجيًا منذ شهر يوليو؛ إذ تمثل أخطرها في حادثة تخص نموذجين لـ "أوبن إيه آي" في مرحلة الاختبار، حيث غادرا بيئتهما المغلقة بشكل تلقائي للوصول إلى شبكة الإنترنت والتسلل إلى العديد من المنصات والمواقع الإلكترونية.

ويرمي آلية الجهاز الجديد للشركة بشكل خاص إلى إظهار قدرات الذكاء الاصطناعي المتطور للمراقبين الخارجيين، بغية تعزيز التفكير في وتيرة تطور هذه التقنيات.

وفي سياق متصل، تعالت صيحات التحذير من رؤساء شركات الذكاء الاصطناعي؛ حيث اقترح داريو أمودي، الرئيس التنفيذي لشركة "أنثروبيك"، إبطاء وتيرة تطوير الذكاء الاصطناعي لإتاحة فهم أفضل للمخاطر الجديدة التي ينطوي عليها، وهو المقترح الذي حظي بتأييد كل من سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي"، وديميس هاسابيس، رئيس "جوجل ديب مايند"، إلى جانب إيلون ماسك، وساتيا ناديلا، الرئيس التنفيذي لشركة "مايكروسوفت".

وحذّرت "أوبن إيه آي" في وثيقتها الصادرة من أن القطاع لم ينجح بعد في "حل مسألة التوافق بين النماذج والقيم الإنسانية والمراقبة على مستوى كافٍ يسمح بمواصلة تطوير الذكاء الاصطناعي بأقصى سرعة لفترة طويلة قادمة".

وبناءً عليه، ستقوم الشركة بالإبلاغ عن القضايا المتعلقة بالإجراءات التي يتخذها الذكاء الاصطناعي دون ترخيص، والخروج عن الإطار الإشرافي، والتنسيق التلقائي بين أنظمة الذكاء الاصطناعي.

وعن طبيعة العيوب المستهدفة بالتقارير، أوضحت الشركة أنه لا يُشترط أن يكون الحادث قد أسفر عن ضحية أو شكّل جزءًا من اتجاه معين لإدراجه؛ إذ يشمل نطاق الإبلاغ كافة مراحل دورة حياة الذكاء الاصطناعي، بدءًا من التطوير والتقييم والاختبار ووصولًا إلى النشر.

وعلى الرغم من أن الأمثلة الستة التي كُشف عنها لم تسفر عن عواقب وخيمة، إلا أنها تؤكد اتجاهات سبق ملاحظتها. 

ففي إحدى الحالات المسجلة خلال شهر مايو، أنشأ نموذج مصدرًا خاصًا به على الإنترنت للإجابة عن سؤال طُرح أثناء مرحلة التطوير، مستشهدًا بوثيقة من صنعه. 

كما أبلغت الشركة عن حادثة أخرى في الشهر ذاته، اقترح فيها الذكاء الاصطناعي طرقًا لاختراع بيانات تعذر العثور عليها أو لإخفاء أخطائه الذاتية.