هل يفقد البشر السيطرة على الذكاء الاصطناعي؟ أنثروبيك تطلق تحذيرًا عالميا
أطلقت شركة أنثروبيك، إحدى أبرز شركات الذكاء الاصطناعي في العالم، تحذيرات جديدة بشأن التسارع الكبير في تطوير النماذج الذكية، داعية إلى مناقشة إمكانية إبطاء وتيرة التقدم في هذا المجال على المستوى العالمي، وسط مخاوف من وصول الأنظمة المستقبلية إلى مرحلة تصبح فيها قادرة على تصميم وتطوير أنظمة أكثر تطورًا من نفسها.
وتأتي هذه الدعوة في وقت تشهد فيه صناعة الذكاء الاصطناعي منافسة غير مسبوقة بين الشركات التقنية الكبرى لتطوير نماذج أكثر قوة وقدرة، ما يثير تساؤلات متزايدة حول حدود هذه التكنولوجيا ومستقبل السيطرة البشرية عليها.
أنظمة قادرة على تطوير نفسها
بحسب رؤية الشركة، فإن الاتجاه الحالي للتطور التقني يشير إلى احتمال ظهور أنظمة ذكاء اصطناعي تمتلك القدرة على إنشاء أو تحسين الأجيال التالية من النماذج الذكية دون تدخل بشري مباشر.
ورغم أن هذه المرحلة لم تتحقق حتى الآن، فإن الشركة ترى أن الوصول إليها قد يحدث خلال فترة أقرب مما تتوقعه الحكومات والمؤسسات التنظيمية، وهو ما يستدعي الاستعداد مبكرًا للتعامل مع تداعياتها المحتملة.
وترى أنثروبيك أن هذه القدرات المتقدمة يمكن أن تفتح الباب أمام قفزات كبيرة في مجالات حيوية مثل الطب والبحث العلمي واكتشاف الأدوية وتطوير التقنيات الجديدة، وهو ما قد ينعكس بشكل إيجابي على حياة البشر.
لكن في المقابل، تحذر الشركة من أن زيادة استقلالية الأنظمة الذكية قد تؤدي إلى تحديات تتعلق بالرقابة والتحكم، خاصة إذا أصبحت تلك الأنظمة قادرة على اتخاذ قرارات معقدة أو تطوير قدراتها بوتيرة أسرع من قدرة البشر على متابعتها.
دعوة إلى "فترة تهدئة" للتكنولوجيا
وفي محاولة لمواجهة هذه المخاطر، اقترحت الشركة دراسة خيار التباطؤ المؤقت أو المنظم في تطوير تقنيات الذكاء الاصطناعي المتقدمة، بما يمنح الباحثين وصناع القرار مزيدًا من الوقت لتطوير آليات السلامة ووضع الأطر التنظيمية المناسبة.
وترى الشركة أن هذا النهج قد يساعد على تحقيق توازن بين الاستفادة من الإمكانات الهائلة للذكاء الاصطناعي وبين الحد من المخاطر المرتبطة بتسارع تطوره.
معهد بحثي يقود الدراسات المتعلقة بالمخاطر
وتستند مقترحات الشركة إلى أبحاث يجريها معهد متخصص أنشأته مؤخرًا لدراسة التأثيرات بعيدة المدى للذكاء الاصطناعي المتقدم.
ويعمل المعهد على تحليل السيناريوهات المحتملة المرتبطة بتطور النماذج المستقبلية، إلى جانب دراسة الإجراءات التقنية والتنظيمية المطلوبة في حال قررت الحكومات أو الشركات تبني سياسات لإبطاء التطوير أو وقفه مؤقتًا.
وتؤكد الشركة أن أي محاولة لإبطاء تطوير الذكاء الاصطناعي لن تنجح ما لم تشمل جميع الجهات الرئيسية العاملة في هذا القطاع.
ففي حال التزام بعض الشركات بالتوقف بينما تواصل جهات أخرى العمل سرًا، قد يؤدي ذلك إلى اختلال المنافسة ومنح أفضلية كبيرة للطرف الذي يواصل التطوير بعيدًا عن الرقابة.
ولهذا السبب، تشدد الشركة على ضرورة وجود آليات تحقق دولية تضمن الشفافية وتسمح بمراقبة مدى التزام الأطراف المختلفة بأي اتفاق محتمل.
هل يتكرر نموذج الاتفاقيات النووية؟
وتستشهد أنثروبيك بالتجارب الدولية السابقة المتعلقة بالحد من التسلح النووي باعتبارها دليلًا على إمكانية التوصل إلى اتفاقات عالمية بشأن التقنيات الحساسة.
إلا أنها تعترف بأن مثل هذه الاتفاقيات استغرقت سنوات طويلة من المفاوضات والتنسيق بين الدول، في حين أن الذكاء الاصطناعي يتطور بوتيرة أسرع بكثير، ما يجعل الحاجة إلى التحرك أكثر إلحاحًا.
وكشفت الشركة عن خطط لإجراء سلسلة من النقاشات خلال الفترة المقبلة مع مسؤولين حكوميين وخبراء وباحثين وشركات عاملة في قطاع الذكاء الاصطناعي، بهدف بحث الخيارات المتاحة للتعامل مع المخاطر المستقبلية لهذه التكنولوجيا.
ومن المتوقع أن تنشر الشركة نتائج تلك المشاورات لاحقًا، في إطار مساعيها للدفع نحو حوار دولي أوسع حول مستقبل الذكاء الاصطناعي وحدود تطويره.
