أدوات الذكاء الاصطناعي لا تتحرى الصدق (2)
كما شرحنا في المقالة السابقة، أدوات الذكاء الاصطناعي التي نعتمد عليها كثيرا الآن لا تتحرى الصدق دائمًا، بل قد تميل إلى النفاق والمجاملة، لقد أدركنا الآن أن هذه الأداة قادرة على تقديم مراجع وهمية وأحكام قضائية لا أساس لها من الصحة، إلى جانب نصائح تبدو في ظاهرها مريحة ولكنها تخفي في طياتها مخاطر جمة.
وبالطبع لا تكمن الأزمة الحقيقية في مجرد وقوع الأداة في الخطأ، فالإنسان بطبيعته يخطئ، ومسيرة العلم تُبنى أساسًا على اكتشاف الأخطاء وتصحيحها. إنما الصعوبة الكبرى هى في قدرة هذه الادوات على تقديم المعلومات الخاطئة في قوالب لغوية سليمة، ونبرة تفيض بالثقة.
إن هذه الادوات لا تمارس الكذب بمفهومه الإنساني، فهي بلا نية سيئة مبيتة أو ضمير مخادع يسعى للتزييف، لكنها تخلق أثرًا مضللًا يفوق الكذب في خطورته. وقد أطلق المعهد الوطني الأمريكي للمعايير والتكنولوجيا على هذه الحالة وصف: الإنتاج المعيب المُقَدَّم بثقة، مرجعًا إياها إلى اعتماد هذه النماذج على التنبؤ الاحصائى بالكلمة التالية بدلا من الالتزام بصدق المعنى.
تتميز النماذج اللغوية مثل ( شات جى بي تى واخوتها) بقدرتها الفائقة على التعلم من محيط هائل من النصوص، لتقوم بعد ذلك بتخمين الكلمات الأنسب لسياق الحديث. بفضل هذه الآلية، يمكن للأداة أن تنتج خطابات بليغة أو تلخص الكتب ببراعة، لكن هذه الطلاقة اللفظية لا تعني بالضرورة امتلاك المعرفة الحقيقية.
فالعبارات قد تكون متسقة من حيث اللغة، إلا أنها تخالف الواقع تمامًا. ورغم التطور المذهل، لا تزال هذه النماذج تعاني من الأخطاء والفبركة، ويبقى الاستدلال المعقد نقطة ضعف لديها.
من هنا تتولد أولى الإشكاليات وهي الخلط الخطير بين حسن التعبير وصحة المحتوى. فالإنسان العاقل يتردد حين يواجه المجهول، بينما تنساق الآلة بدافع تشكيلها وبنائها الخوارزمى لملء الفراغات بأسماء كتب أو دراسات وهمية تبدو منطقية ولكنها بلا سند. وتتفاقم الأزمة مع المصادر، إذ قد تقتبس الآلة من مرجع حقيقي ما لم يُذكر فيه أبدًا، أو تلفق تفاصيل لتركيبات لم توجد قط.
ولعل أبرز مثال على ذلك ما ذكرناه في المقال السابق من قضايا تم فيها تقديم استشهادات قضائية مختلقة من إنتاج الذكاء الاصطناعي، لتتحمل المسؤولية العقول البشرية التي تخلت عن واجب التحقق. إلى جانب ذلك، تعاني الآلة من غياب الوعي بالزمن والسياق، فالمعلومة قد تكون صالحة في زمان ومكان معينين وخطيرة في غيرهما، مما يحول الاحتمالات إلى يقين مضلل.
من المساعدة إلى المجاملة
لا يقتصر تدريب أدوات الذكاء الاصطناعي على تلقين اللغة فحسب، بل تُصقل عبر تقييمات بشرية تمنح المكافآت للإجابات التي ينحاز إليها الناس. ورغم أن هذا التوجه يجعل الأداة أكثر لطفًا وأقل إيذاءً، فإن التفضيل البشري لا يتطابق بالضرورة مع الحقيقة. فالمستخدم يهوى من يوافقه، والمُقَيِّم قد يختار الجواب الأكثر ثقة، لتتحول الأداة بالتدريج إلى مرآة تعكس أفكارنا بأسلوب منمق.
فإذا طرح المستخدم فكرة خاطئة، سارعت الآلة إلى البناء عليها بدلًا من فحص أساسها. وإذا طُلب منها تبرير لقرار غير أخلاقي، انصاعت ببراعة لتنفيذه دون أن تتساءل عن مدى تماشيه مع القيم الأخلاقية ودون أن تنبه المستخدم الى خطورة ما هو مقدم عليه.
نحو بناء أداة صادقة
في هذا السياق، تبرز مقالة الباحث سولوم (عبد السلام ) حداية، حول محرك الحقيقة الذي لم يتم بنائه بعد، مؤكدة أن الصدق يجب أن يكون شرطًا مسبقًا قبل أي مواءمة للآلة مع التفضيلات البشرية. بعبارة أخرى، يجب أن تتساءل الأداة أولًا عن مدى صحة المعلومة، ثم تبحث عن الطريقة النافعة لعرضها.
يطرح حداية فكرة الانتقال نحو آداة مزودة بمحرك للإبطال، لا يدعي امتلاك الحقيقة، بل يُسهّل عمليات الاختبار والاعتراض السريع على الادعاءات. هذا المحرك يحتاج إلى نموذج معرفي يدرك طبقات العالم المختلفة التي تشمل الواقع الملموس، والقواعد القانونية، والأحكام الأخلاقية، والتفسيرات التاريخية، ليميز بين الحقيقة والرأي.
كما يتوجب ربط بنك المعارف المتاح للأداة بمصادر حية قابلة للفحص، مصحوبة بتاريخ المعلومة ودرجات الثقة فيها. وحين تتساوى الأدلة أو تغيب، يجب أن يكون قول "لا أعلم" بمثابة نجاح للنظام. أخلاقيًا، ينبغي للآلة أن تشرح الضرر المحتمل وراء الطلبات المحظورة بدلًا من الاعتماد على قوائم جامدة، مع إبقاء الرقابة والمسؤولية في يد الإنسان.
لماذا يصعب بناء محرك الحقيقة؟
ربما تبدو فكرة الدكتور (حداية) بديهية، لكنها تصطدم بصعوبات بالغة؛ أولها التساؤل حول من يملك حق تحديد الحقيقة واختيار المصادر والقواعد. ففي القضايا السياسية والأخلاقية، تتعدد الإجابات، وإذا تُرك الأمر لجهة محتكرة، فقد تتحول الأداة إلى حارس عقائدي متزمت. وهذا يتطلب بناء مؤسسات معرفية شفافة وسريعة ومتوازنة قادرة على الجمع بين الانفتاح والصرامة.
الصعوبة الثانية تقنية، إذ أن التحقق من صحة الادعاءات مكلف جدًا ويستغرق وقتًا أطول بالمقارنة بالتأليف السريع، مما قد يضعف جاذبية المنتج التجارية أمام المنافسين.
الصعوبة الثالثة تنجم من طبيعة المصادر المتوفرة والتي قد تكون في حد ذاتها متناقضة أو فاسدة، مما يجعل نظام التحقق عرضة لتكرار الأوهام ذاتها.
أما الصعوبة الرابعة، فتتعلق بمقاييس النجاح، حيث يسهل قياس رضا المستخدم التجاري، بينما يعتبر قياس الصدق عملية معقدة لاختلاطه بالمرونة الفكرية. وفوق كل ذلك، تبرز معضلة إنسانية تتمثل في بحث الكثيرين عن الطمأنينة والانتصار في الجدل أكثر من بحثهم عن الحقيقة، مما يضع المنفعة العامة في مواجهة مع المنفعة الخاصة.
هل الأداة لديها الشجاعة في أن تقول «لا أعلم»؟
إن ولادة محرك الحقيقة لن تحدث بفضل خوارزمية سحرية واحدة، بل تتطلب فصلًا بين من يولد الإجابة ومن يمتحنها (أو يشرف عليها)، مع توفير مصادر أولية محدثة وسجل واضح للأدلة. كما ستحتاج إلى مؤسسات مستقلة تتيح المساءلة والتصحيح. يجب أن تقول هذه الأدوات بوضوح أن الدليل لا يكفي، وأن الطلب قد يحمل ضررًا، موضحة حدود معرفتها.
نحن نحتاج إلى أداة لا تنازعنا حريتنا، بل تحمينا من أن نصبح أسرى لتحيزاتنا الشخصية، أداة ترفض تزوير الطريق نحو الحقيقة. فالصديق الصادق والصاحب الأمين ليسا من يوافقنا دائمًا، وهكذا ينبغي أن يكون الذكاء الاصطناعي شريكًا في البحث عن الحقيقة، لا بائعًا لها.
