عندما يتعلم الذكاء الاصطناعي التواضع

بداية القصة: صراع في قسم الأشعة

في الطابق الثالث بمستشفى “الشفاء الرقمي”، كان الدكتور سامح، رئيس قسم الأشعة، يقف عاقدًا ذراعيه أمام شاشة الكمبيوتر الكبيرة، وعلى وجهه علامات استياء واضحة. بجانبه كانت تقف سارة، مديرة التحول الرقمي في المستشفى، تحاول تهدئة الموقف.

قال الدكتور سامح بجدية: “يا سارة، أنا لا أنكر أن نظام الذكاء الاصطناعي هذا سريع. لكن مشكلته أنه ’عنيد‘. بالأمس، عرضت عليه صورة أشعة لرئة مريض، وكانت الصورة بها قليل من التشويش بسبب حركة المريض. النظام أعطاني تشخيصاً بوجود ورم بنسبة 98%! وعندما راجعت الصورة بنفسي، اكتشفت أنه مجرد ظل ناتج عن الحركة.”

أضاف وهو يشير إلى الشاشة: “مشكلتي ليست أنه يخطئ، مشكلتي أنه يقدم الخطأ بثقة تامة. إنه يرى الدنيا أبيض أو أسود فقط، وهذا خطر على المرضى.”

كانت سارة في مأزق. النظام كلف المستشفى ملايين، وإيقافه يعني فشل مشروعها، لكن استمراره بهذه “القرارات العمياء” يعني كارثة طبية.

ماذا حصل بعدها: دخول الباحثة والمنطقة الرمادية

هنا، قررت سارة الاستعانة بـ رهام، باحثة متخصصة في تطوير خوارزميات الذكاء الاصطناعي، لحل المعضلة.

اجتمعت رهام مع الدكتور سامح وسارة. بعد أن سمعت المشكلة، ابتسمت وقالت: “دكتور سامح محق تماماً. النظام الحالي يعمل بمنطق تقليدي (0 أو 1). إنه مبرمج ليجيب دائماً، حتى لو لم يكن يعرف الإجابة.”

قالت رهام: “الحل ليس في تعليم النظام الطب، بل في تعليمه ’الشك‘. سأطبق عليه منهجية من بحثي تعتمد على المنطق النيتروسوفي (Neutrosophic Logic).”

سأل الدكتور سامح: “وماذا يعني هذا؟”

أجابت رهام: “ببساطة، سأضيف له خياراً ثالثاً. بدلاً من (مريض/سليم) فقط، سنضيف له مساحة تسمى (غير متأكد). سأبرمج مؤشراً يسمى (NCS) أو مؤشر الثقة، يقيس مدى وضوح البيانات قبل إصدار الحكم.”

عملت رهام لأسبوعين على تعديل “دماغ” النظام. وضعت قاعدة برمجية تقول:

“إذا كانت نسبة الغموض في الصورة تتجاوز 15%، توقف عن التشخيص، وارفع راية صفراء للطبيب.”

بداية الحل وعودة الثقة

بعد التحديث، عاد الدكتور سامح لاختبار النظام. أدخل صورة معقدة ومشوشة عمداً.

حبس الجميع أنفاسهم. هل سيقول “ورم” خطأً كما في السابق؟

ظهرت على الشاشة نافذة منبثقة باللون البرتقالي:

“تنبيه: لا يمكنني إصدار حكم دقيق. نسبة عدم اليقين (35%) بسبب انخفاض التباين في الصورة. يُرجى التقييم البشري.”

تنهد الدكتور سامح بارتياح وقال: “الآن نتحدث! هذا ما كنت أريده. لا أريد آلة تدعي المعرفة، أريد مساعداً يعرف حدوده.”

النتيجة للمستشفى:

1. الأمان: انخفضت التشخيصات الخاطئة الناتجة عن الصور الرديئة إلى الصفر تقريباً، لأن النظام توقف عن تخمينها.
2. الكفاءة: ركز الدكتور سامح وفريقه وقتهم فقط على الحالات التي يرفع فيها النظام “الراية الصفراء”، بينما تركوا الحالات الواضحة للنظام لينهيها بسرعة.
3. الانسجام: انتهى الصراع بين الإدارة الطبية والتقنية، وأصبح الذكاء الاصطناعي “زميل عمل” موثوقاً به بدلاً من كونه “صندوقاً أسود” مخيفاً.

---

الأداة المرفقة: بطاقة “إشارات المرور” لاتخاذ القرار

بناءً على التجربة التي خاضتها شخصيات القصة (سامح وسارة)، صممنا هذه الأداة البسيطة لتستخدمها في شركتك أو مؤسستك عند التعامل مع أي نظام آلي أو تقرير بيانات.

الهدف: تصنيف القرارات الآلية لضمان عدم الوقوع في فخ “الثقة العمياء”.

نموذج: إشارات المرور للقرار الآلي (Traffic Light Decision Protocol)

الإشارة (الحالة)	الوصف (ماذا يقول النظام؟)	الإجراء المطلوب من الموظف (سامح)
🟢 الخضراء (منطقة اليقين)	“القرار واضح” (نسبة التأكد عالية + نسبة الغموض منخفضة جداً).	نفذ فوراً. لا تضيع وقتك في المراجعة. النظام هنا يعمل بكفاءة قصوى.
🟡 الصفراء (المنطقة الرمادية)	“أحتاج مساعدة” (النظام يعطي نتيجة، لكن مؤشر “عدم اليقين” بين 15% – 40%).	راجع ثم قرر. النظام قام بنصف العمل، دورك الآن هو التدقيق في الجزئية الغامضة فقط.
🔴 الحمراء (منطقة الخطر)	“لا أعرف” (البيانات متناقضة أو ناقصة، نسبة الغموض تفوق 40%).	تجاهل النظام. المشكلة في المدخلات. اطلب بيانات جديدة أو تعامل مع الحالة يدوياً بالكامل.

سؤال للتطبيق في مؤسستك:

هل أنظمتكم الحالية (سواء في المحاسبة، الموارد البشرية، أو الإنتاج) مصممة لتعطيك “الضوء الأصفر”؟ أم أنها تجبرك دائماً على الأخضر والأحمر؟

إذا لم يكن لديك الضوء الأصفر، فأنت تخاطر باتخاذ قرارات خاطئة بثقة تامة.

---

أصل القصة: البحث الأكاديمي

هذه المقالة القصصية تخيلية مستخرجة من بحث أكاديمي منشور، بهدف تبسيط فكرة البحث وفائدته لغير المختصين:

 Controllability of Artificial Intelligence Systems Based on Neutrosophic Logic-Driven Explainability and Reliability Metrics. Reham Alhabbal

وهذه المقالة القصصية ضمن مبادرة #حوّلها_قصّة.

لديك بحث أكاديمي وتريد منا تحوليه إلى قصة ونشره؟

تواصل معنا مباشرة عبر العنوان: team@humancenteredlabs.com ونتطلع بشوق لتحويل أبحاثكم إلى أثر مفيد.

عن مبادرة حولها قصة:

الفكرة:

رسالتك الماجستير لم يقرأها أحد سوى لجنة الحكم؟ (هذا إن قرؤوها )

نحن لا نهتم بها بحسب، بل نتعمق بها ونحوّل رسالتك المعقدة إلى قصة جذابة وأدوات مفيدة لسوق العمل!

وننشرها ونشاركها مع القيادات … ومن يدري، قد تكون رسالتك مفتاح لفرصة عمل لك في سوق العمل!

الهدف:

نهدف إلى جعل الأبحاث الأكاديمية التخصصية بمتناول الناس وقيادات المجتمع والمؤسسات، لتكون أكثر فائدة. عبر استخراج القصص والأدوات التطبيقية من هذه الأبحاث بلغة وأطر تناسب الجمهور المستهدف.

الآن هو أفضل توقيت:

مع طفو المحتوى السطحي والمولّد بالذكاء الاصطناعي في وسائل التواصل الاجتماعي، زادت حاجتنا للمحتوى الأصيل والمفيد والنوعي، وليس أفضل وأعمق من الأبحاث الأكاديمية لتكون مرشداً وداعماً نوعياً.

لديك بحث أكاديمي وتريد منا تحوليه إلى قصة ونشره؟

تواصل معنا مباشرة عبر العنوان: team@humancenteredlabs.com ونتطلع بشوق لتحويل أبحاثكم إلى أثر مفيد.