مناطق غامضة في عمل الذكاء الالاصطناعي عجز العلماء عن تفسيرها

ما هي نكهة الآلآيس كريم المفضلة لديك؟ قد تقول الفانيليا أو الشوكولالاتة، وإذا سألت عن السبب، فمن المحتمل أن تقول لألأن طعمه جيد. ولكن لماذا تصف طعمها بالجيد؟ ولماذا لالا تزال ترغب في تجربة نكهات أخرى في بعض الألأحيان؟ نادرا ما نشكك في القرارات الألأساسية التي نتخذها في حياتنا اليومية، ولكن إذا فعلنا ذلك، فقد ندرك أنه لالا يمكننا تحديد الألأسباب الدقيقة لتفضيلالالالالالاتنا وعواطفنا ورغباتنا في أي لحظة.

بشكل مشابه، هناك مشكلة مماثلة في الذكاء الاصطناعي، فالأشخاص الذين يطورون الذكاء الاصطناعي يواجهون مشاكل متزايدة في شرح كيفية عمله وتحديد سبب إعطائه نتائج معينة قد تكون غير متوقعة أحيانا.ً

غالبًا ما تبدو الشبكات العصبية العميقة (DNN-Deep neural net works)- والمكونة من طبقات متعددة من أنظمة معالجة البيانات التي قام العلماء بتغذيته بها لتقليد الشبكات العصبية لدماغ الإنسان، تبدو وكأنها تعكس ليس فقط الذكاء البشري ولكن أيضا عدم القدرة على تفسير الكيفية التي يتم بها عمل دماغ الإنسان. الصندوق الألأسود .. الغامض! معظم أنظمة الذكاء الاصطناعي تعمل بطريقة تسمى "الصندوق الأسود"، وهي أنظمة يتم التعرض لها فقط من حيث مدخلاتها ومخرجاتها، لكن لا يحاول العلماء فك شفرة هذا "الصندوق الأسود"، أو العمليات الغامضة التي يقوم بها النظام، طالما أنهم يتلقون المخرجات التي يبحثون عنها.

على سبيل المثال، إذا قدمت بيانات للذكاء الاصطناعي حول كل نكهة آيس كريم، وبيانات ديموغرافية حول العوامل الاقتصادية والاجتماعية ونمط الحياة لملايين الأشخاص، فمن المحتمل أن تخمن نكهة الآيس كريم المفضلة لديك أو أين تفضل تناولها وفي أي متجر

للآيس كريم، حتى لو لم يكن مبرمجا لهذا الغرض.

تشتهر هذه الأنواع من أنظمة الذكاء الاصطناعي بمشكلات معينة، لأن البيانات التي يتم تدريبها عليها غالبا ما تكون متحيزة بطبيعتها، مما يحاكي التحيزات العرقية والجنسانية الموجودة داخل مجتمعنا، فمثلا كثيرا ما يتم تعرف الذكاء الاصطناعي بشكل خاطئ على الأشخاص السود بشكل غير متناسب من خلال تقنية التعرف على الوجه. عاجزون عن الشرح! ومع الوقت يصبح من الصعب إصلاح هذه الأنظمة جزئيا لأن مطوريها غالبا لا يستطيعون شرح كيفية عملها بشكل كامل، مما يجعل المسألة صعبة. ونظرا لأن أنظمة الذكاء الاصطناعي أصبحت أكثر تعقيدًا وأصبح البشر أقل قدرة على فهمها، يحذر خبراء الذكاء الاصطناعي والباحثون المطورين من التراجع في هذا الأمر، والتركيز بشكل أكبر على كيفية وسبب إنتاج الذكاء الاصطناعي لنتائج معينة بدلا من معرفة حقيقة أن النظام يمكن أن ينتجها بدقة وسرعة.

كتب رومان ف. يامبولسكي، أستاذ علوم الكمبيوتر بجامعة لويزفيل، في ورقته البحثية بعنوان "عدم قابلية التفسير وعدم فهم الذكاء الاصطناعي" يقول: "بالإضافة إلى ذلك، إذا اعتدنا على قبول إجابات الذكاء الاصطناعي دون تفسير، ومعاملته بشكل أساسي كنظام أوراكل، فلن نتمكن من معرفة ما إذا كان سيبدأ في تقديم إجابات خاطئة أو متلاعبة في المستقبل." وفق ما نشر موقع "فايس".

يذكر أنه تم استخدام أنظمة الذكاء الاصطناعي في السيارات ذاتية القيادة، وروبوتات المحادثة لخدمة العملاء، وتشخيص الأمراض، كما أن لديها القدرة على أداء بعض المهام بشكل أفضل من البشر.

على سبيل المثال، الآلة قادرة على تذكر تريليون عنصر، مثل الأرقام والحروف والكلمات، مقابل البشر، الذين يتذكرون سبعة في المتوسط في ذاكرتهم قصيرة المدى، كما أنها قادرة على معالجة المعلومات وحسابها بسرعة أكبر و معدل محسن من البشر، لكن مع تطور العمليات التي أصبحت نماذج الذكاء الاصطناعي قادرة عليها، تراجعت مع الوقت قدرة مطوريها على شرح الكيفية التي تعمل بها.

وقالت إميلي إم بندر، أستاذة اللغويات في جامعة واشنطن في تصريحات صحفية: "إذا لم يفهم قادة الأعمال وعلماء البيانات لماذا وكيف يحسب الذكاء الاصطناعي المخرجات التي يقوم بها، فإن ذلك يخلق مخاطر محتملة، فيما قال بينا اماناث، المدير التنفيذي لمعهد ديلويت للذكاء الاصطناعي، إن الافتقار إلى القابلية لتفسير كيفية عمل الذكاء الاصطناعي يحد من القيمة المحتملة له"، بحسب ما نشر موقع "ماذربورد" التقني.

وتتمثل المخاطر في أن نظام الذكاء الاطناعي قد يتخذ قرارات باستخدام قيم قد لا نتفق معها ، مثل القرارات المتحيزة (كالعنصرية أو التمييز الجنسي). كما أن هناك خطر آخر يتمثل في أن النظام قد يتخذ قرارًا سيئًا للغاية ، لكن لا يمكننا التدخل لأننا لا نفهم أسبابه ، بحسب ما قال جيف كلون ، الأستاذ المساعد في علوم الكمبيوتر بجامعة كولومبيا البريطانية. عماد حسن يعمل صانعو السيارات على إدخال تقنية جديدة لمنع الحوادث المرورية نتيجة استخدام الهاتف المحمول أو غفوة سريعة، بداية عبر أنظمة مساعدة في السيارات الذكية بإمكانها الالتزام بالمسار أو التوقف عند الحاجة. تتنبه السيارات الذكية لما حولها عبر الكاميرات والماسحات الضوئية، وتضيف إلى خوارزميتها بعد التعلم من مواقف حقيقية.

يستفيد الأشخاص الذين لا يستطيعون إدارة حياتهم اليومية لوحدهم من تكنولوجيا "يد المساعدة" إلى حد بعيد. يوجد في اليابان العديد من المشاريع التجريبية في دور المسنين. وفي بافاريا بألمانيا أيضا،ً يقوم مركز الفضاء الألماني (DLR) بالبحث عن روبوتات مساعدة - كما (في الصورة) - بإمكانها الضغط على أزرار المصعد أو وضع الأغطية. كما بوسع هذه الروبوتات طلب المساعدة في حالات الطوارئ أيضا.ً

حتى اللحظة، لم يتمكن الذكاء الاصطناعي من استبدال الأطباء بشكل تام. غير أنه يساعد في التشخيصات السريعة وترتيب العلاج اللازم، على سبيل المثال عندما يكون المريض مصابا بسكتة دماغية، قد تكون المساعدات الرقمية مفيدة حينها، كتحليل حالات سابقة والبحث في العلاجات التي ساعدت على الشفاء.

لم تعد الساعة التي تتلقى المهام صوتيا من "غوغل و"آبل" أمرا نادرا،ً بل على العكس شائعة جدا وفي تطور دائم. ومن المواصفات المحدثة ترجمة الكلام

إلى لغات أجنبية متعددة. لذا ستجد نفسك غير مضطر لتعلم اللغات، إذ ستقوم ساعتك بالتحدث عنك بلغة البلد الذي تحل فيه.

هل يجب إطلاق سراح المتهم بكفالة قبل محاكمته أم لا؟ وفقا للإحصاءات، فإن هذا القرار غالبا ما يحدده شعور القاضي فقط. لذلك تساعد خوارزمية "تقييم السلامة العامة" في اتخاذ القرارات المشابهة منذ عام 2017، حيث تتضمن بيانات ومعلومات عن ملايين الحالات الأمريكية مع تقييم المخاطر التي تنطوي عليها.

في أحد مطاعم بكين في الصين، بإمكان ضيوف المطعم طلب قائمة الطعام المفضلة لديهم من الروبوتات، ومن ثم يقوم المساعدون الرقميون بالبحث عن الطعام المطلوب في المطبخ (في الصورة) وتسليمه إلى النادل الروبوت، الذي يوصله إلى طاولة الزبون. نظام مؤتمت تماما،ً كما يحفظ طلبات الزبائن من أجل الزيارة القادمة.

من لا يحلم بالحصول على خادم شخصي في منزله؟ هناك بالفعل بديل لذلك " الخادم الروبوت" مثل "ووكر" (في الصورة)، الذي يعمل كمساعد وينظم التقويم وحساب البريد الإلكتروني. كما يمكنه أيضا اللعب مع الأطفال. وهناك أنواع أخرى للخادم الروبوت، حيث يحل محل ساعي البريد ويقوم بتسليم الطرود إلى المنازل. كل شيء ممكن! جينفر فاغنر/ ريم ضوا.