طوّر باحثون من معهد ماساتشوستس للتكنولوجيا (MIT)، بالتعاون مع شركة Motional المتخصصة في تقنيات المركبات الذاتية القيادة، طريقة جديدة تساعد البشر على فهم قرارات السيارات ذاتية القيادة والتنبؤ بسلوكها، خصوصًا عندما تتصرف أنظمة الذكاء الاصطناعي بشكل غير متوقع.
وتعتمد السيارات الذاتية القيادة غالبًا على نماذج تعلّم عميق لاتخاذ قراراتها، إلا أن هذه النماذج قد تتصرف بشكل يصعب تفسيره في بعض المواقف، مثل توقف السيارة فجأة ومن دون سبب واضح، بما قد يؤدي إلى إعاقة مسار مركبة طوارئ أو دفع السائق أو الراكب إلى التدخل سريعًا لتجنب وقوع حادث.
وتحمل الطريقة الجديدة اسم Concept-Wrapper Network أو CW-Net، وتهدف إلى تحويل عملية اتخاذ القرار الداخلية في نماذج الذكاء الاصطناعي إلى مفاهيم واضحة يمكن للبشر فهمها، من دون التأثير في أداء النظام أثناء القيادة.
وتشرح CW-Net قرارات أنظمة التخطيط المعتمدة على تعلّم الآلة باستخدام مفاهيم مفهومة، مثل الاقتراب من مركبة متوقفة أو وجود درّاج على مسافة قريبة، ما يساعد السائقين والركاب على فهم الأسباب التي تقف وراء سلوك السيارة بصورة أفضل.
كما يمكن لهذه التفسيرات أن تحد من التصورات الخاطئة بشأن سبب اتخاذ السيارة قرارًا معينًا، وتساعد الموجودين داخل المركبة على تكوين صورة أوضح عما يحدث حولها، بما يعزز قدرتهم على اتخاذ القرار المناسب في الوقت المناسب.
وأظهرت الاختبارات التي أجراها الباحثون أن التفسيرات التي قدمتها CW-Net ساعدت سائقي السلامة على التنبؤ بسلوك السيارة بدرجة أكبر من الدقة، كما أظهرت دراسة محاكاة أوسع شملت أشخاصًا من غير المتخصصين نتائج مشابهة.
كيف تتخذ السيارة ذاتية القيادة قراراتها؟
تعمل أنظمة التخطيط القائمة على تعلّم الآلة بمثابة عقل السيارة ذاتية القيادة؛ إذ تعالج البيانات التي تجمعها الكاميرات وأجهزة الاستشعار، ثم تبني تصورًا عن البيئة المحيطة بالمركبة، قبل تحديد الإجراء التالي وإنتاج المسار الذي ينبغي للسيارة اتباعه.
لكن هذه الأنظمة تعتمد عادةً على نماذج توصف بالصندوق الأسود، بسبب تعقيد آلية اتخاذ القرار داخلها، ما يجعل معرفة السبب الفعلي وراء بعض القرارات أمرًا صعبًا، خصوصًا في المواقف غير المتوقعة، مثل التوقف المفاجئ رغم عدم وجود عائق واضح.
وصمّم الباحثون CW-Net لتوفير تفسير مفهوم لقرارات السيارة، مع الحفاظ في الوقت نفسه على ارتباط هذه التفسيرات بالأسباب الفعلية التي دفعت النموذج إلى اتخاذ القرار.
وتضمن الطريقة، وفقًا للباحثين، أن تكون المفاهيم المستخدمة في تفسير سلوك السيارة مرتبطة بالفعل بالقرار الذي يتخذه النظام، بدلًا من تقديم شرح يبدو منطقيًا للبشر لكنه لا يعكس بالضرورة آلية القرار الحقيقية للنموذج.
وفي الوقت نفسه، تستخدم الشبكة هذه المفاهيم لإنتاج تفسيرات واضحة في الوقت الفعلي بالتزامن مع المسار الذي ستسلكه المركبة.
التفسير الفوري قد يساعد المهندسين والسائقين
يتيح توفير هذه المعلومات في الوقت الفعلي الانتقال من مجرد التساؤل عن سبب توقف السيارة أو تغييرها لمسارها إلى إمكانية مراقبة القرار أثناء تشغيل النظام وفهم العوامل المرتبطة به.
كما يمكن مشاركة هذه البيانات مع المهندسين، بما يوفر لهم معلومات إضافية أثناء اختبار أنظمة الذكاء الاصطناعي داخل السيارات، ويساعدهم على تحديد الأخطاء التي قد تظهر أثناء التشغيل والعمل على تحسين النظام.
وأظهرت التجارب أن التفسيرات التي قدمتها CW-Net ساعدت السائقين على التنبؤ بصورة أفضل بكيفية تصرف السيارة في المواقف غير المتوقعة، وهو ما يرى الباحثون أنه قد يفتح المجال أمام استخدام التقنية لتعزيز سلامة المركبات الذاتية القيادة وشفافيتها.
وعلى المدى الأبعد، يمكن أن تسهم القدرة على تفسير قرارات أنظمة القيادة الذاتية في بناء مستوى أكثر ملاءمة من الثقة لدى السائقين والركاب، إلى جانب مساعدة المهندسين على تطوير أنظمة أكثر قابلية للفهم والمراقبة.
