تحقق السلطات الفيدرالية الأمريكية حالياً بشأن الحوادث التي تسببت بها سيارات تسلا (Tesla) ذاتية القيادة (Autopilot)، والتي تسمح بالقيادة دون استخدام اليدين تقريباً. حيث تسببت تلك الحوادث بوفاة 11 شخصاً، أحدهم كان يغيّر إطار سياراته على قارعة الطريق.
مُقترحات بإرفاق أنظمة الذكاء الاصطناعي بالصندوق الأسود:
ليست فقط السيارات ذاتية القيادة من تطبيقات الذكاء الاصطناعي التي قد تكون خطرة عند استخدامها. إذ يشمل ذلك أيضاً الأجهزة الطبية الذكية، وجزّازات العشب الآلية، بالإضافة إلى الروبوتات التي تستخدمها دور رعاية المسنين اليابانية، لتقديم وجبات الطعام ومراقبة المرضى ومرافقتهم.
من هنا، ولاحتواء هذا الخطر، قام فريق دولي من الخبراء بنشر ورقة من مجموعة مقترحات للحوكمة، بحيث تصبح الجهات المسؤولة قادرة على توقع المشكلات بطريقة أفضل، ولزيادة المُساءلة. وكان أبرز الاقتراحات في الورقة هو إلحاق صندوق أسود بأي نظام ذكي مستقل.
الصندوق الأسود:
تحتوي كل طائرة على الصندوق الأسود. حيث يقوم بتسجيل كل ما يحدث في الطائرة، ابتداءً من أنظمتها، وانتهاءً بتصرفات الطيارين وحديثهم في قمرة القيادة. ولطالما أفادت تسجيلات الصندوق الأسود في تحليل الكوارث والاصطدامات الجوية.
وقد اقترح مجموعة الخبراء فكرة الصندوق الأسود، لتحليل المشاكل التي تحدث في السيارة ذاتية القيادة، أو أي نظام ذكاء اصطناعي، فتسببُ الكارثة. بالإضافة إلى أنّه سيكون بمثابة جهاز مراقبة، مما يؤدي إلى تعزيز الالتزام باللوائح المحلية والوطنية.
يقول جريجوري فالكو، المؤلف المشارك والأستاذ المساعد للهندسة المدنية وهندسة الأنظمة في جامعة جونز هوبكنز، والباحث في معهد ستانفورد فريمان سبوجلي الدولي:
“سيساعد هذا النهج في تقييم المخاطر مقدمًا وإنشاء مسار تدقيق لفهم حالات الفشل. الهدف الرئيسي هو خلق المزيد من المساءلة”.
والجدير بالذكر، أنّ شركات تصنيع السيارات تعمل بالفعل على تطوير أنظمة صندوق أسود، للسيارات ذاتية القيادة. وذلك بسبب تنبيه المجلس الوطني لسلامة النقل للشركات المصنعة شأن نوع البيانات، التي ستحتاجها للتحقيق في الحوادث.
تفاصيل ورقة المقترحات التي ألفها الخبراء:
ركزت المقترحات على إعداد تقييمات المخاطر المحتملة قبل تشغيل النظام. كما ركزت على نشاء مسار تدقيق لتحليل الحوادث عند وقوعها، بما في ذلك الصندوق الأسود.
وأشار الخبراء المؤلفون إلى أنّ شركات التأمين والعملاء، لديهم مصلحة قوية في تبني نهجها. على سبيل المثال، ترغب شركات التأمين بمعرفة أكبر قدر ممكن عن المخاطر المحتملة، قبل أن تقوم بالتغطية.
إضافة إلى أنّ المحاكم والمحامين يحتاجون إلى مسار بيانات واضحة. وذلك لتحديد من يجب أن يتحمّل المسؤولة عن وقوع الحادث. كما يريد مستخدمو السيارات أن يتجنبوا المخاطر بالطبع.
كما أشار الخبراء أيضاً بضرورة مطالبة الشركات بالكشف علناً عن بيانات الصندوق الأسود، والمعلومات التي تمّ الحصول عليها من المقابلات البشرية. لأنّ السماح للمحليين المستقلين بدراسة التسجيلات، من شأنه أن يعزز التعاون الجماعي لتحسينات السلامة، والتي للشركات المصنعة الأخرى أن تدمجها في أنظمتها الخاصة.
قضايا السلامة ليست مقتصرة فقط على السيارات:
لا تقتصر قضية الأمان على السيارات فقط، بل يمتدّ الأمر ليشمل تطبيقات الذكاء الاصطناعيّ بشكل عام.
على سبيل المثال، يرى المؤلفون أنّ الأجهزة الطبية التي تستخدم الذكاء الاصطناعي تحتاج إلى تسجيل المعلومات ذات الطابع الزمني، على كل ما يحدث أثناء استخدامها.
كما يناقش فالكو وزملاؤه بأنّه حتى المنتجات الاستهلاكية غير المكلفة نسبيًا، مثل ماكينات الجزازات الآلية، يمكن ويجب أن تحتوي على مسجلات الصندوق الأسود.
بالإضافة إلى ذلك، يرى الخبراء بأن الشركات والصناعات بحاجة إلى دمج تقييم المخاطر في كل مرحلة من مراحل تطوير المنتج وتطوره.
