مع استمرار توسع إمكانات تطبيقات الذكاء الاصطناعي (AI)، يظل سؤال محوري دون حل: هل سيثق المستخدمون ويتبنون تقنيات الذكاء الاصطناعي؟ نظراً لأن مستقبل الذكاء الاصطناعي يعتمد بشكل كبير على إدراك موثوقيته، فإن ضمان موثوقية وموثوقية الذكاء الاصطناعي يلعب دورًا أساسيًا في دفع تطبيقاته الواسعة العملية. ومع ذلك، لم تلاحق النظريات والنماذج الرياضية والأساليب في مجال هندسة الموثوقية وإدارة المخاطر التطورات السريعة لتقنيات الذكاء الاصطناعي. هذا يؤدي إلى وجود عقبات كبيرة في الموافقة التنظيمية وتقييد الاستخدام على نطاق واسع لنماذج الذكاء الاصطناعي في مجالات اتخاذ القرارات الحيوية مثل الطب والطيران والتمويل ومحطات الطاقة النووية بسبب نقص الموثوقية والعناصر الأساسية مثل الموثوقية والثقة. للاستفادة الكاملة من إمكانات اتخاذ القرار الآلي المعتمد على الذكاء الاصطناعي في هذه التطبيقات الحرجة من حيث السلامة، يجب تأسيس ثقة معتدلة من خلال إدارة التوقعات—أي التقييم الدقيق لحدود القدرة الفعلية للذكاء الاصطناعي. يركز هذا المقال على موثوقية وظائف أنظمة الذكاء الاصطناعي تحت إطار التعلم المراقب، حيث يحلل أولاً الخصائص الفريدة التي تميز أنظمة الذكاء الاصطناعي عن الأنظمة التقليدية ويثبت ضرورة تطوير نظريات هندسية وإدارة مخاطر مخصصة؛ ثم يُرتب بشكل منهجي آليات هندسية خمس لتحقيق الذكاء الاصطناعي الموثوق: تشمل التكميم عدم اليقين (UQ) بناءً على النماذج والتنبؤ بالمطابقات المستقلة، التنبؤ بالأعطال، التعلم مع إمكانية الانسحاب، التحقق الرسمي، والذكاء الاصطناعي المعزز بالمعرفة؛ وأخيرًا يطرح تحديات وفرص بحثية متعددة في مجال هندسة موثوقية أنظمة الذكاء الاصطناعي وضمان الثقة. تهدف الدراسة إلى تعميق فهم مشكلات موثوقية أنظمة الذكاء الاصطناعي وتشجيع الباحثين في مجالات هندسة المخاطر والموثوقية على المساهمة في هذا الاتجاه البحثي المتزايد الأهمية.

التعلم العميق; هندسة الموثوقية; إدارة المخاطر; الذكاء الاصطناعي الموثوق; أنظمة الذكاء الاصطناعي