تدل مشكلة الصندوق الأسود في الذكاء الاصطناعي على صعوبة فهم كيفية وصول خوارزميات الذكاء الاصطناعي إلى قراراتها أو تنبؤاتها.
صواب
خطأ
حل سؤال من تمرينات الدرس الأول مقدمة في أخلاقيات الذكاء الاصطناعي ضمن الوحدة السادسة: الذكاء الاصطناعي والمجتمع في مادة الذكاء الاصطناعي، والمقررة على طلاب الصف الثالث الثانوي مسارات خلال الفصل الدراسي الثاني (الجزء الثاني) ١٤٤٧هـ.
حدد الجملة الصحيحة والجملة الخاطئة فيما يلي:
تدل مشكلة الصندوق الأسود في الذكاء الاصطناعي على صعوبة فهم كيفية وصول خوارزميات الذكاء الاصطناعي إلى قراراتها أو تنبؤاتها؟
الإجابة الصحيحة هي
صواب، الجملة صائبة ✅.
الشرح والتوضيح:
تكمن مشكلة الصندوق الأسود في الذكاء الاصطناعي في التحدي المتمثل في فهم كيفية عمل نظام قائم على الذكاء الاصطناعي ( Al-Based System) باتخاذ القرارات أو إنتاج المخرجات مما قد يصعب الوثوق بالنظام أو تفسيره أو تحسينه، وربما يؤثر الافتقار إلى الانفتاح وإلى قابلية التفسير على ثقة الناس في النموذج. تتزايد هذه التحديات بوجه خاص في مجال التشخيص الطبي، والأحكام التي تصدرها المركبات ذاتية القيادة، تعد التحيزات في نماذج تعلم الآلة إحدى المخاوف الأخرى المتعلقة بنماذج الصندوق الأسود، كما أن التحيزات الموجودة في البيانات التي يتم تدريب هذه النماذج عليها يمكن أن تؤدي إلى نتائج غير عادلة أو عنصرية، بالإضافة إلى ذلك، ربما يكون من الصعب تحديد المسؤولية عن القرارات التي يتخذها نموذج الصندوق الأسود حيث يصعب تحميل أي شخص المسؤولية عن تلك القرارات لا سيما مع وجود الحاجة إلى الرقابة البشرية، كما هو الحال في أنظمة الأسلحة ذاتية التحكم. إن الافتقار إلى الشفافية في عملية اتخاذ القرار باستخدام الذكاء الاصطناعي يصعب تحديد مشكلات النموذج وحلها، كما أن عدم معرفة الطريقة التي يتخذ بها النموذج قراراته تجعل من الصعب إجراء التحسينات والتأكد من أنها تعمل بطريقة صحيحة، وهناك استراتيجيات عديدة لمعالجة مشكلة الصندوق الأسود في الذكاء الاصطناعي.