همفکران فناوری شریف
۱مقدمه
سامانه‌های هوش مصنوعی امروز در تصمیم‌هایی چون اعطای تسهیلات، استخدام و قیمت‌گذاری نقش دارند. خطا یا سوگیری در این سامانه‌ها می‌تواند به‌طور گسترده و نامحسوس به گروه‌هایی از جامعه آسیب برساند.
۲بررسی موضوع
هوش مصنوعی مسئولانه بر چند اصل استوار است: انصاف (عدم تبعیض میان گروه‌ها)، شفافیت و تفسیرپذیری (امکان توضیح تصمیم)، حریم خصوصی، امنیت و پاسخ‌گویی (مشخص بودن مسئول نهایی هر تصمیم).
در عمل، این اصول از طریق ارزیابی سوگیری داده‌های آموزشی، آزمون عملکرد مدل برای گروه‌های مختلف، مستندسازی مدل و حفظ امکان بازبینی انسانی برای تصمیم‌های پراهمیت پیاده‌سازی می‌شوند.
۳جمع‌بندی
چارچوب‌های بین‌المللی، از جمله قانون هوش مصنوعی اتحادیهٔ اروپا، سامانه‌های پرریسک مانند اعتبارسنجی را مشمول الزامات سخت‌گیرانه کرده‌اند. سازمان‌هایی که زودتر این اصول را بپذیرند، در جلب اعتماد مشتری پیشگام خواهند بود.
منابع
