همفکران فناوری شریف
۱مقدمه
طبق قانون فرصت برابر اعتباری آمریکا (ECOA) و مقررات B، وام‌دهنده‌ای که درخواست اعتبار را رد می‌کند باید «دلایل مشخص» تصمیم را به متقاضی اعلام کند. با گسترش مدل‌های یادگیری ماشین که گاهی «جعبهٔ سیاه» نامیده می‌شوند، این پرسش پیش آمد که آیا پیچیدگی مدل می‌تواند بهانهٔ ارائهٔ دلیل کلی باشد.
۲بررسی موضوع
دفتر حمایت مالی از مصرف‌کننده (CFPB) در بخشنامهٔ ۲۰۲۲-۰۳ در مه ۲۰۲۲ پاسخ داد: نه. قانون استثنایی برای فناوری‌های پیچیده ندارد و اگر وام‌دهنده نتواند دلیل مشخص تصمیم مدلش را توضیح دهد، نباید از آن مدل برای تصمیم اعتباری استفاده کند.
۳جمع‌بندی
در ۲۰۲۳ هم CFPB تأکید کرد که فهرست‌های نمونهٔ دلایل رد، اگر دلیل واقعی را نشان ندهند، کافی نیستند. این رهنمودها با حکم SCHUFA در اروپا و قانون هوش مصنوعی اتحادیه هم‌جهت‌اند: هوش مصنوعی در اعتبارسنجی باید توضیح‌پذیر باشد.
منابع
- CFPB — Consumer Financial Protection Circular 2022-03: Adverse action notification requirements and the use of complex algorithms ↗
- CFPB — Circular 2023-03 ↗
همفکران فناوری شریفاین مقاله خلاصه‌ای از منابع رسمی ذکرشده است که تیم همفکران فناوری شریف برای مدیران و تیم‌های مالی تهیه کرده است.
می‌خواهید این راهکارها را در سازمانتان ببینید؟درخواست دموی رایگان
