اعتبارسنجی با الگوریتم‌های پیچیده؛ مشتری باید دلیل رد شدن را بداند

۱مقدمه

دفتر حمایت مالی از مصرف‌کنندهٔ آمریکا (CFPB) در بخشنامهٔ ۲۰۲۲-۰۳ اعلام کرد که طبق قانون فرصت برابر اعتباری، وام‌دهنده‌ای که درخواست وام را رد می‌کند باید دلایل مشخص و دقیق رد را به متقاضی بگوید؛ حتی اگر تصمیم را یک مدل پیچیده یا «جعبه‌سیاه» گرفته باشد.

۲بررسی موضوع

به گفتهٔ این بخشنامه، این‌که فناوری مورد استفاده آن‌قدر پیچیده است که خود شرکت هم نمی‌داند چرا یک تصمیم گرفته شده، دفاع قابل‌قبولی برای نقض این الزام نیست.

این موضوع اهمیت «هوش مصنوعی توضیح‌پذیر» را در اعتبارسنجی نشان می‌دهد: مدل‌ها باید طوری طراحی شوند که بتوان عوامل اصلی هر تصمیم را استخراج کرد و به زبان ساده به مشتری گفت.

اهمیت این موضوع از آنجاست که مدل‌های پیچیده مانند شبکه‌های عصبی و مدل‌های تجمیعی، صدها متغیر را به شکلی غیرخطی با هم ترکیب می‌کنند و حتی طراحان آن‌ها نیز همیشه نمی‌توانند به‌سادگی توضیح دهند چرا یک درخواست خاص رد شده است. CFPB صراحتاً اعلام کرده است که پیچیدگی فناوری، عذری برای عدم ارائهٔ دلیل مشخص نیست.

CFPB در بخشنامهٔ تکمیلی ۲۰۲۳-۰۳ نیز تأکید کرد که استفاده از فهرست‌های نمونهٔ دلایل رد، در صورتی که دلیل واقعی تصمیم را بیان نکنند، کافی نیست. برای مثال، اگر مدل بر پایهٔ الگوی خرید یا نوع فروشگاه‌هایی که متقاضی از آن‌ها خرید کرده تصمیم گرفته باشد، عبارت کلی «سابقهٔ اعتباری ناکافی» توضیح درستی برای متقاضی محسوب نمی‌شود.

از منظر فنی، روش‌های تفسیرپذیری مدل مانند SHAP و LIME امکان می‌دهند سهم هر متغیر در یک تصمیم مشخص محاسبه شود. با این روش‌ها می‌توان برای هر متقاضی، چند عامل اصلی که بیشترین اثر منفی را در امتیاز او داشته‌اند استخراج کرد و به زبانی قابل فهم به او اعلام نمود. البته این روش‌ها تقریب‌اند و باید درستی آن‌ها نیز ارزیابی شود.

برای مؤسسات مالی در هر کشور، این رویکرد پیامی روشن دارد: شفافیت در تصمیم اعتباری نه‌تنها الزامی حقوقی در بسیاری از نظام‌ها، بلکه ابزاری برای اعتمادسازی است. مشتری‌ای که دلیل رد درخواستش را بداند، می‌تواند وضعیت خود را اصلاح کند و دوباره درخواست دهد؛ و سازمانی که بتواند تصمیم‌هایش را توضیح دهد، در برابر ناظر و افکار عمومی نیز پاسخ‌گوتر است.

۳جمع‌بندی

در ایران نیز با گسترش سامانه‌های اعتبارسنجی و استفادهٔ بانک‌ها و فین‌تک‌ها از مدل‌های امتیازدهی خودکار برای اعطای تسهیلات خرد، این موضوع اهمیت روزافزونی یافته است. طراحی فرایندی که در آن متقاضی بتواند امتیاز خود و عوامل مؤثر بر آن را ببیند، نسبت به نتیجه اعتراض کند و درخواست بازبینی انسانی دهد، هم از حقوق مشتری حمایت می‌کند و هم کیفیت مدل را بهبود می‌بخشد؛ زیرا اعتراض‌های موجه، خطاهای پنهان داده یا مدل را آشکار می‌سازند. مستندسازی منطق مدل، نگه‌داری سوابق هر تصمیم و بازبینی دوره‌ای عملکرد آن برای گروه‌های مختلف متقاضیان، سه کنترل حداقلی برای هر سامانهٔ اعتبارسنجی خودکار است که می‌تواند از بروز تبعیض ناخواسته و زیان اعتباری جلوگیری کند.