همفکران فناوری شریف
۱مقدمه
قانون هوش مصنوعی اتحادیهٔ اروپا (Regulation (EU) 2024/1689) در ۱ اوت ۲۰۲۴ لازم‌الاجرا شد. این قانون رویکردی مبتنی بر ریسک دارد: برخی کاربردها ممنوع‌اند، برخی «پرریسک» با الزامات سخت و بقیه با تعهدات شفافیت یا بدون الزام خاص.
۲بررسی موضوع
در فهرست کاربردهای پرریسک، سامانه‌هایی آمده‌اند که برای ارزیابی اعتبار یا تعیین امتیاز اعتباری اشخاص حقیقی به کار می‌روند؛ به‌جز سامانه‌هایی که فقط برای کشف تقلب مالی استفاده می‌شوند. ارائه‌دهندگان این سامانه‌ها باید مدیریت ریسک، کیفیت و حاکمیت داده، مستندسازی فنی، ثبت رویدادها، شفافیت برای کاربر، نظارت انسانی و دقت و امنیت را تضمین کنند.
۳جمع‌بندی
اجرای قانون مرحله‌ای است: ممنوعیت‌ها از فوریهٔ ۲۰۲۵، الزامات مدل‌های هوش مصنوعی همه‌منظوره از اوت ۲۰۲۵ و بیشتر الزامات سامانه‌های پرریسک از اوت ۲۰۲۶. برای فین‌تک‌ها پیام روشن است: مدل اعتبارسنجی باید از روز اول قابل توضیح، مستند و تحت نظارت انسانی طراحی شود.
منابع
