همفکران فناوری شریف
۱مقدمه
قانون هوش مصنوعی اتحادیهٔ اروپا (AI Act) نخستین چارچوب جامع قانونی برای هوش مصنوعی در جهان است که از ۱ اوت ۲۰۲۴ لازم‌الاجرا شده و به‌صورت مرحله‌ای اجرا می‌شود.
۲بررسی موضوع
این قانون سامانه‌ها را بر اساس سطح ریسک دسته‌بندی می‌کند. در بخش مالی، ارزیابی اعتبار و امتیازدهی اعتباری اشخاص حقیقی و قیمت‌گذاری بیمهٔ عمر و درمان در گروه «پرریسک» قرار گرفته‌اند.
سامانه‌های پرریسک باید الزاماتی مثل مدیریت ریسک، کیفیت داده، مستندسازی، شفافیت برای کاربر و نظارت انسانی را رعایت کنند؛ پیامی روشن برای هر شرکتی که از هوش مصنوعی در تصمیم‌های اعتباری استفاده می‌کند.
قانون هوش مصنوعی اروپا، سامانه‌ها را در چهار سطح ریسک قرار می‌دهد: ریسک غیرقابل‌قبول که ممنوع است، مانند امتیازدهی اجتماعی عمومی؛ ریسک بالا با الزامات سخت‌گیرانه؛ ریسک محدود با الزامات شفافیت، مانند لزوم اطلاع‌رسانی به کاربر هنگام گفت‌وگو با ربات؛ و ریسک حداقلی که الزام خاصی ندارد.
برای ارائه‌دهندگان سامانه‌های پرریسک، الزاماتی چون استقرار سامانهٔ مدیریت کیفیت، تهیهٔ مستندات فنی، ثبت خودکار رویدادها، تضمین دقت و استحکام، و ارزیابی انطباق پیش از عرضه تعیین شده است. استفاده‌کنندگان، یعنی بانک‌ها و مؤسسات مالی که این سامانه‌ها را به کار می‌گیرند، نیز تعهداتی مانند نظارت انسانی و پایش عملکرد دارند.
۳جمع‌بندی
جریمه‌های عدم رعایت این قانون قابل‌توجه است و برای تخلفات شدید می‌تواند به درصدی از گردش مالی جهانی شرکت برسد. هرچند این قانون مستقیماً در ایران اجرا نمی‌شود، اما شرکت‌هایی که با بازار اروپا کار می‌کنند ملزم به رعایت آن هستند و اصول آن، مانند شفافیت، انصاف و نظارت انسانی، الگوی مناسبی برای طراحی مسئولانهٔ هر سامانهٔ اعتبارسنجی است.
منابع
