هوش مصنوعی مولد در مالی؛ ملاحظات ریسک از نگاه IMF

۱مقدمه

صندوق بین‌المللی پول (IMF) در یادداشت فین‌تک اوت ۲۰۲۳ می‌گوید هوش مصنوعی مولد می‌تواند در خدمات مشتری، تولید گزارش، تحلیل اسناد و مدیریت ریسک بهره‌وری را بالا ببرد.

۲بررسی موضوع

در عین حال این یادداشت ریسک‌های اصلی را برمی‌شمارد: سوگیری پنهان در داده‌ها، حفظ حریم خصوصی، دشواری توضیح‌پذیری خروجی مدل، تولید پاسخ‌های نادرست ولی قانع‌کننده، و تهدیدهای سایبری تازه.

توصیهٔ IMF این است که نهادهای مالی پیش از استفادهٔ گسترده، چارچوب حاکمیت و نظارت انسانی مشخص داشته باشند و ناظران هم ظرفیت فنی خود را برای ارزیابی این مدل‌ها تقویت کنند.

در عمل، کاربردهای کم‌ریسک‌تر مانند خلاصه‌سازی اسناد داخلی، پیش‌نویس گزارش‌ها و کمک به برنامه‌نویسان، معمولاً نقطهٔ شروع مناسبی هستند؛ زیرا خطای احتمالی مدل پیش از رسیدن به مشتری توسط انسان بازبینی می‌شود. در مقابل، استفاده در تصمیم‌های اعتباری یا مشاورهٔ مالی مستقیم به مشتری، نیازمند کنترل‌ها و آزمون‌های بسیار دقیق‌تری است.

مسئلهٔ دادهٔ محرمانه از نگرانی‌های اصلی است. ارسال اطلاعات مشتریان به سرویس‌های عمومی هوش مصنوعی بدون قرارداد و کنترل مشخص، می‌تواند به نقض حریم خصوصی و الزامات قانونی منجر شود. استقرار مدل در زیرساخت داخلی یا استفاده از سرویس‌هایی با تعهدات روشن دربارهٔ عدم نگه‌داری و عدم استفاده از داده برای آموزش، راهکارهای رایج‌اند.

۳جمع‌بندی

چارچوب حاکمیتی پیشنهادی شامل فهرست کاربردهای مجاز و ممنوع، ارزیابی ریسک پیش از هر استقرار، ثبت و پایش خروجی‌ها، و تعیین مسئول مشخص برای هر سامانه است. بدین ترتیب سازمان می‌تواند از مزایای بهره‌وری هوش مصنوعی مولد بهره‌مند شود، بی‌آنکه کنترل ریسک را از دست بدهد.