کاربرد هوش مصنوعی در خدمات مالی(قسمت آخر)

AI in fintech
کاربرد هوش مصنوعی در خدمات مالی(قسمت دوم)
۱۶ آبان ۱۳۹۵
داده کاوی
ایجاد ارزش به کمک داده های بزرگ
۲۸ آذر ۱۳۹۵

نگرانی‌های امنیتی و حریم‌خصوصی

زمانی‌که ایده‌ها و اقدامات شکست می‌خورد، نرم‌افزارهای هوش مصنوعی مورد حمله قرار می‌گیرند و دسترسی رد می‌شود و یا نتیجه‌ی توصیه‌های صورت گرفته تحریف می‌شود، در نتیجه دست‌آوردهای آن ویران‌کننده خواهد بود.

اگر نرم‌افزارها مورد خطر قرار گیرند و یا تحریف شوند کاربران مشاوره‌های اشتباه و ضعیف دریافت خواهند کرد.

زمانی‌که کاربران نتوانند نرم‌افزارهای هوشمند، معتبر و با سطح بالای اطمینان را تشخیص دهند، کاربران اطلاعات شخصی را به صورت دستی انجام می‌دهند و اهداف به سمت نرم‌افزار‌های اشتباه می‌رود و یا اقدامات بداندیشانه و یا مشاوره‌های نامناسب داده می‌شود.

آیا مانند گواهینامه “Series 7”  برای مشاوره‌های خودکار نیز وجود دارد، و چه کسی قابل اعتماد خواهد بود زمانی که مشاوره‌های نامناسب تهیه می‌شود؟

به علاوه اگر نرم‌افزار نتواند کاربرانش را با اطمینان بالا و کافی تشخیص دهد، مجرمان با موفقیت از کاربران واقعی جعل هویت می‌کنند و برنامه را مجاب خواهندکرد تا اطلاعات حساس را منتقل کند و برای شخص اشتباه دستور العمل بسازد.

تعدادی از نتایج آن می‌تواند از دست‌دادن پول، کاهش شایستگی برای وام دهندگان و شرکت‌های بیمه و هم‌چنین تخریب اعتبار باشد.

ما چطور موسسات مالی و اشخاص ثالثی که این نرم‌افزارها را توسعه و اجرا می‌کنند را بازرسی و ارزیابی می‌کنیم؟

حریم‌ خصوصی می‌تواند در آینده حتی مسئله بزرگتری شود. داده‌هایی که مورد استفاده قرار می‌گیرند تا توصیه‌ها و مشاوره‌های مرتبط ارائه دهند هم‌چنین ممکن است برای اهدافی مد نظر قرار گیرند که به حریم خصوصی اشخاص داخل شوند. از طرفی دیگر کاربران از مزیت‌های داشتن تجربیات دو طرفه بین خودشان و شرکت قدردانی می‌کنند. این گونه است که از طریق هشدارها و تکنیک‌های دیگر آن‌ها به سرعت و به طور آنلاین آن‌چه که نیاز دارند را پیدا می‌کنند و در مقابل هر یک از مبادلات مالی شخصی، پول خود را بهتر مدیریت می‌کنند. از طرف دیگر آنالیزها این قدرت را به کسب و کارها می‌دهد تا از داده‌های مشتریان به نحوی جمع‌آوری و استفاده کنند که تنها در چند سال قبل تصور کردن آن‌ها ممکن نبود. این چنین ایده‌های جدید و پرانرژی زمانی که به سمت حریم خصوصی مشتریان حرکت می‌کنند طوفان بی‌نقصی را ایجاد می‌کنند که گستره وسیعی از ناسازگاری‌های در حال توسعه، روند ها و رقابت‌های اخلاقی را ایجاد می‌کنند که نشان‌دهنده وجود پیچیدگی‌های عظیم در این مسائل می‌باشند. در جهت ایجادکردن بصیرت بیشتر Constellation Research  مقاله‌ای به نام “Privacy Enters Adolescence” را انتشار داده است که در آن گفته می‌شود که مشتریان در برابر حریم خصوصی تسلیم نمی‌شوند، آن‌ها مزین به آن هستند و این موضوع برای عموم یک مسئله مناقشه برانگیز است و سرعت داده‌های شخصی رو به افزایش می‌باشد. صنایع سرویس‌های مالی نیازمند هستند تا مسئله‌ی حریم خصوصی را بهتر درک کنند و این که چطور ممکن است با تعدادی از سازمان های مختلف مانند فدرال امریکا و امور حمایت از مصرف کنندگان و قوانین حریم خصوصی۲۳ و همچنین دستورالعمل۹۵/۳۶/EC  اتحادیه اروپا که به Cookie Directive”  “EU  معروف می‌باشد نیز برخورد داشته باشند. اگر کمک کننده باشد Alex Pentland  که هدایت‌کننده برنامه‌ریز کارآفرین در لابراتوارهای رسانه می‌باشد پیشنهاد می‌دهد که موسسات مالی داشبورد هایی را برای کاربران فراهم آورند که نشان دهد چه چیزهایی در مورد شما می‌دانند و چه چیزی را با هم سهیم هستید و شما می توانید آن‌ها را خاموش و یا روشن کنید.

آیا هوش مصنوعی به سمت سرکشی پیش می‌رود؟

برنامه‌هایی که این چنین هوشمندی‌هایی به آن‌ها بخشیده می‌شود می‌توانند درگیر روش‌هایی شوند که زیان‌آور باشد و موردعلاقه کاربران قرار نگیرد. همه ما فیلم‌های علمی- تخیلی مانند A Space Odyssey and The Matrix را در سال ۲۰۰۱ دیده‌ایم جایی‌که در آن یک برنامه‌ی هوش مصنوعی به نام villain  سرکش می‌شود. این نوع از سناریوها برای دهه‌ها در سینما ما را سرگرم کردند اما هم‌اکنون تعدادی از دانشمندان هشدار می‌دهند که کسب و کار ها می‌بایست به این سناریو‌های با پتانسیل به صورت جدی توجه کنند. Nick Bostrom کسی که موسسه‌ی آینده‌ی بشریت آکسفورد را اداره می‌کند در کتابش در رابطه با هوش برتر توضیح می‌دهد که چطور یک سوپر ربات می‌تواند ایجاد شده و ما را نابود کند. چهره‌های مطرح دیگری مانند   Stephen Hawking, Bill GatesوElon Musk هم‌چنین در مورد پتانسیل‌های خطرناکی که هوش مصنوعی می‌تواند به وجود آورد هشدار داده‌اند.

اشتباهات کنترلی و نظم‌دهنده

نگرانی دیگر موسسات مالی این است که چطور تنظیم‌کننده‌ها پاسخگو خواهند بود و دستورالعمل‌های استفاده از هوش مصنوعی را تکمیل خواهندکرد. تنظیم کننده‌های مالی فدرال، ناظران گسترده‌ی دستورالعمل‌ها در جهت استفاده از تکنولوژی‌های اطلاعات در صورت کلی، امنیت، حریم خصوصی، مدیریت فروش و توانایی بهبود و موفقیت دوباره بعد از موقعیت‌های دشوار به صورت ویژه می‌باشند که نیازمند این است تا موسسات مالی کنترل‌های مناسبی را توسعه داده و ریسک موجود را ارزیابی کنند. با وجود افزایش تعداد نرم‌افزارهای هوش مصنوعی، تنظیم‌کنندگان احتمالا بر روی استفاده‌ی بیشتر بر هوش مصنوعی و تشخیص نقص‌های موجود در کنترل‌ها تمرکز خواهند کرد.

نتیجه‌گیری

به دلیل وجود سودهای با پتانسیل بالا و با اهمیّت احتمالا هیچ برگشت به عقبی وجود نخواهد داشت. موارد اتوماسیون شده‌ی بیشتری در سرویس‌های مالی وجود خواهد داشت که اغلب تکنولوژی‌های هوش مصنوعی را به کار خواهند گرفت. اگر چه این نرم‌افزارهای هوش مصنوعی جدید تعدادی از کسب و کارها، موارد امنیتی و مسائل حریم خصوصی را معرفی خواهند کرد که اگر  بخواهند در بازار موفق باشند مجبور خواهند بود که به آن‌ها رسیدگی کنند. باید این اطمینان حاصل شود که این نرم‌افزارهای هوشمند در مسیری توسعه یافته‌اند که سودهای مطلوبی را فراهم خواهندکرد و کاربران می‌توانند به سرویس ها و مشاوره‌های فراهم شده اعتماد کنند. مهم می‌باشد که بتوان نقص‌های موجود را ایزوله و نابود کرد و یا برنامه های هوش مصنوعی را به سرعت نابود کرد و هم‌چنین قوانین و سیاست‌های موثری را برای کنترل‌کردن توسعه و استفاده‌های مورد نظر فراهم آورد. در نتیجه از اطلاعات شخصی حفاظت خواهد شد و از آن‌ها سوء استفاده نمی‌شود و تکنولوژی‌ها و سیاست‌هایی ایجاد می‌شود که به توانایی موسسات احترام می‌گذارد، بهترین راه ارزیابی سیستم‌ها را ایجاد کرده و کنترل و طراحی سیستم‌های هوش مصنوعی را متناسب با امنیت انسان بوجود می‌آورد.

لینک مقاله اصلی

پاسخ دهید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *