اخلاق و امنیت در هوش مصنوعی؛ وقتی تکنولوژی نیاز به قانون دارد

فکرش را بکنید که قرار است درباره شغل، وام بانکی، مجازات کیفری یا حتی تشخیص پزشکی شما یک تصمیم گیری انجام بگیرد و این تصمیم نیز در انحصار قضاوت انسانی نباشد. کاری که امروز توسط الگوریتم ها انجام می شود و بسیاری از سرنوشت ها را رقم می زنند. چیزی که ممکن است حتی تصورش هم هولناک باشد. زیرا یک نکته یا پرسش مهم در اینجا پیش می آید: وقتی سازندگان یک الگوریتم هم نمی  توانند توضیح دهند که چرا الگوریتم آنها به این نتیجه خاص رسیده است، چطور می توان به تصمیم آنها اعتماد کرد؟ شاید اینجا همان لحظه ای باشد که اخلاق و امنیت در هوش مصنوعی با قوانین آن گره می خورد.

باید پذیرفت که هوش مصنوعی و کاربردهای آن دیگر به ابزارهای محاسباتی ساده محدود نیست و در برخی حوزه‌ها به عاملی اثرگذار در تصمیم‌گیری‌های انسانی تبدیل شده است. بنابراین دقت و توجه به موضوع سوگیری ها، شفافیت و مسئولیت پذیری، الزامی حیاتی است که به حفظ کرامت انسانی و عدالت اجتماعی ختم می شود. ما در این مقاله به موضوع اخلاق و امنیت در هوش مصنوعی؛ وقتی تکنولوژی نیاز به قانون دارد می پردازیم و ریشه ها، چالش ها و راهکارهای آن را بررسی می کنیم.

اخلاق در هوش مصنوعی چیه و چرا نیازمند قانون است؟

شاید افرادی وجود داشته باشند که وقتی از اخلاق در هوش مصنوعی صحبت می کنیم، لبخندی بر لبانشان بنشیند و بگویند: مگر هوش مصنوعی هم به اخلاق نیاز دارد؟ در پاسخ به این دسته از افراد باید بگوییم: وقتی هوش مصنوعی تبدیل به عاملی تصمیم ساز در زندگی انسان ها می شود، اخلاق در هوش مصنوعی اهمیت می یابد. زیرا عدم وجود اخلاق می تواند عدالت، شفافیت، مسئولیت پذیری و احترام به حریم خصوصی کاربران را دچار چالش جدی نماید. از این رو هست که باید توسعه دهندگان و پژوهشگران در فرآیند طراحی، پیاده سازی و استفاده از سیستم های هوشمند به این مهم توجه ویژه داشته باشند.

اما آیا فقط توجه به این اصول اخلاقی در هوش مصنوعی و رعایت آن کافی است؟ پاسخ منفی است. زیرا بدون حاکمیت قانون در تکنولوژی و مسئولیت پذیر نمودن سازندگان و طراحانش، شعار و توصیه ای بیش نخواهد بود. زیرا وجود رقابت اقتصادی در میان شرکت ها، می تواند منجر به استفاده از داده های ناعادلانه برای آموزش مدل خود شود. اینجاست که یک قانون الزام آور می تواند این شرکت ها را پاسخگو کند. بنابراین باید بسیار قابل درک باشد وقتی می گوییم: تکنولوژی نیاز به قانون دارد. این یعنی باید یک سری چهارچوب های نظارتی، نظام های ممیزی و نهادهای قضایی، برای مواجهه با خطاهای الگوریتمی وجود داشته باشند.

 تبعیت از اصول اخلاقی در توسعه هوش مصنوعی؛ طراحی عادلانه تا مسئولیت پذیری

بیشتر کارشناسان مستقل حوزه فناوری های هوش مصنوعی، بر این باورند که باید توسعه دهندگان را موظف کرد که اصول اخلاقی را در تمامی مراحل چرخه ی حیات هوش مصنوعی رعایت کنند. درواقع چیزی که از آن سخن می رود، فراتر از مثلا اصول کدنویسی صرف است و به فلسفه طراحی و تعامل با جامعه باز می گردد. از آن جمله درنظر گرفتن مواردی نظیر:

• پایبندی به طراحی عادلانه
  همچون یک قاضی دادگاه که نباید در قضاوت خود به نفع گروه خاصی عمل کند، سیستم های هوش مصنوعی نیز نباید به نفع گروه خاصی عمل کنند یا تبعیض قائل شوند. مثلا اگر در سیستم های استخدامی شرکت کرده اید، الگوریتم باید فرصت های شغلی را به طور منصفانه برای همه متقاضیان ببیند و فارغ از توجه به مسائلی نظیر جنسیت یا رنگ و نژاد باشد. زیرا تنها در چنین بستری است که می توان از یک طراحی عادلانه حرف زد.
• لزوم شفافیت در تصمیم گیری
  اینکه یک تصمیمی چه ساده چه سرنوشت ساز از سوی یک الگوریتم هوش مصنوعی گرفته می شود، باید قابل درک از سوی کاربرانش باشد. یعنی آنها درک کنند که چرا چنین تصمیمی برای آنها گرفته شده است و نتیجه این بوده است. این همچنین باید قابل فهم از سوی همه افراد و نه فقط متخصصین این امور باشد. 
• مسئولیت پذیری و پاسخگو بودن
  شرکت ها باید در قبال نتایج ناعادلانه که از سوی الگوریتم هوش مصنوعی آنها رقم می خورد، پاسخگو باشند و مسئولیت آن را بپذیرند. همچنین ساز و کاری وجود داشته باشد تا خسارت افراد آسیب دیده یا در حق آنها اجحاف شده جبران گردد.

نقش تعامل میان رشته ای در اخلاق هوش مصنوعی

یک مبحث مهم که می تواند به رویکرد اخلاق مداری در هوش مصنوعی کمک کند، تعامل میان رشته ای است. این یعنی اخلاق هوش مصنوعی تنها از منظر مهندسان این حوزه قابل تامین نیست. بلکه مثلا روانشناسان هم می توانند با تحلیل تاثیرات استرس زا و اضطراب آور تعامل با ماشین ها به این مهم کمک کنند. یا جامعه شناسان در جهت شناسایی تاثیرات طبقاتی و نژادی الگوریتم ها عمل نمایند.

همینطور حقوقدان ها می توانند چهارچوب های قانونی متناسب با این فناوری را تدوین کرده و بنویسند. بدون چنین تعامل عمیق و گسترده ای که ما از آن با عنوان تعامل میان رشته ای یاد کردیم، هوش مصنوعی به ابزاری غیر عدالت محور تبدیل می شود که فاقد ارزش های اخلاقی است.

سوگیری در هوش مصنوعی چیست و به چه طریقی رخ می دهد؟

از آنجا که بسیاری از سیستم‌های مبتنی بر یادگیری ماشین عملکرد خود را از داده‌های آموزشی می‌آموزند، کیفیت، تنوع و شیوه انتخاب این داده‌ها می‌تواند بر عادلانه یا ناعادلانه بودن خروجی اثر بگذارد.

ابتدا اجازه بدید تعریفی ساده از سوگیری داشته باشیم: سوگیری را می توان نوعی تعامل سیستم برای اتخاذ تصمیم های ناعادلانه قلمداد کرد که گروه خاصی از افراد را متضرر می کند. مهندس ین فناوری های هوش مصنوعی از آن به عنوان یک باگ فنی یاد می کنند، حال اینکه این پدیده یک چالش عمیق اخلاقی و اجتماعی است. با این حال سوگیری ها می توانند به 2 طریق رخ دهند:

1. سوگیری داده ای موسوم به Data Bias
   این نوع سوگیری، ناشی از آن دست داده های آموزشی است که بر اساس تبعیض های تاریخی یا نابرابری های موجود در جامعه شکل گرفته است. مثلا اگر داده های تاریخی دربردارنده این واقعیت باشد که در یک یا دو دهه گذشته، زنان نقش کمی در یک صنعت خاص داشته اند، الگوریتم از این واقعیت الگوبرداری کرده و زنان را برای آن موقعیت شغلی رد می کند.
2. سوگیری الگوریتمی موسوم به Algorithmic Bias
   علاوه بر داده ها، طراحی نادرست پارامترهای مختلف در الگوریتم ها نیز می تواند به ایجاد تبعیض و فقدان اخلاق در هوش مصنوعی بیانجامد. به عنوان مثال در یک الگوریتم تشخیص چهره که پارامترهای کنتراست آن برای پوست های روشن تنظیم شده است، عملکردش برای افراد با پوست تیره به شدت کند و ضعیف خواهد شد.

بررسی چند نمونه واقعی از شکست الگوریتم ها در دنیای هوش مصنوعی امروز

یکی از بهترین راه ها برای اینکه بدانیم تا چه حد اخلاق در هوش مصنوعی به چالش کشیده شده است و چرا تکنولوژی نیاز به قانون دارد، بررسی نمونه های واقعی است. بررسی آنها قادر است تا ماهیت خطرناک نبود امنیت هوش مصنوعی را گوشزد کند. در ادامه چند نمونه آورده ایم:

● سیستم پیش بینی جرم در آمریکا (COMPAS)

قضیه از این قرار بود که یک سیستم احتمال تکرار جرم برای زندانیان آمریکا طراحی شده بود که سوگیری نژادی فاحشی داشت. درواقع مطالعات گسترده بر روی این الگوریتم نشان می داد که افراد سیاه پوست را به طور ناعادلانه ای با ریسک بالاتر و بالعکس افراد سفید پوست را با ریسک کمتر طبقه بندی می کند.

●  سیستم های ارزیابی ریسک اعتباری

یکی دیگر از نمونه های عدم اخلاق در هوش مصنوعی و لزوم تدوین قانون برای تکنولوژی، عملکرد سیستم های ارزیابی ریسک اعتباری است. معمولا بانک های بسیاری از کشورها از الگوریتم هایی استفاده می کنند که به طور سیستماتیک، اقلیت های نژادی را با ریسک بالاتر ارزیابی کنند. این یعنی اقلیت ها از وام محروم می شوند و بدین شکل به فقر و نابرابری اقتصادی دامن زده می شود.

● سیستم های تشخیص چهره

تحقیقی که اخریا دانشگاه MIT در خصوص سیستم های تشخیص چهره انجام داد، حاوی این واقعیت بود که نرخ خطای این سیستم برای افراد با پوست تیره تا 32 درصد بیشتر از افراد با پوست روشن است. همین موضوع می تواند باعث دستگیری های اشتباه یا نقض حریم خصوصی این گروه از افراد گردد.

● الگوریتم استخدامی آمازون

آمازون غول تجارت الکترونیک جهان، سیستمی طراحی کرده بود تا رزومه ها برای استخدام را غربال کند. غافل از اینکه الگوریتم طراحی شده، اقدام به سوگیری بر علیه زنان و به نفع مردان کرده بود. این موضوع منبعث از داده های استخدامی 10 سال گذشته بود که زنان در پروسه استخدامی نقش کمتری داشتند. در نهایت آمازون مجبور شد این الگوریتم را کنار بگذارد.

چالش جعبه سیاه و ضرورت تکیه بر هوش مصنوعی قابل توضیح (XAI)

ساختار چندلایه شبکه‌های عصبی مصنوعی می‌تواند رابطه میان داده ورودی و خروجی نهایی را به‌قدری پیچیده کند که توضیح کامل مسیر تصمیم‌گیری مدل دشوار شود. چون ورودی را داده و از آنها خروجی میگیریم. اما منطق میانی برای انسان غیرقابل درک است. همین موضوع نیز مانع تحقق شفافیت و مسئولیت پذیری حقوقی شده است. اما نه زمانی که از تکنیک های یادگیری ماشین قابل توضیح (Explainable AI)  استفاده شود. زیرا روش هایی همچون LIME و SHAP اجازه می دهند تا متوجه شویم هر ویژگی ورودی چقدر در تصمیم نهایی موثر بوده است.

ضمن اینکه بهره گیری از مدل های ذاتا قابل توضیح نظیر درخت های تصمیم گیری به جای شبکه های عصبی پیچیده، ریسک اخلاقی را در حوزه های پزشکی و قضاوت می کاهد. از این رو باید قانون گذار، توسعه دهندگان هوش مصنوعی را به استفاده از این تکنیک ها وادار نماید. درنتیجه این کار در صورت بروز ناعدالتی و تبعیض، ریشه سوگیری شناسایی شده و اصلاح می گردد.

راهکارهای فنی کاهش سوگیری و درنتیجه توجه به اخلاق در هوش مصنوعی

برای اینکه بتوانیم به مدل هوش مصنوعی اخلاق مدار دست پیدا کنیم، علاوه بر تدوین قانون برای تکنولوژی به ابزارهای فنی هم نیاز داریم. برخی از آنها شامل موارد زیر می شوند:

• یادگیری انتقالی (Transfer Learning)
  از آنجایی که تمرکز این ابزار بر روی داده های گسترده و متنوع جهانی است، باعث می شود تا از سوگیری های محدود به یک مجموعه داده ی خاص جلوگیری شود.
• تقویت داده ها (Data Augmentation)
  این ابزار با استفاده از افزایش تنوع داده ها از راه های چرخش تصاویر، تغییر مقیاس یا افزودن نویز، شبکه های مولد تخاصمی (GANs)  برای تولید نمونه های مصنوعی از گروه های کم نماینده در جامعه، باعث تعادل داده ها می شود.
• الگوریتم های چند هدفه (Multi-objective)
  این الگوریتم هوش مصنوعی در کنار بهینه سازی دقت عملکرد، ارزش های عدالت و انصاف را مثل برابری آماری بین گروه ها به عنوان هدف دوم خود دنبال می کند که بسیار قابل توجه است.

اهمیت مسئولیت حقوقی و حاکمیت قانون؛ نقش و وظیفه سازمان ها و دولت ها

تهدیدهای جدی در حوزه ی امنیت هوش مصنوعی

دو تهدید جدی و مهم در حوزه ی امنیت هوش مصنوعی وجود دارد که نیاز به قانون گذاری فوری را می طلبد. آنها عبارت است از:

● وجود نظارت های فراگیر
اولین بار جورج اورول بود که در کتاب 1984 به چیزی به اسم تله اسکرین اشاره کرد. دستگاهی همچون دوربین مداربسته که توسط پلیس اندیشه کنترل می شد و آزادی های مدنی را سلب می کرد. زیرا شخصیت ها مدام در حال دیده شدن بودند. حال اینکه دوربین های تشخیص چهره معابر امروز نیز حق ناشناس ماندن را از شهروندان سلب کرده است. بنابراین بدون قوانین شفاف، این ابزارها به جای تامین امنیت، وسیله ای برای کنترل و سرکوب آزادی های مدنی خواهند بود. 

● ابزارهای خودمختار و بدون نظارت مستقیم انسانی
نباید تصمیم برای مرگ و زندگی را به یک سری کدهای ریاضی واگذار کرد. چون می تواند تبدیل به بزرگترین خط قرمز اخلاقی شود. مثلا در صورت بروز خطا یا ایراد، تعیین مسئول اعم از برنامه نویس، طراح یا شرکت سازنده غیرممکن است. لذا قانون باید به صراحت استفاده از این ابزارهای خودمختار یا بدون نظارت مستقیم انسانی را ممنوع کند.

جمع بندی نهایی

نمی توان هوش مصنوعی را یک پدیده خنثی و بی تاثیر دانست. چون هر خط کد می تواند بازتاب دهنده  ی ارزش ها، سوگیری ها و حتی نگاه توسعه دهنده آن به جهان باشد. برای همین است که می گوییم تکنولوژی نیاز به قانون دارد تا بتوانیم به کمک متخصصان، آینده ای را شکل بدهیم که هوش مصنوعی به جای به چالش کشیدن اخلاق و کرامت انسانی، عادلانه، امن و انسانی تصمیم بگیرد و عمل کند.

البته این کار نیازمند طراحی عادلانه الگوریتم ها و پاسخگو بودن طراحانش در قبال پیامدهای اجتماعی آن است. اصولا یادگیری مهارت های دیتا ساینس و ماشین لرنینگ بدون در نظر گرفتن بستر اخلاقی آن، بسیار خطرناک است. آینده متعلق به الگوریتم هایی است که نه فقط سریع تر، بلکه امن تر، عادلانه تر و انسانی تر باشند.

سوالات متداول: