عدالت در الگوریتم لزوم امنیت ملی پارس آی سی تی: عدالت الگوریتمی یک شعار آرمانی نیست، بلکه یک ضرورت امنیت ملی است. الگوریتمی که تبعیض می کند، نه فقط حقوق شهروندی را نقض می کند، بلکه مشروعیت حاکمیت را نیز خدشه دار می سازد. به گزارش پارس آی سی تی به نقل از مرکز ملی فضای مجازی، جواد آزادی احمدآبادی مشاور دبیر شورایعالی و مدیرکل حوزه ریاست مرکز ملی فضای مجازی در یادداشتی نوشت: تصور کنید در یک آزمون استخدامی آنلاین شرکت کرده اید. رزومه شما درخشان است، اما سیستم هوش مصنوعی شرکت، درخواست شما را رد می کند. وقتی برای پیگیری دلیل تماس می گیرید، کارشناس منابع انسانی می گوید: «سیستم امتیاز شما را پایین ارزیابی کرده است و من هم نمی دانم چرا». در دنیای حقیقی، انسان ها بر مبنای سوگیری ها، تعصبات و گاه شانس تصمیم می گیرند، اما در عصر الگوریتم ها، این تصمیمات به ماشینی سپرده شده که گمان می نماییم «بی طرف» و «دقیق» است.در سیزدهمین یادداشت این سلسله، از «جعبه سیاه الگوریتمی» و «مرگ حق دفاع» گفتیم و تاکید کردیم که شهروند دیجیتال، حق دارد بداند چه طور یک ماشین درباره ی آینده او تصمیم گرفته است. اما حال با یک پارادوکس جدی مواجهیم: اگر ما به آن «حق بر تبیین» دست یابیم و بفهمیم ماشین چه طور فکر می کند، اما متوجه شویم منطق درونی آن تبعیض آمیز است، چه باید کرد؟ اینجاست که «تبعیض الگوریتمی» بعنوان یک تهدید جدی برای امنیت ملی و اجتماعی ما وارد میدان می شود.چرا الگوریتم ها تبعیض آمیز می شوند؟ برای پاسخ، باید به سراغ کتلین اونیل، ریاضیدان و متخصص علم داده، برویم. وی در کتاب اثرگذار خود با عنوان «سلاح های کشتار ریاضی» استدلال می کند که الگوریتم ها لزوماً عینی نیستند؛ بلکه آنها «نظراتی هستند که در قالب کد پیاده سازی شده اند». الگوریتم ها با داده های تاریخی آموزش می بینند. اگر داده های گذشته ما آکنده از تبعیض جنسیتی، نژادی یا طبقاتی باشد، هوش مصنوعی این تبعیض ها را نه تنها یاد می گیرد، بلکه در مقیاسی میلیونها برابر، آنرا بازتولید و تثبیت می کند.ویرجینیا یوبانکس در «خودکارسازی نابرابری» نشان داده است که چه طور سیستم های الگوریتمی در خدمات عمومی، فقرا را بیشتر تنبیه می کنند و ثروتمندان را در امان نگه می دارند. صفیه نوبل هم در «الگوریتم های ستم» اثبات نموده است که موتور جستجوی گوگل، حتی وقتی کاربر به دنبال اطلاعاتی بی طرف است، کلیشه های نژادی و جنسیتی را بازتولید می کند. ما پیشتر در این سلسله از «حباب های فکری» و «امپریالیسم دیجیتال» گفتیم. حال درمی یابیم که استعمار داده، تنها غارت اطلاعات نیست؛ بلکه تحمیل یک «جهان بینی ریاضی شده» است.رژیم های الگوریتمی موجود، توسط شرکتهای فراملی و بر مبنای منطق «حداکثرسازی سود» و «کارایی» طراحی شده اند، نه بر مبنای منطق «عدالت». وقتی یک الگوریتم بومی تصمیم می گیرد از یک الگوریتم خارجی تقلید کند، به صورت ناخودآگاه، ارزش ها و سوگیری های آنرا هم وارد اکوسیستم خود می کند. به عنوان نمونه، یک سیستم رتبه بندی اعتباری که بر مبنای داده های کاربران آمریکایی آموزش دیده، امکان دارد یک شهروند ایرانی را که در یک محله با درآمد متوسط زندگی می کند، به اشتباه «پرخطر» تشخیص دهد؛ فقط به این علت که الگوریتم، بستر فرهنگی و اقتصادی آن محله را نمی شناسد.نظام های حقوقی و سیاستگذاری ما، هنوز ابزارهای ضروری جهت ممیزی این سوگیری ها را ندارند. اگر ما در سیاستگذاری فضای مجازی، به دنبال «حکمرانی فعال» و «شهرسازی دیجیتال» بر پایه ارزش های اسلامی هستیم، نباید اجازه دهیم که «عدالت» به یک شعار پوپولیستی تقلیل یابد. در اسلام، عدالت یک اصل بنیادین و یک حق شهروندی است. رهبر شهید انقلاب اسلامی (رضوان ا... تعالی علیه) همواره بر «عدالت» بعنوان یکی از شعارهای اصلی انقلاب تاکید داشته اند. اگر مقرر است فضای مجازی بر مبنای معارف اسلامی حکمرانی شود، «الگوریتم عدالت محور» باید به یک الزام نهادی و فنی تبدیل گردد.اگر در یادداشت سیزدهم، «شبکه ملی اطلاعات» را بعنوان زیرساخت سخت و «پلتفرم های بومی» را به مثابه زیست بوم نرم در مقابل نظام سلطه پلتفرمی معرفی کردیم، حال باید به لایه سوم و بنیادین حکمرانی، یعنی «معماری تنظیم گری» دقت کنیم. تحقق «الگوریتم عدالت محور» بدون یک نهاد تنظیم گر مستقل و دارای ابزارهای اجرائی، فقط یک آرمان خواهد بود. در این چارچوب، برای رفع خلأ موجود، لازم است با همکاری نهادهای تقنینی و با تاکید بر ظرفیتهای فقهی-حقوقی حوزه های علمیه، «چارچوب ملی ارزیابی عدالت الگوریتمی» تدوین و ابلاغ گردد.این چارچوب نهادی باید واجد سه مؤلفه عملیاتی باشد: نخست، استقرار نظام «ممیزی الگوریتمی» دوره ای برای شناسایی و پایش سوگیری های سیستماتیک در سامانه های هوشمند؛ دوم، الزام پلت فرم ها به «شفافیت داده محور» و افشای ترکیب داده های آموزشی که مبنای تصمیم گیری ماشین قرار می گیرند؛ و سوم، طراحی سازوکارهای حقوقی و قضایی برای «جبران خسارت» و احیای حق اعتراض شهروندانی که قربانی تبعیض های ریاضی شده در خدمات بانکی، بیمه ای یا استخدامی شده اند. بدون این معماری تنظیم گری، زیست بوم بومی ما هم در دام همان سوگیری های پلت فرم های فراملی گرفتار خواهد شد.توسعه «پلتفرم های بومی» هم باید بر پایه همین معیار باشد. این پلت فرم ها نباید فقط کپی برداری از نمونه های غربی باشند که در آنها، «اقتصاد خشم» و «توجه» موتور محرکه است؛ بلکه باید الگوریتم هایی را توسعه دهند که «عدالت، انصاف و کرامت انسانی» را در اولویت قرار می دهند. به عنوان نمونه، یک پلت فرم بومی که به جای «محتوای قطبی کننده»، محتوای «وحدت آفرین» و «آموزنده» را تقویت می کند، درحال تمرین «عدالت الگوریتمی» است.در جمع بندی، باید تاکید نماییم که «عدالت الگوریتمی» یک شعار آرمانی نیست، بلکه یک ضرورت امنیت ملی است. الگوریتمی که تبعیض می کند، نه تنها حقوق شهروندی را نقض می کند، بلکه مشروعیت حاکمیت را هم خدشه دار می سازد. اگر ما با تاکید بر «ترازوی عدالت» و زیرساخت های بومی، بتوانیم الگوریتم هایی طراحی نماییم که در خدمت «انسان» باشند، آن گاه می توانیم ادعا نماییم که «حکمرانی فعال» را در عصر پلت فرم ها محقق کرده ایم. اما در این بین، یک پرسش بنیادین دیگر وجود دارد: اگر الگوریتم ها عادلانه شوند، آیا هویت ما هم در این فضا محفوظ می ماند؟ در دنیایی که الگوریتم ها مدام ما را دسته بندی، پیشبینی و شکل می دهند، «من کیستم؟» این پرسشی است که در یادداشت بعدی با مبحث «هویت دیجیتال و شهروندی پلتفرمی» بدان خواهیم پرداخت؛ آیا ما در فضای مجازی، صاحب یک هویت مستقل می باشیم یا نسخه ای بازسازی شده از داده هایمان هستیم؟ منبع: ict-pars.ir 1405/08/25 12:02:29 5.0 / 5 3 تگهای خبر: آنلاین , آی سی , خدمات , دیجیتال این پست را می پسندید؟ (1) (0) X تازه ترین مطالب مرتبط روش کار اینستاگرام به زبان ساده راهنمای کامل استفاده از این شبکه اجتماعی توسعهٔ ارتباطات در گرو عبور از قیمت گذاری دستوری است مدیرعامل انویدیا استعفا کرد تاکید ایران و دفتر توسعه ارتباطات راه دورITU بر گسترش همکاری فناورانه نظرات بینندگان در مورد این پست لطفا شما هم در مورد این پست نظر بدید = ۱ بعلاوه ۵ ثبت نظر