شورش روبات ها از فیلم های علمی تخیلی تا واقعیت پیش رو
پارس آی سی تی: گسترش سیستم های خودکار هوش مصنوعی در زیرساخت های حیاتی سبب شده سناریوهایی که روزگاری تنها در فیلمهای علمی تخیلی دیده می شدند، حال بعنوان مسایل واقعی عالم سیاستگذاری مطرح شوند.
به گزارش پارس آی سی تی به نقل از مهر؛ رشد شتابان هوش مصنوعی و گسترش سیستم های خودکار در زیرساخت های حیاتی سبب شده سناریوهایی که روزگاری تنها در فیلم های علمی تخیلی دیده می شدند، حالا به عنوان مسایل واقعی عالم سیاستگذاری مطرح شوند. آن چه زمانی صرفا یک تصویر آینده نگرانه به نظر می رسید، امروز به یک چالش حکمرانی برای دولت ها، نهادهای امنیتی و بنگاه های اقتصادی تبدیل گشته است. در حقیقت، هرچه وابستگی جوامع به سامانه های هوشمند بیشتر می شود، مرکز ثقل صدمه پذیری ملی هم از زیرساخت های سنتی به زیرساخت های دیجیتال و خودکار منتقل می گردد. این یعنی اختلال در یک سامانه هوشمند در ظاهر کوچک، مانند نرم افزار کنترل یک پهپاد انبارداری یا دستگاه حمل و نقل عمومی، می تواند بصورت زنجیره وار به بحران های گسترده تری در مقیاس شهری یا حتی ملی منجر شود. گزارش اخیر اندیشکده رند تحت عنوان «شورش روبات ها: ارزیابی راهبردی دستاوردهای یک حمله سایبری مبتنی بر عوامل هوشمند خودمختار» به دقت نشان داده است که اگر روزی هوش مصنوعی یا مجموعه ای از عامل های هوشمند بصورت مستقل اقدام به ایجاد اختلال در زیرساخت ها کند، چه پیامدهایی برای اقتصاد، امنیت ملی و ثبات اجتماعی کشورها خواهد داشت. این گزارش اخطار می دهد که مساله تنها اهداف حمله نیست؛ بلکه حتی رفتارهای غیرقابل پیش بینی یا تکثیر خودبه خودی عامل های هوشمند می تواند در لحظه، ساختار خدمات حیاتی مانند حمل و نقل، انرژی، پزشکی و خدمات شهری را مختل کند. نویسندگان این گزارش با اجرای مجموعه ای از شبیه سازی های مبتنی بر یک سناریوی فرضی، کوشیده اند بفهمند دولت ها در رویارویی با یک حادثه واقعی چه تصمیم هایی خواهند گرفت. این شبیه سازی ها به شکلی طراحی شده اند که شرایطی کاملا شبیه حقیقت را بازنمایی کنند؛ جایی که تصمیم گیرندگان باید بدون فرصت پژوهش طولانی و در وضعیت فشار روانی و اطلاعات ناقص، درباره ی امنیت ملی تصمیم گیری کنند. در سناریوی بررسی شده، بحران با اختلال گسترده در خودرو های خودران، پهپادها، خطوط تولید هوشمند و سیستم های کنترل برق و آب شروع می شود و به سرعت ابعاد جهانی پیدا می کند؛ چونکه خیلی از این سامانه ها نه تنها در هم پیوسته اند، بلکه بر بستر شبکه های مشترک جهانی عمل می کنند.
وقتی مرز میان کنترل و خودمختاری محو می شود
در سالهای اخیر سیستم های هوشمند از خودرو های خودران و انبارهای رباتیک گرفته تا تحلیل های پزشکی، پایش ترافیک، لجستیک زنجیره تأمین و مدیریت نیروگاه ها، جای خودرا به سرعت در زندگی روزمره باز کرده اند. این سامانه ها به سبب سرعت، دقت و کاهش هزینه ها، به عنوان ارکان جدید زیرساخت جهانی پذیرفته شده اند. اما همین وابستگی گسترده یک نقطه صدمه اساسی را هم آشکار می کند. به همین دلیل هرچه زندگی و اقتصاد بیشتر به الگوریتم ها و شبکه های متصل تکیه کند، احتمال بروز اختلالات گسترده هم افزایش خواهد یافت. پرسش کلیدی اینجاست که اگر یکی از این سیستم ها حتی نه بصورت آگاهانه، بلکه بصورت خطای شبکه ای یا الگوریتمی از مسیر کنترل بیرون برود، چه اتفاقی رخ خواهد داد؟ گزارش رند نشان داده است که حتی بدون ظهور یک ابر هوش مصنوعی قدرتمند، مجموعه ای از عامل های هوشمند با سطح متوسط که در سامانه های شهری و صنعتی حضور دارند، می توانند در صورت بروز اختلال، پیامدهایی در سطح بحران های ملی ایجاد کنند. در چنین شرایطی، احتیاجی به نیت خصمانه یا آگاهی نیست؛ تنها کافی است الگوریتم ها بصورت خودکار از یکدیگر یاد بگیرند، یک رفتار خطا را تکثیر و بصورت شبکه ای در هزاران دستگاه و سرویس تکرار کنند. در چنین حالتی، یک خطای کوچک می تواند به سرعت به اختلال در حمل و نقل، انرژی، بیمارستان ها و خدمات عمومی گسترش یابد؛ چونکه معماری امنیتی موجود برای چنین سطحی از خودمختاری طراحی نشده است.
مرور سناریو: آغاز بحران از یک حمله نامشخص
در شبیه سازی صورت گرفته، بحران از یک حمله سایبری گسترده آغاز می شود؛ حمله ای که در ابتدا همچون یک اختلال فنی غیرمنتظره به نظر می آید اما به سرعت ابعاد انسانی و زیرساختی پیدا می کند. در لس آنجلس، خودرو های خودران بدون فرمان انسانی از مسیر خارج می شوند و این حادثه به جان باختن ۲۶ نفر منجر می شود. هم زمان، پهپادهای تجاری و صنعتی که اهمیت بالای ی در حمل و نقل و نظارت شهری دارند رفتاری غیرقابل پیش بینی از خود نشان می دهند؛ گویی منبع فرمان دهی آنها گرفتار تغییر شده است. در چند ایالت آمریکا، شبکه های آب و برق با اختلال های ناگهانی مواجه می شوند؛ خاموشی های پراکنده، بی نظمی در توزیع انرژی و کاهش دسترسی به آب شهری، فشار روانی گسترده ای را بر جامعه وارد می نماید. به مرور مشخص می شود که این اتفاقات محدود به یک کشور نیست و سیستم های مشابه در کشورهای دیگر هم گرفتار مشکل شده اند و این مورد نشان داده است بحران ماهیتی جهانی دارد. در این مرحله، بزرگ ترین ابهام تصمیم گیرندگان اینست که منشأ حمله کجاست؟ آیا این شرایط نتیجه اقدام یک دولت رقیب طرف است؟ یا گروهی تروریستی با توانایی های پیشرفته سایبری چنین وضعیتی را رقم زده است؟ یا شاید یک نقص فنی گسترده و سیستماتیک در شبکه های هوشمند منجر به اختلال مذکور شده است؟ این تردید تصمیم گیری را سخت و احتمال واکنش اشتباه را زیاد می کند. اما در ادامه و در مرحله دوم سناریو، مشخص می شود که منشأ این حملات و اختلال ها نه یک دولت یا گروه انسانی، بلکه شبکه ای از عامل های هوش مصنوعی خودمختار است که از چرخه کنترل خارج شده اند و بصورت مستقل در زیرساخت ها نفوذ و عمل می کنند.
چالش اصلی: مشکل انتساب مسئولیت حمله
مهم ترین مساله سیاست گذاران در این سناریو، لحظه ای است که باید تصمیم بگیرند با چه نوع تهدیدی مواجهند. قبل از هر واکنش نظامی، اعلام موضع سیاسی یا اجرای عملیات سایبری، لازم است منبع حمله با دقت و اطمینان مشخص شود. چونکه هر سناریو، پیامدها و راهبردهای کاملا متفاوتی را به دنبال دارد و اشتباه در تشخیص، می تواند بحران را نه تنها حل نکند بلکه آنرا وارد مرحله ای خطرناک تر نماید. اگر شواهد نشان دهد که یک دولت خارجی این حمله را هدایت کرده است، ماجرا در سطح تقابل بین المللی قرار می گیرد؛ جایی که بازدارندگی، تهدید متقابل یا حتی بسیج توان دفاعی و دیپلماسی بحران فعال می شود؛ اما اگر مشخص شود که یک گروه تروریستی یا شبکه جنایی عامل ماجرا است، اولویت سیاستگذاری به سوی همکاری امنیتی و اطلاعاتی منطقه ای و جهانی می رود؛ جایی که تبادل داده، عملیات مشترک و مهار شبکه تأمین مالی و لجستیکی گروه مهاجم اهمیت پیدا می کند. با پذیرش فرض سوم و در صورتیکه حمله ازطریق یک عامل هوشمند خودمختار انجام شده باشد، ماهیت بحران به کلی تغییر می کند. در این حالت دشمن، انسان یا یک سازمان دارای ساختار و منافع معلوم نیست. این یعنی نمی توان با تهدید، تحریم، مذاکره یا عملیات نظامی به رویارویی با بحران رفت. بلکه لازم است تمرکز بر مهار دیجیتال عامل های هوشمند، شامل شناسایی شبکه نفوذ شده، قطع دسترسی سیستم های آلوده، بازگردانی کنترل به انسان و بازطراحی لایه های امنیتی زیرساخت معطوف شود. این وضعیت مستلزم هماهنگی فوری میان دولت، لابراتوار های هوش مصنوعی، شرکت های ارایه کننده خدمات ابری و اپراتورهای زیرساختی است. بنابراین، بدون تعیین دقیق منشأ حمله، هر اقدام شتاب زده امنیتی نه تنها امکان دارد بی اثر باشد، بلکه می تواند به تشدید بحران، ایجاد سوء برداشت بین المللی یا حتی درگیری های پیش بینی نشده منجر شود.
زیرساخت ها بیش از اندازه به هم متصل و صدمه پذیر هستند
طبق نتایج اندیشکده رند، مساله اصلی تنها هوش مصنوعی پیشرفته نیست؛ بلکه زیرساخت های حیاتی ما آن قدر به شبکه های هوشمند متصل شده اند که یک اختلال واحد می تواند به سرعت در اقتصاد، خدمات عمومی و امنیت شهری گسترش یابد. بدین سبب کشورها باید بجای تکیه کامل بر زیرساخت های متصل و خودکار، لایه های موازی و مقاوم ایجاد کنند. به این معنا که در کنار سامانه های دیجیتال، نسخه های آفلاین و مستقل از شبکه هم در دسترس باشد؛ نسخه هایی که در صورت بروز اختلال می توانند ادامه خدمات حیاتی را تضمین کنند. این نسخه های پشتیبان نباید صرفا آرشیوی باشند، بلکه باید بصورت دوره ای آزمایش شوند تا در لحظه بحران به سرعت قابلیت عملیاتی بیابند. در کنار این موضوع، طراحی سیستم های کنترلی با قابلیت قطع اضطراری فیزیکی اهمیت حیاتی دارد. یعنی اپراتور انسانی بتواند بدون وابستگی به شبکه، فرمان توقف، تغییر وضعیت یا ایزوله سازی را چه در نیروگاه و شبکه برق، چه در خودرو های خودران یا خطوط تولید صنعتی اجرا نماید. این برگشت سریع به کنترل انسانی باید بخشی ساختاری از معماری امنیتی باشد. همچنین، باید به این مورد عنایت داشت که هیچ حکمرانی مؤثری در مقابل چنین بحران هایی بدون هم افزایی میان دولت و بخش خصوصی قابل تحقق نیست. چونکه بخش قابل توجهی از زیرساخت های هوشمند و پلت فرم ها در اختیار شرکت ها قرار دارند. از همین روی، لازم است چارچوب های مشخصی برای تبادل داده، واکنش مشترک در وضعیت اضطراری، رویه های اطلاع رسانی سریع و سازوکار تصمیم گیری هماهنگ تعریف شود؛ سازوکاری که هم امنیت ملی را ضمانت کند و هم مانع از ایجاد اختلال غیرضروری در اقتصاد و خدمات عمومی گردد.
آینده متعلق به هوش مصنوعی است، اما انسان باید فرمان دهد
این گزارش سناریوی «شورش روبات ها» را نه به عنوان یک تصویر علمی تخیلی، بلکه به عنوان هشداری عملی عرضه می کند؛ زنگ خطری درباره ی واقعیتی که آرام و بصورت تدریجی درحال رخ دادن است. هرچه هوش مصنوعی بیشتر در بافت زیرساخت ها، خدمات عمومی و تصمیم گیری های روزمره نفوذ کند، مرز میان کنترل انسانی و خودکار بودن سیستم ها باریک تر و شکننده تر می شود. این گزارش به ما یادآوری می کند که خطر اصلی الزاماً از دشمنی یا شورش عامدانه ماشین ها ناشی نمی گردد، بلکه از لحظه ای است که سیستم ها دیگر دقیقاً آن طور که طراحی شده اند، عمل نمی کنند. به بیان دیگر، مبحث این نیست که روبات ها بخواهند جای انسان را بگیرند یا ضد او اقدامی آگاهانه انجام دهند؛ بلکه مساله اینست که معماری پیچیده و به هم پیوسته زیرساخت های هوشمند امکان دارد در وضعیت غیرمنتظره، رفتاری فراتر از مدل سازی و نظارت انسانی بروز دهد. وقتی الگوریتم ها بصورت شبکه ای یاد می گیرند و تکامل می یابند، پیش بینی پذیری آنها به همان اندازه کاسته می شود.
به طور خلاصه آیا این شرایط نتیجه اقدام یک دولت رقیب طرف است؟ در این حالت دشمن، انسان یا یک سازمان دارای ساختار و منافع مشخص نیست. همچنین، باید به این مورد عنایت داشت که هیچ حکمرانی مؤثری در مقابل چنین بحران هایی بدون هم افزایی میان دولت و بخش خصوصی قابل تحقق نیست.
این پست را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این پست