نقش فناوری در دفاع از حقیقت هوش مصنوعی چه طور راستی آزمایی می کند
پارس آی سی تی: در دنیای امروز که اخبار در کسری از ثانیه در سرتاسر جهان گردش می یابند، تکنولوژی های جدید و به طور دقیقتر هوش مصنوعی، به عنوان پاسخی فناورانه به این چالش مطرح می شوند.
به گزارش پارس آی سی تی به نقل از مهر؛ سرعت گردش اطلاعات بخصوص در بستر شبکه های اجتماعی، سبب شده که انتشار شایعه یا اخبار جعلی بتواند در مدت زمانی بسیار کوتاه، آثار جدی اجتماعی، سیاسی یا امنیتی به جا بگذارد. این شرایط بخصوص در مواقع بروز بحران های سیاسی و اجتماعی چون تجاوز رژیم اشغالگر قدس به زیرساخت های حیاتی و مناطق غیرنظامی جمهوری اسلامی ایران، برای مخاطبان و کاربران اهمیتی دوچندان می یابد. دراین میان، تکنولوژی های جدید و بطور دقیق تر هوش مصنوعی، بعنوان پاسخی فناورانه به این چالش مطرح می شوند. هوش مصنوعی حالا دیگر صرفا یک ابزار تحقیقاتی یا دانشگاهی نیست، بلکه در خط مقدم مواجهه با موج های انتشار گسترده اطلاعات نادرست ایستاده است. این فناوری با توانایی تحلیل خودکار حجم عظیمی از داده ها، شناسایی الگوهای زبانی، تشخیص چهره و صدا و مقایسه سریع داده ها با پایگاه های اطلاعاتی معتبر، این امکان را فراهم می آورد که راستی آزمایی اخبار با سرعت و دقتی فراتر از توان انسان صورت گیرد. مهر در این نوشتار کوتاه، ضمن بررسی عملکرد و قابلیت های فعلی هوش مصنوعی در مواجهه با پدیده اخبار جعلی، به بعضی از تجربه های موفق بین المللی در این حوزه اشاره خواهد نمود و در ادامه به بررسی لزوم پیاده سازی کاربردهای فناوری مذکور در حوزه مواجهه با اخبار جعلی می پردازد.
نقش چندوجهی هوش مصنوعی در راستی آزمایی محتوا
به عقیده کارشناسان، هوش مصنوعی با استفاده از الگوریتم های پردازش زبان طبیعی، یادگیری ماشین و تحلیل چندرسانه ای، چهار نقش اساسی در فرآیند راستی آزمایی ایفا می کند: استخراج هوشمند اطلاعات مشکوک از حجم عظیم داده ها تحلیل محتوایی و ارزیابی اعتبار ادعاها و منابع مقایسه خودکار داده ها با پایگاه های معتبر و تحلیل آنها رصد جریان های هماهنگ اطلاعات نادرست این سامانه ها با بررسی ساختار زبانی، اعتبار نویسندگان، سوابق منابع خبری و حتی خصوصیت های صوتی و تصویری محتوا، الگوهای ناهنجار و نشانه های دروغ پردازی را شناسایی کرده و هشدارهای اولیه جهت بررسی انسانی صادر می کنند. تحلیل هم زمان متن، صوت و تصویر و تطبیق میان زبانی، بخصوص در مواجهه با عملیات روانی فرامرزی، نقشی حیاتی دارد.
تجربه های بین المللی از پیوند فناوری و حقیقت سنجی
برنامه هایی چون پروژه «AI۴TRUST» که با حمایت اتحادیه اروپا توسعه یافته، نمونه ای پیشرو در بهره برداری تلفیقی از هوش مصنوعی و تحلیل انسانی بحساب می آید. این سامانه شبکه های اجتماعی را به شکل لحظه ای پایش می کند و با تحلیل محتوای چندزبانه، موارد دارای ریسک بالای اطلاعات نادرست را علامت گذاری می نماید. خروجی این تحلیل ها در چارچوب شاخص هایی همچون «ریسک اپیدمی اطلاعاتی»، ابزار تصمیم گیری مفیدی برای روزنامه نگاران و سیاست گذاران فراهم می سازد. همینطور در بریتانیا، سازمان «Full Fact» از هوش مصنوعی برای پوشش وسیع تر منابع خبری، همچون رسانه های آنلاین، شبکه های اجتماعی و برنامه های تلویزیونی بهره می برد. این فناوری به تیم های حقیقت سنج کمک می نماید تا ادعاهای مهم، پرتکرار و قابل بررسی را در اولویت قرار دهند. با این وجود، تصمیم گیری نهائی همچنان بر عهده تحلیلگران انسانی باقی می ماند.
از تشخیص دروغ تا مداخله زودهنگام
یافته های علمی جدید پژوهشی پیشگامانه در دانشگاه کالیفرنیا سن دیگو نشان داده است که الگوریتم های یادگیری ماشین در تشخیص رفتار فریبکارانه به مراتب دقیق تر و قابل اعتمادتر از انسان ها عمل می کنند. این مطالعه با تمرکز بر تحلیل برنامه تلویزیونی «Golden Balls»، یک شوی رقابتی بریتانیایی با موقعیت های استراتژیک فریب و همکاری، صورت گرفته است. محققان دریافتند که الگوریتم های طراحی شده با دقتی معادل ۷۴ درصد می توانند نیت واقعی شرکت کنندگان را در موقعیت های کلیدی تشخیص دهند، در حالیکه بیشتر از ۶۰۰ شرکت کننده انسانی در این آزمایش، تنها به دقتی بین ۵۱ تا ۵۳ درصد دست پیدا کردند. این یافته ها از آن حکایت می کند که ماشین ها می توانند الگوهای رفتاری، لحن کلام، میمیک صورت و حتی شاخصهای عاطفی مانند شادی یا اضطراب را به شکل دقیق تر تحلیل کرده و ارتباط آنها با دروغ گویی یا صداقت را شناسایی نمایند. به قول مارتا سرا گارسیا، نویسنده اصلی این تحقیق، الگوریتم ها قادرند نشانه هایی را که برای انسان ها غیرقابل تشخیص هستند، بعنوان نشانه های رفتاری فریب استخراج کنند. همچنین، نتایج آزمایش ها نشان داد که زمان بندی عرضه اخطار الگوریتمی نقش تعیین کننده ای در اعتماد کاربران دارد. بطور دقیق تر، زمانیکه کاربران قبل از مشاهده محتوا با اخطار احتمالی دروغ گویی مواجه می شوند، تحلیل گری آنها تقویت شده و احتمال پذیرش بی قید و شرط محتوای گمراه کننده کاسته می شود. این یافته اهمیت بالایی برای پلت فرم های دیجیتال دارد. پلت فرم هایی نظیر یوتیوب، تیک تاک و اینستاگرام که به شکل لحظه ای حجم انبوهی از محتوای تولیدشده توسط کاربران را میزبانی می کنند، می توانند با طراحی نظام های اخطار پیشگیرانه، از گسترش اطلاعات نادرست قبل از تثبیت در فضای عمومی جلوگیری نمایند.
راستی آزمایی دیجیتال؛ زیرساختی برای امنیت شناختی
در عصری که جنگ های شناختی جایگزین جنگ های متعارف شده اند، تقویت زیرساخت های پدافند غیرعامل شناختی اهمیت مضاعفی یافته است. در چنین شرایطی، هوش مصنوعی می تواند نقش یک سپر دیجیتال را در دفاع از امنیت ملی ایفا کند و از ساختارهای اجتماعی و روانی کشور در مقابل تهاجم اطلاعات نادرست محافظت نماید. از همین روی، توسعه سامانه های بومی با توانایی تحلیل محتوا به زبان های فارسی، عربی، عبری و انگلیسی و اتصال آنها به مراکز فرماندهی رسانه ای و امنیتی، از الزامات راهبردی دفاع شناختی جمهوری اسلامی ایران بحساب می آید.
جمع بندی: پیوند فناوری، سیاست و آگاهی عمومی
هوش مصنوعی، در صورتیکه با رعایت اصول اخلاقی، شفافیت الگوریتمی و احترام به حریم خصوصی به کار گرفته شود، می تواند به یکی از مهم ترین ابزارهای مواجهه با اخبار جعلی و اطلاعات نادرست تبدیل شود؛ اما نباید فراموش کرد که این فناوری، به تنهایی قادر به حل بحران اطلاعات نخواهد بود. آنچه کارآمدی واقعی هوش مصنوعی را تضمین می نماید، هم افزایی آن با سیاستگذاری هوشمند، فرهنگ عمومی مسئولانه و توسعه آموزش های فراگیر در حوزه سواد رسانه ای است. بی گمان در وهله نخست، بدون وجود سیاستگذاری کلان در سطح دولت ها و نهادهای تنظیم گر، چارچوب استفاده از الگوریتم ها روشن نخواهد بود. همینطور ارتقا سواد رسانه ای شهروندان، بخصوص در سنین پایین، شرطی ضروری برای تقویت مصونیت اجتماعی در مقابل اطلاعات جعلی است. جامعه ای که ابزارهای شناخت حقیقت را نشناسد، حتی با دقیق ترین الگوریتم ها نیز در مقابل جنگ روانی صدمه پذیر خواهد ماند. از طرفی، فرهنگ مسئولیت پذیری در بازنشر محتوا باید به یک ارزش نهادینه میان کاربران تبدیل گردد. کاربران شبکه های اجتماعی باید بدانند که مشارکت آنها در بازنشر اخبار نادرست، نه تنها یک اشتباه فردی، بلکه یک صدمه اجتماعی بالقوه است. ایجاد چنین درکی، مستلزم تلاش مستمر در حوزه آموزش عمومی، رسانه ها و فضای مجازی است. در نهایت، گویی جنگ آینده، جنگ روایت هاست؛ جنگی که در آن خطوط مقدم، مرزهای جغرافیایی نیست، بلکه ذهن و باور مردم است و در این میدان، حقیقت برای بقا بیشتر از هر زمان دیگر به مخاطبانی هوشمند، مجهز و آگاه نیاز دارد. از همین روی، ترکیب فناوری، حکمرانی داده، سواد عمومی و مسئولیت پذیری رسانه ای، تنها مسیر دفاع پایدار در مقابل امواج سهمگین اطلاعات نادرست خواهد بود.
این پست را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این پست