کابوس هوش مصنوعی برای دموکراسی ها

به گزارش نازک نارنجی، روزنامه «اعتماد» نوشت: کارشناسان هشدار داده اند که انتخابات سال آینده در بریتانیا و ایالات متحده می تواند کاملا تحت تاثیر موج محتواهای دروغین تولید شده به وسیله هوش مصنوعی قرار گیرد. این محتواها می توانند شامل متن، تصویر، صدا و ویدیوهایی باشند که در ابعاد وسیع در شبکه های اجتماعی منتشر می شود و اطلاعاتی نادرست را درباره موضوعات خاص و چالش برانگیز به مخاطبان منتقل  می کند.
سم آلتمن، مدیرعامل شرکت OpenAI (شرکت سازنده چت بات هوش مصنوعی ChatGPT) هفته گذشته در یکی از نشست های استماع کنگره در این باره گفت که نسل جدید فناوری های هوش مصنوعی می تواند کاربران را گمراه کرده و به آنها اطلاعات غلط بدهد. به گفته او، «مدل های جدید این فناوری توانایی چشمگیری در اقناع یا انتقال اطلاعات نادرست در گفت وگوهای یک به یک دارند و این موضوع محل نگرانی جدی است.»

آلتمن برای رفع این نگرانی به قانونگذاران پیشنهاد داد که روش جدیدی را در قانونگذاری پیرامون فناوری های مبتنی بر هوش مصنوعی در پیش بگیرند: «در زمینه قانونگذاری باید هوشمندانه عمل کرد. لازم است مردم بدانند محتوایی که در اختیار آنها قرار می گیرد توسط مدل های هوش مصنوعی تولید شده یا منبع انسانی دارد. البته با توجه به رشد سریع فناوری های هوش مصنوعی لازم است که علاوه بر در پیش گرفتن سیاست های درست از سوی شرکت های سازنده، آموزش عمومی در این زمینه هم در دستور کار قرار بگیرد.»

ریشی سوناک، نخست وزیر بریتانیا روز پنجشنبه ۱۸ مه در این باره گفت که انگلستان در تلاش است تا در زمینه محدود کردن خطرات هوش مصنوعی پیشتاز باشد.

روزنامه گاردین نوشته است: نگرانی ها پیرامون اثرگذاری هوش مصنوعی زمانی تشدید شد که محصولات مبتنی بر هوش مصنوعی نظیر ChatGPT یا میدجرنی توانستند متن های قانع کننده و تصاویری باورپذیر ایجاد کنند. 
روزنامه نیویورک تایمز چندی قبل در گزارشی نوشته بود: هوش مصنوعی می تواند در فرآیندهای دموکراتیک جای انسان ها را بگیرد؛ نه از طریق رای دادن بلکه با اثرگذاری روی افکار عمومی و لابی گری. یک مدل هوش مصنوعی می تواند به طور اتوماتیک روی فرآیندهای اثرسنجی و نظرسنجی اثر بگذارد. این مدل ها قادرند برای سردبیران روزنامه های محلی نامه بنویسند و از آنها بخواهند که نگاه دیگری را در تولید و انتشار روزنامه دنبال کنند. این ربات ها می توانند روزانه میلیون ها بار در مورد مقالات خبری، پست های وبلاگ ها یا پست های رسانه های اجتماعی نظر بنویسند، می توانند ویدیوهایی کاملا ساختگی درباره افراد تولید کنند، می توانند ظرف چند ثانیه تصاویری دروغین ایجاد کنند.

به طور خلاصه، هوش مصنوعی می تواند کاری را که روس ها در سال ۲۰۱۶ با میلیون ها دلار بودجه و صدها کارمند موفق به انجام آن شدند، به تنهایی انجام دهد. در حال حاضر شبکه های اجتماعی نظیر فیس بوک، اینستاگرام یا توییتر راهکارهایی برای مقابله با اکانت های دروغین و فعالیت های مشکوک در شبکه های اجتماعی پیدا کرده اند، اما با توسعه یافتن فناوری های مبتنی بر هوش مصنوعی شرایط به کلی تغییر خواهد کرد و دیگر توییت های حاوی اطلاعات گمراه کننده یا حملات هماهنگ نیستند که شیوه اصلی اثرگذاری خواهند بود.

ناتان ای سندرز و بروس شینر در روزنامه نیویورک تایمز نوشته اند: مدل های هوش مصنوعی می توانند با استفاده از داده های بسیار زیادی که در اختیار دارند، به طور هدفمند برای برقراری ارتباط مستقیم، راه انداختن کارزارهای تاثیرگذاری بر افکار عمومی و تولید محتوای مرتبط مستقیما نقاط ضعف سیستم های سیاسی را هدف قرار دهند. در گذشته نه چندان دور، موج های پروپاگاندا بر پایه متن ها و پیام های از پیش نوشته شده یا گروهی از افراد که به آنها پول پرداخت شده بود بنا می شد، اما اکنون فناوری هایی نظیر ChatGPT دورنمای ایجاد یک موج تبلیغاتی دروغین به وسیله ربات ها را به کلی تغییر داده اند. احزاب و گروه ها می توانند مرتبا بر اساس یکسری داده اولیه علیه رقبای شان محتوای جدید تولید کنند و به طور همزمان هزاران حساب کاربری در شبکه های اجتماعی محتوای تولید شده از سوی مدل های هوش مصنوعی را منتشر و درباره آنها صحبت کنند.

پروفسور مایکل وولدریج، مدیر بنیاد تحقیقات هوش مصنوعی در موسسه آلن تورینگ بریتانیا می گوید: «مهم ترین نگرانی من درباره هوش مصنوعی توانایی محصولات مبتنی بر این فناوری در تولید اطلاعات دروغین است. این نگرانی برای ما در رده نخست است. ما انتخابات سرنوشت ساز بریتانیا و ایالات متحده را در سال آینده در پیش داریم و می دانیم که شبکه های اجتماعی به شدت مستعد انتشار اطلاعات دروغین هستند. در گذشته هم اطلاعات دروغین به وفور وجود داشت، اما مساله این است که هوش مصنوعی می تواند در ابعاد صنعتی این اطلاعات دروغین را تولید و منتشر کند.» مایکل وولدریج می افزاید: «دیگر نیازی به استخدام تعداد زیادی انسان و پرداخت پولی هنگفت نیست و کافی است یک نفر با تجربه اندک از برنامه نویسی در طول یک بعدازظهر هویت های متعدد دروغینی را تولید کند که راجع به طیف گسترده ای از مسائل اظهارنظر دروغین می کنند.»

اخیرا نمونه های زیادی از محتواهای تولید شده از سوی هوش مصنوعی به بیشتر شدن این نگرانی ها دامن زده اند. در ماه مارس، تصاویری ساختگی از بازداشت دونالد ترامپ، رییس جمهور پیشین ایالات متحده در نیویورک و کشیده شدن او روی زمین توسط نیروهای پلیس منتشر شد. اندکی بعد تصاویر پاپ فرانسیس، رهبر کاتولیک های جهان با لباس ورزشی در شبکه های اجتماعی فراگیر شد و سپس نوبت به یک ویدیو از جو بایدن رسید که با هوش مصنوعی تغییر کند و اظهارات او در خصوص ارسال تانک به اوکراین برای مبارزه با روسیه به ارسال تانک برای مبارزه با ترنسجندرها تبدیل شود.

برخی تحلیلگران می گویند همان گونه که در گذشته از فتوشاپ به عنوان یک ابزار جدید برای دستکاری تصاویر رونمایی شد، تصاویر ساختگی زیادی به وسیله این نرم افزار ساخته شدند و مردم دریافتند که باید با تردید به برخی تصاویر و احتمال ساختگی بودن آنها نگاه کنند، در خصوص هوش مصنوعی هم همین اتفاق خواهد افتاد، اما برخی دیگر تاکید دارند فرآیند آگاه شدن عموم مردم به زمان زیادی نیاز دارد و تا آن زمان تحولات زیادی ممکن است اتفاق بیفتد.

الکساندر لزلی، تحلیلگر موسسه «ریکوردد فیوچر» هشدار می دهد که تکنولوژی های اینچنینی به ویژه تکنولوژی صداسازی در آینده و تا زمان انتخابات پیشرفت های زیادی خواهند داشت و ممکن است از سوی افراد و گروه ها برای تولید محتواهای دروغین با هدف تاثیرگذاری در انتخابات به کار گرفته شوند. او معتقد است: «بدون آموزش گسترده و افزایش آگاهی عمومی با یک تهدید جدی مواجه خواهیم بود.»

نتایج یک پژوهش جدید از سوی نیوگارد، یک موسسه امریکایی درباره انتشار اطلاعات دروغین نشان می دهد که آخرین نسخه منتشر شده ChatGPT زمانی که از آن خواسته می شود با استفاده از درونمایه ۱۳۰۰ خبر دروغ منتشر شده در فضای اینترنت، ۱۰۰ خبر دروغین جدید تولید کند، می تواند به خوبی هر ۱۰۰ نمونه را به وجود بیاورد، اما گوگل بارد، چت بات جدید گوگل در این زمینه ضعیف تر است و در پاسخ به درخواست مشابه می تواند ۷۶ روایت دروغ تولید کند.

در گذشته نه چندان دور، موج های پروپاگاندا بر پایه متن ها و پیام های از پیش نوشته شده یا گروهی از افراد که به آنها پول پرداخت شده بود، بنا می شد اما اکنون فناوری هایی نظیر ChatGPT دورنمای ایجاد یک موج تبلیغاتی دروغین به وسیله ربات ها را به کلی تغییر داده اند.

اخیرا نمونه های زیادی از محتواهای تولید شده از سوی هوش مصنوعی به بیشتر شدن این نگرانی ها دامن زده اند. در ماه مارس، تصاویری ساختگی از بازداشت دونالد ترامپ، رییس جمهور پیشین ایالات متحده در نیویورک و کشیده شدن او روی زمین توسط نیروهای پلیس منتشر شد. اندکی بعد تصاویر پاپ فرانسیس، رهبر کاتولیک های جهان با لباس ورزشی در شبکه های اجتماعی فراگیر شد و سپس نوبت به یک ویدیو از جو بایدن رسید که با هوش مصنوعی تغییر کند و اظهارات او در خصوص ارسال تانک به اوکراین برای مبارزه با روسیه به ارسال تانک برای مبارزه با ترنسجندرها تبدیل شود.

انتهای پیام