گزارش پارسی كاو؛
تاثیر محتوای جعلی مبتنی بر هوش مصنوعی بر انتخابات
پارسی کاو: به عقیده خیلی از کارشناسان، در وضعیت فعلی، محتوای جعلی مبتنی بر هوش مصنوعی یکی از بزرگ ترین تهدیدات برای دموکراسی و انتخابات سالم محسوب می شود.
به گزارش پارسی کاو به نقل از مهر؛ در سالهای اخیر، توسعه و پیشرفت هوش مصنوعی بخصوص در عرصه تولید محتوا، فرصت ها و چالش های جدیدی را برای جوامع به دنبال داشته است. یکی از مهم ترین نگرانی ها در این حوزه، مساله تولید محتوای جعلی یا دیپ فیک (Deepfake) است. محتوای جعلی مبتنی بر هوش مصنوعی می تواند شامل تصاویر، ویدیوها، و حتی متن های ساخته شده توسط ماشین باشد؛ محتوایی که بگونه ای طراحی شده اند تا واقعی به نظر برسند و مخاطبان را به اشتباه بیاندازند. این پدیده جدید، توانایی ها و قدرت های بی سابقه ای به دست افراد و گروه هایی داده است که قصد دارند از اطلاعات نادرست و گمراه کننده برای اهداف خود استفاده نمایند. تاثیر این نوع محتوا در زمینه های مختلف جامعه بخصوص در حوزه انتخابات بسیار چشم گیر و نگران کننده است. انتخابات، بعنوان یکی از بنیادی ترین ارکان دموکراسی، نیازمند اعتماد عمومی و اطلاعات صحیح است. فرایند انتخاباتی که بر اساس اطلاعات نادرست و جعلی صورت گیرد، می تواند به تضعیف اصول دموکراتیک و اعتماد عمومی منجر گردد. محتوای جعلی می تواند به سادگی شخصیت ها و وقایع را تحریف کرده و با القای اطلاعات نادرست، رای دهندگان را به تصمیم گیری های اشتباه وادار کند. یکی از خطرات جدی در این حوزه، استفاده از دیپ فیک ها برای تخریب شخصیت های سیاسی است. با تشکیل ویدیوها و صداهای جعلی که به نظر می آید از زبان نامزدهای انتخاباتی یا شخصیت های سیاسی انتشار یافته اند، میتوان به سادگی اعتبار آنها را زیر سوال برد و افکار عمومی را منحرف کرد. این مورد نه تنها منجر به ایجاد سردرگمی در بین رای دهندگان می شود، بلکه می تواند اعتماد عمومی به فرآیندهای انتخاباتی را هم بشدت کم کند. علاوه بر این، استفاده از محتوای جعلی برای تقویت کمپین های اطلاعات غلط و پراکنده کردن شایعات هم از دیگر مشکلات جدی است. در دنیای امروز که شبکه های اجتماعی به سرعت اطلاعات را منتشر می کنند، این گونه محتواها می توانند به سرعت و بدون امکان کنترل، در بین میلیونها نفر گسترش یابند. این مساله به نوبه خود، به ایجاد یک فضای پر از اطلاعات نادرست و گمراه کننده منجر می شود که رای دهندگان را از دسترسی به حقایق محروم می کند. در این گزارش بمناسبت نزدیک شدن به ایام برگزاری چهاردهمین دوره انتخابات ریاست جمهوری ایران، به بررسی ابعاد مختلف تاثیر محتوای جعلی مبتنی بر هوش مصنوعی بر انتخابات خواهیم پرداخت. با توجه به پیچیدگی و اهمیت این مساله، نیاز است که همه افراد و نهادهای مرتبط به تلاشهای مشترکی برای مقابله با این تهدیدات بپردازند و با تشکیل سازوکارهای مناسب، از صحت و سلامت فرآیندهای انتخاباتی محافظت کنند. تأثیر محتوای جعلی مبتنی بر هوش مصنوعی بر انتخابات ۱. تضعیف اعتماد عمومی اعتماد عمومی بعنوان یکی از مهم ترین ارکان دموکراسی، زمانیکه در معرض اطلاعات نادرست و جعلی قرار گیرد، بشدت صدمه می بیند. محتوای جعلی می تواند تصویر نامزدهای انتخاباتی و سیاستمداران را تغییر داده و با انتشار اطلاعات گمراه کننده، رای دهندگان را نسبت به صحت و سلامت انتخابات گرفتار تردید کند. این تضعیف اعتماد امکان دارد به کاهش مشارکت عمومی در انتخابات منجر شود، چون که شهروندان امکان دارد احساس کنند که رای آنها تأثیری نخواهد داشت و انتخابات تحت تاثیر اطلاعات نادرست برگزار می گردد. ۲. ایجاد سردرگمی اطلاعاتی در عصر اطلاعات، دستیابی به اخبار و اطلاعات دقیق و صحیح اهمیت زیادی دارد. اما محتوای جعلی مبتنی بر هوش مصنوعی می تواند به سرعت در شبکه های اجتماعی و سایر بسترهای ارتباطی گسترش یابد و فضای اطلاعاتی را آلوده کند. این امر سبب می شود که رای دهندگان در تشخیص حقیقت از دروغ گرفتار مشکل شوند و نتوانند تصمیم گیری های آگاهانه ای انجام دهند. این سردرگمی اطلاعاتی می تواند به نفع افرادی تمام شود که قصد دارند با انتشار اطلاعات نادرست، افکار عمومی را به سمت خاصی هدایت کنند. ۳. تقویت کمپین های اخبار جعلی کمپین های اخبار جعلی همواره یکی از ابزارهای مؤثر در جنگ های اطلاعاتی بوده اند. با ظهور هوش مصنوعی و قابلیت های پیشرفته ای که این فناوری در تولید محتوای جعلی دارد، این کمپین ها به سطح جدیدی از تأثیرگذاری رسیده اند. دیپ فیک ها می توانند به ایجاد و تقویت شایعات و اطلاعات نادرست کمک کنند و این اطلاعات به سرعت در فضای مجازی انتشار یافته و بر افکار عمومی تاثیر بگذارند. این کمپین ها می توانند به تخریب شخصیت های سیاسی، تغییر نتایج انتخابات، و ایجاد تفرقه در بین مردم منجر شوند. هوش مصنوعی، معضلی برای سلامت انتخابات در آمریکا طبق گزارش های انتشار یافته طی دو سال گذشته، با داغ شدن تنور انتخابات ۲۰۲۴ آمریکا، استفاده از فناوری دیپ فیک بشکلی نگران کننده افزایش پیدا کرده و به لطف فناوری های جدید، تولید تصاویر جعلی آسان تر از همیشه شده است. وبگاه خبری نیویورک تایمز، طی گزارش در تاریخ ۸ ژوئن ۲۰۲۳، ادعا نمود که کمپین ران دیسانتیس، فرماندار ایالت فلوریدای آمریکا و نامزد انتخابات ریاست جمهوری این کشور، با انتشار تصاویر جعلی از دونالد ترامپ در توئیتر، به او حمله کرده است. کارشناسان در آن بازه زمانی اعلام نمودند که این تصاویر با استفاده از فناوری دیپ فیک مبتنی بر هوش مصنوعی ساخته شده اند. پیش از این ترامپ هم در بعضی موارد از محتوای مشابه برای تخریب بایدن بهره برده بود. با این حال، استفاده از هوش مصنوعی برای تأثیرگذاری بر نتایج، صرفا به محتوای جعلی مبتنی بر هوش مصنوعی در چارچوب ویدئو محدود نمی گردد. وبگاه اخبار فناوری گیزمودو هم با انتشار مطلبی در تاریخ ۲ فوریه ۲۰۲۴، از ممنوعیت تماس تلفنی دیپ فیک در تبلیغات انتخاباتی آمریکا به دنبال افزایش تماسهای تلفنی جعلی در نیوهمپشایر اطلاع داد. این خبر بعد از آن منتشر گردید که گروهی تلاش داشتند، با جعل تماس تلفنی جو بایدن، رئیس جمهور آمریکا، انتخابات مقدماتی حزب دموکرات در ایالت نیوهمپشایر را مختل کنند. جسیکا روزن وورسل، رئیس کمیسیون ارتباطات فدرال، طی اظهاراتی در این خصوص اعلام نمود: «تصاویر و شبیه سازی صوتی بوجود آمده توسط هوش مصنوعی با فریب دادن افراد سردرگمی ایجاد می کنند. بنابراین کمیسیون تجارت فدرال اقداماتی انجام می دهد تا این فناوری نوظهور طبق قوانین موجود، ممنوع شود.» علاوه بر موارد ذکر شده، هوش مصنوعی همینطور می تواند به صورت دقیق مخاطبان را هدف قرار دهد و پیام های تبلیغاتی را به گروههای خاص ارسال نماید. این روش به کمپین ها اجازه می دهد که پیام های خاصی را به گروههای متفاوتی از رای دهندگان ارسال نمایند و یا به صورت مخفیانه رای دهندگان مخالف را از شرکت در انتخابات منصرف کنند. بعنوان مثال، ربات های فعال در شبکه های اجتماعی توانسته اند در انتخابات گذشته آمریکا و فرانسه با انتشار پیام های هدفمند در شبکه های اجتماعی، فضای سیاسی را بشدت تحت تاثیر قرار دهند. راهکارهای مقابله با محتوای جعلی مبتنی بر هوش مصنوعی ۱. آموزش و افزایش آگاهی عمومی یکی از مهم ترین راهکار ها برای مقابله با محتوای جعلی، آموزش و افزایش آگاهی عمومی است. شهروندان باید از وجود این نوع محتوا و نحوه شناسایی آن آگاه شوند. برگزاری کارگاه ها، تولید محتوای آموزشی، و استفاده از رسانه ها برای اطلاع رسانی در این حوزه می تواند به افزایش سطح آگاهی عمومی کمک نماید. ۲. تقویت قوانین و مقررات قوانین و مقررات در رابطه با انتشار اطلاعات نادرست و جعلی باید تقویت شوند. نهادهای قانونی باید با جدیت بیشتری به مبارزه با انتشار محتوای جعلی بپردازند و برای افرادی که به صورت عمدی این نوع محتوا را منتشر می کنند، مجازات های مناسبی تعیین کنند. همینطور باید مقررات بین المللی برای مقابله با این مشکل تدوین و اجرا شوند تا کشورها بتوانند به صورت هماهنگ با این تهدیدات مقابله کنند. ۳. استفاده از فناوری برای شناسایی محتوای جعلی تکنولوژی های جدید می توانند به شناسایی و تشخیص محتوای جعلی کمک کنند. توسعه الگوریتم ها و ابزارهای پیشرفته ای که قادر به شناسایی محتوای جعلی باشند، می تواند به کاهش انتشار این نوع محتوا کمک نماید. همکاری بین شرکتهای فناوری و نهادهای دولتی در این حوزه خیلی مهم است تا بتوانند راهکارهای مؤثری برای مقابله با محتوای جعلی عرضه کنند.
۴. افزایش شفافیت در فرآیندهای انتخاباتی افزایش شفافیت در فرآیندهای انتخاباتی می تواند به کاهش تاثیر محتوای جعلی کمک نماید. عرضه اطلاعات دقیق و بموقع به شهروندان، استفاده از سیستم های رای دهی امن و قابل اعتماد، و ایجاد سازوکارهایی برای نظارت بر انتخابات همچون اقداماتی است که می تواند به افزایش اعتماد عمومی و کاهش تاثیر محتوای جعلی کمک نماید. اقدامات حقوقی در جهت مبارزه با تأثیرگذاری هوش مصنوعی بر انتخابات خیلی از کشورهای جهان، همچون ایران، ایالات متحده، بریتانیا، هند، روسیه و اتحادیه اروپا همگی در سال ۲۰۲۴، انتخابات هایی را پیش رو دارند که تاثیر عمیقی بر شرایط جهان تا پایان این دهه خواهد داشت. در همین راستا تنظیم گران سراسر دنیا تلاش دارند که قبل از برگزاری انتخابات، قوانین جامعی را برای مدیریت استفاده از فناوری هوش مصنوعی در فرآیند انتخابات تدوین کنند. یکی از اقدامات پیشنهادی استفاده از علایم نشان دهنده ماهیت محتوا یا واترمارک است. واترمارک به کاربران اطلاع می دهد که یک محتوا با استفاده از هوش مصنوعی ساخته شده است. بعنوان مثال، دولت چین از آغاز سال قبل میلادی با معرفی قوانینی که ثبت واترمارک بر محتوای دیپ فیک را دربرداشت، گامی بلند در زمینه تنظیم گری این فناوری برداشت. با این وجود، طیف گسترده ای از کارشناسان اعتقاد دارند که این دست اقدامات باآنکه لازم؛ اما کافی نخواهد بود؛ چونکه خیلی از ابزارهای آنلاین می توانند، واترمارک را حذف نمایند. این در شرایطی است که خیلی از کارشناسان، اقدامات حقوقی دولت ها برای مبارزه با گسترش فزاینده محتوای جعلی مبتنی بر هوش مصنوعی را کافی نمی دانند و معتقدند که تحقق این هدف تنها با مشارکت همه ذی نفعان میسر است. از همین روی، توافقات دو و چندجانبه بسیاری میان ذی نفعان این حوزه، در طول سالهای اخیر صورت گرفته است. وبگاه خبری رویترز، طی گزارشی در تاریخ ۱۶ فوریه ۲۰۲۴ اعلام نمود که گروهی متشکل از ۲۰ شرکت فناوری قصد دارند در زمینه پیشگیری از تداخل محتوای جعلی مبتنی بر هوش مصنوعی در انتخابات کشورهای مختلف جهان با یکدیگر همکاری کنند. این توافق شامل تعهداتی برای همکاری در توسعه ابزارهای شناسایی تصاویر، ویدئو و صداهایی است که هوش مصنوعی آنها را تولید می کند. از طرفی این توافق به دنبال ایجاد کمپین های آگاهی عمومی برای آموزش تشخیص محتوای فریبنده به رای دهندگان و… است. از طرفی، خیلی از شرکتهای سازنده و عرضه کننده سرویسهای هوش مصنوعی هم به صورت مستقل تدابیری را برای مقابله با پدیده تأثیرگذاری بر انتخابات اتخاذ نموده اند. شرکت گوگل در ماه مارس ۲۰۲۴ اعلام نمود که محدودیت هایی را در پاسخ های چت بات «Gemini» به سوالات در ارتباط با انتخابات در اقصی نقاط جهان اعمال می کند. این شرکت پیشتر و در ماه دسامبر سال قبل محدودیت هایی را در داخل ایالات متحده وضع و از اجرای این محدودیت ها تا قبل از انتخابات این کشور اطلاع داد. سخن پایانی به عقیده خیلی از کارشناسان، در شرایط کنونی، محتوای جعلی مبتنی بر هوش مصنوعی یکی از بزرگ ترین تهدیدات برای دموکراسی و انتخابات سالم به حساب می آید. تأثیرات گسترده این نوع محتوا بر اعتماد عمومی، سردرگمی اطلاعاتی و تقویت کمپین های اطلاعات غلط نشان دهنده لزوم اقدام فوری و هماهنگ برای مقابله با این تهدیدات است. با آموزش و افزایش آگاهی عمومی، تقویت قوانین و مقررات، استفاده از تکنولوژی های جدید برای شناسایی محتوای جعلی و افزایش شفافیت در فرآیندهای انتخاباتی، میتوان به حفظ صحت و سلامت انتخابات و تقویت اعتماد عمومی کمک کرد. در چنین وضعیتی و با عنایت به تهدیدات گسترده و جدی محتوای جعلی مبتنی بر هوش مصنوعی، ضروری است که همه افراد و نهادهای مرتبط به تلاشهای مشترکی برای مقابله با این تهدیدات بپردازند. با آموزش و افزایش آگاهی عمومی، تقویت قوانین و مقررات، استفاده از تکنولوژی های جدید، افزایش شفافیت در فرآیندهای انتخاباتی و تشویق به تحقیقات بیشتر، میتوان به حفظ صحت و سلامت انتخابات و تقویت اعتماد عمومی کمک کرد. تنها از راه این اقدامات مشترک و هماهنگ است که در آستانه برگزاری چهاردهمین انتخابات ریاست جمهوری ایران میتوان به مقابله مؤثر با این چالش پیچیده و حفظ اصول دموکراسی پرداخت.
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب