این روزها، تشخیص تصویر واقعی از تصویر ساخته‌شده کار ساده‌ای نیست. با پیشرفت ابزارهای تولید تصویر توسط هوش مصنوعی، کاربران بارها با محتوایی روبه‌رو می‌شوند که مرز بین حقیقت و تخیل را از بین برده است. همین موضوع باعث شده بحث برچسب‌گذاری محتوای هوش مصنوعی به یکی از مهم‌ترین ترندهای فناوری در سال‌های اخیر تبدیل شود. پلتفرم‌هایی مثل اینستاگرام، فیسبوک و اخیراً پینترست تصمیم گرفته‌اند که این مسئله را جدی بگیرند و برای بازگرداندن اعتماد به کاربران، سیستمی طراحی کنند که به روشنی به آنها بگوید کدام تصویر واقعی است و کدام توسط الگوریتم‌ها ساخته یا تغییر داده شده.
چرا برچسب‌گذاری محتوای هوش مصنوعی اهمیت دارد؟
هوش مصنوعی مولد یا همان Generative AI در مدت کوتاهی توانسته دنیای دیجیتال را زیر و رو کند. از ساخت تصاویر هنری گرفته تا تبلیغات سیاسی و حتی تصاویر جعلی از سلبریتی‌ها، همه‌چیز به‌راحتی قابل تولید است. اما مشکل اصلی اینجاست که بیشتر کاربران نمی‌توانند تفاوت تصویر واقعی و تصویر ساخته‌شده را تشخیص دهند. این موضوع در برخی موارد مثل تبلیغات دروغین، اخبار جعلی یا سوءاستفاده از هویت افراد می‌تواند بسیار خطرناک باشد.
اینجاست که مفهوم برچسب‌گذاری محتوای هوش مصنوعی مطرح می‌شود. وقتی کاربر بداند تصویری که می‌بیند محصول الگوریتم‌های هوش مصنوعی است، نگاهش تغییر می‌کند و می‌تواند تصمیم بگیرد که تا چه حد به آن اعتماد کند. این شفافیت ساده، جلوی بسیاری از سوءاستفاده‌ها را می‌گیرد و در عین حال باعث می‌شود فضای آنلاین سالم‌تر بماند.
اقدام پینترست؛ الگویی برای دیگران
پینترست اخیراً قابلیتی را معرفی کرده که محتوای تولید یا ویرایش‌شده توسط هوش مصنوعی را با برچسب مشخص می‌کند. این برچسب کوچک که در گوشه پایین تصویر نمایش داده می‌شود، عبارت «AI Modified» را نشان می‌دهد. همین علامت ساده به کاربران کمک می‌کند تا بدانند تصویری که در حال مشاهده آن هستند واقعی نیست یا دست‌کم تغییراتی به کمک هوش مصنوعی در آن صورت گرفته است.
پینترست برای رسیدن به این هدف از ترکیب دو روش استفاده کرده است: بررسی متادیتای فایل تصویری و تحلیل محتوای بصری. این یعنی حتی اگر سازنده تصویر سعی کند نشانه‌های تولید هوش مصنوعی را پاک کند، الگوریتم‌های تشخیص پینترست همچنان قادر خواهند بود محتوای مشکوک را شناسایی کنند.
جالب‌تر اینکه پینترست به کاربران حق اعتراض هم داده است. اگر کسی فکر کند تصویرش به اشتباه برچسب خورده، می‌تواند درخواست بازبینی بدهد. این موضوع از یک سو اعتماد سازندگان محتوا را جلب می‌کند و از سوی دیگر جلوی اشتباهات احتمالی را می‌گیرد. برای جزئیات بیشتر در مورد برچسب‌گذاری محتوای هوش مصنوعی می‌توانید به وبلاگ رسمی پینترست سر بزنید.
سایر شبکه‌های اجتماعی و رقابت در شفافیت
پینترست تنها پلتفرمی نیست که به فکر برچسب‌گذاری محتوای هوش مصنوعی افتاده است. فیسبوک و اینستاگرام نیز در حال آزمایش قابلیت‌هایی هستند که تصاویر و ویدیوهای ساخته‌شده با هوش مصنوعی را برچسب می‌زنند. حتی تیک‌تاک نیز اخیراً اعلام کرده که در آینده نزدیک چنین قابلیتی را ارائه خواهد داد.
این رقابت بیشتر از آنکه فنی باشد، جنبه اعتباری دارد. شبکه‌های اجتماعی برای حفظ اعتماد کاربران خود مجبورند شفافیت بیشتری در مورد محتوای نمایش داده‌شده ارائه کنند. در غیر این صورت، خطر از دست دادن کاربران و مهاجرت آنها به پلتفرم‌های دیگر وجود دارد.
فواید و چالش‌های برچسب‌گذاری محتوای هوش مصنوعی
فواید این اقدام بسیار روشن است. کاربران می‌توانند به‌سرعت بفهمند که یک تصویر واقعی است یا نه. همین مسئله جلوی بسیاری از مشکلات مثل پخش اخبار جعلی یا فریب در تبلیغات را می‌گیرد. همچنین هنرمندانی که آثارشان با کارهای تولیدشده توسط هوش مصنوعی مقایسه می‌شود، راحت‌تر می‌توانند کار واقعی خود را از محتوای مصنوعی متمایز کنند.
اما چالش‌ها نیز کم نیستند. یکی از مشکلات این است که همیشه احتمال خطا وجود دارد. ممکن است یک تصویر واقعی به اشتباه برچسب بخورد یا برعکس، یک تصویر ساخته‌شده از دست سیستم در برود. همچنین برخی سازندگان محتوا ممکن است از اینکه آثارشان «هوش مصنوعی» برچسب بخورد ناراضی باشند، چون می‌تواند باعث کاهش اعتبار آنها شود.
تجربه کاربران فارسی‌زبان و بازار ایران
اگرچه بسیاری از کاربران ایرانی به دلیل تحریم‌ها برای دسترسی به پلتفرم‌هایی مثل پینترست از VPN استفاده می‌کنند، اما موضوع اعتماد به تصاویر برای آنها هم اهمیت زیادی دارد. در بازار ایران نیز استفاده از هوش مصنوعی در تبلیغات و بازاریابی دیجیتال در حال گسترش است. فروشگاه‌های آنلاین، صفحات اینستاگرام و حتی وب‌سایت‌های خبری می‌توانند از تصاویر ساخته‌شده با هوش مصنوعی استفاده کنند. در چنین شرایطی، وجود یک سیستم برچسب‌گذاری شفاف می‌تواند به کاربران فارسی‌زبان کمک کند تا راحت‌تر تصمیم بگیرند.
برای مثال، تصور کنید کاربری در بخش ترندهای هوش مصنوعی به دنبال آخرین اخبار و تحلیل‌هاست. اگر تصویر یا ویدیویی که در مقاله قرار داده شده برچسب «تولیدشده با هوش مصنوعی» داشته باشد، اعتماد او به محتوای سایت افزایش پیدا می‌کند و احساس می‌کند با رسانه‌ای شفاف سروکار دارد.
آینده برچسب‌گذاری محتوای هوش مصنوعی
بسیاری از کارشناسان معتقدند که در آینده، برچسب‌گذاری محتوای هوش مصنوعی به یک استاندارد جهانی تبدیل خواهد شد. درست همان‌طور که امروزه روی مواد غذایی برچسب ترکیبات و ارزش غذایی چاپ می‌شود، به‌زودی در فضای دیجیتال هم همه‌چیز باید شفاف باشد.
از سوی دیگر، خود هوش مصنوعی می‌تواند نقش مهمی در تشخیص محتوای ساخته‌شده ایفا کند. این یعنی هوش مصنوعی نه‌تنها تولیدکننده محتوا خواهد بود، بلکه در آینده ابزار اصلی برای شناسایی و برچسب‌گذاری نیز خواهد شد.
نتیجه‌گیری در مورد برچسب‌گذاری محتوای هوش مصنوعی
امروز بیش از هر زمان دیگری نیاز به شفافیت در فضای دیجیتال احساس می‌شود. با گسترش تصاویر ساخته‌شده توسط هوش مصنوعی، کاربران به ابزاری نیاز دارند که به آنها بگوید کدام تصویر واقعی است و کدام محصول الگوریتم‌هاست. اقدام پینترست در برچسب‌گذاری محتوای هوش مصنوعی نشان می‌دهد که آینده شبکه‌های اجتماعی باید بر پایه اعتماد و شفافیت شکل بگیرد. این مسیر شاید در ابتدا پر از چالش باشد، اما بدون شک به ایجاد فضایی امن‌تر و سالم‌تر برای همه کاربران جهان، از جمله فارسی‌زبانان، منجر خواهد شد.
