شفقنا- اینستاگرام استفاده از برچسب‌های ویژه برای شناسایی محتوای تولیدشده با هوش مصنوعی را گسترش داده، اما این سامانه به دلیل تشخیص اشتباه تصاویر واقعی و برچسب‌گذاری آنها به‌عنوان محتوای تولیدشده با هوش مصنوعی با انتقادهایی روبه‌رو شده است.
به گزارش شفقنا؛ به گزارش وب‌سایت آمریکایی «ورج»، در برخی موارد نیز محتوای تولیدشده با هوش مصنوعی بدون دریافت هیچ برچسبی در اینستاگرام منتشر شده است.
دلیل دقیق این خطاهای شناسایی هنوز مشخص نیست. برخی کاربران گزارش داده‌اند که این برچسب حتی پس از ویرایش‌های محدودی روی تصاویر ظاهر شده است؛ ویرایش‌هایی که شامل تولید کامل تصویر با هوش مصنوعی نبوده‌اند.
یکی از کاربران در شبکه اجتماعی «تردز» متعلق به شرکت متا گفت این برچسب پس از استفاده از ابزار حذف پس‌زمینه یک تصویر برای او ظاهر شده است. کاربر دیگری نیز اعلام کرد که پس از ویرایش یک تصویر با استفاده از پلتفرم «کانوا»، برچسب هوش مصنوعی به آن اضافه شده است.
اینستاگرام پیش‌تر نیز در سال ۲۰۲۴ با مشکل مشابهی روبه‌رو شده بود و برخی تصاویر واقعی را با برچسب استفاده از هوش مصنوعی مشخص کرده بود. متا در آن زمان اعلام کرد سامانه این شرکت برای شناسایی محتوای تولید یا ویرایش‌شده با ابزارهای هوش مصنوعی از داده‌های فراداده، از جمله استانداردهای «آی‌پی‌تی‌سی» و «سی‌تو‌پی‌ای»، استفاده می‌کند.
به نوشته «ورج»، این داده‌ها ممکن است حتی در شرایطی که استفاده از هوش مصنوعی بسیار محدود بوده، به تصویر اضافه شوند؛ برای مثال هنگام استفاده از برخی ابزارهای ویرایش هوشمند شرکت «ادوبی». در چنین شرایطی ممکن است اینستاگرام کل تصویر را به‌عنوان محتوای تولیدشده با هوش مصنوعی شناسایی کند.
این مشکل همزمان با تلاش اینستاگرام برای تشدید روند شناسایی حساب‌های متعلق به اینفلوئنسرهایی که به‌طور کامل با هوش مصنوعی ایجاد شده‌اند، بروز کرده است. این پلتفرم اعلام کرده بود برای چنین حساب‌هایی برچسب ویژه‌ای در نظر می‌گیرد و در صورتی که ماهیت خود را به‌روشنی اعلام نکنند، ممکن است انتشار محتوای آنها را نیز محدود کند. در مقابل، حساب‌هایی که استفاده از هوش مصنوعی را به‌صراحت اعلام کنند، مشمول همین محدودیت‌ها نخواهند شد.
کانوا نیز اعلام کرده است برخی ابزارهای کمکی طراحی این پلتفرم به‌اشتباه داده‌هایی را به تصاویر اضافه می‌کردند که نشان‌دهنده تولید محتوای آنها با هوش مصنوعی بود. این شرکت اعلام کرد این مشکل را برطرف کرده است.
موارد مشابهی نیز در تصاویر ویرایش‌شده با ابزارهای موجود در گوشی‌های آیفون مشاهده شده است. برخی تصاویر نیز دارای داده‌های فراداده‌ای مرتبط با جلوگیری از استفاده از آنها برای آموزش مدل‌های هوش مصنوعی بوده‌اند.
در حال حاضر راه مطمئنی برای جلوگیری از نمایش برچسب هوش مصنوعی در اینستاگرام وجود ندارد. برخی کاربران موقتاً توصیه می‌کنند از بعضی ابزارهای حذف پس‌زمینه در کانوا استفاده نشود، در حالی که گروهی دیگر ترجیح داده‌اند تا زمان توضیح دقیق‌تر اینستاگرام درباره سازوکار شناسایی، این برچسب‌ها را نادیده بگیرند.