شفقنا – کودکان در بریتانیا از افزایش چشمگیر تصاویر دیپفیک صریح و جنسی که چهره و ظاهر خودشان در آنها به کار رفته است خبر دادهاند؛ این در حالی است که یک نهاد ناظر بر ایمنی آنلاین هشدار داده است که هوش مصنوعی تولید چنین محتوایی را آسانتر کرده است.
به گزارش سرویس ترجمه شفقنا، سرویس «ریپورت ریموو» که تصاویر خصوصی را از نمایش آنلاین حذف میکند، اعلام کرد که در مدت اخیر افزایش سریعی در تصاویر دستکاریشده یا بهاصطلاح «جعلی» مشاهده کرده است؛ تصاویری که به شیوههای مختلف، از جمله با استفاده از هوش مصنوعی و ابزارهای «برهنهسازی» دیجیتال، دستکاری شدهاند.
این سرویس در شش ماه نخست سال جاری میلادی، ۴۲۰ گزارش از سوی کودکان دریافت کرده است که در آنها کودکان اعلام کردهاند تصاویری از خودشان را دیدهاند که به باور آنها بهصورت جعلی ساخته یا دستکاری شده تا حالتی صریح و جنسی پیدا کند. این رقم همین حالا از مجموع ۳۹۷ مورد گزارششده در سراسر سال ۲۰۲۵ بیشتر شده است.
دن سکستون، مدیر ارشد فناوری «بنیاد نظارت بر اینترنت» که سرویس «ریپورت ریموو» را با همکاری مؤسسه خیریه حمایت از کودکان اناسپیسیسی اداره میکند، گفت این ارقام دشواری جلوگیری از دستکاری تصاویر آنلاین را در دورانی که ابزارهای هوش مصنوعی بهطور گسترده در دسترس هستند و توانایی بالایی دارند، نشان میدهد.
او گفت: اگر کسی بتواند یک تصویر معمولی و بیضرر از یک کودک را از اینترنت بردارد و با استفاده از آن، محتوای سوءاستفاده جنسی از کودکان تولید کند، آن کودک هیچ کاری نمیتواند برای جلوگیری از وقوع این اتفاق انجام دهد؛ مگر اینکه مانع عکس گرفتن دیگران از خود شود — یا اصلاً تصاویر خودش را در اینترنت منتشر نکند.
سرویس «ریپورت ریموو» در سالهای اخیر آنقدر گزارش از افراد زیر ۱۸ سال درباره تصاویر دستکاریشده دریافت کرده است که یک گزینه تیکزدنی به فرم آنلاین ارسال گزارش خود اضافه کرده تا کودکان بتوانند مشخص کنند که محتوای موردنظر دیپفیک است.
سکستون گفت این آمار نگرانیای را تأیید میکند که با افزایش تواناییهای هوش مصنوعی، از این فناوری برای دستکاری تصاویر افراد واقعی استفاده خواهد شد.
«این یکی از آسیبهایی بود که وقتی برای نخستین بار شاهد استفاده از مولدهای تصویر هوش مصنوعی بودیم، نگرانش شدیم؛ اینکه از آنها برای تولید محتوای سوءاستفاده جنسی از کودکان، با حضور کودکان واقعی، استفاده شود.»
سکستون افزود: تمام مردم جهان در معرض این خطر قرار دارند.
بنیاد آیدبلیواف که بر انتشار آنلاین محتوای سوءاستفاده جنسی از کودکان نظارت میکند، اعلام کرد بخش عمده گزارشهای مربوط به تصاویر دستکاریشده که در سالهای ۲۰۲۵ و ۲۰۲۶ به «ریپورت ریموو» ارسال شدهاند، آنقدر شدید و جدی بودهاند که معیارهای لازم برای قرار گرفتن در دسته محتوای سوءاستفاده جنسی از کودکان را داشتهاند. تولید محتوای سوءاستفاده جنسی از کودکان با استفاده از هوش مصنوعی در بریتانیا غیرقانونی است و دولت این کشور همچنین سازگار کردن یا تغییر یک مدل هوش مصنوعی با هدف تولید محتوای سوءاستفاده جنسی، یا توزیع چنین مدلهایی برای دیگران، را غیرقانونی کرده است.
رانی گووندر، کارشناس ایمنی آنلاین در اناسپیسیسی، گفت شرکتهای فناوری باید تدابیر حفاظتی قویتری را در محصولات هوش مصنوعی خود تعبیه کنند تا از تولید محتوای صریح و جنسی جلوگیری شود.
وی افزود: این افزایش شمار کودکانی که به دلیل ساخته شدن تصاویر جنسی جعلی یا تولیدشده با هوش مصنوعی از آنها درخواست کمک کردهاند، نگرانکننده است؛ اما متأسفانه قابل پیشبینی نیز بوده است. شرکتهای فناوری نمیتوانند همچنان محصولات هوش مصنوعی را بدون ایجاد سازوکارهای حفاظتی قدرتمند عرضه کنند؛ سازوکارهایی که از تولید این نوع محتوا از همان ابتدا جلوگیری کنند.
سکستون گفت برخی از قربانیانی که درباره تصاویر دستکاریشده با «ریپورت ریموو» تماس گرفتهاند، هدف اخاذی جنسی قرار گرفته بودند؛ در این نوع اخاذی، فرد باجگیر تهدید میکند که تصاویر را منتشر خواهد کرد، مگر اینکه قربانی مبلغی پول بپردازد، یا از قربانی تصاویر صریح و جنسی بیشتری درخواست میکند.
«ریپورت ریموو» سرویسی است که به کودکان اجازه میدهد بهصورت ناشناس، تصاویر یا ویدئوهای صمیمی و خصوصی از خودشان را که برای شریک عاطفی سابق ارسال شده، در اختیار کلاهبردارانِ اخاذی جنسی قرار گرفته یا ممکن است در فضای آنلاین منتشر شود، گزارش کنند. این سرویس تصاویر مذکور را به یک «هَش» یا اثر انگشت دیجیتال تبدیل میکند و آن را با پلتفرمهای بزرگ فناوری به اشتراک میگذارد؛ این پلتفرمها میتوانند تصویر را حذف کنند یا مانع بارگذاری آن شوند.
افزایش دیپفیکهای مجهز به هوش مصنوعی باعث شده است درباره انتشار تصاویر قابلشناسایی کودکان در فضای آنلاین، مجموعهای از هشدارها صادر شود.
ماه گذشته، «آژانس ملی مبارزه با جرم و جنایت» بریتانیا و آیدبلیواف از والدین و سرپرستان کودکان خواستند تصاویر فرزندانشان را از معرض نمایش عمومی در اینترنت دور نگه دارند. آنها پیشنهاد کردند حسابهای شبکههای اجتماعی خصوصی شوند یا تصاویر کودکان فقط از طریق یک گروه «دوستان نزدیک» به اشتراک گذاشته شود.
این توصیهها همچنین پس از مواردی مطرح شد که در آنها مجرمان سایبری تلاش کرده بودند با جمعآوری تصاویر کودکان از اینترنت، باجگیری از مدارس را انجام دهند؛ آنها با استفاده از هوش مصنوعی تصاویر را به محتوای سوءاستفاده جنسی از کودکان تبدیل میکردند و سپس مدارس را تهدید میکردند که این تصاویر را منتشر خواهند کرد. به مدارس توصیه شده است تصاویر قابلشناسایی از چهره دانشآموزان را از وبسایتها و حسابهای شبکههای اجتماعی خود حذف کنند.
این خبر را اینجا ببینید.