متا از پلتفرم جدیدی برای کمک به خردسالان برای پاک کردن تصاویر برهنه و جنسی از اینترنت پشتیبانی می کند

Tمرکز ملی کودکان گمشده و مورد بهره‌کشی، پلتفرمی را راه‌اندازی کرده است که توسط متا تامین می‌شود تا به کودکان و نوجوانان کمک کند تا عکس‌ها و ویدئوهای برهنه یا جنسی خود را از رسانه‌های اجتماعی حذف کنند.

سرویس جدید برای خردسالان به نام آن را پایین بیاورید، یک سال پس از عرضه ابزاری مشابه برای بزرگسالان به نام رونمایی شد StopNCII (مخفف تصاویر صمیمی غیر توافقی). امروز، Take It Down فقط در پنج پلتفرم که موافقت کرده اند کار خواهد کرد: فیس بوک و اینستاگرام متعلق به متا، و همچنین Yubo، OnlyFans و Pornhub.

میشل دلون، رئیس و مدیر عامل NCMEC، گفت: "ما این سیستم را ایجاد کردیم زیرا بسیاری از کودکان با این شرایط ناامیدانه مواجه هستند." "امید ما این است که کودکان از این خدمات آگاه شوند و از وجود ابزارهایی برای کمک به حذف تصاویر احساس آرامش کنند."

این که چگونه شرکت‌های رسانه‌های اجتماعی از کودکان و نوجوانان محافظت می‌کنند – و در کجا کوتاه می‌آیند – در کنگره جدید به عنوان یکی از مهم‌ترین مسائل مربوط به سیاست‌های فناوری هر دو حزب مطرح شده است و قانون‌گذاران بهترین شانس را برای تصویب قانون دارند. با این حال، راه درازی برای هر پیشنهادی برای ایجاد یا تقویت پادمان‌ها در پیش است، و بدون هیچ قانونی قریب‌الوقوع، NCMEC همچنان به عنوان پلی بین شرکت‌های آنلاین و مجریان قانون در مورد مسائل ایمنی کودکان عمل می‌کند. در سال 2021، این سازمان غیرانتفاعی نزدیک به 30 میلیون راهنمایی از سراسر صنعت در مورد مطالب بداخلاقی جنسی و سوء استفاده جنسی از کودکان در پلتفرم های خود دریافت کرد. اکثریت توسط پلتفرم های متعلق به متا گزارش شده است.

خردسالان و والدین می توانند استفاده کنند ابزار رایگان و ناشناس NCMEC برای پرچم گذاری مطالب صریح یک فرد زیر سن قانونی که به صورت آنلاین منتشر شده است - یا فکر می کنند که منتشر خواهد شد. هنگامی که آنها عکس‌ها یا ویدیوهای حساس را در دستگاه خود انتخاب کردند، پلتفرم معادل یک اثر انگشت دیجیتالی از آن عکس (به نام «هش») تولید می‌کند که NCMEC سپس با سایت‌های رسانه‌های اجتماعی شرکت‌کننده به اشتراک می‌گذارد تا بتوانند پیدا کنند. محدود یا حذف کنید و به نظارت بر آن محتوا ادامه دهید.

به گفته NCMEC، عکس‌ها یا ویدیوهای مورد بحث به طور مشخص از دستگاه خارج نمی‌شوند و توسط کسی مشاهده نمی‌شوند. (هش همچنین قربانیان را هم برای NCMEC و هم برای برنامه رسانه های اجتماعی غیرقابل شناسایی نگه می دارد و فقط نشان می دهد که یک تصویر مضر است و باید حذف شود.) NCMEC گفت هیچ نقض شناخته شده ای در پایگاه داده هش خود وجود نداشته است که به طور بالقوه هویت یک فرد را افشا کند. .

اما یکی از بزرگترین موانع برای این تلاش، افزایش رمزگذاری انتها به انتها است. DeLaune، رئیس NCMEC، در جلسه استماع این ماه به کمیته قضایی سنا گفت: «زمانی که شرکت‌های فناوری رمزگذاری سرتاسر را بدون هیچ گونه اقدامات پیشگیرانه برای شناسایی مواد شناخته شده سوء استفاده جنسی از کودکان اجرا می‌کنند، تأثیر آن بر ایمنی کودکان ویرانگر است. . فیل در اتاق است که حامی مالی و برجسته ترین شرکت درگیر در Take It Down، متا، است. حرکت در یک کلیپ به سمت رمزگذاری سرتاسر هم در اینستاگرام و هم در مسنجر.

گاوین پورتنوی، معاون رئیس NCMEC گفت که چگونه این دو سازمان می توانند این را با هم آشتی دهند، "مسئله میلیون دلاری" است. فوربس، با اشاره به اینکه NCMEC هنوز دقیقاً نمی داند که برنامه های متا برای رمزگذاری چیست و چه تدابیری ممکن است وجود داشته باشد. (متا گفت که آنها در حال انجام هستند و ویژگی های مختلف رمزگذاری در اینستاگرام و مسنجر در حال آزمایش هستند.)

پورتنوی گفت: «ما در حال ساخت Take It Down برای نحوه قرارگیری اینترنت و [ارائه‌دهنده خدمات الکترونیکی] هستیم. این واقعاً پلی است که باید از آن عبور کنیم، زمانی که درک بهتری از ظاهر محیط رمزگذاری انتها به انتها [متا] داشته باشیم – و اگر دنیایی وجود داشته باشد که Take It Down بتواند در آن کار کند.

آنتیگون دیویس، رئیس ایمنی جهانی متا، گفت فوربس که "رمزگذاری منجر به عدم شناسایی برخی از تصاویر توسط ما می شود" اما در حال تبدیل شدن به یک استاندارد صنعتی در پیام رسانی است که برای حفظ حریم خصوصی و امنیت کاربر حیاتی است. او گفت که استفاده از فناوری هش و پشتیبانی از NCMEC در پروژه‌هایی مانند این یکی از راه‌هایی است که متا سعی می‌کند «واقعاً با مشکل مقابله کند». (هر دو طرف از بیان اینکه متا چه مقدار پول به NCMEC برای ساخت Take It Down داده است خودداری کردند.)

دیویس در مصاحبه ای گفت: "هیچ نوشدارویی برای پرداختن به این مسائل وجود ندارد" و رویکرد متا را "چند وجهی" توصیف کرد. او گفت که متا علاوه بر همکاری در این سیستم جدید با هدف خنثی کردن جنایات جنسی و انتشار غیر توافقی تصاویر محرمانه، به غریبه‌های بزرگسال اجازه نمی‌دهد از طریق ویژگی‌های پیام‌رسانی خود با خردسالان ارتباط برقرار کنند. او افزود، همچنین از طبقه‌بندی‌کننده‌ها برای جلوگیری از ارسال حساب‌ها و محتوای خردسالان به کاربران بزرگسال متا که رفتار مشکوک آنلاین از خود نشان داده‌اند، استفاده می‌کند.

"امیدوارم افرادی که در جوانی چنین تصاویری را به اشتراک گذاشته اند - توسط پدر و مادری که از آنها سوء استفاده می کند، توسط بزرگسال دیگری که از آنها سوء استفاده می کند، توسط یک دوست پسر یا دوست دختر سابق - آنها احساس علاقه مندی کنند. دیویس گفت از این ابزار استفاده کنید.

NCMEC گفت که برخی را مطرح کرده است 200 ارائه دهنده خدمات الکترونیکی دیگر که اطلاعاتی را برای پیوستن به برنامه Take It Down به "CyberTipline" خود ارسال کرده است. باید دید چه کسی - فراتر از تعداد انگشت شماری از بازیکنان رسانه های اجتماعی که امروز از آن دفاع می کنند - وارد صحنه می شود. یوبو به نوبه خود گفت امیدوار است این پذیرندگان اولیه دیگران را به پیوستن تشویق کنند.

ساچا لازیمی، مدیر عامل یوبو، از طریق ایمیل گفت: «برای کاهش ریسک و حل مسائل به صورت آنلاین به چیزی بیش از مداخله دولت نیاز است. «همه بازیگران باید نقش خود را ایفا کنند. … همکاری برای شناسایی راه‌حل‌های چالش‌های بزرگ کلیدی است، بنابراین امیدواریم شاهد پیوستن پلتفرم‌های بیشتری به طرح Take It Down باشیم.»

بیشتر از FORBESچگونه TikTok Live به «کلوپ استریپ پر از کودکان 15 ساله» تبدیل شدBy الکساندرا اس. لوینبیشتر از FORBESاین حساب‌های TikTok مواد آزار جنسی کودکان را در دید آشکار پنهان می‌کنندBy الکساندرا اس. لوینبیشتر از FORBESمدیران TikTok با استفاده از تصاویر گرافیکی سوء استفاده جنسی از کودکان آموزش می بینندBy الکساندرا اس. لوین