Запобігання експлуатації дітей є одним із найважливіших завдань, що постають перед нашою галуззю сьогодні. Онлайн-хижаки – це рішучі злочинці, які використовують численні програми та веб-сайти, щоб націлитися на молодь. Вони також перевіряють захист кожної платформи та вчаться швидко адаптуватися. Тому зараз, як ніколи, ми наполегливо працюємо, щоб бути попереду. Окрім розробки технологій, які викорінюють хижаків, ми наймаємо спеціалістів, які займаються безпекою дітей в Інтернеті, і ділимося інформацією з колегами з галузі та правоохоронними органами.
Ми дуже серйозно ставимося до нещодавніх звинувачень щодо ефективності нашої роботи, тому ми створили робочу групу для перегляду існуючої політики; вивчити існуючі технології та системи забезпечення виконання; і внести зміни, які посилять наш захист для молодих людей, заборонять хижаків і видалять мережі, які вони використовують для зв’язку один з одним. Спеціальна група негайно вжила заходів для посилення нашого захисту, а наші групи безпеки дітей продовжують працювати над додатковими заходами. Сьогодні ми ділимося оглядом зусиль цільової групи на сьогоднішній день.
Огляд робочої групи Meta з безпеки дітей
Цільова група Meta з безпеки дітей зосередилася на трьох сферах: рекомендації та виявлення, обмеження потенційних хижаків і видалення їхніх мереж, а також посилення наших заходів.
Рекомендації та відкриття
Ми робимо рекомендації в таких місцях, як Reels і Instagram Explore, щоб допомогти людям відкривати нові речі в наших програмах, а люди використовують такі функції, як пошук і хештеги, щоб знаходити те, що може їх зацікавити. Оскільки ми робимо пропозиції людям у цих місцях, ми мати засоби захисту, щоб гарантувати, що ми не пропонуємо щось, що може засмутити або порушити наші правила. У нас є складні системи, які активно знаходять, видаляють або утримуються від пропонування вмісту, груп і сторінок, серед іншого, що порушує наші правила або може бути недоречним для рекомендацій людям. Наша робоча група з безпеки дітей покращила ці системи, поєднавши їх і розширивши їхні можливості. Ця робота триває, і ми очікуємо, що вона повністю почне діяти найближчими тижнями.
Ось що ми зробили:
- Ми розширили наявний список термінів, фраз і емодзі, пов’язаних із безпекою дітей, які наші системи можуть знайти. У нас є багато джерел для цих термінів, зокрема некомерційні організації та експерти з онлайн-безпеки, наші спеціалісти з безпеки дітей, які досліджують хижацькі мережі, щоб зрозуміти мову, яку вони використовують, і нашу власну технологію, яка знаходить орфографічні помилки чи варіанти написання цих термінів.
- Ми також почали використовувати нові методи для пошуку нових термінів. Наприклад, ми використовуємо технологію машинного навчання, щоб знаходити зв’язки між термінами, які, як ми вже знаємо, можуть бути шкідливими або порушують наші правила, та іншими термінами, що використовуються одночасно. Це можуть бути терміни, які шукали під час того ж сеансу, що й терміни-порушники, або інші хеш-теги, використані в підписі, який містить хеш-тег-порушник.
- Ми об’єднали наші системи таким чином, що коли нові терміни додаються до нашого центрального списку, вони діятимуть у Facebook та Instagram одночасно. Наприклад, ми можемо надсилати облікові записи Instagram, групи, сторінки та профілі Facebook особам, які перевіряють вміст, обмежувати ці терміни у відображенні результатів у Facebook та пошуку в Instagram і блокувати хештеги, які містять ці терміни у Facebook та Instagram.
Обмеження потенційних хижаків і видалення їхніх мереж
Ми розробили технологію, яка ідентифікує потенційно підозрілих дорослих , і ми переглядаємо понад 60 різних сигналів, щоб знайти цих дорослих, наприклад, якщо підліток блокує або повідомляє про дорослого, або якщо хтось неодноразово виконує пошук за термінами, які можуть свідчити про підозрілу поведінку. Ми вже використовуємо цю технологію, щоб заборонити потенційно підозрілим дорослим знаходити підлітків, стежити за ними чи взаємодіяти з ними, і ми розширили її, щоб запобігти цим дорослим знаходити, стежити за підлітками чи взаємодіяти з ними.
Ось що ми зробили:
- В Instagram потенційно підозрілим дорослим буде заборонено стежити один за одним, вони не будуть рекомендуватися один одному в таких місцях, як Explore і Reels, а також не бачитимуть коментарі один одного в публічних публікаціях, серед іншого.
- У Facebook ми використовуємо цю технологію, щоб краще знаходити та адресувати певні групи, сторінки та профілі. Наприклад, групи Facebook із певним відсотком учасників, які виявляють потенційно підозрілу поведінку, не пропонуватимуться іншим у таких місцях, як групи, до яких вам слід приєднатися. Крім того, Групи, членство яких збігається з іншими Групами, видаленими через порушення нашої політики безпеки дітей, не відображатимуться в Пошуку. У результаті цієї роботи з 1 липня 2023 року ми видалили з пошуку понад 190 000 груп.
- Ми також наймаємо фахівців із досвідом роботи в правоохоронних органах і безпеці дітей в Інтернеті, щоб знайти хижацькі мережі та видалити їх. Ці спеціалісти відстежують зміну поведінки цих мереж (наприклад, нову закодовану мову), щоб не лише видалити їх, але й надати інформацію технології, яку ми використовуємо для їх проактивного пошуку. У період з 2020 по 2023 рік наші команди зламали 32 шкідливі мережі та видалили понад 160 000 облікових записів, пов’язаних із цими мережами.
Посилення наших правоохоронних органів
Спеціальна група також внесла низку оновлень, щоб посилити наші системи звітності та правозастосування, а також знайшла нові способи викорінення та заборони потенційно хижацьких облікових записів. Тільки в серпні 2023 року ми вимкнули понад 500 000 облікових записів за порушення нашої політики щодо сексуальної експлуатації дітей.
- Ми оголосили про свою участь у Lantern, новій програмі від Tech Coalition , яка дозволяє технологічним компаніям ділитися різноманітними сигналами про облікові записи та поведінку, які порушують їхню політику безпеки дітей. Учасники Lantern можуть використовувати цю інформацію для проведення розслідувань на власних платформах і вжиття заходів.
- Ми перевірили наші системи та виправили виявлені технічні проблеми, зокрема проблему, яка несподівано закривала звіти користувачів.
- Ми покращили системи, які ми використовуємо для визначення пріоритетів звітів для рецензентів вмісту. Наприклад, ми використовуємо технологію, призначену для пошуку зображень, які використовують дітей, щоб визначити пріоритет звітів, які можуть їх містити.
- Ми представили додаткові способи завчасного пошуку та видалення облікових записів, які можуть порушувати нашу політику безпеки дітей. Наприклад, ми надсилаємо облікові записи Instagram, які виявляють потенційно підозрілу поведінку, нашим рецензентам вмісту, і ми автоматично вимикаємо ці облікові записи, якщо вони демонструватимуть достатню кількість із понад 60 сигналів, які ми відстежуємо. У серпні 2023 року в результаті цього методу було ідентифіковано та автоматично видалено понад 20 000 облікових записів.
- Ми надали нові вказівки та інструменти, щоб допомогти рецензентам вмісту зрозуміти останні моделі поведінки та терміни, які використовують хижаки, різними мовами. Наприклад, рецензенти вмісту тепер бачитимуть інформацію про кодовані терміни, які використовуються в публікаціях, які вони переглядають, щоб зрозуміти підтекст цих термінів і те, як вони використовуються хижаками. Це допоможе рецензентам вмісту краще розпізнати таку поведінку та вжити заходів.
- Ми внесли вдосконалення, щоб краще знаходити та видаляти облікові записи Instagram і профілі Facebook, які можуть бути пов’язані з тими, хто порушує нашу політику безпеки дітей, а також запобігати створенню нових облікових записів на своїх пристроях. З початку серпня ми автоматично заблокували понад 250 000 пристроїв в Instagram за порушення нашої політики безпеки дітей, а покращення блокування пристроїв призвело до понад 10 000 додаткових заходів в Instagram і Facebook на день .
- Ми покращили наше проактивне виявлення потенційно підозрілих груп Facebook і оновили наші протоколи та інструменти перевірки, щоб наші рецензенти могли видаляти більше груп, які порушують правила. З 1 липня 2023 року ми перевірили та видалили 16 000 груп через порушення наших правил безпеки дітей.
- Після запуску нових автоматизованих заходів у вересні ми побачили в п’ять разів більше автоматизованих видалень Instagram Lives, які містили оголене тіло дорослих і сексуальні дії.
- Щомісяця ми вжили заходів до понад 4 мільйонів Reels у Facebook та Instagram у всьому світі за порушення нашої політики.
