Невидимий патруль: Як зупинити діджиталізацію насильства

Невидимый патруль: Как остановить диджитализацию насилия

Творці Інтернету вірили, що їх винахід будуть використовувати для передачі особливо важливих даних. Але з часом світова мережа стала відображенням нашого світу — як всього найкращого, чого досягло людство, так і його найтемніших сторін. Дискримінація та насильство в інтернеті набувають нові форми і стають повсюдними: вони можуть дістатися скрізь, де є мережа. Як в таких умовах захищати права людини і не впадати в крайнощі, розповідає Джошуа Франка, заступник директора Amnesty Tech в Amnesty International.

Розкажіть про свою роботу в Amnesty Tech.

Це відносно нова програма, в якій задіяні юристи, адвокати, інженери з різних країн — Великобританії, Тунісу, Німеччини, Китаю. Ми займаємося проблемами, пов’язаними з тим, як технології впливають на права людини. І в позитивному, і в негативному ключі.

З негативної сторони ми спостерігаємо сталкінг (стеження за допомогою соціальних мереж та інших засобів комунікації), порно-помста, поширення вірусів, абьюз по відношенню до жінок і меншин. Складно оцінити, що приносить більший збиток. В деяких випадках все очевидно: наприклад, порно-помста — поширення в мережі еротичних знімків або відео з участю людини без його згоди може призвести до серйозних проблем з репутацією, самооцінкою, навіть до суїциду. Вважається, що абьюзивные пости менш небезпечні, але на ділі все йде не зовсім так. Наприклад, якщо ви бачите, яка кількість образ на свою адресу отримують жінки-політики, ви можете заздалегідь відмовитися від такої кар’єри — а адже це вплине на все ваше життя.

Ми дивимося і на те, які переваги дають нові технології для захисту прав людини. Ми використовуємо мікро-таскинговые платформи, які називаються декодерами, що працюють по моделі Amazon Mechanical Turk. Є багато дрібних завдань, які машин складно виконати, тут потрібні добровольці. Вперше ми спробували це в Судані під час Дарфурського конфлікту, коли просили волонтерів клікати на картинки з супутника і відзначати, чи є на цьому місці село чи ні. Так ми могли відслідковувати, коли здійснювалися атаки. Ми не змогли б цього зробити на місці.

Також у нас є проект Troll Patrol. Волонтери проаналізували близько 600 000 абьюзивных твітів, спрямованих проти жінок, і класифікували їх — чи дійсно вони абьюзивные, який типу абьюза в них використовується і на яку групу він спрямований. Так нам вдалося створити найбільш повну базу даних і в партнерстві з Element AI розробити алгоритм, що дозволяє розрахувати інтернет-абьюза. Це показало нам, як штучний інтелект може допомогти в моделюванні контенту.

Невидимый патруль: Как остановить диджитализацию насилия

Штучний інтелект може вирішити проблему інтернет-абьюза в майбутньому?

Є велика спокуса доручити машин розбиратися з інтернет-абьюзом з-за величезних масштабів цієї проблеми. Людині складно справлятися з такими обсягами інформації, крім того, це може бути дуже травматично — переглядати подібний контент протягом робочого дня. Але штучний інтелект не впорається. Тут потрібна людина, тільки він може прийняти остаточне рішення. З одного боку, людям доведеться виконувати травматичну для них роботу, з іншого боку, ми не можемо довірити рішення, пов’язані зі свободою слова, недосконалим машин.

Є дуже небезпечне переконання в суспільстві, що алгоритми набагато більш справедливі, ніж люди, що тільки люди дискримінують, а роботи немає, тому можна їм доручити вирішення наших проблем. Але це не спрацює, тому що вони частина нашого світу — якщо навчати машину на стереотипизированных даних, ми отримаємо стереотипизированные результати. Це замкнене коло.

Як ви вирішуєте парадокс про цензуру та свободу слова? Адже в якийсь момент одне виключає інше.

Я б не назвав це парадоксом, це скоріше внутрішнє протиріччя. Воно по-різному проявляється у різних сферах і для сфери digital воно не нове. Якщо подивитися на проблему розпалювання ненависті в міжнародному праві, ми побачимо, що там теж немає чітко сформульованої позиції, що це таке. І країни, і регіони бачать ситуацію по-різному. Тут завжди присутній певний рівень невизначеності.

Ми дуже розумно підходимо до цієї проблеми і закликаємо не звертатися до цензури чи кримінальним покаранням та іншим суворим заходам саме з-за того, що усвідомлюємо цю небезпеку. Контент модерують приватні компанії, а не державні, а значить, їм буде складно відстояти свою позицію в суді, якщо хтось поскаржиться, що його пост несправедливо видалили.

З іншого боку, абьюзивные пости можуть наносити цілком відчутний збиток, щодо якого вже не може бути суперечливого думки. Ми можемо сперечатися про те, що легально, що не нелегально, але якщо мова йде про смертельні погрози або про те, що потенційно приведе людину до самогубства, це нелегально на всіх рівнях, незалежно від того, чи робите ви це онлайн або вламываетесь до людини в будинок, погрожуючи йому.

Як довести, що є абьюзом, а що ні?

У нас є кілька ключових визначень. Але проблема в тому, що недостатньо зворотного зв’язку. Якщо ви поскаржитеся на користувача, ви в кращому випадку отримаєте повідомлення про те, що вашу скаргу расмотрели. Але ні ви, ні абьюзер, не отримаєте чіткого пояснення, чому контент був видалений через порушення прав людини або, наприклад, чиїхось авторських прав.

Нам би хотілося бачити більше прозорості в тому, як приймають ці рішення, тому що така неузгодженість змушує людей гадати. А люди повинні розуміти, які захищають їх права, де їх межі. Потрібні прозорі механізми, які будуть надавати звіти про те, скільки скарг було отримано, які дії з ним зробили, на якій підставі.

Невидимый патруль: Как остановить диджитализацию насилия

Як батькам захистити своїх дітей від насильства в інтернеті?

В інтернеті є багато небезпек, на які батькам варто звертати увагу, але потрібно враховувати права дітей і потенціал їх розвитку. Чим старше вони стають, тим більше свободи їм потрібно давати. У свою чергу, батькам потрібно замислюватися про те, яку інформацію вони публікують і як це може вплинути на їхнє життя в майбутньому. Те, що одного разу з’являється в мережі, залишається там назавжди і може спливти в самий несподіваний момент. Потрібно вчити дітей на своєму прикладі показувати їм, як поводитися з інформацією.

Користувачеві дуже складно відстежити, куди потрапляють його дані, їх можуть використовувати, щоб прогнозувати його купівельну поведінку, відстежувати його переміщення. Все це потрібно враховувати.

А як захистити себе?

Потрібно підняти проблему насильства на рівні світового співтовариства, обговорити, чи можемо ми створити алгоритм, який не буде дискримінувати. Ми повинні навчитися жити у світі, де вся інформація записується, і визначити, як вона буде використовуватися.

Проблему насильства складно вирішити на рівні користувача, вона потребує вирішення на державному та міжнародному рівні. Тим не менш, дуже важливо, щоб жінки знали про інструменти, які дозволять їм убезпечити себе. Вони повинні знати, як захистити свій аккаунт, заблокувати іншого користувача, відстежувати, хто знаходиться в мережі, залишати скарги на користувачів, які поширюють абьюзивный контент. Для всього цього повинні бути прозорі механізми.

Ілюстрація: Barbara Marini

Фото: Docudays Ua

Підготувала Оля Полякова

Оставить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

*

code