Комісар ООН з прав людини висловила занепокоєння щодо порушення прав людини через використання штучного інтелекту

15 вересня 2021 року був опублікований звіт Комісара ООН з прав людини щодо права на приватність у ері діджитал технологій ("Звіт"). Звіт описує, якими негативними наслідками загрожує надмірне та необдумане використання штучного інтелекту ("ШІ") за відсутності достатнього правого регулювання для захисту прав людини під час такого використання. Звіт стосується як діяльності держави, так і приватних організацій.

Причини стурбованості використанням ШІ

Звіт виділяє чотири основні галузі, у яких використання ШІ викликає особливу стурбованість:

  • діяльність правоохоронних органів, національна безпека, кримінальне судочинство та захист кордонів;
  • надання публічних послуг;
  • працевлаштування; та
  • управління інформацією в інтернеті. 

Одним із прикладів непоодиноких порушень прав людини є використання ШІ як інструменту прогнозування (за допомогою аналізу великої кількості даних, оцінки ризиків та передбачення майбутніх тенденцій). Залежно від мети, дані, які аналізуються, можуть включати інформацію про судимості, арешти, статистику злочинів, інформацію про діяльність поліції в окремих районах, публікації в соціальних мережах, особисте спілкування особи, інформацію про її переміщення тощо. Збір та аналіз великої кількості персональної інформації викликає сумніви щодо законності такої діяльності, зокрема щодо дотримання права осіб на приватність та наявності їх згоди на збір та обробку персональних даних. 

Іншим прикладом може слугувати використання ШІ у відборі працівників, звільненні та схемах підвищення працівників на посадах.

Системи ШІ, які використовуються для управління людськими ресурсами, схильні до упереджень та можуть спричинити толерування або навіть посилення дискримінації. Наприклад, якщо компанія використовує алгоритм ШІ для відбору працівників, заснований на історичному наборі даних та який надає перевагу білим чоловікам середнього віку, цей алгоритм "відсіюватиме" жінок, людей інших рас та молодих чи літніх людей, які достатньо кваліфіковані для вакансії.

Рекомендації Комісара ООН з прав людини

На основі Звіту були підготовані рекомендації як для держав, так і для приватних організацій щодо удосконалення використання технологій ШІ, зокрема:

  • систематично проводити належну перевірку дотримання прав людини під час використання систем ШІ;
  • підвищити прозорість використання ШІ, у тому числі шляхом належного інформування громадськості та осіб, щодо яких використовуються системи ШІ, та надання можливості проводити незалежний та зовнішній аудит систем;
  • забезпечити участь усіх відповідних зацікавлених сторін у прийнятті рішень щодо розробки, запровадження та використання ШІ, зокрема осіб, щодо яких використовуються системи ШІ;
  • покращити пояснюваність прийнятих на основі ШІ рішень, зокрема проводити відповідні дослідження та фінансувати їх; та 
  • посилити свої зусилля у боротьбі з дискримінацією, пов'язаною з розробкою, продажем або функціонуванням систем ШІ.

 

За детальною інформацією звертайтесь до наших експертів:

Євгеній Дейнеко

Керуючий партнер

deyneko@everlegal.ua

 

Христина Єрменчук

Юрист

yermenchuk@everlegal.ua

Долучайтесь до EVERLEGAL NewsBox, щоб отримувати актуальні юридичні інсайти щомісяця

We solve your legal issues
However complex they are
Wherever they occur
Whenever you need us