Забранено ли е използването на изкуствен интелект за "социално оценяване" (social scoring)?

Бърз отговор

Да, използването на ИИ за социално оценяване от правителства или частни компании е абсолютно забранено в ЕС. Законът не допуска класифициране на хората въз основа на тяхното социално поведение, ако това води до неблагоприятно третиране в несвързан контекст или ако третирането е напълно непропорционално.
Проверено от Екипът на ПравниОтговори
Източници:

Детайли по темата

Край на социалния рейтинг

Практиката да се събират данни за поведението на гражданите, за да им се поставя “рейтинг” или “оценка” (позната от някои системи в Азия), е обявена за незаконна на територията на Европейския съюз.

Съгласно чл. 5, параграф 1, буква “в” от Регламент (ЕС) 2024/1689, изрично се забранява пускането на пазара и използването на системи с ИИ с цел оценка или класифициране на физически лица през определен период от време въз основа на тяхното социално поведение или личностни характеристики.

Кога забраната се активира?

Забраната се прилага стриктно, когато тази “социална класация” води до някоя от следните вредни последици:

  1. Несвързан контекст: Увреждащо третиране в социален контекст, който няма абсолютно никаква връзка с контекста, в който данните са били генерирани първоначално.
  2. Непропорционалност: Увреждащо третиране, което е неоправдано или непропорционално спрямо конкретното социално поведение на лицето.

Проверено от Екипът на ПравниОтговори

Проектът се реализира с подкрепата на Адвокат Стела Дойкова. Научете повече за нас.