Кои практики и системи с изкуствен интелект са напълно забранени в ЕС?

Бърз отговор

Европейският съюз забранява изцяло ИИ системи, които манипулират подсъзнанието, експлоатират уязвимости на хора (напр. поради възраст), извършват социално оценяване (social scoring) или предвиждат престъпления само чрез профилиране. Забранени са още нецеленасоченото извличане на лица от интернет, както и разпознаването на емоции на работното място.
Проверено от Екипът на ПравниОтговори
Източници:

Детайли по темата

Абсолютни забрани в Акта за ИИ

Европейският съюз въвежда списък с практики, които представляват “неприемлив риск” за обществото и човешките права.

Съгласно чл. 5, параграф 1 от Регламент (ЕС) 2024/1689 са напълно забранени следните ИИ системи:

  1. Системи, които използват подсъзнателни, манипулативни или измамни техники за съществено изменение на поведението, причиняващи значителни вреди.
  2. Системи, които експлоатират уязвимостите на хората (възраст, увреждане, социално или икономическо положение).
  3. Системи за социално оценяване (social scoring), които водят до неблагоприятно третиране на хората.
  4. Системи, прогнозиращи риска дадено лице да извърши престъпление, базирани единствено на профилиране.

Забрани, свързани с биометрия и наблюдение

Законът налага строги рестрикции върху масовото следене и биометрията.

Според същия чл. 5, параграф 1 от Регламента са забранени също:

  • Системи, създаващи бази данни чрез нецеленасочено извличане на лицеви изображения от интернет или камери.
  • Системи за разпознаване на емоции на работното място или в учебни заведения (с изключения по медицински причини).
  • Системи за биометрично категоризиране въз основа на раса, политически възгледи, религия или сексуална ориентация.
  • Дистанционна биометрична идентификация в реално време на обществени места от полицията, освен при изрични и тежки изключения.

Проверено от Екипът на ПравниОтговори

Проектът се реализира с подкрепата на Адвокат Стела Дойкова. Научете повече за нас.