Има ли право потребителят на обяснение, ако компютърен алгоритъм (ИИ) вземе решение срещу него?

Бърз отговор

Да, всяко засегнато лице има абсолютното право да получи ясно и съдържателно обяснение от внедрителя на високорисков ИИ. Това право възниква, когато решението, взето от алгоритъма, поражда правни последици за човека или му оказва неблагоприятно въздействие върху здравето, безопасността или основните права.
Проверено от Екипът на ПравниОтговори
Източници:

Детайли по темата

Защита срещу алгоритмични решения

Гражданите на ЕС са защитени от произволни решения, генерирани от “черни кутии” (black-box AI).

Съгласно чл. 86, параграф 1 от Регламент (ЕС) 2024/1689, ако даден внедрител (напр. банка, работодател или държавен орган) вземе решение въз основа на резултатите от високорискова система с ИИ, и това решение породи правни последици за вас или ви засегне значително в неблагоприятна посока, вие имате право да потърсите отговорност.

Обхват на обяснението

Според същия член от закона, внедрителят е длъжен да ви предостави “ясни и съдържателни обяснения”. Тези обяснения трябва да разясняват какво точно е било мястото на системата с ИИ в процедурата по вземане на вашето решение и кои са били основните елементи (фактори), въз основа на които алгоритъмът е достигнал до този резултат.

Проверено от Екипът на ПравниОтговори

Проектът се реализира с подкрепата на Адвокат Стела Дойкова. Научете повече за нас.