Разрешено ли е изцяло автоматизираното вземане на решения (профилиране), което поражда правни последици за лицето?

Забрана за напълно автоматизирани решения

Законът строго ограничава ситуациите, в които компютърен алгоритъм или “черна кутия” може да решава човешки съдби без пряк човешки контрол.

Съгласно чл. 52, ал. 1 от Закона за защита на личните данни (ЗЗЛД), вземането на решение, основано единствено на автоматизирано обработване (включително профилиране), което поражда неблагоприятни правни последици за вас или съществено ви засяга, е забранено. То е допустимо единствено ако е изрично предвидено в закона и са осигурени подходящи гаранции – като най-малката гаранция е осигуряването на човешка намеса преди финализиране на решението.

Право на обяснение от ИИ

Ако подобно решение все пак бъде взето въз основа на система с изкуствен интелект (ИИ) и то засяга значително вашето здраве, безопасност или основни права, европейският законодател въвежда допълнителна защита. Съгласно чл. 86, ал. 1 от Регламент (ЕС) 2024/1689 (Акт за ИИ), всяко засегнато лице има абсолютното право да получи от внедрителя ясни и съдържателни обяснения за ролята на системата с ИИ и основните елементи, довели до взетото решение.