Може ли ИИ да се използва за оценка на риска дадено лице да извърши престъпление въз основа на профилиране?

Забрана за алгоритмично “предвиждане” на престъпления

Европейският съюз категорично отхвърля концепцията компютърни програми да предсказват криминално поведение единствено на базата на статистически профили на хората.

Съгласно чл. 5, параграф 1, буква “г” от Регламент (ЕС) 2024/1689 се забранява пускането в действие и използването на системи с ИИ за извършване на оценки на риска с цел да се прецени вероятността дадено физическо лице да извърши престъпление, когато това се основава единствено на профилиране или на оценката на личностните му характеристики.

Тази строга забрана предпазва гражданите от дискриминация и предубеденост. Правоохранителните органи могат да използват подобен софтуер само като помощен инструмент, и то когато оценката е изградена въз основа на конкретни, вече установени обективни факти, доказващи пряка връзка с реална престъпна дейност.