Какво представлява "високорискова система с изкуствен интелект"?

Бърз отговор

Високорискова система с ИИ е такава, която е защитен елемент на продукт (напр. медицинско изделие) или попада в специален списък на ЕС (напр. за образование, подбор на персонал, правосъдие), тъй като създава значителен риск за здравето, безопасността или основните права на гражданите.
Проверено от Екипът на ПравниОтговори
Източници:

Детайли по темата

Критерии за висок риск

Европейският съюз не регулира целия изкуствен интелект по един и същ начин, а се фокусира върху този, който може да навреди на хората. Съгласно чл. 6, параграфи 1 и 2 от Регламент (ЕС) 2024/1689, една система с ИИ се счита за високорискова в два основни случая:

  1. Системи, свързани с продукти: Когато ИИ е защитен елемент на продукт (или самият продукт), който вече подлежи на задължителна оценка на съответствието от трето лице според правото на ЕС (например при медицински изделия, превозни средства, машини).
  2. Специфични области (Приложение III): Когато ИИ се използва в чувствителни сфери като образование, заетост, правосъдие, миграция и критична инфраструктура.

Изключения и профилиране

Законът е гъвкав. Според чл. 6, параграф 3 от Регламента, система от Приложение III не се счита за високорискова, ако не представлява значителен риск от увреждане на здравето, безопасността или основните права (например ако изпълнява само тесни процедурни задачи или подготвителни функции).

Въпреки това, ако тази система извършва профилиране на физически лица, она винаги и безусловно остава високорискова.

Проверено от Екипът на ПравниОтговори

Проектът се реализира с подкрепата на Адвокат Стела Дойкова. Научете повече за нас.