Какво се случва, ако високорискова система с ИИ причини "сериозен инцидент" (напр. смърт или вреда)?

Бърз отговор

Ако високорисков ИИ причини сериозен инцидент (като смърт, здравна вреда, срив на критична инфраструктура или нарушаване на човешки права), доставчикът е длъжен незабавно да докладва на надзорните органи. Той трябва спешно да разследва случая и да предприеме мерки за отстраняване на риска.
Проверено от Екипът на ПравниОтговори
Източници:

Детайли по темата

Задължение за незабавно докладване

Законът класифицира най-тежките провали на алгоритмите като “сериозни инциденти”. Според чл. 3, т. 49 от Регламент (ЕС) 2024/1689, това обхваща ситуации, водещи до смърт, сериозно увреждане на здравето или имуществото, необратимо нарушаване на критична инфраструктура или тежко нарушение на основните права.

Съгласно чл. 73, параграф 1 от Регламента, при такъв инцидент доставчикът на високорисковата система с ИИ е длъжен незабавно (без ненужно забавяне) да докладва на органите за надзор на пазара in държавите членки, където е настъпил инцидентът. Ако самият внедрител (ползвател) установи инцидента, според чл. 26, параграф 5 той също трябва веднага да спре системата и да информира доставчика и властите.

Разследване и коригиращи действия

След като инцидентът е регистриран, доставчикът има задължението да проведе задълбочено разследване. Според чл. 73, параграф 4 от Регламента, той трябва да си сътрудничи изцяло с компетентните органи и да приложи коригиращи действия (напр. поправка на софтуера или изтегляне на системата от пазара).

Проверено от Екипът на ПравниОтговори

Проектът се реализира с подкрепата на Адвокат Стела Дойкова. Научете повече за нас.