Разрешава ли се изпитване на високорисков ИИ в "реални условия" извън регулаторните лаборатории?

Бърз отговор

Да, доставчиците имат право да изпитват високорискови системи с ИИ в реални условия преди пускането им на пазара, но само при изключително строги гаранции. Изпитването трябва да бъде предварително регистрирано, да следва изричен план и да не поражда неприемливи рискове за хората или обществото.
Проверено от Екипът на ПравниОтговори
Източници:

Детайли по темата

Строги условия за тестване “на живо”

Понякога лабораторните условия не са достатъчни, за да се разбере как ще се държи алгоритъмът в реалния свят.

Съгласно чл. 60, параграф 1 от Регламент (ЕС) 2024/1689, доставчиците могат да провеждат изпитвания на високорискови системи с ИИ в реални условия. За да се случи това обаче, според параграф 3 от същия член, трябва да бъдат изпълнени редица кумулативни условия:

  1. Доставчикът трябва да изготви официален “план за изпитване в реални условия”;
  2. Изпитването трябва да бъде официално регистрирано в базата данни на ЕС;
  3. Системата не трябва да поражда неприемливи рискове за здравето, безопасността или основните права;
  4. Работата ѝ трябва да се контролира ефективно от квалифицирани лица.

Ако по време на тестването възникне сериозен инцидент, съгласно чл. 60, параграф 8, изпитването трябва да бъде спряно незабавно.

Проверено от Екипът на ПравниОтговори

Проектът се реализира с подкрепата на Адвокат Стела Дойкова. Научете повече за нас.