Какви са изискванията за качество на данните (обучителните масиви), с които се тренира високорисков ИИ?

Безкомпромисно качество на данните

За да бъде един изкуствен интелект надежден и безопасен, данните, с които се създава, трябва да отговарят на изключително високи стандарти.

Съгласно чл. 10, параграф 3 от Регламент (ЕС) 2024/1689, масивите от обучителни, валидационни и изпитвателни данни трябва да бъдат подходящи, достатъчно представителни и във възможно най-голяма степен без грешки и пълни с оглед на предназначението на системата. Законът изисква те да притежават подходящите статистически свойства по отношение на лицата или групите лица, спрямо които системата ще се използва. Освен това, според чл. 10, параграф 4 от Регламента, данните трябва да са съобразени с конкретната географска, контекстуална и поведенческа среда, в която високорисковият изкуствен интелект е предназначен да функционира.

Управление на данните и борба с предубедеността

Европейският съюз налага задължителни правила за това как компаниите събират и обработват информацията преди самото обучение на алгоритъма.

Според чл. 10, параграф 2 от Регламент (ЕС) 2024/1689, по отношение на обучителните масиви трябва да се прилагат стриктни практики за администриране на данните. Това включва задължителен преглед за евентуална предубеденост (алгоритмичен bias), която има вероятност да засегне здравето и безопасността на хората, да окаже отрицателно въздействие върху основните права или да доведе до забранена дискриминация. Съгласно същата разпоредба доставчиците са длъжни да въведат подходящи мерки за откриване, предотвратяване и смекчаване на такава алгоритмична предубеденост.