Високорисков ли е ИИ, който се използва за оценяване на ученици и студенти на изпити?

Защита в образователната система

Използването на алгоритми за оценяване на знанията на учащите може драстично да определи тяхното академично и професионално бъдеще. За да се избегне предубеденост и компютърна дискриминация, Европейският съюз налага строг надзор над подобни технологии.

Съгласно т. 3, буква “б” от Приложение III към Регламент (ЕС) 2024/1689, системите с ИИ, предназначени за оценяване на учебните резултати (включително за направляване на учебния процес) в институции на всички нива на образованието, се класифицират категорично като високорискови.

Други високорискови приложения в образованието

Освен самото оценяване на тестове и изпити, законът дефинира като високорискови и системите с ИИ, които се използват за:

• Определяне на достъпа и приема в учебни заведения или насочване към тях (т. 3, буква “а”).
• Оценка на подходящото ниво на образование, което дадено лице ще получи (т. 3, буква “в”).
• Наблюдение и откриване на забранено поведение на ученици и студенти по време на изпити – т.нар. прокторинг системи (т. 3, буква “г”).