Задължително ли е да се маркират текстове или изображения, генерирани от изкуствен интелект?

Бърз отговор

Да, доставчиците на ИИ системи, които генерират текст, аудио, видео или изображения, са длъжни да вградят технически решения (като машинночетими водни знаци или метаданни), чрез които резултатите да бъдат разпознаваеми като изкуствено генерирани. Целта е да се предотврати разпространението на дезинформация и фалшиви новини.
Проверено от Екипът на ПравниОтговори
Източници:

Детайли по темата

Техническо маркиране на произхода

За да се запази доверието в информационната екосистема и да се противодейства на масовото създаване на фалшиво съдържание (включително дезинформация при избори), ЕС налага строги технически изисквания към самите създатели на ИИ софтуера.

Според чл. 50, параграф 2 от Регламент (ЕС) 2024/1689, доставчиците на системи с ИИ, които генерират синтетично аудио, изображения, видео или текст, трябва да гарантират, че тези резултати са представени в машинночетим формат и са категорично разпознаваеми като изкуствено генерирани. Законът изисква тези технически решения да бъдат ефективни и сигурни (доколкото е технически осъществимо), използвайки методи като водни знаци, идентифициране на метаданни или криптографски методи.

Изключение от това задължително маркиране се допуска единствено, когато ИИ системата изпълнява само помощна функция при стандартно редактиране (например spell-check) или не променя съществено семантиката на текста, написан от човека.

Проверено от Екипът на ПравниОтговори

Проектът се реализира с подкрепата на Адвокат Стела Дойкова. Научете повече за нас.