Нови правила за прозрачност при изкуствения интелект в ЕС

публикувано на 12.08.25 в 11:18 | Репортаж

Снимка: БТА

Анкета на Момчил Драганов

Update Required To play the media you will need to either update your browser to a recent version or update your Flash plugin.

Етика и изкуствен интелект

Update Required To play the media you will need to either update your browser to a recent version or update your Flash plugin.

От 2 август 2025 г. в ЕС има нови правила за прозрачност за системи с отворен достъп, базирани на изкуствен интелект. Според тях разработчиците на системите с общо предназначение трябва да дават информация за това как работят техните модели и какви данни са използвали за обучението им. За по-напредналите системи с изкуствен интелект, които могат да създадат значителни рискове за обществото, се изисква и подробна документация за мерките за безопасност.

Малко на теория, но в бъдеще повече на практика, ако използваме системи като „ЧатДжиПиТи“(ChatGPT) и „Джемини“ за генериране на текст, анализ на език или писане на програмен код, ще можем да искаме те да са по-прозрачни - кои са източниците на данните, използвани за обучение на моделите, дали са използвали автоматизирано събиране на информация от интернет, да бъдат описани стъпките, предприети за защита на интелектуалната собственост и да има връзка с носителите на права. А ако потребителят не е доволен, може дори да съди доставчици на основаващи се на изкуствен интелект услуги.

Според д-р Татяна Новосьолова, старши анализатор от Центъра за изследване на демокрацията, всичко минава през разбирането ни, че имаме права в интернет. Така, както сме защитени в офлайн средата. Примерите, който д-р Новосьолова дава, са от Австрия и от Испания. В Австрия Агенцията по заетостта е направила алгоритъм, който категоризира лицата, търсещи работа, в отделни групи - които не се нуждаят от помощ, за да си намерят работа, които биха имали полза от допълнителна квалификация за работа и трайно безработни лица, на които агенцията може да предостави ограничена подкрепа. Резултатът от тренирането на алгоритъма обаче довел до изкривявания.

Много институции като омбудсмана, ЦИК, Комисия за защита на личните данни, КЗП, ГИТ, Агенцията за детето вече трябва да упражняват надзор или да осигуряват спазването на задълженията при използването на високорисковите системи с изкуствен интелект от европейската наредба. Как ще се организират, за да изпълняват регламентите – още не е ясно. Според Траян Косев, асистент по право на интелектуалната собственост в УНСС, дори и тепърва да се уточняват ролите на институциите спрямо новия акт за ИИ, съществуващото законодателство дава ефективни инструменти за защита.

Критиките в момента към регламента за изкуствения интелект и към директивата за цифровия пазар, припомня Косев, са че начинът, по който генеративният изкуствен интелект добива знанията си, не е в обсега им. Според директивата изкуственият интелект има право на свободно използване чрез автоматизирането четене на текст и информация. Косев дава пример със съдебна практика от САЩ, където софтуер с генеративен изкуствен интелект, който взима произведения на авторското право, за да се тренира и да се обучава, не нарушава интелектуалната собственост и не представлява нарушение на авторското право.

В ЕС има и дебат кога един изкуствен интелект става високорисков. А границата винаги може да е "няколко реда код". Но докато тези дебати продължават, времевата рамка за въвеждането на новия регламент за изкуствения интелект няма да се променя. От 2 август 2026-а година следва да заработят правилата за прозрачност, мониторинг на пазара и регулаторните лаборатории за изкуствен интелект. Правилата за високорисковия ИИ влизат в сила от август 2027-а година.

Чуйте подробностите в звуковия файл.