Появяването на дигитално манипулирани медии от ново поколение създаде предпоставки не само за по-широката им употреба в различни сфери, но и възможности за сериозни злоупотреби. Напредъкът в изкуствения интелект позволи да бъдат разработвани фалшиви видеоклипове с много висока степен на реалистичност, които изобразяват човек, който казва или прави нещо, което всъщност самият той никога не е казвал или извършвал.
Технологията стана популярна под термина “дийпфейк” /deepfake/, комбинация от думите за „дълбоко машинно обучение“ и „фалшификат“. Основната технология се използва и за създаване на манипулирани аудиозаписи, графични изображения и текстове.
Освен за държавни и военни нужди, дийпфейк технологията има много широко разпространение в много други сфери на обществения живот - киното, медиите, обучението на кадри и др, посочи д-р Александър Кирков, ръководител на Научноизследователската лаборатория по кибернетична сигурност в УниБИТ в подкаста за изкуствен интелект на “Черната кутия”. "Вече има алгоритми, които са много добре оптимизирани и са достъпни през интернет, всеки потребител с компютър, който е малко над стандартното ниво, може да се възползва от дийпфейк софтуер," отбеляза специалистът.
През последните годините нашумяха различни манипулирани видеоклипове на президента Барак Обама, на британската кралица и дори на самия дигитален гуру Марк Зукърбърг.
Д-р Кирков подчерта, че поради бързото усъвършенстване на технологията и социалните рискове, които произтичат от това, вече се налагат различни ограничения, в това число и изискване към разработчиците за дълбочината, до която може да работи дийпфейк, като винаги остава преливане на два образа, а не се синтезира само образа на целта.
Най-често използваните дийпфейк решения могат да бъдат поставени в три категории - дийпфейк видео, клониране на глас и синтез на текст.
Дийпфейк видео
Няколко са факторите, които доведоха до стремително подобряване на възможностите за манипулиране на изображения. Специалистите по компютърно зрение разработиха алгоритми, които могат автоматично да картографират ориентири на лицето в изображения, да речем позицията на веждите и носа, като подобриха технологиите за лицево разпознаване. Бърз възход отбелязаха платформите за споделяне на видео и снимки, създавайки огромен обем аудио-визуални данни на разположение. На трето място трябва да бъдат отбелязани новите инструменти в областта на криминалистиката и разследванията, особено тези за автоматично откриване на фалшификати.
Два специфични подхода за изкуствен интелект често се срещат в програмите за дълбоко фалшифициране: Generative Adversarial Networks (GAN) и автокодери. GAN са алгоритми за машинно обучение, при които две невронни мрежи работят в конкуренция. Те анализират набор от изображения и създават нови със сравнимо ниво на качество. Автокодерите могат да извличат информация за черти на лицето от изображения и я използват за конструиране на изображения с различен израз.
Технология за клониране на глас
Технологията за клониране на глас позволява на компютрите да създават имитация на човешки глас. Софтуерните методи за клониране генерират синтетична реч с много висока степен на достоверност, наподобявайки определен човешки тембър. Технологията текст към глас/Text-to-Speech/ вече е неотменима част от стандартната потребителска електроника. Сред най-популярните решения са Google Home, Apple Siri и Amazon Alexa, както и навигационни системи.
Технология за синтез на текст
Технологиите за синтез на текст в дийпфейк контекст се използва за генериране на текстове, които имитират определен стил на изразяване. Те разчитат до голяма степен на обработката на естествен език (NLP). Основното приложение на NLP e за подобряване на текстовите и вербалните взаимодействия между хората и компютрите. Системите са в състояние да обработват големи количества информация, включително и да дешифрират аудиозаписи. Те могат да интерпретират речта до известна степен, достигайки до ниво на разбиране на изразените емоционални нюанси. Така се оформя модел на стила на говорене на определен човек, който от своя страна може да се използва за синтезиране на нова реч.
Откриване и превенция
Развитието на дийпфейк технологиите доведе до това, че редица компании се специализираха в търсене и определяне на манипулирано медийно съдържание. Единият подход е ръчен, като откриването изисква квалифицирано лице, което да инспектира видеоматериала и да търси несъответствия или признаци за манипулиране. Той е осъществим при работа с по-малки обеми информация. При автоматичния подход се използва софтуер за автоматично откриване, който може да използва комбинация от методи: гласово разпознаване, индикатор за човешка реч, лицево разпознаване, визуални характеристики, времеви несъответствия, липса на достоверни атрибути. Сред най-често срещаните проблеми при дийпфейк идентификаторите обаче е компресията на аудиовизуалните материали, особено в онлайн платформите като социалните медии и чат приложенията. Намаленият брой пиксели при изображенията и данни за описване на звука може да се окажат сериозна пречка при установяването на манипулации.
Повече за тенденциите в развитието на дийпфейк технологиите и противодействието на вредните им проявления чуйте от д-р Александър Кирков, ръководител на Научноизследователската лаборатория по кибернетична сигурност в УниБИТ.
Всички епизоди на "Черната кутия" ще намерите:
Столичната община набира проекти по Програма „Социални иновации“. До 17.03.2025 г., включително, кандидатите могат да подават проектни предложения по образец за Общинската програма „Социални иновации“. Програмата съдейства за реализирането на иновативни решения, насочени към създаването, прилагането или..
Регионалната здравна инспекция във Враца организира във врачанските училища серия от беседи, насочени срещу употребата на вейпове от деца и младежи. Темата за употребата на наркотици и тютюнопушенето отдавна е част от работата на регионалните здравни инспекции. Като звена на здравното министерство те изпълняват Националната..
Седмицата, в която отбелязахме Националния празник - с още един поглед към честването. Колко значим е Трети март и какво е мястото му в празничния календар на българина разказва д-р Искрен Великов от къщата-музей на Захари Стоянов . 147 г. от Освобождението на България Известно е, че на 3 март се подписва Санстефанският мирен договор,..
Поставянето на диагноза за рядко заболяване зависи от подготовката на лекарите – дали познават проявленията на тези болести и дали ги търсят при пациентите . Това казва проф. Даниела Авджиева, началник на Клиниката за лечение на деца с генетични заболявания в специализираната педиатрична болница "Проф. Иван Митев". Над 6000 са откритите..
Снимки на двете рижи момченца Ариел и Кфир Бибас станаха символи на протестите с искане за завръщане на заложниците, които бяха отвлечени в Газа през октомври 2023 година. Напразно в центъра на Тел Авив честваха първия рожден ден на Кфир. Момченцето е било жестоко убито още през миналия декември от терористи от непозната досега ислямистка..
Близо 600 бездомни хора, настанени в трите центъра за временно настаняване в София, получиха основни хранителни продукти благодарение на съвместната инициатива на Столична община и Българската хранителна банка (БХБ). Кампанията, инициирана от заместник-кмета Надежда Бачева, не просто осигури най-необходимото за хората в нужда, но и изпрати силно..
255% е реалното увеличение на заплатите у нас от далечната 1949 г. до 2023 г. Изследване на преподаватели в Софийския университет "Св. Климент Охридски" проследява данни за потреблението и цените на 7 вида стоки за 74-годишния период . Трите периода във фокуса на проучването са комунизъм – до 1989-а, преход към пазарна икономика – до..
Конституционният съд е в готовност почти незабавно да постанови съдебно решение, след като получи данните от ЦИК . Тази готовност се затруднява от..
Нападателят на дежурните метеоролози на станцията на връх Мургаш е 32-годишен мъж. Той е задържан за 72 часа , съобщиха от СДВР за..
Ако управляващата конфигурация ще се промени по някаква причина, това няма да е заради влизане на "Величие" в парламента , а заради проблемите, които..
Облачно
Променлива облачност; възможно е да превали
Предимно облачно