Експерти: Изкуственият интелект ще играе много по-ключова роля, отколкото в момента

"Ролята на изкуствения интелект в генерирането и разпространението на фалшиви новини в момента не е толкова съществена. Но се задава вълна от много по-голямо включване на изкуствения интелект във всички аспекти на разпространяване на дезинформация. В последните месеци и години имаше много сериозно развитие в изкуствения интелект, което ще позволи съвсем скоро той да започне да играе много по-ключова роля, отколкото в момента", каза в предаването "Хоризонт до обед" Христо Томов, експерт в сферата на машинното самообучение и съосновател на „Дриймикс“, който ще бъде един от участниците в обсъждането. 

"Все още е достатъчно евтино и достъпно човек да бълва и разпространява дезинформация, без машинно генериране на текстове", отбеляза Мартин Стаменов, експерт по изкуствен интелект.

"Самите алгоритми са базирани на машинно обучение. Това са алгоритмите за промотиране на съдържание на социалните медии. Ние като ползватели, като регулатори нямаме никаква прозрачност как работи един такъв алгоритъм. Това остава една затворена кутия за нас."

Относно модерацията във Фейсбук Христо Томов коментира:

"Какво точно се случва, е сериозно пазена тайна от Фейсбук, но се знае общо какво се случва, без детайли. Тези техни алгоритми – и за таргетиране на информация, и за модериране, те са правени с добра идея, да се поддържа интересът на хората към платформата. Колкото до автоматичното модериране, в повечето случаи става въпрос не автоматично да бъде спирано определено съдържание, а да се привлича вниманието на модератори към определено съдържание. Тоест, в крайна сметка, поне за момента опира до човешка преценка", коментира Христо Томов по темата за модерацията във Фейсбук.

"Действително цари разбиране, че изкуственият интелект е изцяло базиран на ключови думи. В последните години изкуственият интелект се разви достатъчно добре, така че да може да разбира контекст на много езици. Контекстът е до някаква степен вече решена задача. Това, което изгубихме по пътя, е да интерпретираме защо дадено изречение е класифицирано по този начин. Изгуби се това да можем да отворим капака, за сметка на това, че сме много добри да разбираме контекст", подчерта Мартин Стаменов пред БНР.

Христо Томов допълни, че неща, които допреди няколко години са се считали за далечни и трудни за разпознаване от изкуствения интелект, с достатъчно примери машината извлича за себе си определени модели.

Когато хората модерират постове, те връщат решението обратно на машината, която пък го използва за тренировъчни данни, поясни той.

"Машините при самообучението са доста гъвкави и малка част "отровени данни", както се наричат, обикновено не ги чупи. Ако "отровените данни" станат значителна част от данните, с които се самообучава машината, тогава вече това се отразява на това какво тя научава и как започва да класифицира в бъдеще."

Откъде идват фалшивите новини?

Мартин Стаменов посочи наличието на три слоя медии. Единият се състои от сайтове-гъби, които изникват при "пропагандна вълна и дъжд от черни пари", след което подобни мрежи от анонимни сайтове се деактивират.

"Те са място, където се посява дадена опорка, даден наратив, дадена дезинформация. Те биват създадени в много голямо множество, в рамките на 5-10 минути всеки от нас би могъл да направи 200-300-400 клонинга, в зависимост от това какъв му е бюджетът и стимулът да разпространява дезинформация. GDPR-ът им служи вярно, по никакъв начин не можем да вземем информация от т. нар. регистрари за домейните – в коя държава са хостнати самите сайтове, кой евентуално им е собственик… Цялото това нещо е абсолютно закрито като информация вече."

Според Христо Томов изкуственият интелект "ще ни настигне".