Проф. Преслав Наков: Силата на фалшивите новини е поради слабостта на хората

Световнопризнатият български учен в областта на изкуствения интелект проф. д-р Преслав Наков беше основен лектор на форума "Up to GATE. Technology, Big Data & Beyond. 5 Years of Innovation”.

Международното събитие събра в София учени и лидери в индустрията от цял свят, които дискутираха горещите теми, свързани с интелигентни решения чрез съвременните технологии на важни за обществото проблеми  в направленията цифрово здравеопазване, градове на бъдещето, интелигентно правителство и умна индустрия. Важен акцент по време на форума беше ролята на изкуствения интелект (ИИ) в откриването и борбата с дезинформацията, повишаването на медийната грамотност и насърчаването на по-безопасна онлайн среда.

• Проф. Преслав Наков е познат като създателя на изкуствен интелект  – „ловец“ на фалшиви новини, при това преди още те да бъдат написани. Той е ръководител на катедра „Обработка на естествен език“ в университета за изкуствен интелект „Мохамед бин Зайед“ (MBZUAI) в ОАЕ – първият в света университет за ИИ. Световен лидер в областта на фалшивите новини и фактологията, той е част от основния екип, разработил Jais - най-добрият в света голям езиков модел с отворен код, ориентиран към арабския език, Nanda - най-добрия в света модел на хинди, и LLM360, първият наистина отворен голям езиков модел.

По време на участието си във форума проф. Преслав Наков акцентира върху предизвикателствата, свързани с фактологията на големите езикови модели  и борбата с дезинформацията и най-новите изследвания, върху които работи.

"Напоследък се занимавам с построяване на големи езикови модели и работя и в намаляването на халюцинациите – разказа ученият пред БНР-Радио София. – Фалшивите новини са тук. Ние имаме няколко системи, които са готови за новата ситуация с големите езикови модели. Един от е Opened Fact Check – средство за проверка на фактологичността на това, което е генерирал големият езиков модел и не само. Можем да вземем произволен текст, да го сложим, той се декомпозира на прости твърдения, които едно по едно се проверяват. Интересното всъщност е, че имаме и не само проверка, но и коригиране в случай, че твърдението не е вярно. Имаме и обяснение защо не е вярно, разполагаме с информацията, на базата, на която е взето това решение."

Проф. Наков изтъкна, че сред другите нови и важни проблеми е проверката дали даден текст е потенциално генериран от машина. Това засяга и образованието, и на науката, и други сфери.

Големите езикови модели имат огромно значение. Те могат да се обучават на много малко примери, включително без примери, обясни още специалистът.
В момента изследванията са насочени към различни аспекти, включително те да бъдат по-фактологични.

"На този етап изкуственият интелект не е на това ниво, което да ни плаши. Но трябва да вземем мерки така, че той да бъде сигурен. Това е нещо, за което трябва да се замислим от самото начало. Има много различни начини да се заобиколят тези защити, но това по някакъв начин е подобно на сигурността в киберпространството. По същия начин искаме да обезопасим тези големи езикови модели и системите, базирани на тях. Има много регулации, свързани с това", отбеляза още проф. Преслав Наков.

По думите му, науката в България отдавна е станала европейска и световна. Доказва го и екипът на GATE с работата си.

Чуйте цялото интервю на Катя Василева с учения.