Световнопризнатият български учен в областта на изкуствения интелект проф. д-р Преслав Наков беше основен лектор на форума "Up to GATE. Technology, Big Data & Beyond. 5 Years of Innovation”.
Международното събитие събра в София учени и лидери в индустрията от цял свят, които дискутираха горещите теми, свързани с интелигентни решения чрез съвременните технологии на важни за обществото проблеми в направленията цифрово здравеопазване, градове на бъдещето, интелигентно правителство и умна индустрия. Важен акцент по време на форума беше ролята на изкуствения интелект (ИИ) в откриването и борбата с дезинформацията, повишаването на медийната грамотност и насърчаването на по-безопасна онлайн среда.
По време на участието си във форума проф. Преслав Наков акцентира върху предизвикателствата, свързани с фактологията на големите езикови модели и борбата с дезинформацията и най-новите изследвания, върху които работи.
"Напоследък се занимавам с построяване на големи езикови модели и работя и в намаляването на халюцинациите – разказа ученият пред БНР-Радио София. – Фалшивите новини са тук. Ние имаме няколко системи, които са готови за новата ситуация с големите езикови модели. Един от е Opened Fact Check – средство за проверка на фактологичността на това, което е генерирал големият езиков модел и не само. Можем да вземем произволен текст, да го сложим, той се декомпозира на прости твърдения, които едно по едно се проверяват. Интересното всъщност е, че имаме и не само проверка, но и коригиране в случай, че твърдението не е вярно. Имаме и обяснение защо не е вярно, разполагаме с информацията, на базата, на която е взето това решение."
Проф. Наков изтъкна, че сред другите нови и важни проблеми е проверката дали даден текст е потенциално генериран от машина. Това засяга и образованието, и на науката, и други сфери.
Големите езикови модели имат огромно значение. Те могат да се обучават на много малко примери, включително без примери, обясни още специалистът.
В момента изследванията са насочени към различни аспекти, включително те да бъдат по-фактологични.
"На този етап изкуственият интелект не е на това ниво, което да ни плаши. Но трябва да вземем мерки така, че той да бъде сигурен. Това е нещо, за което трябва да се замислим от самото начало. Има много различни начини да се заобиколят тези защити, но това по някакъв начин е подобно на сигурността в киберпространството. По същия начин искаме да обезопасим тези големи езикови модели и системите, базирани на тях. Има много регулации, свързани с това", отбеляза още проф. Преслав Наков.
По думите му, науката в България отдавна е станала европейска и световна. Доказва го и екипът на GATE с работата си.
Чуйте цялото интервю на Катя Василева с учения.
