Размер на шрифта
Българско национално радио © 2025 Всички права са запазени

Технологичните гиганти изпускат контрола и не могат да предвидят всички последици

Футуролог: Метафората за черна кутия в ИИ е жива. Разработчици докладват за критични моменти

Политиците не са наясно с рисковете от ИИ, а технологичните гиганти се застраховат, като искат регулации, смята Мариана Тодорова

| Интервю
Мариана Тодорова
Снимка: Иван Русланов

Шансовете "Скайнет" – съзнателната компютърна мрежа от филма "Терминатор", която унищожава света с човешките оръжия, да се "събуди", са 50:50, смята футурологът Мариана Тодорова от Института по философия и социология към БАН.

В интервю за БНР Тодорова коментира последните разговори в американския Конгрес с ръководителите на големите технологични компании за контрола върху изкуствения интелект, както и казуса с  намесата на Илон Мъск в някои от политическите дела около войната в Украйна.

"Не само Илон Мъск инициира среща в Конгреса и Сената. Сам Алтман, с популяризацията на ChatGPT и OpenAI инициира редица срещи с водещи политици имаше изслушване в Конгреса, което беше доста критично към него. След това започна нещо като политическо турне и се срещна с президенти и министър-председатели от различни страни по целия свят."

Самите технологични лидери осъзнаха, че политиците не разбират каква технология е изкуственият интелект, подчерта Тодорова. Тя споделя мнението, че политиците не са наясно с рисковете.

"Затова и Сам Алтман, и Илон Мъск, осъзнавайки, че самите те изпускат контрола и не биха могли да предвидят всички последици, защото самият изкуствен интелект, проявен в тези големи генеративни езикови модели, е като черна кутия. Иззеха това лидерство, започнаха да търсят мнението и на политици, и на неправителствения сектор и искат да предизвикат глобален дебат."

Досега собствениците на подобни компании винаги са се интересували от ефективността и печалбата, а сега те са тези, които искат регулации, отбеляза Мариана Тодорова. По думите ѝ това е така, защото самите те не знаят "как би възникнало следващото ниво на ИИ, който е конкурентен на нас, не могат да предвидят този процес".

"Следващият голям проблем е изравняването с човешките ценности. Човечеството не е намерило механизъм да изгради някаква глобална етика и да се разбира, затова и все още войните са ключово средство за решаване на конфликти."

Последните езикови модели са изградени от невронни мрежи, конструирани подобно на нашия мозък и съдържат стотици пластове, а самите разработчици докладват, че виждат какво се случва само в първите три пласта, изтъкна още Тодорова.

"Тоест, когато метафората за черна кутия в ИИ е наистина жива и обяснява картината, частично ние вече знаем, че не можем да упражняваме контрол, те разчитат само на това да има консенсус за регулации, така че при евентуален проблем да не носят само те вината. В случая те се застраховат и печалбата не е на първо място."

Разработчиците докладват за критични моменти, уточни Мариана Тодорова.

"Също така е правил опит ChatGPT4 да достигне до критична инфраструктура. Всяка връзка с физическия свят – ядрена централа или дрон, която не е под надзора на човека, е възможно потенциално голямо бедствие или планетарна катастрофа. Още догодина ChatGPT 4 и другите езикови модели ще заместят човешките тролове и ще бъдат произведени стотици хиляди фалшиви новини. Наскоро правих експеримент, питайки един от тези езикови модели за историята на София, и той изхалюцинира – каза, че София е столица от 9. век."  

Сред рисковете, които футурологът открои, са блокиране на градове, спиране на електричество и други подобни, които биха били равносилни на атентат.

ИИ ще бъде глобално явление и когато една страна има дадено достижение, другите ще трябва да я догонват, за да не губят геополитически и геостратегически предимства, коментира Мариана Тодорова в предаването "Хоризонт до обед".

Технологичните гиганти ще имат все по-голямо влияние. Киберсигурността ще бъде по-важна от реалната сигурност, а войните ще бъдат все повече кибервойни, прогнозира тя.

Цялото интервю слушайте в звуковия файл. 

По публикацията работи: Яна Боянова

БНР подкасти:



Последвайте ни и в Google News Showcase, за да научите най-важното от деня!
Новините на Програма „Хоризонт“ - вече и в Instagram. Акцентите от деня са в нашата Фейсбук страница. За да проследявате всичко най-важно, присъединете се към групите за новини – БНР Новини, БНР Култура, БНР Спорт, БНР Здраве, БНР Бизнес и финанси.
ВИЖТЕ ОЩЕ
Министърът на образованието и науката Красимир Вълчев

Промените в Закона за предучилищното и училищното образование - в НС до средата на юли

Промените в Закона за предучилищното и училищното образование, предложени от Министерството на образованието и науката, ще влязат за обсъждане в Народното събрание до средата на юли. Това съобщи министърът на образованието Красимир Вълчев по време на широка експертна дискусия за промяна в образователната структура.  "И преди да го публикуваме..

публикувано на 26.06.25 в 13:51
 Д-р Теодор Димитров

Д-р Теодор Димитров: На 6-то място сме по затлъстяване в Европа заради нездравословното хранене

Според данни на Европейската асоциация за изследване на затлъстяването  между 30% и 70% от възрастното население в ЕС е с наднормено тегло, а 10% до 30% – със затлъстяване. Прогнозите сочат, че до 2030 г. случаите на наднормено тегло ще се увеличат с 33%, а на тежко затлъстяване – със 130%.  В България около 1,5 милиона души живеят със затлъстяване,..

публикувано на 26.06.25 в 13:32

Какво да направят абитуриентите, прекъснали здравните си вноски?

Абитуриентите често пропускат да заплатят здравните си вноски в периода между завършване на средното образование и началото на обучението в университет или постъпване на работа на трудов договор. Много от тях не са наясно , че през тези месеци здравното им осигуряване е прекъснато. Други знаят – чули са от близки или в часовете по..

публикувано на 25.06.25 в 11:01
Доц. Петя Трифонова

Доц. Петя Трифонова от Националния институт по геофизика разказва за магнитните бури

Нито едно същество на земята не може да живее без енергията, която идва от нашата звезда. Слънцето, център на нашата планетарна система е съставено от гореща плазма и магнитни полета . Температурата на повърхността му е повече от 5500 градуса. То освобождава енергията си чрез ядрен синтез. Горещата му корона отправя на далече поток от заредени..

публикувано на 23.06.25 в 12:06

Весела Герчева: Експонатите в музеите трябва да "живеят"! Пари има

"Българските музеи пазят невероятни находки, невероятни богатства . Тези експонати трябва да "живеят ". Това каза в интервю за БНР Весела Герчева, която представи магистърската програма "Съвременни музейни експозиции" към департамент "Археология" на Нов български университет. По думите ѝ, програмата дава инструменти както на работещи..

публикувано на 23.06.25 в 10:31

Д-р Антония Григорова: Намалява възрастта на първата употреба на наркотици в училище

Все повече намалява възрастта на първата употреба на наркотици в училище, като за някои вещества стига 12 годишна възраст. Причината е влошената комуникация между деца и родители. Има голям риск първата употреба в бъдеще да се превърне в зависимост, посочва специалистът Антония Григорова, която консултира близки на зависими. По-активна трябва да..

публикувано на 22.06.25 в 06:31
Иво Прокопиев

Иво Прокопиев: Не се засягам особено на определението олигарх

" Тези ниски данъци , които не е ясно колко ще издържат в България, би трябвало всички да ги плащат и то с огромно удоволствие , защото България остана една от малкото държави в Източна Европа с плосък данък и с толкова ниско облагане, така че по-скоро би било абсурдно, ако някой се опитва да не плаща данъци". Това заяви пред БНР Иво Прокопиев ,..

публикувано на 20.06.25 в 18:27