Размер на шрифта
Българско национално радио © 2025 Всички права са запазени

Технологичните гиганти изпускат контрола и не могат да предвидят всички последици

Футуролог: Метафората за черна кутия в ИИ е жива. Разработчици докладват за критични моменти

Политиците не са наясно с рисковете от ИИ, а технологичните гиганти се застраховат, като искат регулации, смята Мариана Тодорова

| Интервю
Мариана Тодорова
Снимка: Иван Русланов

Шансовете "Скайнет" – съзнателната компютърна мрежа от филма "Терминатор", която унищожава света с човешките оръжия, да се "събуди", са 50:50, смята футурологът Мариана Тодорова от Института по философия и социология към БАН.

В интервю за БНР Тодорова коментира последните разговори в американския Конгрес с ръководителите на големите технологични компании за контрола върху изкуствения интелект, както и казуса с  намесата на Илон Мъск в някои от политическите дела около войната в Украйна.

"Не само Илон Мъск инициира среща в Конгреса и Сената. Сам Алтман, с популяризацията на ChatGPT и OpenAI инициира редица срещи с водещи политици имаше изслушване в Конгреса, което беше доста критично към него. След това започна нещо като политическо турне и се срещна с президенти и министър-председатели от различни страни по целия свят."

Самите технологични лидери осъзнаха, че политиците не разбират каква технология е изкуственият интелект, подчерта Тодорова. Тя споделя мнението, че политиците не са наясно с рисковете.

"Затова и Сам Алтман, и Илон Мъск, осъзнавайки, че самите те изпускат контрола и не биха могли да предвидят всички последици, защото самият изкуствен интелект, проявен в тези големи генеративни езикови модели, е като черна кутия. Иззеха това лидерство, започнаха да търсят мнението и на политици, и на неправителствения сектор и искат да предизвикат глобален дебат."

Досега собствениците на подобни компании винаги са се интересували от ефективността и печалбата, а сега те са тези, които искат регулации, отбеляза Мариана Тодорова. По думите ѝ това е така, защото самите те не знаят "как би възникнало следващото ниво на ИИ, който е конкурентен на нас, не могат да предвидят този процес".

"Следващият голям проблем е изравняването с човешките ценности. Човечеството не е намерило механизъм да изгради някаква глобална етика и да се разбира, затова и все още войните са ключово средство за решаване на конфликти."

Последните езикови модели са изградени от невронни мрежи, конструирани подобно на нашия мозък и съдържат стотици пластове, а самите разработчици докладват, че виждат какво се случва само в първите три пласта, изтъкна още Тодорова.

"Тоест, когато метафората за черна кутия в ИИ е наистина жива и обяснява картината, частично ние вече знаем, че не можем да упражняваме контрол, те разчитат само на това да има консенсус за регулации, така че при евентуален проблем да не носят само те вината. В случая те се застраховат и печалбата не е на първо място."

Разработчиците докладват за критични моменти, уточни Мариана Тодорова.

"Също така е правил опит ChatGPT4 да достигне до критична инфраструктура. Всяка връзка с физическия свят – ядрена централа или дрон, която не е под надзора на човека, е възможно потенциално голямо бедствие или планетарна катастрофа. Още догодина ChatGPT 4 и другите езикови модели ще заместят човешките тролове и ще бъдат произведени стотици хиляди фалшиви новини. Наскоро правих експеримент, питайки един от тези езикови модели за историята на София, и той изхалюцинира – каза, че София е столица от 9. век."  

Сред рисковете, които футурологът открои, са блокиране на градове, спиране на електричество и други подобни, които биха били равносилни на атентат.

ИИ ще бъде глобално явление и когато една страна има дадено достижение, другите ще трябва да я догонват, за да не губят геополитически и геостратегически предимства, коментира Мариана Тодорова в предаването "Хоризонт до обед".

Технологичните гиганти ще имат все по-голямо влияние. Киберсигурността ще бъде по-важна от реалната сигурност, а войните ще бъдат все повече кибервойни, прогнозира тя.

Цялото интервю слушайте в звуковия файл. 

По публикацията работи: Яна Боянова

БНР подкасти:



Последвайте ни и в Google News Showcase, за да научите най-важното от деня!
Новините на Програма „Хоризонт“ - вече и в Instagram. Акцентите от деня са в нашата Фейсбук страница. За да проследявате всичко най-важно, присъединете се към групите за новини – БНР Новини, БНР Култура, БНР Спорт, БНР Здраве, БНР Бизнес и финанси.
ВИЖТЕ ОЩЕ

Наводнение в историческа солна мина нанесе удар по туризма в румънско село

За сериозен удар по туризма разказват жителите на румънското село Прайд, след като в края на миналия месец историческата солна мина в района беше наводнена. Съобщава се за отлив на посетители и много отменени резервации в множеството къщи за гости. Нищо не е същото в трансилванското село Прайд, след като освен около 130-те миньори, които са..

публикувано на 06.06.25 в 20:11
Антонина Дуриданова

Антонина Дуриданова: Приемането на еврото ще бъде много полезно за България

Антонина Дуриданова   напуска България преди повече от 50 години . Минава през тежки изпитания, за да изгради блестяща кариера в Съединените щати, след това се връща в родината, за да помогне в изграждането на нова данъчна система след края на комунизма. От емигрант до експерт: Историята на Антонина Дуриданова " Голямо вълнение..

публикувано на 06.06.25 в 11:22
Арман Бабикян

Арман Бабикян: Поне 5 политически сили доведоха до влизането ни в еврозоната

"Имаше смислени хора в поне пет политически сили , които доведоха до успеха с влизането на България в парична употреба с евро , но трябва да тръгнем твърде отдалеч". Това каза пред БНР Арман Бабикян , пиар експерт и част от гражданското движение "Ние идваме": "Сред тях беше и Градската десница , беше и НДСВ, на моменти и БСП , разбира се и..

публикувано на 06.06.25 в 09:44
Мартин Атанасов

Сайтът "Черна писта" продължава да работи въпреки хакерските атаки

Шестцифрена сума за награда обяви собственикът на компанията , която доставя сървърите на сайта "Черна писта" . От пускането му преди седмица сайтът за опасните пътни отсечки в страната стана обект на многобройни атаки, блокиращи работата му. Димитър Димитров , собственик на хостинг компанията, предлага 100 000 лева за достоверна информация..

публикувано на 06.06.25 в 08:27

Нови обществени поръчки за сметосъбиране в София

Столичната община обявява обществена поръчка за извозването и почистването от боклук в седем зони в София на стойност над половин милиард лева .  СО сезира Административния съд и Сметната палата за забавените обществени поръчки за сметопочистването Целта е София да бъде по-чиста, да има по-висок контрол, по-високи санкции и инструменти,..

публикувано на 05.06.25 в 14:35
Георги Харизанов

Георги Харизанов: Бих се зарадвал на следващо правителство, в което няма социалисти

"Ако за еврозоната и за инфлационните критерии ПП-ДБ бяха провели същата битка , каквато беше за дерогацията на "Лукойл", отдавна щяхме да сме влезли , но хората си имаха други приоритети". Това коментира пред БНР  Георги Харизанов , политически анализатор: "Положителните конвергентни доклади за България донесоха добри новини за всички..

публикувано на 05.06.25 в 13:22

"Месиш ли?" - кампания, насърчаваща демократичната ангажираност сред младите хора

Студенти  от специалностите "Политически науки" и "Връзки с обществеността"  в  Нов български университет ще представят пред международно жури резултатите от инициативата "МЕД – Месенето е демокрация".  За период от 4 месеца те трябваше да създадат и изпълнят собствена инициатива, която ще засили гражданската активност сред младежките..

публикувано на 05.06.25 в 12:02