Размер на шрифта
Българско национално радио © 2025 Всички права са запазени

Иновации и регламенти

Натали Невжан: Права за роботите? Заключете тази врата!

Стоян Ставру: Правото трябва да приеме ръкавицата, която му хвърлят технологиите

Роботът може да е по-компетентен за някои конкретни и елементарни неща, но все още няма машина, която да може да замени хората. Мнението е на Натали Невжан, експерт по право и етика в областта на изкуствения интелект. Тя е преподавател в университета в Артоа и член на комисията по етика на френския Национален център за научни изследвания.

Известният хуманоиден робот София, който гостува и в България преди време, е гражданин на Саудитска Арабия от 2007 година. В Япония друг робот получава лична карта. Тези факти припомня Натали Невжан, защитавайки твърдо консервативният си подход в дебатите по темата.

Роботите нямат права, казва Натали Невжан и припомня, че само преди време Европейският парламент е предвиждал да даде правен статут на автономните роботи. 

Натали Невжан Снимка: Добромир Видев

Натали Невжан е част от групата на 285 юристи, психолози, медици, философи, изследователи от всички области, написали отворено писмо, за да се противопоставят на идеята да се даде правен статут на роботите. В петицията си те са посочили, че даването на правен статут на роботите и системите на изкуствен интелект създава неприемлив морален риск.

Непредвидими ли са роботите

„Ако автономните роботи и изкуственият интелект имат отделен правен статут, дефиницията за отговорност ще бъде изцяло променена. Отговорността в случай на щета, причинена от такова устройство, не би могла да бъде доказана. Не е вярно! В Европа има правила, които са приложими при тези случаи. А директивата за дефектните роботи е от 1985-та година. И там може да се уточни каква е отговорността на ползвателя и производителя. Във Франция имаме, например т.нар. отговорност за грешка. Новото законодателство предвиждаше, че поведението на робота е непредвидимо и се опитваше да се прехвърли отговорността към производителя. В ЕС обаче вече има правила, задължаващи производителя да вземе мерки машината да е безопасна. Тоест, в ЕС не се допуска да се продава машина, която да причини щета на живо същество. Машините в същото време не са непредвидими“, подчертава тя.

„И ако има бъг в робот, който дава хапчета на болен, това трябва да бъде предвидено. Дори и фактът, че човек може да бъде убит от робот - със сигурност това не би станало по желание на робота. Това явно ще стане заради дефект в замисъла на машината“, коментира Натали Невжан.

Роботите са като консервни кутии - нямат нито воля, нито съзнание, не страдат и нямат чувства, изтъква още Натали Невжан.

Роботите са по-компетентни за дадена конкретна задача. Могат да играят на шах, умеят да хващат топка и могат да се самообучават. Но ако един робот може да хваща топка, а му се хвърли плюшена играчка, той няма да съумее да я хване и отново ще трябва да започне самообучение. Роботът, предназначен да се грижи за възрастен човек, е още в лабораториите, защото е много трудно да се създаде машина, която дори да може да слуша човешкия език, а после и да реагира и да има адекватно поведение на това, което й се казва. Дори само ходенето е нещо много трудно.“

Човекът отчита грешката на машината

Ако все пак се създаде машина, която има чувства и желания, съществува рискът да постави своите чувства и желания пред нашите и тогава може да ни навреди. За щастие, все още не съществува такава машина, човекът все още е необходим, той единствен може да забележи момента, в който машината греши, отбелязва експертът по право и етика в областта на изкуствения интелект Натали Невжан. Тя обаче предупреждава, че човекът върви все повече към желанието си да очовечи робота и изкуствения интелект.

Изследователите работят върху емпатията и комуникацията между човек и машина, за да направят робота приемлив - дават му например симпатична физиономия, защото ако е сладък и приятен, ще имаме повече желание да общуваме с него. Работи се и с гласа на машините - да е мил и нежен, да насърчава човека да говори. Има дори машини, които правят малки мимики и издават звуци, наподобяващи смях. Според изследванията несъзнателно това насърчава хората да говорят на машината. Дори начинът, по който са произнесени думите и скоростта, с която се говори, имат значение.“

Връзката между човека и робота

„Има много начини да се създаде желание у човека да общува с машината - например роботът може да каже "обичам те", "ти си важен за мен" и човек, който не е осведомен, би повярвал, че роботът има истински емоции. Ето ви пример, дори да няма красиво лице. Войниците персонифицират машините. Особено онези с веригите, които обезвреждат бомби. Въпреки това, войниците смятат, че роботите им спасяват живота и им дават имена на свои приятели. Има случаи дори на погребения на машини, а някои войници изпадали в депресия, когато роботът, с който работят, експлоадира. Представете си сега реакцията на хуманоиден робот, който всеки ден ти казва "обичам те". Представете си робот, който обслужва възрастен човек или му прави компания. Какво трябва да се направи, за да не изпадат хората в такава заблуда“, пита Невжан.

„Макар изследователите да се опитват да създадат машина, която да прилича на човек, все още това не може да бъде направено. Дори и да си представим, че съществува система, в която са включени всички софтуери, не може да се достигне до създаване на съзнание. Затова съм против роботът да бъде разглеждан като правен субект. Това според мен означава, че е третиран като човешко същество. И възникват въпросите за даване на права и поемане на отговорност. Роботът технически е неспособен да разсъждава. Как може да разбере, че е причинил злополука?! Това би дало възможности производителят да има по-малка отговорност за бъгове, смята Натали Невжан.

Натали Невжан смята, че е важно да се концентрираме върху етичните въпроси на изкуствения интелект - как ние, хората, ще живеем в общество, пълно с машини. Тя изтъква и сега съществуващите проблеми в междучовешките отношения и отслабването на социалните връзки заради мобилните телефони.

„Хората предпочитат да влязат в социалните мрежи, вместо да общуват с човека срещу себе си, в ресторантите даже двойките понякога не си говорят, казва Натали Невжан. По думите й въпросите, свързани с правата на човешки общности, са по-важни от дискусиите за правата на роботите.

Роботите не бива да имат права

„Вероятно ще бъдете шокирани. Но според мен не трябва да има дискусионни групи по никакъв начин по отношение на правата, които се дават на машините. От една страна поради това, че те нямат съзнание, не могат да имат права и не трябва да имат права. Ако решим да мислим да създаваме такива групи и да обсъждаме тези процеси, това би означавало, че ние вече вървим към едно съгласие, че трябва да признаем права. Искам възможно най-здраво да се заключи тази врата. Преди да обсъждаме правата на роботите и изкуствения интелект, трябва да помислим за правата на жените, правата на малцинствата… Имаме толкова много битки за водене. Защо да водим битка, отнасяща се до съзнанието на една машина?“

Това според Натали Невжан би позволило на производителите да не поемат никаква отговорност за това, което създават, а на един глобален пазар те трябва да бъдат отговорни за това, което продават.

„Аз например се боря за създаване на изкуствен интелект, който да бъде инструмент, оръдие и да се използва от човека. Можем да имате робот, например в болниците, който ще позволи сестрите да не носят прекалено тежко оборудване, роботи, които да вадят химически продукти вместо човека. Искам да стане така, че всички тези машини да служат на обществото. Да ни дават нещо, а не да ни отнемат от нашата свобода“, категорична е Натали Невжан.

Докторът по право и философия Стоян Ставру откроява две страни на въпроса за правата на машините. Едната е психологическа и се корени в опита на производителите да създадат връзка между човека и робота, при която човек разпознава в машината „същество“, подобно на него, с неговата психика, желания и страхове. Юридическата страна пък е формална – тя няма цел да превърне робота в морален субект, а цели по-скоро разпределение на риска.

Регламентите изостават от иновациите, които се движат със съвсем различно темпо, а правото винаги е догонващо, признава Стоян Ставру, който би отворил вратата, затворена от Натали Невжан. Според него един от основните проблеми в технологиите се корени "в предвидимостта на рисковете, които те създават", особено когато имат социално значение. Ставру дава пример с робот, който се грижи за възрастни хора и посочва, че тук вече е на ход социалната функция на роботиката, а тя би изисквала регулация. 

"Правото определено трябва да приеме тази хвърлена му ръкавица от технологиите", убеден е Стоян Ставру. 

Какви са дилемите оттук нататък? Мненията чуйте в звуковите файлове.

Снимки в текста: ЕПА/БГНЕС

БНР подкасти:



Последвайте ни и в Google News Showcase, за да научите най-важното от деня!
Новините на Програма „Хоризонт“ - вече и в Instagram. Акцентите от деня са в нашата Фейсбук страница. За да проследявате всичко най-важно, присъединете се към групите за новини – БНР Новини, БНР Култура, БНР Спорт, БНР Здраве, БНР Бизнес и финанси.
ВИЖТЕ ОЩЕ

Българите в Южна Каролина отбелязоха тържествено 24 май

Училището “Патиланско царство” в Мъртъл Бийч, щата Южна Каролина, тържествено отбелязва 24 май и краят на учебната година. Децата участваха в празничен концерт, куклен театър и имаха още много приятни преживявания заедно с родителите си. Беше отпразнуван празникът на буквите в неделното училище, създадено само преди 6 години, все още само..

публикувано на 25.05.25 в 07:20

Нова техника получава отделението по Нуклеарна медицина в Комплексния онкологичен център в Русе

Напредъкът на технологиите дава възможност за развитие на медицината, а оттам и огромна полза за хората. Всъщност става дума за човешки живот и това е безценният принос на съвременната техника и лекарски знания.  Как ще се развива отделението по Нуклеарна медицина в Комплексния онкологичен център на Русе разказва кореспондентката ни Ася Пенчева в..

публикувано на 25.05.25 в 06:11

Над 4 милиона българи ще могат да се тестват в домашни условия за два вида онкологични заболявания

Над 4 милиона българи ще могат да се тестват у дома за два вида онкологични заболявания през следващите шест години. Здравното министерство обяви, че подготвя модерен скрининг за рак на маточната шийка и на дебелото черво, а целта е максимален брой хора да се прегледат, без да чакат на опашка пред лекарски кабинет. Очаква се първите тестове да..

публикувано на 25.05.25 в 05:50

Диана Гласнова от Хърватия: Най-голяма полза от еврото имат големите фирми, хората търсят промоциите

Най-голяма полза от влизането на Хърватия в еврозоната имат големите фирми, които имат внос и износ . За тях беше много положителна крачка, защото се избягват много технически проблеми при вноса и износа.  Това коментира пред БНР журналистът Диана Гласнова - българка, която от години живее в Хърватия, също е и кореспондент на БТА. За..

публикувано на 21.05.25 в 14:14
Бела Бенова

Бела Бенова - фотограф и пътешественик по морските фарове на Европа

Бела Бенова е фотограф и  пътешественик по морските фарове на Европа.  Автор на книгата "По пътя на пулсиращата светлина". Няколко изложби по темата. "Връщаме лентата" точно 18 години назад, когато Бела поема на първото си пътешествие, следвайки пулсиращата светлина на българските черноморски фарове, а светлината бързо я повежда към съседна..

публикувано на 20.05.25 в 13:37
Доц. Михаела Мишева - УНСС

УНСС набира стажанти за програма "Езиков приятел" в подкрепа на деца мигранти

УНСС набира стажанти за програма "Езиков приятел" в подкрепа на деца мигранти. Стажантска програма "Езиков приятел" е насочена към студенти, които желаят да допринесат за социалната интеграция и успешното развитие на деца мигранти в България. Инициативата се реализира в рамките на проекта Language Buddy. Програмата търси мотивирани и..

публикувано на 18.05.25 в 11:04

София на последно място в международно проучване за безопасно придвижване на деца и подрастващи

София заема последното, 36-о място в международна класация на мрежата "Чисти градове" за безопасно придвижване на деца и подрастващи. Оценката ни е три пъти по-ниска дори от предпоследния в подреждането . В класацията участват големи градове и столици на държави от ЕС. Проучването "Улици за децата, градове за всички" анализира..

публикувано на 16.05.25 в 11:47