Проф. Суарат Чаудури: ChatGPT и системи с изкуствен интелект не са особено умни

Проф. Суарат Чаудури от тексаския университет Остин, САЩ, съветва - ChatGPT може да бъде заобиколен в училище. Проф. Суарат Чаудури беше гост на института ИНСАЙТ в София. 

"Учителите трябва да измислят по- сложни задачи, за да не го ползват учениците". 

Проф. Чаудури, какъв е този шум с ChatGPT сега? 

Заслепяващото нещо за ChatGPT е, че гледаме неговите резултати и виждаме в тях нещо почти човешко. Въпросът за мен обаче е, че ако ще прилагате система като ChatGPT в реалния свят, където има реални последствия от неговите грешки, тогава какво ще се случи? И това, което вече виждаме с чата на Bing е, че не върви толкова добре. Веднъж след като ChatGPT е изложен на влиянието на многото си потребители в отворения интернет, които го питат най-различни неща, откриваме, че много скоро той изпада в лудост и започва да говори всякакви луди неща, които никой нормален човек не би направил. 

Казахте, че точно там му е проблемът. Че използва само данни от отворени източници.

Не е само фактът, че работи с тези отворени данни. Но и че няма вроденото разбиране за истина и за причината и следствието. Така че в крайна сметка е важно да се разбере, че това, което ChatGPT е обучен да прави, е, че му е показван много текст в интернет и току-що е бил попитан – тука имаме началото на част от текста, какво би последвало след това начало. И това е всичко, което е бил обучен да прави. Сега в интернет има всякакви неща - някои верни, други неверни. И да, ChatGPT върши много добра работа за синтезиране на малки фрагменти от идеи от различни места, но няма лепило, което да ги държи заедно. 

Нещо като общо разбиране, общ поглед. 

Аз му казвам основи, които са в реалността. Разбиране, да, основавайки го на реалността. 

Има ли чатбот или изкуствен интелект, който има представата за "цялото това разбиране", за което говорите?

Ние нямаме изкуствен интелект, който да работи на такова мащабно ниво в интернет. И в същото време да е така базиран на реалността. Това е едни от големите въпроси пред науката и изследователите на изкуствения интелект през следващото десетилетие.

А вие как отговаряте на този въпрос?

Моят отговор като изследовател е невросимволичният изкуствен интелект. Надеждата при него е, че ще AI ще получи някакви релси, граници по отношение на неговите способности. И по този начин вие ще му предоставите предварително знание за това, което смятате за истина в света. Така, например, ако изграждате AI, който работи във физическия свят, вие ще вземете информация за законите на физиката. Или какви биха били законите по пътищата.

Това са онези малки програми, предоставени за обучение. 

Това е вярно. Иска ни се да използваме силата на т.нар. "дълбоко обучение", но искаме да сме сигурни, че този процес на обучение не е напълно извън контрол и "черна кутия" за нас, хората. И ние искаме да имаме процес, чрез който да ръководим и контролираме. Ние не знаем какво се случва вътре в тези невронни системи. 

Страшно звучи от вас, че не разбираме нещо, което създаваме в момента. 

Затова имаме избор да не прилагаме тези големи непрозрачни невронни мрежи в области, които са от критично значение. Знаете ли, реалността е, че този ChatGPT е много хубаво показно, демо. Но в момента, в който беше започната употребата му в реални приложения за изпълнение, нещата не тръгнаха толкова добре. Въпросът, който бих задал, е - представяме ли си внедряването на GPT (защото демо версиите му изглеждат доста привлекателно) при медицинска диагностика или при управление на роботи, което става все по-приложимо. Причините са просто, че имаме проблем с надеждността. Ако имате робот, който на всеки 10 секунди при някакво противопоставяне решава да дойде и да ви удря, няма да искате използвате този робот. Не че това би се случило и след това бихте взели това решение да не го ползвате. Отвъд това, вие просто няма да виждане реалния ефект от въвеждането на изкуствения интелект.

Или просто всичко е въпрос на морал, отколкото въпрос на наука и достижения? 

Не. Мисля, че е по-скоро въпрос на бизнес въпрос какъв изкуствен интелект хората биха имали вероятност да се използват в реални приложения. На този въпрос аз нямам положителен отговор. Отрицателният отговор на това е, че не си представям свят, в който ChatGPT ще се използва за поставянето на вашата медицинска диагноза. 

Вие посочихте практически приложения на вашия начин за обучение на изкуствения интелект. 

Аз посочих специфично научно приложение на моя метод. Който може да наблюдава например поведението на животните. Започваме да обучаваме невронната мрежа с видеа, от които тя започва да изгражда разбирането си за това как работи светът. Като видеата на полските мишки - как подушват нещата… Пишем програма, която улавя някаква специфика за това, което се случва. В този случай си представете, че имате модел на компютърно зрение, което дава траекториите на тези мишки за единица време. От това ние искаме да извлечем знание за това какво поведение е това. Това би станало трудно, ако разполагахме само със суровите данни. Но в този случай ученият пише малка програма – как да измерим например разстоянията между муцунките на мишките. И на втората фаза вие използвате тези програми, за да структурирате процеса на учене на изкуствения интелект - какво се случва. Но като цяло, ако сравняваме ChatGPT срещу "необработения" GPT 3, към ChatGPT беше добавена тази идея за подсилващо обучение с човешка обратна връзка. И това беше направено, за да може изкуственият интелект да бъде спрян да прави неща, които са неприемливи, които не са добри. Но се оказва, че и това лесно се заобикаля. Виждаме, че това не е достатъчно. Така че имаме нужда от повече иновации.

Ето защо предлагате да използваме човека. 

Затова предлагаме да използвате тези невросимволни методи, където въвеждате тези допълнителни знания за човешкото здраве, например в обучителния процес. И насочваме "ученика" да остане в рамките на тези граници.

Проф. Чаудури, любопитно ми е, във вашия университет в Остин забранихте ли на вашите студенти да използват ChatGPT за правенето на домашните. Четох, че в САЩ сега училищата имат проблеми с използването му от учениците. А даже и в България моя позната призна, че синът й го използва в обучението.

Не и не мисля, че трябва да се забранява. По-вероятният сценарий е или би бил студентите или учениците да го използват за измама на изпити и домашни задачи. Което е по-вероятно. Мисля, че използването му в смисъл на истинско обучение, за определени видове ограничени задачи, би било добре. Например, вие знаете за хора, на които езикът не е роден и допускат граматически грешки, чатът GPT или подобна система може да помогне. Да подреди абзаци и да ги направи по-граматически правилни. Но ако мислите да напишете по-сложно есе от вида, който бихте публикували в национален вестник, в този момент знаете, че формирането на параграфите е само малка част от това. Има едно по-високо ниво на защита на сложна теза. С подобни неща подобни приложения не биха се справили така добре.

А какво бихте посъветвали учителите, които ще се сблъскат с работите на учениците, създадени с чат GPT?

Най-важното е да са наясно какви са възможностите на тези инструменти. Но второто е по-важно. Да бъдат променени задачите и изпитите, за да може да не улесняват изпълнението им чрез ChatGPT. Не мисля, че това би било трудно. Учителят да надхитри чатбота. Друга посока за справяне с това е дебат как може да бъде подобрена самата образователна система. Помислете, ако въпросите, които като учител задавате, лесно могат да получат отговор от чатбот, значи може би има по-дълбоки и логични въпроси, които може да се задават. Това се опитвам да обясня. ChatGPT и подобни системи с изкуствен интелект не са особено умни. След като блясъкът на тази очовеченост на езика, тази повърхностност изчезне, вие виждане дълбочината на аргументите, които излизат от системите. И те не са толкова дълбокомислени. Системите правят глупави грешки. Бих казал, че трябва да е възможно да се измислят задачи, които ги побеждават, и съм сигурен, че много преподаватели по целия свят обменят опит и как да направят това.

Докъде можем да стигнем с изкуствения интелект?

По принцип нищо не ни пречи да имаме изкуствен интелект на човешко ниво. Но не съм видял никакви доказателства, че текущата траектория, която следваме, ще ни доведе до тази точка в скоро време. Това е проблем, чието решаване ще отнеме десетилетия. Ще трябва да имаме много повече иновации. Мисля, че вероятният сценарий в близко бъдеще е, че ще имаме много малки помощници, базирани на изкуствения интелект, в много от нашите ежедневни задачи. Те вече съществуват и ще се подобряват, но въпросът е как да ги използваме по продуктивен начин. Знаете, че по холистичен начин мислим за комбинацията от човека и AI системата. Как да получим нещо, което е оптимална работа за цялата система. Нещата се движат много бързо. Машинното обучение е революция, тя променя цялата наука, инженерството и целия ни свят. Но това няма да бъде само машинното обучение, то няма да остане само, а ще се случи с заедно с човешката мъдрост, която в продължение на векове е била изграждана и развивана. И това може да бъде комбинирано с алгоритмите, които правим. Хората са открили математиката, защото това е начинът, по който можем да си обясним сложните неща. Оттук нататък започва да се развива една цяла нова наука, която изучава как да създаваме подобни хибридни системи. А изграждането на тези съвместни машинно-човешки системи е голямото предизвикателство.