Технологии

Интервю | Андрю Брукс: Системи като ChatGPT все още са само умен папагал, повтарящ написаното от човечеството

Съоснователят и главен технологичен директор на британската AI компания Faculty пред "Капитал"

Пламен Моновски

Андрю Брукс © Faculty

Вечерни новини

Всяка делнична вечер получавате трите най-четени статии от деня, заедно с още три, препоръчани от редакторите на "Капитал"

Визитка

Андрю Брукс е съосновател и главен технологичен директор на британската компания Faculty, която е един от водещите играчи в Европа в областта на изкуствения интелект. Брукс е определян за една от "звездите" в AI сектора през последните години. Като специалист по компютърни науки с над 15-годишен опит, той отговаря за разработките и платформата на Faculty, използвана в сфери като здравеопазване, отбрана, ритейл и др. Преди Faculty Брукс ръководи инженерен екип в инвестиционната компания BlackRock, който работи по автоматизирана система за управление на портфолиото на фонда. Има магистърска степен по компютърни науки от University of Warwick.

Върху какво работите във Faculty в областта на изкуствения интелект?

По професия съм специалист по компютърни науки и софтуерен инженер и страстта ми винаги е била в пресечната точка между софтуера и усъвършенствания анализ, дори още преди AI да достигне сегашния бум. При работата ми във фонда Black Rock бях в екипите за управление на активи, които изграждаха системи за търговия и работеха върху интеграцията на умни алгоритми в производството. Тези технологии винаги са представлявали изключителен интерес за мен и така стартирахме и Faculty преди 8-9 години. И двата критични основополагащи принципа на компанията бяха: първо, AI е мощна вълнуваща технология, която има много потенциал. И като всяка нова технология крие огромни възможности и потенциални рискове. И второ, че като специалисти искаме да работим върху проблеми, които помагат да тласнем човечеството напред. И тези две части наистина ни отведоха в света на приложния изкуствен интелект и така започнахме и цялата ни компания.

Естествените ползи от изкуствения интелект

Като компания Faculty работи в по-широката екосистема на изкуствения интелект. Така че ние сме компания за приложен AI. Което означава, че помагаме на организациите да взимат по-добри решения чрез използването на интелигентен софтуер, в случая AI. Напоследък много се пише за ChatGPT, така че виждаме отражението на AI в три основни области. Едната е при разговорите, т.е. технологии като ChatGPT. Втора е творческата област - генериране на изображения и подобни неща, т.е. модели като Stable Diffusion. И третата е при взимането на информирани решения, т.е. сферата, в която Faculty работи. Ние изграждаме наричаните от нас интелигентни системи за вземане на решения за клиенти в публичния и частния сектор. И това наистина е мястото, където искаме да постигнем въздействие на изкуствения интелект върху обществото - чрез вземане на организационни решения. Ние сме много по-фокусирани върху незабавното решаване на определени проблеми. Например, вероятно сме най-известни заради работата си с Британската национална здравна служба по време на ковид, като изградихме тяхната система за ранно предупреждение и дадохме на всички болници в страната възможността за триседмично предизвестие за наплив на болни от ковид по време на пандемията. Именно в тези видове решения и приложения използваме AI технология. Друг добър пример е работата, която свършихме преди няколко години при работата си с Министерството на вътрешните работи на Обединеното кралство за откриване и премахване на пропагандни видеоклипове на ISIS, опитващи се да вербуват хора в цял свят за каузата на ISIS. И работихме с Министерството на вътрешните работи основно, за да докажем на големите технологични компании, че е възможно тези видеоклипове да бъдат премахнати автоматично с помощта на AI. Системата ни може да открие тези видеоклипове с много висока точност.

Могат ли компании като Faculty да помогнат на демократичния свят?

Да, определено. Част от ценностите ни и това, което ни вълнува в компанията е безопасното прилагане на изкуствения интелект в различни сфери. Смятам, че AI е мощна технология, която може да се използва за добро, а не за лошо. И през годините ние всъщност свършихме доста работа, за да се противопоставим на дезинформацията и за общата безопасност на ИИ. Така например работихме с организация, покриваща различни страни от НАТО и ЕС, като опит да приложим технология за възможно решаване на някои от най-големите проблеми на демокрацията. За тях създадохме детектор за разпознаване на deepfake. За целта трябваше да произведем някои висококачествени deepfake видеа, в случая такива на Доналд Тръмп. В бъдеще технологията за откриването им ще стане още по-критична с заради целия напредък напоследък около творческия AI.

Въпреки това технологично предимство, изглежда, че проблемът с фалшивите новини не изчезва, а дори става още по-разпространен. Как всъщност ще победим дезинформацията с AI?

Това е добър въпрос, на който не знам точния отговор. Всъщност, работим с британското правителство в сферата на дезинформацията по проект, за който не мога да говоря, защото е поверителен. Смятам, че винаги ще има дезинформация. Въпросът е да открием колкото се може повече от нея и да ограничим въздействието й. Става дума за оспорвана битка, която има същата динамика като кибератаките - от едната страна са хора, които се опитват да разпратят зловредни съобщения през различни канали, а от другата са каналите, които се опитват да спрат съобщенията да достигнат до твърде много хора.

Като човек, който е навътре в технологията, какво мислите за целия шум около ChatGPT? Истински ли е, трансформираща технология ли е, защото и преди сме преминавали през доста hype цикли?

Мисля, че е честно да се каже, че е едновременно истинска и hype. Ясно е, че е стъпка напред в технологията за обработка на естествен език. И постоянно се изненадвам колко добре се справя в разговор като много мощен модел.

Но тук не става дума за обща интелигентност. Това е наистина голяма стъпка и напредък на технологиите, но не е нещото, което ще замени цялото човечество. Има много нововъведения, които трябва да се случат, преди да достигне изцяло човешките процеси на разсъждение и логическо мислене. Все пак смятам, че този вид технология ще бъде трансформираща за някои от инструментите, които използваме всеки ден. Така че мисля за ChatGPT и други подобни не като за нещо, което ще автоматизира всичко около нас и ще замени хората във вземането на решения. По-скоро трябва да мислим за технологията като за инструмент за производителност. Да го използваме като асистент на хората, за да им помогнем да бъдат по-продуктивни. Например при създаване на първия вариант на даден документ или обобщаване на бележки от среща - технологията ще бъде много, много добра в тези неща и ще ни направи по-продуктивни. Но има и много неточности в модела, когато той уверено ще каже нещо, а човек вижда, че не е правилно и така може да добави нюанси или да го коригира. Така че мисля, че това ще бъде трансформиращо за неща като копирайтинг или обобщаване на документи, или за разработчиците на софтуер и начина, по който пишат код.

Но все още мисля за технологията като за инструмент за производителност, а не нещо, което напълно ще промени начина, по който човечеството взаимодейства с технологиите.

Според вас като компютърен специалист каква е основната причина ChatGPT да изглежда толкова успешна технология при разговор?

Не мисля, че някой наистина разбира как работи, но мисля, че има няколко неща, които са я направили възможна. Едното е огромните данни, които получава от интернет. В същото време изчислителните разходи са намалели. Изчисленията необходими за обучение на ChatGPT и други подобни са просто умопомрачителни. OpenAI харчи 3 милиона долара на ден, за да работи ChatGPT, което е еквивалентът на петия по големина суперкомпютър в историята. Става дума за нова архитектура за самообучение, която расте в мащаб по-бързо и съответно системата се обучава по-бързо, за да се постигне тази производителност.

Лично аз разсъждавам по темата така: измислили сме един подкомпонент на човешкия мозък - нещо като езиков компонент. И той е много добър в разговорна форма, но без да разполага с всички други части на мозъка. В неврологията има примери за хора с мозъчни увреждания. Те разсъждават и мислят, но когато трябва да говорят, от устата им излизат небивалици. А когато пишат, всичко има смисъл. Същевременно има и други, които могат да казват неща, които първоначално звучат логично на хората около тях, но когато се заслушат, нищо, което казват, няма смисъл. И според мен с неща като ChatGPT сме изобретили тези големи езикови модели - компонентът от мозъка, който е част от човешката реч и разбирането на човешкия език, но все още не може да разсъждава напълно. Бих го определил като умен папагал, който е в състояние наистина изискано да повтори написаното от човечеството през годините, но не и да мисли, макар отстрани да изглежда така.

Добра аналогия. Това ли е опасността, която не виждаме на този етап? И трябва ли да бъдем може би малко по-скептични и внимателни след твърде много hype?

За мен напредъкът при AI е най-вълнуващата част. Сега мога и да мисля за него като за умен папагал, но ако погледнете напредъка през последните 2 или 3 години, ще видите невероятен успех. Не мисля, че много хора предвиждаха колко бързо ще стигнем до този етап. Така че напредъкът ще продължи и ще се случва все по-бързо. И така след около 2 или 3 години нашите AI системи ще са още по-добри. И това е причина и за вълнение, но и за безпокойство, защото трябва да сме сигурни, че внедряваме тези решения отговорно и по начин, който е от полза за човечеството, а не само за няколко корпорации или държави.

Според вас защо Google, които имат DeepMind, облачна инфраструктура и милиарди инвестиции в AI, изглежда, изостават? Не искам да кажа, че изостават в генеративния AI, но отстрани изглежда така. Мислите ли, че могат да загубят преднината си в търсенето, или ще преоткрият своя модел?

Ако трябва да гадая, те определено изостават в споделянето на тези неща. Те бяха считани за лидери в областта на AI и във всички тези езикови модели. Но всъщност загубиха тази публичност - да бъдат най-иновативната компания в индустрията. Но ако опознаем начина на работа на DeepMind, смятам, че техните възможности са също толкова добри, колкото и OpenAI или Anthropic. Просто все още не са ги пуснали в публичното пространство, а са ги използвали вътрешно. Така че очаквам те да пуснат свой собствен голям езиков модел относително бързо.

По отношение на AI казвате, че сме направили огромен скок през последните няколко години. Но можем ли да прогнозираме какво ще се случи с технологията през следващите няколко години?

Нещата, върху които работим, е около използването на AI за вземане на решения както в правителствата и здравеопазването, така и в частните организации. Смятам, че през следващите няколко години ще видим използването на AI във всяка заседателна зала, и в тази сфера ние лично влагаме нашите инвестиции. Говорим за система за интелигентни решения, на която можете да задавате въпроси, а тя да ви помогне за информирани решения на стратегическо ниво.

Така че мисля, че това вероятно ще бъде промяната, която ще се случи през следващите около пет години - взаимодействие с AI системите по много по-естествен начин, който да помогне на различни оператори да вземат решения - например на кое легло да разпределя този пациент, как да конфигурира отделението в болницата и т.н.

Какво според вас трябва да направят отделните професионалисти? Има ли набор от умения, които трябва да придобият, за да не изостанат? Трябва ли да посещават курсове, трябва ли да се учат как да използват ChatGPT? Какво трябва да направят и спешно ли е?

Мисля, че тези системи ще ускорят значително производителността през следващите няколко години. И смятам, че това е реална възможност за хората да правят повече с по-малко. Мисля, че критичните важни неща за хората са първо да разберат тези системи - какво могат да вършат, в какво са добри и в какво - слаби. Защото не искате да използвате ChatGPT сляпо. Искате да сте наясно кога е правилно да го ползвате и кога - да не му се доверите. Така че наистина разбирането какво е добро и какво е лошо за тези системи е много важно. И тогава мисля, че има някои тактически неща за това как да задаваме правилните инструкции. И не мисля, че сегашните инструкции, които поставяме на тези системи ще продължат много дълго в бъдеще, тъй като големите езикови моделни системи стават все по-сложни и могат просто да интерпретират по-правилно това, което хората питат.

Смятам, че командите в моделите за изкуство в момента са много готини и хората могат да правят страхотни неща с тях. но мисля, че става дума за временен начин на работа с тях. И е добре, че е временно, защото отваря тази технология за повече хора.

Смятате ли, че трябва да регулираме и управляваме тези промени възможно най-бързо и скоро?

Мисля, че е наистина важен въпрос. За мен има две измерения около регулирането на AI. Едната е регулаторната част, а другата е частта за безопасността на технологията. По отношение на регулациите мисля, че AI е технология с общо предназначение и не мисля, че трябва да се опитваме да я регулираме на хоризонтално ниво. Смятам, че това трябва да става на вертикално ниво по начина, по който регулираме сега отделните индустрии и сектори. Очевидно трябва да продължим да действаме така, но да актуализираме регулациите, като признаваме, че технологиите са напреднали и че трябва да продължим да защитаваме хората. Трябва да актуализираме регулациите в рамките на всяка индустрия, а не като широкообхватно регулиране на изкуствения интелект. И същевременно смятам, че трябва да има гаранции, че AI като цяло е безопасен, когато се внедрява в реалния свят. И като казвам безопасен, имам предвид да зачита поверителността на хората, да е справедлив и безпристрастен, да е устойчив на световните промени и нещо много важно - да може да обяснява, така че хората да разбират какво върши.

И смятам, че има нещо като обща технологична част, в която хората трябва да продължат да инвестират и всеки отделно да я регулира в различни индустрии и да задава въпроси на внедрените системи за изкуствен интелект, за да са сигурни, че те са справедливи, пазят поверителността и обясняват всичко.

Интервюто взе Пламен Моновски