Марян Ризински, Воѕсh Digital: Никой не може да предвиди и надеждно да контролира AI моделите, нужни са регулации

Как обучавате и развивате експертите си в тази нова среда?

Тъй като технологиите продължават да се развиват бързо, става все по-ясно, че бъдещето принадлежи на специалисти с експертни умения в областта на изкуствения интелект и машинното обучение. За професионалистите солидната основа в компютърните науки с бакалавърска степен като минимум е предпоставка за успех. Последните постижения в AI са бурни, така че компаниите осъзнават огромния потенциал на тази технология и инвестират сериозно в нея. Групата "Бош" например планира да инвестира 10 милиарда евро в дигитализация и свързаност до 2025 г. Значително финансиране ще се насочи към разработка на продукти с AI, както и към обучение на експерти в тази област. За да придобият опит в AI, експертите трябва да имат задълбочено познание по математическо и статистическо моделиране, анализ на данни, създаване и оптимизиране на алгоритми и иновативни подходи за решаване на проблеми. В този контекст сътрудничеството между университетите и компаниите става все по-решаващо за разкриване и насърчаване на таланти в сферата на AI.

Къде виждате внедряването на генеративния AI в бизнеса: къде може да е най-полезен и къде - потенциално опасен?

Очаква се генеративният AI да преобрази живота ни. Вече виждаме активното му използване в дизайна, дигиталния маркетинг, сферата на обслужване на клиенти и в администрацията. Несъмнено ще доведе до спестяване на време, оптимизиране на разходи, подпомагане на креативността и цялостно увеличение на производителността в редица области. Генеративният AI се превръща в партньор при работа с голям обем от данни, текст, че дори и снимков материал. В бъдеще с тази технология рутинно и ежедневно ще боравят не само експерти по право и счетоводство, но дори и ИТ специалисти и софтуерни инженери, увеличавайки производителността си няколко пъти. Технологията ще намери приложение и при обучението на млади хора и стажанти от всякакви професии, където обикновено се разчита на опитни ментори, спестявайки време както на обучаемите, така и на обучителите.

Мащабът на очакваната промяна е огромен, но това крие и определени предизвикателства. Възможностите на ChatGPT разкриха пред очите ни началото на технологична надпревара между най-големите технологични компании в света. Буквално всеки ден AI моделите правят гигантски скокове с все по-мощни способности. Много хора вече се притесняват, че технологията може дотолкова да се развие, че да направи редица професии ненужни. Никой, дори и изследователите на AI, не може да предвиди и надеждно да контролира моделите на AI. Липсата на надеждност, прозрачност и отчетност предизвиква сериозни рискове. Заради липса на предвидим контрол отворено писмо на над 1000 изследователи на AI и технологични лидери призовава изследователските центрове за AI по света незабавно да преустановят разработването на големи системи с AI. Сред подписалите петицията са милиардерът Илън Мъск, съоснователят на Apple Стив Возняк, ученият Ювал Ноа Харари, изследователят на изкуствения интелект Йошуа Бенгио и много други.

Наскоро един от пионерите на AI, Джефри Хинтън, подаде оставка като вицепрезидент в Google, за да може да говори открито за опасностите от AI. Джефри Хинтън се смята за автор на по-голямата част от технологията, която стана основа за AI системи като ChatGPT и Google Bard. В интервюта за медиите той изрази опасения относно загубата на работни места и създаването на фалшиво съдържание. От изключителна важност е възможно най-скоро да се признаят и да се предотвратят ефективно заплахите от злоупотреба с AI. С напредването на генеративния AI тези рискове може да се увеличат, създавайки значителни трудности както за бизнеса, така и за обществото като цяло. Затова е важно да се установят подходящи регулаторни и технически предпазни мерки, така че тази технология да се използва етично и отговорно. Макар да има известни усилия в тази посока, те далеч не са достатъчни.

Как компаниите могат да гарантират, че използват генеративния AI по етичен начин?

Начинът на работа и вътрешните взаимовръзки на AI моделите често не са прозрачни. Те наподобяват черни кутии, което може да затрудни разбирането как се вземат решения. По-трудно се идентифицират потенциални режими на неизправност. Допълнителни затруднения възникват заради възможни проблеми с лицензирането на данните, използвани при създаването на модели. Моделите на генеративния AI разчитат на огромни количества данни, а тази входна информация може и да не е била разрешена за свободно използване, а лицензируема за комерсиални цели. Ето защо компаниите трябва да гарантират, че техните AI модели са прозрачни и обясними, така че процесите на вземане на решения и резултатите да са обясними и да не нарушават авторските права. Например съществено ограничение на ChatGPT е, че всичко, което той казва, може да е невярно, тъй като чатботът е изключително добър в извеждането на правдоподобно звучащи аргументи. Поради това трябва да бъдем изключително внимателни и да проверяваме всичко, което ChatGPT представя като факт. Това обаче може да се окаже по-трудно, отколкото да направите собствено проучване. Следователно трябва да се въведат предпазни мерки от техническа и регулаторна гледна точка. Компаниите трябва да установят процедури за мониторинг и одит на системите си с генеративен AI, за да гарантират, че работят в съответствие със своите етични принципи и насоки. Това включва редовна оценка и тестване на системите за потенциални отклонения, грешки или нежелани последствия. Компаниите също трябва да бъдат прозрачни за своите клиенти и заинтересовани страни как използват генеративен AI, включително всички потенциални рискове и ограничения. Това изгражда доверие и създава положителна репутация. Без приемане на подходящо законодателство и стабилни етични кодекси едва ли е възможно AI да се използва отговорно. Редица корпорации са предприели стъпки за създаване на кодекси, които управляват етичните практики на AI. Групата "Бош" е сред пионерите в тази област чрез въвеждане на етични кодекси, които приоритизират човешкия елемент във всеки продукт и система, управлявана от AI.

Смятате ли, че AI и инструментите за машинно обучение по някакъв начин ще заменят хората в ИТ сектора и в други професии?

Вече има интензивен дебат за въздействието на AI в различни области. ИТ секторът също ще бъде засегнат до известна степен. Както вече видяхме, ChatGPT е в състояние да генерира програмен код и подобни инструменти несъмнено ще трансформират начина, по който създаваме софтуер. В бъдеще вероятно ще видим решения, автоматизиращи разработката на елементарни приложения, които се повтарят и не изискват задълбочени познания. Но за сложни софтуерни системи това по-скоро е невъзможно за момента поради няколко причини. Първо, малко вероятно е ChatGPT да успее да създаде код, който е напълно точен. Софтуерните инженери ще трябва да разгледат генерирания код и да проверят коректността му. Освен това освен в писането на код софтуерните инженери участват и в много други съпътстващи дейности, които генеративният AI не покрива. За опитните програмисти генеративният AI вероятно ще се превърне в рутинен инструмент за продуктивност. Все пак, предвид напредъка на тази технология, нещата могат да се развият много бързо и чатботовете да могат да предоставят по-сложен софтуерен код. Вече сме свидетели как AI асистенти за програмиране като Copilot увеличават производителността на опитните програмисти неколкократно. Главният изпълнителен директор на Google Сундар Пичай заяви, че AI е най-значимата технология в историята на човешката цивилизация, потенциално по-важна от откритието на огъня и електричеството. Проблемът е, че ние трябва да се научим как да контролираме този "огън".

Генеративният AI се движи много бързо напред. Къде очаквате да бъде технологията след три, пет години?

Генеративният AI е напът да стане още по-усъвършенстван, тъй като конкуренцията в областта се засилва. Както изследователите, така и компаниите се стремят да надхвърлят границите на възможното. Можем да видим бъдещи системи, чиито резултати силно наподобяват човешките способности и генерират все по-надеждно съдържание. Този напредък ще се разпростре не само върху съществуващите инструменти, но и върху новите продукти и услуги. Инвеститорите все повече обръщат внимание на стартиращи фирми с потенциал за бърз растеж и силна нагласа към промяна на установените браншове. Пазарният дял на големите компании вече не е гарантиран, тъй като по-малките и по-пъргави фирми могат да създадат огромна добавена стойност за по-кратки срокове. Но тъй като технологията на генеративния AI продължава да се развива, трябва да се фокусираме върху регулирането ѝ, за да гарантираме, че AI системите са прозрачни, обясними и надеждни. Законовите превенции са от съществено значение за поддържане на общественото доверие в тези толкова динамични технологии.