Петър Цанков, LatticeFlow: Повечето AI модели не работят заради лош набор от данни

Но остава въпросът: защо повечето от тях не стигат до момента, в който могат да се ползват на практика?

- Основният проблем е, че е много трудно да ги направиш толкова добри, че да можеш да им се довериш. При повечето модели в първия момент всички са впечатлени. Така стана и с ChatGPT. Бързо след това бяха открити пропуски и че моделът, макар и впечатляващ, е далеч от перфектен. Когато става дума за специализирани модели, които ти карат колата или решават медицински въпроси, тогава няма място за такива грешки.

Въпрос на систематични грешки при вкарването на данни или друго?

- Основният проблем е наборът на данни. Качеството на данните е особено важно, но не е единствeният фактор. Тук рискът е да се каже, че качеството на данните е най-важно и всичко останало да остане на заден план. В LatticeFlow често виждаме, че клиентите имат по-дълбоки проблеми, като например как са подадени софтуерно тези данни, как са анотирани и т.н. Това е човешката част - хора, които показват на модела кой е верният отговор в дадена ситуация и след милион подобни малки частички тестване, той се научава.

Много често данните са небалансирани - например 99% снимки, които са добри и 1% снимки, които са специфични. Такъв дисбаланс прави работата много трудно. Представи си, че си ученик и решаваш 99% алгебра и 1% тригонометрия. Очевидно няма да си много добър по тригонометрия. Грешно анотираните данни са друг проблем - това е като да не разбереш какво е заданието на задачата. Тук отново проблемът е човешки. Например, ако хората не са анотирали добре дадени модели, могат да се получат грешки като дали колата е кола или целият паркинг е кола.

От гледна точка на LatticeFlow забелязвате ли значителни промени в сектора след пускането на ChatGPT?

- Основното, което видяхме е, че на крайния потребител му просветна един прост факт: изкуственият интелект не е нещо, което ще се случи след десет години, а нещо, което се случва сега. Това, което ChatGPT направи, е да покаже на всички какви са възможностите на тази технология.

От компаниите забелязахме предимно засилен интерес към езиковите модели и генеративния AI. Цялата индустрия разбра, че трябва да започне да инвестира в тази сфера, защото не е игра, а въпрос на бизнес оцеляване.

Когато диагностицирате един модел, кой е най-честият проблем?

- Грешно анотираните данни са най-масовия проблем. Между 20 и 50% от данните обичайно имат някакъв проблем, което е огромен процент. Често виждаме и т. нар. "слепи петна", т.е. данни, където моделът въобще не разбира какво вижда и съответно не работи.

Винаги в разговор за изкуствен интелект се стига до "Терминатор" въпроса. Предвид бързото развитие на технологията, и особено ако приемем, че то ще продължи експоненциално, има ли от какво да се страхуваме по отношение на пазара на труда?

- Това за мен са два въпроса. Според мен ще има синергия между хората и изкуствения интелект, тоест те ще си помагат. Същевременно има реален риск, понеже технологията се развива много бързо, да се случат драстично бързи промени в живота ни, което ще повлияе на много хора. Някои професии ще се автоматизират, това вече се случва. Съответно има реална опасност нагаждането на хората да бъде по-бавно, отколкото развитието на технологията. Една държавна политика обичайно е в рамките на години, докато тук си говорим за дни и седмици.

Има ли възможност, както казва Ювал Ноа Харари, да се появи една "безполезна" класа хора, чиято дейност може да се автоматизира?

- Да, има такава възможност и тя вече се случва. Ако тези хора не се преквалифицират, те няма да има какво да правят.

Логичният последващ въпрос е, ако технологията се движи толкова бързо, има ли въобще смисъл от преквалификация?

- О, винаги. Никога не бих отговорил "не" на този въпрос. Винаги има смисъл да научиш нещо ново. Сега това е все по-наложително, все по-важно.

Какво в тази тема ви притеснява?

- Аз не съм особено притеснен. Положително мислещ човек съм. Не мисля, че трябва да слагаме бариери и да забавяме изкуствено технологията. Има други методи, с които можем да се справим - всяка развита икономика може да се погрижи за гражданите си и да защити тази част от обществото, която трябва да се преквалифицира.

И обратното: какво ви кара да бъдете оптимистичен в работата ти?

- Това е технология, която ще промени наистина всичко около нас, всяка индустрия. Това е огромно. В медицината например това ще бъде една от най-големите промени някога. Медицината е сфера, където автоматизацията е добре дошла, защото на места тя откровено деградира. В САЩ например разходите за здравеопазване се повишават, докато здравето на обществото се влошава. Това е абсурд. За мен това са проблеми, които могат да се решават с технология и в широк мащаб всички хора да имат добро здравеопазване. Без скъпи застраховки и недостиг на лекари.