Неща

Книга | "Идващата вълна" на М.Сюлейман: В търсене на мирно съжителство с AI

Авторът е поредният инсайдер, който приканва да свалим розовите очила

Румяна Тихолова

Капитал: Light

Всяка събота сутрин: култура, изкуство, свободно време.

Цивилизацията не може да избяга от метафорите за прииждащи вълни и тревогите на оцеляването. Сега на ред е изкуственият интелект. Съоснователят на една от първите лаборатории DeepMind, Мустафа Сюлейман, автор на "Идващата вълна", е поредният инсайдер, който приканва да свалим розовите очила. (DeepMind Technologies е създадена 2010 г., купена от Google през 2014 г. Сюлейман е съосновател и на Inflection AI през 2022).

Миналото подсказва, че трудно предвиждаме негативните ефекти от прогреса. Бащите на Индустриалната революция със сигурност не са се замисляли за пакостите върху климата. Десетина поколения по-късно надценихме компютърния бум. Благосъстоянието нарасна, но се разтвори и ножицата на неравенството. Социалните мрежи обещаха продуктивен обмен на идеи, но се заиграха с емоциите, настъпвайки педала на поляризацията. Освен късоглед оптимизъм, има и друга реакция: пред опасност с дестабилизиращ ефект, чиято сериозност стряска, извръщаме глава. Попадаме в капана на "нетърпимостта към песимизъм". Една от целите на книгата е да срещнем неприятни истини.

Оркестър без диригент

"Прекарайте известно време в кръга на техничари или политици, и бързо ще ви стане ясно, че зариването на главата в пясъка е дежурната идеология," пише Сюлейман. Казва, че сферата на АI сега напомня на "оркестър без диригент": няма консенсус какви модели да се развиват, кой да го прави и с каква цел. Междувременно първата среща на държавни лидери за безопасност на AI се състоя във Великобритания по-рано през ноември. Сюлейман беше сред поканените. Предстои да видим дали идеите му намират отзвук.

Той предлага подход към възпиране на вредните последици (containment) от разпространението на изкуствения интелект. Целта е екзистенциална: контролът би гарантирал оцеляването ни. АI задвижва цунами и рог на изобилието едновременно - от дезинформация, пагубни патогени, терористични атаки, разклатено психично здраве, прехвърляне на власт от човека към "машините" до невиждан скок в добавената стойност, спечелена битка с болести и застаряване, защо не и с неравновесията в климата. За първи път в историята работим с технология, която репликира човешката интелигентност с най-добрите и най-тъмните й страни, четем в "Идващата вълна". Пътят между крайностите няма да е лек: без ограничения се движим към катастрофи, но задушаващите защити строят авторитарен ред, предупреждава Сюлейман.

Подобно на футуролози и икономисти, той възприема прогреса като вълни, задвижвани от иновации. Хомо сапиенс обича технологиите: помагат на оцеляването и трупат богатство. Огънят, парната машина, интернет са примери за технологии с общо предназначение - действат като клъстери, около които се създават нови производства. Колкото по-мащабна е тази свързаността, толкова по-бързо е усъвършенстването и разрастването на вълните.

Така историята на прогреса е история на ускорението. Процесът не е плавен, а скокообразен, хаотичен: скоростта криви картината и скрива рисковете. Докато през ХХ в. темпът на напредък е оставял време да слагаме предпазни колани, изкуственият интелект се развива така стремително, че прозорецът за действие бързо се затваря. Можем ли да бързаме, но по-бавно? "Да оставим плодове на дървото и да отложим облагите, докато (яденето) не е безопасно?," пита Сюлейман.

Регулациите не са непременно спирачка

Очаквано, той приветства опита на Европейския съюз за закон. Регулациите не работят непременно като спирачка: ето, авиацията е сред най-регулираните сектори, но от десетилетия предлага най-безопасния транспорт. Но как да изберем кои рискове да отстраним, щом бъдещето е неясно?

Да погледнем в настоящето. "Моделите на изкуствен интелект и сега проявяват отклонения, непредвидени от създателите им," пише Сюлейман. Обменът на информация между производители, изследователи, контролиращи институции за "инциденти" би била стъпка в правилната посока. Лостовете за управление на риска сега са хлабави: технологията на изкуствения интелект надхвърля способността ни да я разберем в детайли и следствени връзки (така както монтьорът, когато повдигне капака, знае как работи двигателят), но в същото време сме способни да я създаваме и използваме. "GPT-4, AlphaGO** и останалите модели са черни кутии, техните продукти и решения - базирани на мъглява и сложна мрежа от моментни сигнали." Още парадокси? Размита отговорност: технологичните компании поемат печалби и загуби, но без гаранции за безопасност. Щетите се прехвърлят към обществото. По-старателно тестване на моделите и лицензиране на лабораториите ще неутрализират ред опасности.

За да са ефективни предпазните мерки, е нужен глобален консенсус. Правителствата усещат, че АI може да подяжда доверието и разваля демокрацията. Заплашени от ерозия във функциите на властта, включително и защита на гражданите, държавите може да се съгласят да поукротят технологичната надпревара, дори и тя да обещава геополитически предимства. Бизнесът ще се противи по-дълго на болката: на компаниите ще им се струва, че жертват част от печалбата.

Човекът е любопитно същество. Изправя се пред необятни океани и непристъпни върхове, бута границите, напряга мускули, решен да вникне в тайните на Вселената, да изменя света. Сладостта на откривателството е така пленителна, че трудно се спира, за да преценява дали дава огъня на хората като Прометей или пуска злини на свобода като Пандора. До пет години ще съжителстваме със способен изкуствен интелект, според "Идващата вълна". За разлика от сегашните модели, той ще може да управлява процеси, да генерира идеи. От автономността, която ще изберем да му дадем, ще зависи какво съжителство искаме в бъдеще. Ако опасностите не ни тревожат отсега, когато моделите станат по-умни от най-умните хора и се самоуправляват, ще е късно. Етичната и психологическа дилема на Пандора и Прометей, по-всичко личи, ще ни вълнува и занапред.

* DeepMind Technologies е създадена 2010 г., купена от Google през 2014 г. Мустафа Сюлейман е съосновател и на Inflection AI през 2022 г.

**Програма на DeepMind Technologies, обучена с невронни мрежи за стратегическата игра Го.