Интервю

Герд Леонард: Рано е да се тревожим за екзистенциалните рискове от технологиите

Футуристът, лектор и автор пред "Капитал"

Йоан Запрянов

Герд Леонард © Радина Ганчева

Вечерни новини

Всяка делнична вечер получавате трите най-четени статии от деня, заедно с още три, препоръчани от редакторите на "Капитал"

Профил

Герд Леонард е футурист, лектор и съветник на тема бъдещето на технологиите. Леонард е говорил в над 50 държави и е консултирал компании като Google, Sony, UBS, Mastercard, Unilever, WWF, Siemens и др. Автор е на книгата Technology vs Humanity, която разглежда връзката между технологиите и човечеството през идните десетилетия. Основател на агенцията за лектори и съветници The Futures Agency. "Капитал" се срещна с него след лекцията му на тазгодишното издание на Innovation Explorer, провело се на 20 февруари в София.

Въпреки заглавието на книгата ви (Technology vs. Humanity - "Технологията срещу човечеството") всъщност сте оптимистично настроен за влиянието на технологиите. Защо?

- Мисля, че е прекалено рано да се тревожим за голяма част от екзистенциалните рискове, които носят технологии като изкуствения интелект например. Машините днес не са интелигентни. Имаме поне 10-15 години, за да достигнем до разбиране и контрол на тези рискове. В момента имаме изкуствен интелект и генно инженерство, но дори страни като Китай са много предпазливи в това отношение засега. Моите притеснения са насочени към много по-близкото бъдеще: работни места, обучение на хора, автоматизация, сигурност, наблюдение. Тези проблеми обаче не са от екзистенциално значение. Ще ви дам пример: можем да загубим личното си пространство, но това не би бил краят на човечеството, какъвто може да има при евентуална студена война между хора и машини. Така че има екзистенциални и неекзистенциални, но трудни проблеми.

По време на речта си казахте, че технологията не трябва да се превръща в религия. Но аз смятам, че технологията вече е религия. Един от основните стълбове на религиите е, че те дават отговор на въпроси, решение на проблеми. Не смятате ли, че сме минали религиозния момент?

- Смятам, че технологиите могат да решат всеки проблем, който е технологичен, логичен или научен. Вода, храна, енергия - това са неща, които можем да решим технологично. Но трябва да използваме нетехнологични средства, за да разпределим благата. Проблемът тогава става политически и обществен. Имаме все повече начини да стигаме до все повече богатство, но как всеки да получи от него? Технологията няма да реши този проблем, дори да ни прави по-ефективни в достигането на това богатство. Предизвикателството не е да определим дали една технология е добра или лоша, а как я използваме. Това са решения, които взимаме ние. Трябва да избягаме от мисленето, че технологията е средство за икономически растеж, защото към този момент това е очевидно за всички. Не искаме растеж, а искаме щастие. Искаме това, което аз наричам "хора, планета, печалба" (PPP - People, Planet, Profit). Така че това устойчиво развитие, което искаме, е не само материално и за да го достигнем, са нужни политики и общи действия.

Но тук се появява друг проблем - че някои страни са много по-развити технологично от други. Един от аргументите на технологичните поддръжници е, че технология може да се разработва навсякъде, но реалността е, че това се случва почти изцяло в САЩ, Китай и в по-малка степен Европа. Останалата част от света изостава...

- Да, но прозорецът на САЩ се затваря. Не задължително на Силициевата долина, защото това е отделен от САЩ феномен. Останалата част от света започна да изравнява американската технологична сила. Време беше това да се случи. Европа е във възход и е време да създадем единен технологичен пазар. Когато успеем да го направим, ще бъдем равна сила. Китай ще играе голяма роля, но ще си сътрудничи с други държави, защото, ако не го направи, няма да достигне амбициите си. Поне на това се надявам: че ще работят и с други страни, макар да има много доказателства за обратното.

Най-общо казано, съм оптимист, защото технологията ще ни даде силата, което ни оставя с въпроса дали самите ние имаме волята. А воля ще намерим, когато видим лоши неща, които да ни накарат да работим заедно - като коронавируса в момента например, или инцидент с IT инфраструктурата на световно ниво. Ще ни подейства като Хирошима и Нагасаки. Моята надежда е да започнем да работим заедно, преди нещо подобно да се случи.

Както споменахте и в речта си, ЕС показа част от стратегията си за дигитална регулация. Какъв би бил умният подход към регулация на технологиите, особено изкуствения интелект и големите данни?

- На първо време трябва да бъдем собственици на личните си данни и да накараме американските компании да дойдат тук. Това е нещо, което те биха направили. След което трябва да създадем европейска институция, която да следи за управлението на тези данни. Другият вариант е да се променят законите в САЩ, което изглежда много малко вероятно. Към този момент няма дигитална сигурност в САЩ и нямаме контрол. Но американските компании са съгласни, защото осъзнават колко важен пазар е европейският. След това имаме нужда от регулация на интернет картелите и да стигнем до позиция на равни начала в сферата на данъците, отговорността, сигурността на данните и т.н. Подходът на Европа е правилен, защото е протехнологичен, но и прочовешки. Всичко това бе сред част от приоритетите на Давос през тази година. Европейската комисия се опитва да постигне тези неща, но е трудно, защото ЕК е бюрократична машина.

Трябва ли да забавим темпото?

- Трябва да забавим темпото в някои опасни сфери. Отново - екзистенциални и неекзистенциални. Ако нямам работа, това е неприятно и екзистенциално за мен, но не е бомба за цялото човечество. Големите опасности са в сферата на изкуствения интелект, където създаваме умни машини, които могат да се учат сами. В момента те са далеч от това да са заплаха за човечеството - заплаха са за работни места, но не и за нас. Въпросът не е в изкуствения интелект, а в цялостния изкуствен интелект (artificial general intelligence). Бих направил сравнение с ядрените централи, които произвеждат електричество, но същите материали могат да бъдат ползвани и за бомби.

Как бихме могли да убедим по-младите поколения да не разчитат толкова на технологии? Защото говорихте и за границата между "магията" и "вманиачаването", която много хора вече са прекрачили, не на последно място, и защото технологиите са до голяма степен безплатни.

- Ето това е нещо, което ще се промени. Ще започнем да плащаме повече за услуги и ще получаваме все по-малко неща безплатно. Бих искал да има платена търсачка, макар да е малко вероятно. Ако можех да плащам за Facebook, който не взима данните ми, щях. Но това ще бъде голяма промяна за много хора.

Защо смятате, че това ще се случи?

- Ще се промени разбирането ни, когато осъзнаем, че плащаме с данните си вместо с пари. Милениалите вече са тръгнали в тази посока. Те предпочитат да платят 10 долара на месец и да са начисто, както е със Spotify.

Да, но защо компаниите биха тръгнали в тази посока, предвид че дори със сегашния модел работят на огромни печалби?

- Много от тях ще започнат да бъдат разглеждани като зло. Акционерите ще приберат парите си. Отдръпването ще се случи с Facebook, както се случи с Shell или ExxonMobil например.

Къде е границата дали една технология за вас е "гадна технология" (jerktech)?

- Ако вреди или е дехуманизираща технология, значи е гадна. Ще ви дам пример - има компания, която работи по машина, която износва бебета. Това е дехуманизираща концепция. Може да е по-лесно за жените, но ще ни направи ли по-добри хора, или ще доведе до изчезването ни? Другата гледна точка е за личните данни и дали технологичните компании нарушават личното ни пространство. Това са въпросите, които бих задал.

Примерът, който дадохте от сцената, беше ClearView (стартъп, който предлага на полицията лични данни за граждани срещу снимка). Те помагат на полицията и аргументът на полицията е, че те просто се опитват да играят на равни начала.

- Разбирам, но нещо такова - от една снимка да извадиш целия профил с лични данни на даден човек, е грешно и може да доведе дори до смърт. Това се случва дори днес, в Бразилия, където, ако полицията те сметне за престъпник, е много възможно да те убият, без да имаш доказана вина. Има милион причини защо такива стартъпи са лоша идея.

В един свят на технологии кой ще решава кое е добро или лошо?

- Мисля, че трябва да се фокусираме върху най-простите въпроси като ще ни направи ли това по-добри хора, ще ни помогне ли да бъдем себе си, или ще ни направи зависими. И очевидно, че има много тънка линия между добро и лошо. Facebook започна като добра компания, която бързо премина през това да е зле, по-зле и накрая токсична. Трябва да се фокусираме върху доброто. Няма да има решения върху малките неща, но трябва да има такива върху големите проблеми като убиването на хора с дронове. Такива неща трябва да бъдат забранени. Не трябва да даваме и на машина с коефициент на интелигентност 1000 достъп до облака. Това са неща, за които мисля, че всички можем да се съгласим. През 50-те години на ХХ век не успяхме да стигнем до консенсус за ядрената енергия, но след това осъзнахме, че ако не я произвеждаме, ще умрем. Същото ще бъде и с генното инженерство и климатичните промени - ако не стигнем до консенсус, умираме.

Интервюто взе Йоан Запрянов