Ювал Ноа Харари за AI: Изобретихме нещо, което ни отнема правомощия

Това е заплаха за повече за демокрациите, отколкото за авторитарните режими, тъй като демокрациите разчитат на обществения разговор. Демокрацията на практика е разговор - хора, които разговарят един с друг. Ако разговорът бъде превзет от изкуствения интелект, с демокрацията е свършено.

Нацисткият режим бе базиран на технологии като влаковете, електричеството и радиото. Той не разполагаше със съоръжения като изкуствения интелект. Един нов режим през XXI век ще има на разположение много по-мощни оръжия. Така че последствията могат да бъдат далеч по-катастрофални. Това е нещо, което не знам дали човечеството може да преживее.

Наистина е странно и плашещо, че корпорациите могат просто да представят изключително мощен изкуствен интелект в публичното пространство без стриктни мерки за сигурност Източник: Reuters

Друга опасност е, че много хора могат да се окажат напълно без работа, не само временно, но може да се окаже, че им липсват основни умения за бъдещия пазар на труда. Може да достигнем момент, в който икономическата система възприема милиони хора като абсолютно безполезни. Това има ужасяващи психологически и политически последствия.

Трябва да разберем, че изкуственият интелект е първата технология в историята, която може да взема сама решения. Може да взема решения относно собствената си употреба. Може да взема решения също така за мен и за вас. Това не е бъдещо предсказание, а вече се случва.

Така че силата и правомощията се преместват за първи път в историята. Изобретихме нещо, което ни отнема правомощия. И това се случва толкова бързо, че повечето хора дори не разбират какво става. Трябва да гарантираме, че изкуственият интелект взема добри решения за нашия живот. Но това е проблем, който далеч не сме разрешили.

Една фармацевтична компания например не може да пусне на пазара ново лекарство, без първо да премине през дълъг регулаторен процес. Наистина е странно и плашещо, че корпорациите могат просто да представят изключително мощен изкуствен интелект в публичното пространство без подобни мерки за сигурност. С цялото ми уважение към Илън Мъск, Марк Зукърбърг и другите ръководители на големи технологични компании, но те не са били избирани от никого, не представляват никого, освен своите акционери, и няма причина да им вярваме.

Днес е наистина невъзможно да направим някои неща без смартфон. Но има прекалено много боклучава информация. Както с храната. През по-голямата част от човешката история ние отчаяно сме се опитвали да си набавим повече храна. Докато сега сме в обратната ситуация. И трябва да бъдем много внимателни както с количествата, така и с качеството на храната, която поемаме.

Историята е пълна с грешки. Много важни събития не са в резултат от някакви неизбежни сили в историята. Те просто са в резултат от хора, които са направили ужасни грешки. Основното нещо, което трябва да допуснем, е, че хората могат да сгрешат. Хората са податливи на корупция. Една добра институция или една добра държава е тази, в която има силни самокоригиращи се механизми.