Обществото на алгоритъма и неговите недостатъци

Мислех си по тези въпроси, тъй като наскоро Фарел публикува нова статия, озаглавена The Moral Economy of High-Tech Modernism. Той и социологът Марион Форкад твърдят, че интернет и неговите рожби (това, което те наричат "хай тек модернизъм") променят света по начин, който е толкова съществен, колкото възходът на пазарната икономика и бюрократизацията на обществото по време на модерната държава.

Този аргумент засяга самите основи на човешкото общество. Като индивиди ние, хората, сме слаби и безпомощни поотделно. Само с познанието, което получаваме от живота в рамките на една култура, сме способни да оцелеем. Но за да имаме култура или за да произведем нещо, трябва да се организираме и да се координираме в един колективен разум и споделена единица. От хиляди години ние на практика имаме три различни начина за поддържането на такава организация.

Първият е преразпределяне - информация, ресурси и полезни продукти се вливат в един централизиран басейн и след това излизат под формата на разпределени задачи, инструменти, награди или социална подкрепа. Вторият начин е взаимност - всяко домакинство е свързано с няколко други в дългосрочна връзка на обмяна на блага. И тъй като има само шест степени на разделение в повечето човешки общества, нуждите на едно домакинство ще засегнат действията на много други. На трето място е демокрацията - хората използват дебата и дискусията, за да постигнат консенсус и широка подкрепа за договорения план.

Разбира се, всеки начин на организация включва режим на разпределение и оторизация, за да се отговори на въпроса кой да получава повече от добрите неща (тоест кой да бъде "по-равен" от останалите). При преразпределението силата/правомощията произтичат от тези в центъра на системата; при взаимността - от тези с най-много ресурси и приятели; при демокрацията - от тези с най-убедителните аргументи.

С идването на модерността прибавяме още два начина - пазарната икономика, очертана от бизнес класата, и бюрокрацията, очертана от модерната държава. Пазарът е недостижим като средство за намиране на решения за проблемите. Но на практика неговият обхват е ограничен до задоволяване на желанията на богатите, като се гарантира ефикасната употреба на тези неща, които определят пазарната цена.

По подобен начин бюрокрацията е уникално способна да класифицира и стандартизира нещата, което й позволява да вижда голямата картина по начин, по който взаимността и преразпределението не могат. Но, разбира се, и тук мога да се появят много неефективности.

Нашата могъща, но дълбоко сбъркана и неравна цивилизация е изградена, като са добавени пазарите и бюрокрацията към трите ни първоначални начина на организация. Но сега Фарел и Форкад предупреждават, че се присъединява и шести начин - алгоритъмът.

Според техно оптимистите обществото на алгоритъма ще бъде по-добро от всичко, което можем да създадем с пазарите и бюрокрацията. За разлика от пазара алгоритъмът не е ограничен само до паричните желания и паричните разходи, наложени от тези, които са успели да заявят права над собствеността. А за разлика от бюрокрацията в алгоритмичното общество вече няма "експерти" да решават в коя категория да бъдеш поставян. Вместо това различни групи ще се появяват спонтанно, обединени от предпочитания, изразени от думите и действията на хората. Ресурсите ще бъдат мобилизирани, за да служат на всеки индивид, като се използва уникалната сила на т.нар. икономии от мащаба.

Трябва ли всички да сме въодушевени? Със сигурност, когато бюрокрацията пристигна като нов начин на организация, тя изтри негласните форми на знание, спря хаотичността в живота на хората и ги класифицира в категории, които бяха най-полезни за тези, които държаха лостовете на властта. По същия начин пазарите доведоха до огромни скъпи нови външни ефекти, като приоритизираха нуждите на богатите. Но има ли причина да мислим, че едно алгоритмично общество ще поправи тези недостатъци или че няма да причини свои нови огромни проблеми?

Концепцията на Нобеловия лауреат по икономика Даниел Канеман за "бързо" и "бавно" мислене може да ни помогне да видим какви са залозите тук. Едно алгоритмично общество би обслужвало само нашата "бързо мислеща" страна, постоянно търсеща "сражение" - което означава страх и ярост. Точно както пазарите се грижат за богатите, алгоритмите се грижат за нашите най-лоши импулси. Точно както пазарите обслужват богатите, алгоритмите ще обслужват нашите най-лоши импулси.

Обществото на т.нар. кликбайт не е ничия визия за утопия. И все пак се боя, че натам ни водят настоящите тенденции.