ЕС одобри първия в света закон за регулиране на изкуствения интелект

Съгласно предложенията инструментите за изкуствен интелект ще бъдат класифицирани според тяхното възприемано ниво на риск, от ниско до неприемливо. Правителствата и компаниите, използващи тези инструменти, ще имат различни задължения в зависимост от нивото на риск, допълва той.

На 8-ми декември бе постигнат политически компромис от Европейския парламент и Съвета по регламента. До реалното влизане в сила на закона обаче има още поне две години, а технологиите силно изпреварват тази скорост. Различната амбиция на държавите членки също може да затрудни или забави допълнително процеса.

Какво представлява ИИ

"Символичният AI" работи успешно в точно определена среда, която не се променя много с времето, където правилата са строги и променливите са недвусмислени и количествено измерими. Въпреки че тези методи може да изглеждат остарели, те остават много подходящи и все още се прилагат успешно в няколко области, спечелвайки симпатичното прозвище "добрият старомоден AI".

Втората вълна от AI включва по-нови подходи, "управлявани от данни", които се развиха бързо през последните две десетилетия и са до голяма степен отговорни за сегашното възраждане на AI. Те автоматизират процеса на обучение на алгоритми, заобикаляйки човешките експерти от първата вълна на изкуствения интелект. Изкуствените невронни мрежи (ANM) са вдъхновени от функционалността на мозъка и могат да решават далеч по-сложни проблеми. Входовете се преобразуват в сигнали, които преминават през мрежа от изкуствени неврони, за да генерират изходи, които се интерпретират като отговори на входовете.

Те се прилагат в т.нар. Facial Emotion Recognition (FER) - технологията, използваща AI, която анализира израженията на лицето (както статични, така и от видеоклипове), за да разкрие информация за емоционалното състояние на човека. Инсталирана на летища при митнически проверки тя може да таргетира индивиди, които са заплаха, но и също да навлезе в личното пространство на други или да обърка някое болестно състояние с реалния риск.

Но също predicting policing (или "предсказуемо управление"), което включва използване на алгоритми за анализиране на огромни количества информация. Или по примера на филма Minority Report от 2002 г. с Том Круз на база на квартала, в който живееш, социален статус, религия и дори цвета на кожата полицията в големите градове в САЩ вече се опитва да предвиди и помогне за предотвратяване на потенциални бъдещи престъпления. Доколко прецизно е това или дали не е дискриминационно е друг въпрос.

Още - системата за "социално кредитиране" (The Social Credit System), която представлява национален кредитен рейтинг и черен списък, разработени от правителството на Китайската народна република. На база на редица социални критерии те класифицират рисковите субекти в обществото.

Третата вълна на AI се отнася до спекулативни възможни бъдещи вълни на изкуствения интелект. Тук става въпрос за алгоритми, които могат да проявяват интелигентност в широк диапазон от контексти и проблемни пространства. Такъв изкуствен общ интелект (AGI) не е възможен с настоящата технология и би изисквал напредък в промяна на парадигмата. Става въпрос за някои потенциални подходи, включително усъвършенствани еволюционни методи, квантово изчисление и мозъчна емулация. Други форми на спекулативен бъдещ AI може да изглеждат по-скромни в своите амбиции, но тяхното потенциално въздействие - и бариери пред прилагането - не трябва да се подценяват.

За ползите и предизвикателствата

Освен очевидните ползи, които са свързани с по-висока производителност на труда (до 37% по данни на тинк-танка на ЕП), увеличена трайност на продуктите, нови възможности в публичните услуги като обществения транспорт, образованието, управлението на енергия и отпадъци (и за постигане на целите на Европейския зелен пакт), за здравето и сигурността на хората.

Това обяснява нуждата от регулации за AI. "Изкуственият интелект експоненциално се разпространява и се развива, навлизайки вече в почти всяка сфера в обществения живот. И е съвсем нормално, когато имаме развитие на тези системи, да имаме съответните регулации не заради друго, а защото част от тях според мен представляват опасност, включително от гледна точка на етиката, на човешките права, на основните човешки права, сигурността и др.", коментира евродепутатът Петър Витанов.

Резултатите от действието на изкуствения интелект зависят от неговия дизайн и от данните, които използва. И двете могат да имат вградени слабости, които да правят изкуствения интелект необективен. Ако не е разработен правилно, изкуственият интелект може да взема решения, повлияни от етническа принадлежност, пол или възраст при назначаване или освобождаване от работа, предлагане на заеми или при съдебни дела.

Процесът на машинно обучение прави някои алгоритми уязвими към отклонения, а тяхната сложност прави логиката им за вземане на решения трудна за разбиране и обяснение. В тази връзка важно предизвикателство е определянето чия е отговорността за щети, причинени от устройства с изкуствен интелект. Ако една автономна кола претърпи произшествие, кой ще покрие щетите - собственикът, производителят или разработчикът на приложението?

Ако производителят е напълно освободен от отговорност, той може да няма стимул да предостави добър продукт или услуга и това би могло да намали доверието в технологията. Обратно, твърде стриктните регулации може да задушат тласъка към иновации.

Има и други важни рискове, свързани с гарантирането, че разходите и ползите от развитието на изкуствения интелект се разпределят равномерно, като се избягва концентрацията на ресурси в неконкурентни пазари и се дава приоритет на приложения, които облекчават, а не изострят съществуващите структурни неравенства.

Други ключови предизвикателства включват общественото приемане на технологията, нейното привеждане в съответствие със социалните ценности и опасения относно някои военни приложения. Приложения, които са в пряк контакт или са интегрирани в човешкото тяло, могат да представляват заплаха, ако са лошо направени или попаднат под чужд контрол. Липсата на регулации на изкуствения интелект в оръжията може да доведе до изпускането на контрола от хората върху тях.

Някои утопични и дистопични сценарии предполагат, че изкуствения интелект може да доведе до големи загуби на работни места или да направи концепцията за работа остаряла, че AI може да се изплъзне от човешкия контрол и да поеме контрола върху собственото си развитие, че може да предизвика човешката автономия или да развие изкуствени емоции или съзнание- интересни, но спекулативни и философски въпроси.

Какво предстои

Междувременно Европейската комисия се опитва да оформи доброволен пакт за изкуствен интелект - такъв, който ще накара компании като Microsoft, Google и OpenAI да се съгласят с необвързващи принципи за прозрачност и отчетност - временно решение за бързо развиващата се технология, докато законодателството не влезе окончателно в сила. "Не можем да си позволим да чакаме, докато регулирането на изкуствения интелект действително стане приложимо. Необходимо е да работим заедно с всички разработчици на AI на доброволна основа", коментира европейският комисар по въпросите на вътрешния пазар Тиери Бретон в изявление. Вследствие на това и представителите на най-големите платформи, изготвящи съдържание с изкуствен интелект, сред които Google, Microsoft и Meta, се съгласиха да поставят етикет, че съдържанието не е създадено от хора, а от роботи.

На ниво междудържавни споразумения Европейският съюз и Съединените щати планират да засилят сътрудничеството в областта на изкуствения интелект, за да установят минимални стандарти, преди законодателството на ЕС да влезе в сила.