Мъск и технологични експерти искат "пауза" в развитието на AI
Според тях разработването на по-мощен от Chat GPT-4 интелект крие рискове за обществото
Вечерни новини
Всяка делнична вечер получавате трите най-четени статии от деня, заедно с още три, препоръчани от редакторите на "Капитал"
Над хиляда технологични експерти, сред които и милиардерът Илън Мъск, подписаха общо писмо, което призовава за пауза в развитието на по-мощни от Chat GPT-4 системи, които работят с изкуствен интелект (AI). Според тях подобни програми може да представляват риск за обществото и е нужен по-голям регулативен контрол.
Писмото е изпратено от нестопанската организация Future of Life Institute, която е финансирана главно именно от основателя на Tesla. Писмото идва само две седмици след като OpenAI обяви GPT-4, още по-мощна версия на технологията, която е в основата на популярния AI chatbot инструмент, ChatGPT. В ранните тестове и демонстрацията на компанията беше показано, че технологията съставя съдебни дела, полага стандартизирани изпити и създава работещ уебсайт от ръчно нарисувана скица.
В писмото се казва, че паузата трябва да се прилага за AI системи, "по-мощни от GPT-4". В него се отбебязва също, че независимите експерти трябва да разработят съвместно и да внедрят набор от споделени протоколи за AI инструменти, които са безопасни "отвъд разумно съмнение". "Мощните AI системи трябва да бъдат разработени само след като сме уверени, че техните ефекти ще бъдат положителни и техните рискове ще бъдат управляеми", заявяват технологичните лидери.
Големите технологични компании не подкрепят
Сам Алтман, главен изпълнителен директор на OpenAI, не е сред подписалите писмото. Сундар Пичай и Сатя Надела, изпълнителни директори съответно на Alphabet и Microsoft, също не са го подкрепили - това е очаквано, защото и двете компании развиват AI.В списъка са специалисти от разрастващата се индустрия с изкуствен интелект, включително от екипа зад невронната мрежа на Alphabet - DeepMInd, и смятаният за един от "кръстниците" на изкуствения интелект Йошуа Бенгио от Монреалския университет, и Стюарт Ръсел, пионер в изследванията в тази област.
Притесненията идват, защото ChatGPT привлича вниманието на американските законодатели с въпроси относно въздействието му върху националната сигурност и образованието. Европол предупреди в началото на седмицата за потенциална злоупотреба със системата при опити за фишинг, дезинформация и киберпрестъпления.
"Голяма част от властта за разработване на тези системи е постоянно в ръцете на малко компании, които имат ресурсите да го направят", каза Суреш Венкатасубраманиан, професор в университета Браун и бивш помощник-директор в Службата за наука и технологии на Белия дом. "Такива са тези модели, трудно се изграждат и трудно се демократизират", добавя той пред Reuters.
Поляризация
След появата си в края на ноември ChatGPT поляризира света, включително научната общност и бизнеса. Възможностите на езиковия модел за генерирането на съдържание стимулира конкурентите да ускорят работата по сходни и други продукти. OpenAI обяви наскоро, че работи с редица компании, които опитват да вградят услугите си в ChatGPT, за да могат потребители да поръчват храна или резервират полети.
Според някои експерти бумът на изкуствения интелект може да преобрази икономиката и обществото със сътресения, които ще заличат милиони работни места. Има обаче и критики към авторите на писмото, които вече бяха обвинени, че силно преувеличават рисковете и вместо това са нужни по-строги изисквания за прозрачност.
1 коментар
Въпроси за проблемите за човешкото общество са обсъждани в фантастиката още от 20-ти век. Има невероятни прозрения на Азимов, Лем. Има филми. Опасенията не са безпочвени. За съжаление желанието за (краткосрочна) печалба ще надделее. После ще има - аз ли криво ти се молих, господи, ти ли криво ме разбра.
Прогресът в науката и техниката е неизбежен. "Изкуственият интелект" е фантастично мощен инструмент, който ще донесе много ползи. Но на деца не се дава да управляват самолети, нито да управляват държави. За "изкуствения интелект" това е в пъти по-важно.
Нов коментар
За да публикувате коментари,
трябва да сте регистриран потребител.