Дори кръстникът на AI вече се притеснява от технологията

Д-р Хинтън заявява пред The New York Times, че е напуснал работата си в Google, където е работил повече от десетилетие и се превърна в един от най-уважаваните гласове в областта. Причината за оттеглянето е желанието му да може свободно да говори за рисковете от AI, като добавя, че част от него сега съжалява за работата, на която е посветил живота си. "Утешавам се с нормалното извинение: ако не го бях направил аз, някой друг щеше да го направи", споделя Хинтън.

Промяната на мнението на д-р Хинтън от AI новатор до прорицател бележи забележителен момент за технологичната индустрия в може би най-важния й преломен момент от десетилетия насам. Лидерите в индустрията вярват, че новите AI системи могат да бъдат толкова важни, колкото въвеждането на уеб браузъра в началото на 90-те години на миналия век, и може да доведе до пробиви в области, вариращи от изследвания на лекарства до образование. Но голям брой хора от индустрията ги е страх, че пускат нещо опасно в дивата природа. Генеративният AI - технологията зад ChatGPT, вече може да бъде инструмент за дезинформация. Скоро това може да представлява риск за работните места. А най-големите притеснения са, че може да представлява риск за човечеството.

Началото на AI

През 1972 г., като завършил университета в Единбург, д-р Хинтън отделя сериозно време на една идея, наречена невронна мрежа. Невронната мрежа е математическа система, която научава умения чрез анализиране на данни. По това време малко изследователи вярват в мрежата, но това се превръща в делото на живота му.

През 80-те години на миналия век д-р Хинтън става професор по компютърни науки в университета "Карнеги Мелън", но напуска университета и отива в Канада, защото по негови думи "не е склонен да приеме финансиране от Пентагона". По това време повечето AI изследвания в Съединените щати са финансирани от Министерството на отбраната, като д-р Хинтън е дълбоко против използването на изкуствен интелект на бойното поле - това, което той нарича "роботи войници".

През 2012 г. д-р Хинтън и двама от неговите студенти в Торонто, Иля Суцкевер и Алекс Кришевски, изграждат невронна мрежа, която може да анализира хиляди снимки и да се научи да идентифицира обичайни обекти като цветя, кучета и коли. Google похарчи 44 млн. долара, за да придобие компанията, а днес тя е в основата на развитата вече AI технология. Суцкевер е главен учен на OpenAI - компанията зад ChatGPT.

Допреди 10 години Хинтън смята, че това е мощен начин машините да разбират и генерират език, но все още е по-лош от начина, по който хората боравят с езика. Миналата година, когато Google и OpenAI изградиха системи, използващи много по-големи количества данни, мнението му се промени. Той все още вярва, че системите са по-неразвити от човешкия мозък в някои отношения, но смята, че те засенчват човешкия интелект в други. "Може би това, което се случва в тези системи, всъщност е много по-добро от това, което се случва в мозъка", заяви Хинтън.

Докато компаниите подобряват своите AI системи, смята той, те стават все по-опасни. "Вижте как беше преди пет години и как е сега", каза той за AI технологията. "Вземете разликата и я експонирайте напред. Това е страшно", добавя той.

Мнението на Хинтън е споделяно и от други експерти в сферата. Над хиляда технологични експерти, сред които и милиардерът Илън Мъск, подписаха общо писмо, което призовава за пауза в развитието на по-мощни от Chat GPT-4 системи, които работят с AI. Според тях подобни програми може да представляват риск за обществото и е нужен по-голям регулативен контрол.

Няколко дни по-късно 19 настоящи и бивши лидери на Асоциацията за развитие на изкуствения интелект, 40-годишно академично общество, пуснаха собствено писмо, предупреждаващо за рисковете от AI. Тази група включваше Ерик Хорвиц, главен научен директор в Microsoft, който внедри технологията на OpenAI в широка гама от продукти, включително търсачката Bing.