Абонирайте се за нюзлетъра на "Булевард България", за да получавате селекция с най-интересните теми на седмицата през погледа на нашия екип:
Джефри Хинтън е пионер в областта на изкуствения интелект. През 2012 г. той и двама негови студенти от университета в Торонто създават технология, която се превръща в интелектуална основа на системите за AI, възприемани като ключови за бъдещето на играчите в IT индустрията.
Тази седмица обаче Хинтън официално се присъедини към увеличаващия се хор от критици, които предупреждават, че компаниите прибързват с агресивната си кампания за създаване на продукти, базирани на генеративен изкуствен интелект (технологията, която захранва популярни чатботове като ChatGPT). Ученията заяви, че е напуснал работата си в Google, където прекара повече от десетилетие и се превърна в един от най-уважаваните в тази област, чието мнение се чува.
Пътят на д-р Хинтън от новатор в областта на изкуствения интелект до критик отразява забележителен момент за технологичната индустрия, може би най-важния от десетилетия насам. Лидерите в бранша смятат, че новите AI системи могат да се окажат толкова важни, колкото въвеждането на уеб браузъра в началото на 90-те години на миналия век. Очакванията за резултатите са големи, като надеждите са, че те ще доведат до пробив в различни области от изследването на лекарства до образованието.
Но мнозина в индустрията се страхуват, че пускат нещо опасно на свобода. Генеративният изкуствен интелект вече може да се използва за дезинформация, а скоро да се превърне и в риск за работните места. Най-големите критици твърдят, че някъде надолу по веригата той може да представлява риск за човечеството.
„Трудно е да се прецени как може да се попречи на лошите актьори да го използват за лоши неща“, отбелязва д-р Хинтън, цитиран от New York Times.
След като през март OpenAI пусна нова версия на ChatGPT, повече от 1000 технологични лидери и изследователи подписаха отворено писмо, в което призоваха за шестмесечен мораториум върху разработването на нови системи, тъй като AI технологиите крият „дълбоки рискове за обществото и човечеството“.
Няколко дни по-късно 19 настоящи и бивши ръководители на Асоциацията за развитие на изкуствения интелект, академично общество с 40-годишна история, публикуваха свое собствено писмо, в което предупреждават за опасностите. В тази група бе и Ерик Хорвиц, главен научен ръководител в Microsoft, която подкрепя OpenAI с милиарди долари и използва технологията ѝ в широк спектър от своите продукти, включително в търсачката си Bing.
Хинтън, често наричан „кръстник на изкуствения интелект“, не подписа нито едно от тези писма и заяви, че не иска да критикува публично Google или други компании, докато не напусне работата си. Миналия месец той уведоми компанията, че подава оставка.
75-годишният Хинтън е научен работник, чиято кариера следва личните му убеждения относно разработването и използването на изкуствен интелект. През 1972 г., като аспирант в Единбургския университет, той прегръща идеята за невронната мрежа – математическа система, която придобива умения чрез анализ на данни. По онова време малко изследователи вярват в технологията, но той я превръща в работата на живота си.
През 80-те години на ХХ век Хинтън е професор по компютърни науки в университета „Карнеги Мелън“, но напуска и заминава за Канада, заявявайки, че не желае да приема финансиране от Пентагона. По онова време повечето изследвания в областта на AI в САЩ се финансират от Министерството на отбраната, а Хинтън е дълбоко против използването на технологията на бойното поле и т.нар. от него „войници-роботи“.
През 2012 г. Хинтън и двама негови студенти в Торонто, Иля Суцкевер и Алекс Кришевски, създават невронна мрежа, която може да анализира хиляди снимки и да се научи да разпознава обикновени обекти, като цветя, кучета и автомобили. Google похарчи 44 млн. долара, за да придобие създадената от тях компания, а по-късно същата технология служи на редица други играчи, включително на ChatGPT, да разработят собствени AI базирани продукти (б.р. – колега на Йинтън – Суцкевер, става главен учен в OpenAI).
През 2018 г. Хинтън и двама други дългогодишни сътрудници получиха наградата „Тюринг“, известна като „Нобеловата награда за информатика“, за работата си върху невронните мрежи.
Приблизително по същото време Google, OpenAI и други компании започват да изграждат невронни мрежи, които се учат от огромни обеми данни. Хинтън смята, че това е мощен начин машините да разбират и генерират език, но не толкова добре като хората. Когато през миналата година Google и OpenAI изградиха системи, използващи много по-големи количества данни, мнението му се промени. Ученият все още вярваше, че тези платформи отстъпват на човешкия мозък в някои отношения, но че го засенчват в други.
„Може би това, което се случва в тези системи, всъщност е много по-добро от това, което се случва в мозъка.“
Според Хинтън с усъвършенстването на системите за изкуствен интелект от страна на компаниите те стават все по-опасни. „Вижте как беше преди пет години и как е сега“, казва той. „Вземете разликата и я транспонирайте напред. Страшно е.“
До миналата година, каза той, Google е действала предпазливо с технологията. Но след като Microsoft надгради своята търсачка Bing с чатбот – предизвиквайки основната дейност на Google – компанията се е впуснала в надпреварата да внедрява същия вид технология. Според Хинтън IT гигантите са се вкопчили в съревнование, което може да се окаже невъзможно да бъде спряно.
Един от възможните рискове, отбелязва Хинтън, е интернет да бъде залят с фалшиви снимки, видеоклипове и текстове и обикновеният човек „вече няма да може да разбере кое е вярно“. Опасява се и от това, че с времето технологията ще преобърне пазара на труда. Днес чатботовете като ChatGPT по-скоро допълват човешките дейности, но те биха могли да заменят личните асистенти, преводачите и други, които се занимават с рутинни задачи.
В по-далечна перспектива Хинтън се притеснява, че бъдещите версии на технологията представляват заплаха за човечеството, защото компаниите позволяват на самообучаващите се AI системи не само да генерират собствен компютърен код, но и да го изпълняват самостоятелно. Това кара ученият да допуска, че може да дойде ден, в който автономните оръжия – тези „роботи-убийци“ – ще станат реалност.
Идеята, че тези системи могат да станат по-умни от хората звучеше преувеличена доскоро. „И аз мислех, че е невярна. Мислех, че е на 30 до 50 години или повече. Очевидно вече не мисля така“, казва Хинтън.
Според него надпреварата между Google, Microsoft и други играчи ще прерасне в глобална и няма да спре без регулация. Тревожното е, че за разлика от ядрените оръжия, няма как да се разбере дали компаниите или държавите работят тайно по тази технология. „Не мисля, че трябва да увеличават мащаба на тази технология, докато не разберат дали могат да я контролират.“
