Штучний інтелект готовий захопити мову, право та релігію, попереджає історик Юваль Ной Харарі

Коротко

• Харіар сказав, що штучний інтелект слід розуміти як активних автономних агентів, а не пасивний інструмент.
• Він попередив, що системи, побудовані переважно на словах, включаючи релігію, право та фінанси, піддаються підвищеному ризику через AI.
• Харіар закликав лідерів вирішити, чи слід розглядати системи AI як юридичних осіб, перш ніж ці рішення будуть прийняті за них.

Історик і автор Юваль Ной Харіар попередив у вівторок на Всесвітньому економічному форумі, що людство ризикує втратити контроль над мовою, яку він назвав її визначальною «суперсилою», оскільки штучний інтелект дедалі більше працює через автономних агентів, а не пасивні інструменти. Автор «Sapiens» Харіар став частим голосом у глобальних дебатах про суспільні наслідки штучного інтелекту. Він стверджував, що юридичні кодекси, фінансові ринки і організована релігія майже цілком залежать від мови, залишаючи їх особливо вразливими до машин, які можуть генерувати та маніпулювати текстом у масштабі. «Люди завоювали світ не тому, що ми найсильніші фізично, а тому, що ми відкрили, як використовувати слова, щоб змусити тисячі, мільйони і мільярди незнайомців співпрацювати», — сказав він. «Це була наша суперсила.» Харіар звернув увагу на релігії, засновані на священних текстах, включаючи юдаїзм, християнство та іслам, стверджуючи, що здатність AI читати, зберігати та синтезувати величезні обсяги писемності може зробити машини найавторитетнішими тлумачами священних писань.

«Якщо закони складаються з слів, тоді AI візьме під контроль правову систему», — сказав він. «Якщо книги — це просто комбінації слів, тоді AI візьме під контроль книги. Якщо релігія побудована на словах, тоді AI візьме під контроль релігію.» У Давосі Харіар також порівняв поширення систем AI із новою формою імміграції і сказав, що дебати навколо технології незабаром зосередяться на тому, чи повинні уряди надавати системам AI юридичний статус особи. Кілька штатів, включаючи Юту, Айдахо та Північну Дакоту, вже ухвалили закони, що прямо стверджують, що AI не може вважатися особою згідно з законом. Харіар завершив свої зауваження попередженням світових лідерів діяти швидко щодо законів, що стосуються AI, і не припускати, що технологія залишиться нейтральним слугою. Він порівняв нинішній рух до впровадження технології з історичними випадками, коли найманці згодом захоплювали владу.

«Через десять років буде вже запізно вирішувати, чи повинні AI функціонувати як особи на фінансових ринках, у судах, у церквах», — сказав він. «Хтось інший уже вирішить це за вас. Якщо ви хочете вплинути на те, куди йде людство, вам потрібно прийняти рішення зараз.»  Коментарі Харіара можуть бути важкими для тих, хто боїться поширення AI, але не всі погоджувалися з його формулюванням. Професор Емілі М. Бендер, лінгвіст з Університету Вашингтону, сказала, що ризики, які описував Харіар, лише відволікають увагу від людських акторів і інституцій, відповідальних за створення та розгортання систем AI. «Мені здається, що це справді спроба заплутати дії людей і корпорацій, які створюють ці системи», — сказала Бендер у інтерв’ю Decrypt. «А також вимога, щоб усі просто відмовилися від наших людських прав у багатьох сферах, включаючи право на наші мови, під впливом цих компаній під виглядом так званих систем штучного інтелекту.» Бендер відкинула ідею, що «штучний інтелект» описує чітку або нейтральну категорію технологій. «Термін штучний інтелект не відноситься до послідовного набору технологій», — сказала вона. «Це, фактично, і завжди був маркетинговий термін», додавши, що системи, створені для імітації професіоналів, таких як лікарі, юристи або духовенство, позбавлені легітимних випадків використання. «Яка мета чогось, що може звучати як лікар, юрист, духовна особа і так далі?» — сказала Бендер. «Мета тут — шахрайство. Точка.» Харіар, зосереджуючись на зростаючому використанні агентів AI для управління банківськими рахунками та бізнес-операціями, сказав, що ризик полягає в тому, наскільки легко люди довіряють машинно згенерованим результатам, які здаються авторитетними — але позбавленими людської відповідальності.

«Якщо у вас є система, яку можна натиснути питанням і отримати відповідь, яка виглядає як відповідь — але позбавлена контексту і відповідальності за цю відповідь, і при цьому подана як результат всезнаючого оракула — тоді ви можете зрозуміти, чому люди захочуть, щоб це існувало», — сказав Бендер. «Я вважаю, що тут багато ризиків, і люди почнуть орієнтуватися на це і використовувати цей результат для формування своїх ідей, переконань і дій.»