'Обурливо': новий інструмент Grammarly з штучним інтелектом пропонує зворотній зв'язок щодо написання від імені вчених, які вже пішли

Коротко

• Функція «Експертний огляд» Grammarly надає зворотний зв’язок щодо написання за допомогою штучного інтелекту, поданого через іменованих експертів.
• Вчені стверджують, що система включає вчених, які вже померли, що викликає змішані реакції у користувачів.
• Критики ставлять під сумнів, чи може компанія використовувати особистості вчених без їхньої згоди.

Нова функція Grammarly, яка надає зворотний зв’язок щодо написання від імені відомих «експертів», викликає критику серед академіків, які кажуть, що інструмент начебто «воскрешає» вчених для перегляду робіт користувачів. Функція, названа Expert Review, аналізує текст і генерує відгуки, подані з точки зору конкретних учених, журналістів та інших фахівців. Багато з експертів, яких імітує цей інструмент, вже не живі — що один середньовічний історик на BlueSky назвав «морбідним». Запущений у 2009 році як інструмент для допомоги у написанні та граматиці з підтримкою штучного інтелекту, материнська компанія Grammarly у жовтні перейменувалася на Superhuman, щоб відобразити перехід від одного помічника для написання до набору AI-інструментів для підвищення продуктивності, включаючи інструменти для досліджень, планування, електронної пошти та автоматизації робочих процесів.

У минулому літі Grammarly представила функцію Expert Review. За допомогою розширення для браузера Grammarly користувачі, які обирають версію Superhuman Go, можуть обрати експерта та отримати AI-згенерований відгук, заснований на галузі або публікаціях цього вченого.  «Наш агент Expert Review аналізує написане користувачем, будь то маркетинговий короткий звіт або студентський проект з біорізноманіття, і використовує нашу базову модель LLM для виявлення експертного контенту, який може допомогти автору сформувати свою роботу», — повідомив представник Superhuman у Decrypt. «Обрані експерти залежать від змісту оцінюваного тексту.» Представник пояснив, що агент Expert Review не претендує на підтримку або безпосередню участь цих експертів, а надає «пропозиції, натхненні роботами експертів, і спрямовує користувачів до впливових голосів, чиї дослідження вони можуть досліджувати глибше».

«Експерти в Expert Review з’являються тому, що їхні публікації є публічно доступними та широко цитуються», — сказали вони. Під час тестування цієї функції для цієї статті, експертів, запропонованих додатком, включали Маргарет Салліван, медіа-колумніста та колишнього редактора New York Times, Джек Шафер, колишнього старшого медіа-редактора Politico, і Лоренса Лессіга, професора Гарвардської школи права. Інші варіанти включали дослідника етики штучного інтелекту Тімніт Гебру та Гелен Ніссенбаум, професора інформаційних наук у Cornell Tech. Хоча ця функція має допомогти студентам і фахівцям покращити свої навички письма, Ванесса Хеггі, професор історії в Бірмінгемському університеті, поставила під сумнів, чи надали «рецензенти» свою згоду на використання їх у додатку. «Я не знаю, з чого почати, але… Grammarly тепер пропонує “експертний огляд” вашої роботи живими та померлими академіками», — написала Хеггі у LinkedIn. «Так, померлими — без чийогось явної дозволу створює маленькі LLM на основі їхньої зібраної роботи та використовує їхні імена й репутацію. Це огидно.» Бріель Харбін, колишня доцентка політології в Військово-морській академії США, назвала це «дивним і тривожним розвитком». «Такі рішення — особливо коли їх приймають без контексту, згоди або значущого партнерства з викладачами — ризикують поглибити скептицизм щодо інструментів штучного інтелекту у вищій освіті», — написала вона у LinkedIn. «Іронічно, що рішення, спрямовані на прискорення впровадження, можуть насправді посилити опір. Довіра та співпраця зараз дуже важливі.» Grammarly — лише одна з компаній, що створює програми штучного інтелекту, які імітують реальних людей. У 2023 році Meta випустила лінійку чат-ботів для платформи Meta AI, побудованих навколо особистостей знаменитостей, включаючи Snoop Dogg, Тома Бреді, Кендалл Дженнер і Наомі Осака. У тому ж році Khan Academy запустила свого AI-репетитора Khanmigo, який дозволяє студентам грати ролі у розмовах із історичними особистостями, зокрема з прем’єр-міністром Великої Британії Вінстоном Черчиллем і шпигуном Громадянської війни США та керівником підпільної залізниці Гаррієт Тубман.