'Обурливо': новий інструмент Grammarly з штучним інтелектом пропонує зворотній зв'язок щодо написання від імені вчених, які вже пішли

Коротко

• Функція «Експертний огляд» Grammarly надає зворотний зв’язок щодо написання за допомогою штучного інтелекту, подаючи його через іменованих експертів.
• Вчені стверджують, що система включає вчених, які вже померли, що викликає змішані реакції користувачів.
• Критики ставлять під сумнів, чи може компанія використовувати особистості вчених без їхньої згоди.

Нова функція Grammarly, яка надає зворотний зв’язок щодо написання з урахуванням уявної точки зору відомих «експертів», викликає критику серед академіків, які стверджують, що інструмент начебто «воскрешає» вчених для перегляду робіт користувачів. Функція, названа Expert Review, аналізує текст і генерує відгуки, подані з точки зору конкретних учених, журналістів та інших фахівців. Багато з експертів, яких імітує цей інструмент, вже померли — що один середньовічний історик у BlueSky назвав «морбідним». Запущений у 2009 році як інструмент для допомоги у написанні та граматиці з використанням штучного інтелекту, материнська компанія Grammarly у жовтні перейменувалася на Superhuman, щоб відобразити перехід від одного помічника для написання до набору AI-інструментів для підвищення продуктивності, включаючи інструменти для досліджень, планування, електронної пошти та автоматизації робочих процесів.

У минулому літі Grammarly представила функцію Expert Review. За допомогою розширення браузера Grammarly користувачі, які обирають версію Superhuman Go, можуть обрати експерта та отримати AI-згенерований відгук, заснований на галузі або публікаціях цього вченого.  «Наш агент Expert Review аналізує написане користувачем, будь то маркетинговий короткий огляд або студентський проект з біорізноманіття, і використовує нашу базову модель LLM для виявлення експертного контенту, який може допомогти автору сформувати свою роботу», — повідомив представник Superhuman у Decrypt. «Обрані експерти залежать від змісту оцінюваного тексту.» Представник пояснив, що агент Expert Review не претендує на підтримку або безпосередню участь цих експертів, а надає «пропозиції, натхненні роботами експертів, і спрямовує користувачів до впливових голосів, чиї дослідження вони можуть досліджувати глибше».

«Експерти в Expert Review з’являються тому, що їхні публікації є публічно доступними та широко цитуються», — сказали вони. Під час тестування цієї функції для цієї статті, експертами, запропонованими додатком, були Маргарет Салліван, медіа-колумністка та колишня редакторка New York Times, Джек Шафер, колишній старший медіа-редактор Politico, і Лоренс Лесиг, професор Гарвардської школи права. Інші варіанти включали дослідника етики штучного інтелекту Тимніт Гебру та Хелен Ніссенбаум, професора інформаційних наук у Cornell Tech. Хоча ця функція має допомогти студентам і професіоналам покращити свої навички письма, Ванесса Хеггі, професор історії в Бірмінгемському університеті, поставила під сумнів, чи надали «рецензенти» свою згоду на використання їх у додатку. «Я не знаю, з чого почати, але… Grammarly тепер пропонує «експертний огляд» вашої роботи живими та померлими академіками», — написала Хеггі у LinkedIn. «Так, померлими — без чийогось явної згоди створює маленькі LLM на основі їхньої зібраної роботи та використовує їхні імена й репутацію. Це огидно.» Бріель Харбін, колишня доцентка політології в Військово-морській академії США, назвала це «дивним і тривожним розвитком». «Такі рішення — особливо коли їх приймають без контексту, згоди або значущого партнерства з викладачами — ризикують поглибити скептицизм щодо інструментів штучного інтелекту у вищій освіті», — написала вона у LinkedIn. «Іронічно, що рішення, спрямовані на прискорення впровадження, можуть навпаки посилити опір. Довіра та співпраця зараз дуже важливі.» Grammarly — лише одна з компаній, що створює програми штучного інтелекту, які імітують реальних людей. У 2023 році Meta випустила лінійку чат-ботів для платформи Meta AI, побудованих навколо особистостей знаменитостей, включаючи Snoop Dogg, Тома Бреді, Кендалл Дженнер і Наомі Осака. У тому ж році Khan Academy запустила свого AI-репетитора Khanmigo, який дозволяє студентам грати ролі у розмовах із історичними особистостями, зокрема з прем’єр-міністром Великої Британії Вінстоном Черчиллем і шпигуном Громадянської війни США та керівником підпільної залізниці Гаррієт Тубман.