「猥褻」:Grammarly 全新 AI 工具提供已故學者的寫作反饋

Decrypt

簡要

  • Grammarly 的「專家審查」功能透過命名專家提供 AI 寫作反饋。
  • 學者表示該系統包括已故學者,引發用戶褒貶不一的反應。
  • 批評者質疑公司是否能在未經同意的情況下使用學者的身份。

Grammarly 新推出的 AI 功能,從所謂的「專家」角度提供寫作反饋,正引來學者的批評,認為該工具似乎在「復活」學者來審查用戶的作品。 該功能名為 Expert Review,分析文本並從特定學者、記者及其他專家的角度產生反饋。許多該 AI 工具聲稱模仿的專家已不在人世——一位在 BlueSky 上的中世紀歷史學家稱之為「病態」。 Grammarly 於 2009 年推出,作為一款 AI 輔助的寫作與語法工具,其母公司於 10 月改名為 Superhuman,以反映其從單一寫作助手轉型為一套 AI 生產力工具,包括研究、排程、電子郵件和工作流程自動化等工具。

Grammarly 於去年夏天推出了 Expert Review 功能。透過 Grammarly 瀏覽器擴展,選擇加入 Superhuman Go 版本的用戶可以選擇一位專家,並根據該學者的領域或已發表的作品獲得 AI 生成的反饋。  「我們的 Expert Review 代理會檢查用戶正在撰寫的內容,無論是行銷簡報還是關於生物多樣性的學生專案,並利用我們的底層大型語言模型(LLM)提供專家內容,幫助文件作者塑造他們的作品,」Superhuman 發言人在 Decrypt 中表示。「建議的專家取決於被評估的寫作內容。」 該發言人解釋,Expert Review 代理並不聲稱得到這些專家的背書或直接參與,而是提供「受專家作品啟發的建議,並引導用戶探索那些具有影響力的學術聲音。」 「Expert Review 中的專家出現,是因為他們的已發表作品是公開且被廣泛引用的,」他們說。 在測試此功能時,該應用推薦的專家包括《紐約時報》前媒體專欄作家兼前編輯 Margaret Sullivan、《Politico》前高級媒體記者 Jack Shafer,以及哈佛法學院教授 Lawrence Lessig。其他選項還包括 AI 道德研究員 Timnit Gebru 和康奈爾科技學院資訊科學教授 Helen Nissenbaum。 儘管該功能旨在幫助學生和專業人士提升寫作能力,伯明翰大學歷史學教授 Vanessa Heggie 質疑公司在使用這些「審查者」之前是否取得他們的同意。 她在 LinkedIn 上寫道:「我不知道從哪裡開始,但…… Grammarly 現在提供由生者和已故學者進行的『專家審查』。是的,已故的——未經任何人明確許可,便基於他們的作品資料建立小型 LLM,並使用他們的名字和聲譽。令人髮指。」 曾任美國海軍學院政治學副教授的 Brielle Harbin 稱此為「一個奇怪且令人擔憂的發展」。 她在 LinkedIn 上寫道:「這樣的選擇——尤其是在沒有背景、同意或與教育者進行有意義合作的情況下做出——可能會加深對高等教育中 AI 工具的懷疑。具有諷刺意味的是,旨在促進採用的決策反而可能加強抵制。信任與合作現在非常重要。」 Grammarly 只是眾多模仿真人的 AI 程式公司之一。 2023 年,Meta 推出了一系列以名人身份為核心的 Meta AI 聊天機器人,包括 Snoop Dogg、Tom Brady、Kendall Jenner 和 Naomi Osaka。同年,Khan Academy 推出了其 AI 輔導員 Khanmigo,讓學生扮演與歷史人物對話的角色,包括英國首相 Winston Churchill 和美國內戰間諜及地下鐵路導遊 Harriet Tubman。

查看原文
免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明
留言
0/400
暫無留言