簡要
- Grammarly 的「專家審查」功能透過命名專家提供 AI 寫作反饋。
- 學者表示該系統包含已故學者，引發用戶褒貶不一的反應。
- 批評者質疑公司是否能在未經同意的情況下使用學者的身份。
Grammarly 新推出的 AI 功能，從所謂的「專家」角度提供寫作反饋，正引來學界的批評，認為該工具似乎在「復活」學者來審查用戶的作品。
該功能名為專家審查（Expert Review），會分析文本並從特定學者、記者及其他專家的角度產生反饋。許多該 AI 工具聲稱模仿的專家已不在人世——一位 BlueSky 上的中世紀歷史學家稱此為「病態」。
Grammarly 於 2009 年推出，作為一款 AI 輔助的寫作與語法工具，其母公司於 10 月改名為 Superhuman，以反映其從單一寫作助手轉型為一套 AI 生產力工具，包括研究、排程、電子郵件和工作流程自動化等工具。
Grammarly 於去年夏天推出了專家審查功能。透過 Grammarly 瀏覽器擴展，選擇使用 Superhuman Go 版本的用戶可以選擇一位專家，並根據該學者的專業領域或已發表的作品獲得 AI 生成的反饋。
「我們的專家審查代理會檢查用戶正在撰寫的內容，無論是行銷簡報還是生物多樣性學生專案，並利用我們的底層大型語言模型（LLM）提供專家內容，幫助文件作者塑造其作品，」Superhuman 發言人在 Decrypt 表示。「建議的專家取決於被評估的寫作內容。」
該發言人解釋，專家審查代理並不聲稱得到這些專家的背書或直接參與，而是提供「受專家作品啟發的建議，並引導用戶探索具有影響力的聲音及其學術貢獻」。
「在專家審查中出現的專家，是因為他們的已發表作品是公開的且被廣泛引用，」他們說。
在測試此功能時，該應用推薦的專家包括《紐約時報》前專欄作家兼前編輯 Margaret Sullivan、《政治》前高級媒體記者 Jack Shafer，以及哈佛法學院教授 Lawrence Lessig。其他選項還包括 AI 道德研究員 Timnit Gebru 和康奈爾科技學院資訊科學教授 Helen Nissenbaum。
儘管該功能旨在幫助學生和專業人士提升寫作能力，伯明翰大學歷史學教授 Vanessa Heggie 質疑公司在使用這些「審查員」之前是否取得他們的同意。
「我不知道從哪裡開始，但…… Grammarly 現在提供由在世和已故學者進行的「專家審查」，」Heggie 在 LinkedIn 上寫道。「是的，已故的——未經任何人明確許可，便基於他們的作品資料建立小型的 LLM，並使用他們的名字和聲譽。令人髮指。」
曾任美國海軍學院政治學副教授的 Brielle Harbin 表示這是一個「奇怪且令人擔憂的發展」。
「這樣的選擇——尤其是在沒有背景、同意或與教育者建立有意義合作的情況下做出——可能會加深對高等教育中 AI 工具的懷疑，」她在 LinkedIn 上寫道。「具有諷刺意味的是，旨在促進採用的決策反而可能加強抵制。信任與合作現在非常重要。」
Grammarly 只是眾多模仿真人的 AI 程式公司之一。
2023 年，Meta 推出了一系列以名人身份為核心的 Meta AI 聊天機器人，包括 Snoop Dogg、Tom Brady、Kendall Jenner 和 Naomi Osaka。同年，Khan Academy 推出了其 AI 輔導員 Khanmigo，讓學生可以扮演角色與歷史人物對話，包括英國首相 Winston Churchill 和美國內戰間諜及地下鐵路導遊 Harriet Tubman。
