Grammarly推出的新的AI功能“专家评审”通过所谓的“专家”视角提供写作反馈,受到学者们的批评,他们认为该工具似乎在“复活”学者以审查用户的作品。 该功能名为Expert Review,分析文本并生成反馈,框架基于特定学者、记者和其他专家的观点。许多该AI工具声称模仿的专家已不在人世——一位BlueSky上的中世纪历史学家称其为“病态”。 Grammarly于2009年作为一款AI辅助写作和语法工具推出,其母公司于十月更名为Superhuman,以反映其从单一写作助手转变为一套AI生产力工具的战略,包括研究、日程安排、电子邮件和工作流程自动化工具。
Grammarly去年夏天引入了Expert Review功能。通过Grammarly浏览器扩展,选择加入Superhuman Go版本的用户可以选择一位专家,并根据该学者的领域或已发表的作品获得AI生成的反馈。 “我们的专家评审代理会审查用户正在处理的写作内容,无论是市场营销简报还是关于生物多样性的学生项目,并利用我们底层的大型语言模型(LLM)提供专家内容,帮助文档作者完善作品,”一位Superhuman发言人在接受_Decrypt_采访时表示。“建议的专家取决于被评估写作的内容。” 发言人解释说,专家评审代理并不声称获得了那些专家的认可或直接参与,而是提供“受专家作品启发的建议,并引导用户关注那些具有影响力的学术声音,用户可以进一步深入探索。” “在专家评审中出现的专家,是因为他们的已发表作品是公开的且被广泛引用,”他们说。 在测试该功能时,应用推荐的专家评审包括《纽约时报》前编辑、媒体专栏作家玛格丽特·沙利文(Margaret Sullivan)、前《Politico》高级媒体记者杰克·沙弗(Jack Shafer)以及哈佛法学院教授劳伦斯·莱西格(Lawrence Lessig)。其他选项还包括AI伦理研究员蒂姆尼特·格布鲁(Timnit Gebru)和康奈尔科技信息科学教授海伦·尼森鲍姆(Helen Nissenbaum)。 虽然该功能旨在帮助学生和专业人士提升写作能力,伯明翰大学历史学教授Vanessa Heggie质疑公司在使用“评审员”之前是否获得了他们的同意。 “我不知道从哪里开始,但……Grammarly现在提供由在世和已故学者进行的‘专家评审’,”Heggie在LinkedIn上写道。“是的,已故学者——未经任何人的明确许可,它们基于他们被抓取的作品创建了小型LLMs,并使用了他们的名字和声誉。令人发指。” 曾任美国海军学院政治学副教授的布里耶尔·哈宾(Brielle Harbin)称此为“一个奇怪且令人担忧的发展”。 “这种选择——尤其是在没有背景、同意或与教育者进行有意义合作的情况下做出——可能会加深对高等教育中AI工具的怀疑,”她在LinkedIn上写道。“具有讽刺意味的是,旨在加快采用的决策反而可能增强抵制。信任与合作现在非常重要。” Grammarly只是众多试图模仿真人的AI程序公司之一。 2023年,Meta推出了一系列基于名人身份的聊天机器人,面向其Meta AI平台,包括史努比狗、汤姆·布雷迪、肯德尔·詹纳和大坂直美。同年,Khan Academy推出了其AI辅导员Khanmigo,允许学生扮演角色,与历史人物对话,包括英国首相温斯顿·丘吉尔和美国内战间谍、地下铁路导游哈丽特·塔布曼。