'Obscene': La nueva herramienta de IA de Grammarly ofrece retroalimentación de escritura de académicos fallecidos

En resumen

• La función “Revisión de Expertos” de Grammarly ofrece retroalimentación de escritura basada en expertos nombrados.
• Los académicos dicen que el sistema incluye a académicos fallecidos, lo que genera reacciones mixtas entre los usuarios.
• Los críticos cuestionan si la empresa puede usar la identidad de los académicos sin su consentimiento.

La nueva función de IA de Grammarly que proporciona retroalimentación de escritura desde la perspectiva de “expertos” destacados está siendo criticada por académicos que afirman que la herramienta parece “resucitar” a académicos para revisar el trabajo de los usuarios. La función, llamada Revisión de Expertos, analiza el texto y genera retroalimentación enmarcada desde la perspectiva de académicos, periodistas y otros especialistas específicos. Muchos de los expertos que la herramienta de IA afirma imitar ya no están vivos, una característica que un historiador medieval en BlueSky calificó como “macabra”. Lanzada en 2009 como una herramienta de escritura y gramática asistida por IA, la empresa matriz de Grammarly cambió su nombre a Superhuman en octubre para reflejar su transición de un asistente de escritura único a un conjunto de agentes de productividad de IA, incluyendo herramientas para investigación, programación, correo electrónico y automatización de flujos de trabajo.

Grammarly introdujo la función Revisión de Expertos el verano pasado. A través de la extensión del navegador de Grammarly, los usuarios que opten por la versión Superhuman Go pueden seleccionar un experto y recibir retroalimentación generada por IA basada en el campo o trabajo publicado de ese académico.  “Nuestro agente de Revisión de Expertos examina el escrito en el que un usuario está trabajando, ya sea un informe de marketing o un proyecto estudiantil sobre biodiversidad, y aprovecha nuestro modelo de lenguaje grande (LLM) subyacente para ofrecer contenido experto que puede ayudar al autor a dar forma a su trabajo”, dijo a Decrypt un portavoz de Superhuman. “Los expertos sugeridos dependen del contenido del escrito que se evalúa.” El portavoz explicó que el agente de Revisión de Expertos no afirma respaldo ni participación directa de esos expertos, sino que ofrece “sugerencias inspiradas en las obras de expertos y orienta a los usuarios hacia voces influyentes cuyas investigaciones pueden explorar en mayor profundidad.”

“Los expertos en Revisión de Expertos aparecen porque sus obras publicadas están disponibles públicamente y son ampliamente citadas”, dijeron. Al probar la función para este artículo, los revisores expertos sugeridos por la aplicación incluyeron a Margaret Sullivan, columnista de medios y exeditora del New York Times; Jack Shafer, exredactor senior de medios en Politico; y Lawrence Lessig, profesor en Harvard Law. Otras opciones incluyeron a la investigadora en ética de IA Timnit Gebru y a Helen Nissenbaum, profesora de ciencias de la información en Cornell Tech. Mientras que la función busca ayudar a estudiantes y profesionales a mejorar sus habilidades de escritura, Vanessa Heggie, profesora de historia en la Universidad de Birmingham, cuestionó si los “revisores” dieron su consentimiento antes de que la empresa los usara en la aplicación. “No sé por dónde empezar, pero… Grammarly ahora ofrece una “revisión de expertos” de tu trabajo por académicos vivos y fallecidos”, escribió Heggie en LinkedIn. “Sí, fallecidos—sin el permiso explícito de nadie, están creando pequeños LLM basados en su trabajo raspado y usando sus nombres y reputaciones. Escandaloso.” Brielle Harbin, exprofesora asociada de ciencias políticas en la Academia Naval de Estados Unidos, calificó esto como “un desarrollo extraño y preocupante.” “Decisiones como esta—especialmente cuando se toman sin contexto, consentimiento o colaboración significativa con educadores—riesgan profundizar el escepticismo sobre las herramientas de IA en la educación superior”, escribió en LinkedIn. “Irónicamente, las decisiones destinadas a acelerar la adopción pueden terminar fortaleciendo la resistencia en su lugar. La confianza y la colaboración son muy importantes ahora.” Grammarly es solo una de las empresas que crean programas de IA diseñados para imitar a personas reales. En 2023, Meta lanzó una línea de chatbots para su plataforma Meta AI basados en identidades de celebridades, incluyendo a Snoop Dogg, Tom Brady, Kendall Jenner y Naomi Osaka. Ese mismo año, Khan Academy lanzó su tutor de IA Khanmigo, que permite a los estudiantes simular conversaciones con figuras históricas, incluyendo al Primer Ministro británico Winston Churchill y a Harriet Tubman, espía de la Guerra Civil estadounidense y conductora del Ferrocarril Subterráneo.