Por Krystal Hu
(Reuters) – OpenAI, el creador del popular chatbot ChatGPT, ha lanzado una herramienta de software para identificar el texto generado por la inteligencia artificial, dijo la compañía en un blog el miércoles.
ChatGPT es un programa gratuito que genera texto en respuesta a una instrucción, incluidos artículos, ensayos, chistes e incluso poesía, que ha ganado gran popularidad desde su debut en noviembre, al tiempo que ha suscitado preocupación por los derechos de autor y el plagio.
El clasificador de IA, un modelo lingüístico entrenado en el conjunto de datos de pares de textos escritos por humanos y por IA sobre el mismo tema, pretende distinguir el texto escrito por IA. Utiliza diversos proveedores para abordar problemas como las campañas automatizadas de desinformación y la deshonestidad académica, según la empresa.
En su versión beta pública, OpenAI reconoce que la herramienta de detección es muy poco fiable en textos de menos de 1.000 caracteres, y que el texto escrito por IA puede editarse para engañar al clasificador.
“Ponemos este clasificador a disposición del público para obtener comentarios sobre si herramientas imperfectas como ésta son útiles”, dijo OpenAI.
“Reconocemos que la identificación de texto escrito por IA ha sido un punto importante de discusión entre los educadores, e igualmente importante es reconocer los límites y los impactos de los clasificadores de texto generados por IA en el aula.”
Desde que ChatGPT debutó en noviembre y ganó gran popularidad entre millones de usuarios, algunos de los mayores distritos escolares de EE.UU., incluida la ciudad de Nueva York, han prohibido el chatbot de IA por temor a que los estudiantes utilicen el generador de texto para hacer trampas o plagiar.
Otros han creado herramientas de detección de terceros, como GPTZeroX, para ayudar a los educadores a detectar el texto generado por IA.
OpenAI afirma que está colaborando con los educadores para discutir las capacidades y limitaciones de ChatGPT, y que seguirá trabajando en la detección de texto generado por IA.
(Este artículo del 31 de enero se ha vuelto a redactar para corregir la ortografía de ChatGPT en el primer párrafo).
Source: INVESTING