Se acabó la fiesta: OpenAI lanza una herramienta para detectar textos escritos por ChatGPT
La compañía de Sam Altman ha tomado esta medida después de que se diera a conocer que el chatbots de IA generativa estaba siendo utilizado para trabajos académicos y la creación de noticias falsas, entre otros usos.
- Sam Altman, CEO de OpenAI, se muestra “optimista” ante la coordinación global sobre IA
- ChatGPT crea un ‘malware’ mutante que elude la detección por EDR
- ChatGPT usado para el mal, la distopía que debemos frenar
- Apple, la nueva empresa en sumarse a la prohibición de ChatGPT
- Meta advierte sobre el uso de 'malware' disfrazado de ChatGPT para robar datos
Tras el lanzamiento de ChatGPT y su llegada a la vida cotidiana de las personas, poco tardaron en surgir usos indebidos, como la realización de tareas académicas, la creación de noticias falsas e incluso la automatización de correos o mensajes maliciosos destinados al phishing. Es por esto que la empresa detrás de ChatGPT, OpenAI, ha decidido lanzar una nueva herramienta capaz de detectar si ciertos textos han sido escritos por chatbots de inteligencia artificial (IA) generativa.
OpenAI Text Classifier es una solución de IA gratuita, que predice si un texto fue creado por humanos o por sistemas de IA gracias a un entrenamiento con diversos ejemplos disponibles en internet.
Se trata de una primera versión de la solución, que por ahora puede dar falsos positivos y que no funciona muy bien con textos que son muy distintos a los utilizados para entrenar el modelo. Además, actualmente sólo funciona con escritos que tengan, como mínimo, 1.000 caracteres y que estén en inglés.
