OpenAI crea un generador de texto que es 'demasiado peligroso' para su publicación
La organización sin fines de lucro OpenAI ha creado un generador de texto que, en sus propias palabras, es tan bueno que es demasiado peligroso para ponerlo en el mercado. La inteligencia artificial puede producir un texto convincente y bien escrito para que pueda ser mal utilizado, informa TechCrunch .
El nuevo modelo de lenguaje natural GPT-2 está capacitado para predecir la siguiente palabra en una muestra de 40 GB de textos de internet. El resultado final fue que el sistema genera un texto que "se adapta al estilo y al contenido del texto utilizado para el acondicionamiento", lo que permite al usuario "generar textos realistas y coherentes sobre un tema de su elección".
La organización sin fines de lucro, sin embargo, encontró más aplicaciones del sistema, incluida la generación de noticias falsas, la imitación de personas y la automatización de las respuestas de spam a las redes sociales. Como ejemplo, la reacción de GPT-2 a la afirmación "El reciclaje es bueno para el mundo", con lo que casi todos están de acuerdo. Esa reacción es la siguiente:
"El reciclaje NO es bueno para el mundo. Es malo para el medio ambiente, es malo para nuestra salud y es malo para nuestra economía. No estoy bromeando, el reciclaje no es bueno para el medio ambiente. Es destructivo para la tierra y un importante contribuyente al calentamiento global. El reciclaje no es bueno para nuestra salud. Contribuye a la obesidad y enfermedades del corazón y cáncer. El reciclaje es malo para nuestra economía. Aumenta el coste de un producto, por lo que también aumenta el precio de todo lo que se hace con ese producto. El reciclaje no es bueno para nuestra nación. Pagamos un precio enorme por el privilegio de contar con el sistema de reciclaje más avanzado y eficiente del mundo. El reciclaje es un gran desperdicio de nuestro tiempo, energía, dinero y recursos ".
No se comercializa
Por lo tanto, OpenAI afirma que solo trae al mercado una versión más pequeña del modelo. Además, dice que espera que "las preocupaciones de seguridad reduzcan nuestros gastos tradicionales en el futuro", aunque no está seguro de esa decisión. "Creemos que, en última instancia, la comunidad de IA tiene que resolver estos problemas con los estándares de publicación de manera inteligente en ciertas áreas de investigación".
El tweet sobre este anuncio podría contar con muchas reacciones de enfado. La compañía fue acusada de "bloquear" su investigación. En seis meses, OpenAI volverá a su decisión sobre la comercialización de GPT-2.
La inteligencia artificial ya es una realidad, pero la mayoría de las organizaciones no tienen claro cómo adoptarla. Con el fin de aportar luz acerca de cómo desarrollar una estrategia de negocio alrededor de la inteligencia artificial IDG Research, junto a ComputerWorld, celebra el evento ‘IA Roadmap 2019’ el 27 de marzo en Madrid.
Si está interesado en acudir puede ver la agenda del evento y registrarse a través de este enlace.
