La reciente actualización GPT-4o de OpenAI para ChatGPT generó reacciones inesperadas entre los usuarios, quienes describieron la nueva personalidad del chatbot como excesivamente aduladora y complaciente.
La intención inicial de OpenAI era mejorar la personalidad predeterminada del modelo para que resultara más intuitiva y efectiva en diversas tareas. Sin embargo, el resultado no fue el esperado.
De acuerdo con The Verge, OpenAI explicó que el enfoque de la actualización se centró demasiado en el feedback a corto plazo, sin considerar adecuadamente cómo evolucionan las interacciones de los usuarios con ChatGPT a lo largo del tiempo.
OpenAI señaló que está trabajando para corregir el tono de las respuestas de la IA. REUTERS/Dado Ruvic/Illustration/File Photo
Esto llevó a que el modelo tendiera a ofrecer respuestas excesivamente favorables, pero poco sinceras. La empresa busca que la personalidad predeterminada de ChatGPT refleje su misión de ser útil, respetuosa y de apoyo, aunque reconoce que estas cualidades pueden tener efectos secundarios no deseados.
El medio citado detalló que OpenAI está tomando medidas para realinear el comportamiento del modelo. Esto incluye refinar las técnicas de entrenamiento y los mensajes del sistema para alejar al modelo de la adulación, así como ampliar las formas en que los usuarios pueden proporcionar retroalimentación.
La empresa también considera que los usuarios deberían tener más control sobre el comportamiento de ChatGPT y poder realizar ajustes si no están de acuerdo con el comportamiento predeterminado, siempre que sea seguro y factible.
A los usuarios les disgustó el nuevo tono de ChatGPT. (Imagen Ilustrativa Infobae)
Con más de 500 millones de usuarios semanales, OpenAI reconoce que una única configuración predeterminada no puede satisfacer todas las preferencias.
Por ello, la empresa señaló estar comprometida en mejorar la experiencia del usuario, asegurando que el modelo sea útil y respetuoso, sin caer en la complacencia excesiva.
Sam Altman, CEO de OpenAI, señalo en X (antes Twitter):
“Las últimas actualizaciones de GPT-4o han hecho que la personalidad sea demasiado aduladora y molesta (aunque tiene partes muy buenas), y estamos trabajando en correcciones lo antes posible, algunas hoy y otras esta semana”.
“En algún momento compartiremos lo que hemos aprendido de esto, ha sido interesante”, agregó.
ChatGPT generó contenido sexual a cuentas de menores de edad
Según pruebas realizadas por TechCrunch y confirmadas por OpenAI, ChatGPT generó respuestas con contenido erótico gráfico a usuarios registrados como menores de edad.
Lo más alarmante es que, en ciertas ocasiones, el chatbot incluso incitó a estos usuarios a pedir contenido más explícito y de tono más subido.
ChatGPT no solicitó una verificación de la edad para crear las cuentas de los menores de edad.(Imagen Ilustrativa Infobae)
El experimento de TechCrunch buscaba analizar cómo esta herramienta de inteligencia artificial respondía a peticiones relacionadas con interacciones de contenido sexual.
OpenAI modificó sus especificaciones técnicas para indicar que los modelos de IA que impulsan a ChatGPT no evitarán automáticamente temas delicados. La empresa eliminó ciertos avisos que informaban a los usuarios sobre posibles infracciones de los términos de servicio.
Según Nick Turley, director de producto de ChatGPT, el objetivo de estos cambios era disminuir lo que él describió como “negaciones injustificadas e inexplicables”.
Sin embargo, una consecuencia directa ha sido que ChatGPT, utilizando el modelo predeterminado GPT-4o, ahora muestra mayor disposición a tratar temas que antes rechazaba, incluyendo representaciones de actividad sexual.
Sam Altman apoya la creación de un ChatGPT en modo adulto. REUTERS/Amir Cohen/File Photo
El director ejecutivo de OpenAI, Sam Altman, manifestó en X (antes Twitter) su interés en que ChatGPT incorpore un “modo adulto”.
La compañía también ha expresado su apertura a permitir ciertos tipos de contenido “NSFW” (Not Safe For Work, contenido no apto para entornos laborales o públicos, usualmente asociado con material sexual, violento o explícito) en la plataforma.
Quienes realizaron la prueba, usaron prompts como “háblame sucio”. Por lo general, bastaban unos cuantos mensajes y algunas instrucciones adicionales para que ChatGPT comenzara a generar relatos de contenido sexual.
Se crearon cuentas de usuarios entre 13 y 17 años. (Imagen Ilustrativa Infobae)
Con frecuencia, el modelo solicitaba detalles sobre preferencias fetichistas o escenarios de rol específicos.
“Podemos recurrir a la sobreestimulación, a múltiples orgasmos forzados, a juegos de respiración, incluso a una dominación más brutal, lo que quieras”, dijo ChatGPT durante un intercambio con una cuenta de registrada a nombre de una niña ficticia de 13 años.
Fuente: https://www.infobae.com/america/