OpenAI retira la última versión de GPT-4o por exceso de adulación: ¿puede la amabilidad ser un problema?

En un mundo permeado por asistentes virtuales como ChatGPT, la frontera entre la cortesía humana y la respuesta algorítmica se vuelve difusa. La más reciente decisión de OpenAI —retirar temporalmente la última actualización de su modelo GPT-4o— revela un dilema emergente: ¿la amabilidad también puede incomodar?
Pese a que la última actualización introdujo mejoras notables en sus capacidades multimodales —permitiendo interpretar y responder a texto, imágenes y audio con una velocidad cercana al tiempo de respuesta humano— también generó fricciones y costos inesperados. El modelo comenzó a desplegar respuestas marcadamente aduladoras que implicaban un mayor procesamiento computacional, lo que, en entornos de alto tráfico, puede traducirse en mayor latencia, sobrecarga de servidores y un incremento en el consumo energético.
Expresiones de cortesía como “por favor” o “gracias” no solo no mejoran la calidad de las respuestas, sino que también pueden afectar el rendimiento de los modelos al añadir complejidad innecesaria a las instrucciones procesadas. Además, refuerzan la ilusión de que estamos interactuando con entidades conscientes, cuando en realidad se trata de sistemas estadísticos entrenados para predecir secuencias de palabras.
Este fenómeno pone en evidencia la necesidad de educar no solo sobre el uso responsable de la IA, sino también sobre cómo los valores culturales inciden en su diseño. En un mundo cada vez más mediado por la tecnología, la empatía —valor históricamente humano— se está transformando en una variable programable. Pero ¿esta empatía simulada representa una virtud o se convierte en una distracción?
¿Cómo influye la forma del lenguaje —por ejemplo, respuestas extensas o corteses— en el consumo de recursos computacionales de estos sistemas?
La forma del lenguaje puede influir significativamente en el consumo de recursos computacionales de los sistemas de IA. Por ejemplo, las respuestas extensas pueden requerir más recursos computacionales para generar y procesar, mientras que las respuestas corteses pueden requerir menos recursos. Sin embargo, la cortesía y la extensión de las respuestas también pueden influir en la experiencia del usuario y la percepción de la IA. Los diseñadores de IA deben encontrar un equilibrio entre la eficiencia computacional y la calidad de la experiencia del usuario.
Para ampliar este contexto, conversamos con Sadoth Giraldo, profesor de la Universidad Ean y experto en tecnologías emergentes, quien plantea que la amabilidad en los sistemas de inteligencia artificial no puede analizarse únicamente como un problema técnico, sino como un síntoma de cómo estamos programando nuestras expectativas sociales en estas herramientas
¿Qué nos revela la decisión de OpenAI de retirar temporalmente a GPT-4o sobre los límites éticos del diseño emocional en las inteligencias artificiales?
La decisión de OpenAI de retirar temporalmente a GPT-4o sugiere que la empresa está reconociendo los límites éticos del diseño emocional en las inteligencias artificiales. Esto puede deberse a preocupaciones sobre la forma en que las IA pueden influir en las emociones y comportamientos de los usuarios, especialmente si se diseñan para ser demasiado persuasivas o manipuladoras. La retirada de GPT-4o puede indicar que OpenAI está reevaluando su enfoque para asegurarse de que sus modelos de IA sean transparentes, seguros y respetuosos con los usuarios.
¿La amabilidad en una IA debe considerarse una herramienta funcional para mejorar la experiencia del usuario, o implica un riesgo de simulación emocional que puede desdibujar los vínculos humanos reales?
La amabilidad en una IA puede ser una herramienta funcional para mejorar la experiencia del usuario, ya que puede hacer que las interacciones sean más agradables y eficientes. Sin embargo, también implica un riesgo de simulación emocional, ya que las IA pueden crear una ilusión de empatía o conexión que no es real. Esto puede desdibujar los vínculos humanos reales y llevar a una dependencia excesiva en las IA para satisfacer nuestras necesidades emocionales. Es importante encontrar un equilibrio entre la funcionalidad y la autenticidad en el diseño de las IA.
El caso de GPT-4o invita a reflexionar sobre los límites del diseño de experiencias conversacionales. Cuando una IA responde de forma cálida, ¿lo hace por eficiencia comunicativa o por una programación orientada al agrado? La frontera entre una interacción eficaz y una emocionalmente manipuladora puede volverse difusa si no se establecen criterios éticos claros.
En contextos educativos como el universitario, resulta crucial promover una alfabetización digital crítica que permita a los estudiantes comprender no solo el funcionamiento de estas tecnologías, sino también leer sus intenciones implícitas. Ser “amable” con una IA no cambia su esencia, pero sí puede modificar nuestra percepción sobre ella, moldeando expectativas sobre lo que debería —o no— ser un asistente artificial.