El costo de la cortesía: ¿por qué decir «por favor» y «gracias» a ChatGPT le cuesta millones a OpenAI?

El CEO de OpenAI, Sam Altman, reveló que las expresiones de cortesía como «por favor» y «gracias» al interactuar con ChatGPT generan un alto costo para la compañía. Según Altman, este tipo de interacciones pueden implicar un gasto significativo en términos de procesamiento de datos y energía. Aunque algunos usuarios siguen siendo educados al conversar con la inteligencia artificial, OpenAI incurre en mayores costos debido al procesamiento adicional de los «tokens», que son unidades de texto que el sistema debe analizar.

El uso de más palabras o frases corteses aumenta la cantidad de tokens procesados, lo que conlleva a un mayor uso de recursos como unidades de procesamiento gráfico (GPU) y más tiempo de cálculo. Este proceso incrementa los gastos operativos, lo que convierte una simple respuesta educada en un gasto significativo en términos de energía. Según reportes, incluso una respuesta breve, como un “de nada”, consume entre 40 y 50 mililitros de agua debido al proceso computacional.

A pesar de este aumento en los costos, Sam Altman considera que se trata de «decenas de millones de dólares bien gastados», reflejando cómo la cortesía en la interacción con la IA podría tener un impacto inesperado en la infraestructura de OpenAI.

Descargar en PDF