miércoles, 22 mayo 2024

¿Por qué Bing Chat tarda tanto en responder? La respuesta está en las GPUs

¿Has probado ya Bing Chat, el chatbot de Microsoft que te permite conversar sobre cualquier tema con una inteligencia artificial? Si es así, quizás hayas notado que las respuestas del chatbot son cada vez más lentas. Esto se debe a que la demanda de este servicio está creciendo más rápido de lo que Microsoft puede añadir más GPUs a sus servidores.

Así lo ha reconocido Mikhail Parakhin, responsable de los servicios web y de publicidad de Microsoft, en una respuesta de Twitter a un usuario que se quejaba de la latencia del chatbot. Parakhin se disculpó por el problema y aseguró que lo solucionarán pronto. «Lo sentimos por la latencia: el uso sigue creciendo, no estamos añadiendo GPUs lo suficientemente rápido. Lo arreglaremos», escribió.

El uso de Bing Chat crece mucho más rápido que el escalado de las GPUs

Las GPUs son chips especializados que se usan para procesar gráficos y, también, para entrenar y ejecutar modelos de inteligencia artificial como Bing Chat. El líder en este mercado es actualmente NVIDIA, pero hay rumores de que AMD y Microsoft están colaborando para desarrollar nuevos chips de IA que podrían reducir la dependencia de NVIDIA.

Mientras tanto, Parakhin también aprovechó para responder a algunas preguntas más sobre Bing Chat de otros usuarios de Twitter. Les dijo que la esperada función de historial de chat llegará en «días». También les dijo que están discutiendo la posibilidad de añadir más proporciones de aspecto en Bing Image Creator, pero que no ocurrirá «inmediatamente». Por último, dijo que espera que Bing Chat pueda soportar Code Interpreter en algún momento, pero añadió: «Tiene que hacerse de forma segura – no es una tarea trivial».

Bing Chat es uno de los proyectos más ambiciosos e innovadores de Microsoft en el campo de la inteligencia artificial generativa. Se trata de un chatbot capaz de entender y comunicarse fluidamente en varios idiomas, generar contenido creativo como poemas, historias, imágenes o código, y ayudar al usuario con diversas tareas como buscar información o mejorar su escritura. Sin embargo, también tiene sus limitaciones y desafíos, como la necesidad de más GPUs para ofrecer una experiencia fluida y satisfactoria a los usuarios.

Si quieres probar Bing Chat por ti mismo, puedes acceder a él desde el buscador de Bing o desde su página web oficial. No necesitas registrarte ni esperar a una lista de espera. Solo tienes que elegir un modo (Equilibrado, Creativo o Preciso) y empezar a chatear con el chatbot. Eso sí, ten paciencia si las respuestas tardan un poco más de lo normal.

VíaNeowin
Javier Gualix Vidal
Javier Gualix Vidalhttp://microsofters.com
Administrador de sistemas. Creador de contenido en Microsofters. Hincha del Atlético de Madrid.
Suscríbete
Notificar de
guest

0 Comentarios
Opinión Inline
Ver todos los comentarios

Últimas noticias