OpenAI показал, как масштабировал хранилище Habitat до 70 млн запросов/сек
OpenAI опубликовал первую часть рассказа об онлайн-хранилище Habitat, которое обрабатывает более 70 млн запросов в секунду, хранит 500+ петабайт данных и обслуживает 1 млрд пользователей в неделю. Система начиналась как Python-библиотека для GPT в 2023 году, а теперь это распределённый сервис поверх Azure Cosmos DB.