OpenAI и PostgreSQL: Как ChatGPT обрабатывает миллионы запросов

Компания OpenAI опубликовала технический блог, в котором рассказывает, как PostgreSQL поддерживает работу ChatGPT, имеющего 800-900 миллионов активных пользователей еженедельно. Интересно, что для этого используется архитектура с одним основным сервером и около 50 реплик для чтения, без шардирования. Инженер Бохан Чжан представил эти детали на конференции PGConf.Dev 2025. По его словам, кластер способен обрабатывать свыше миллиона запросов в секунду, обеспечивая время отклика в пределах низких двузначных миллисекунд на 99-м перцентиле. При этом используется стандартный PostgreSQL с правильной настройкой пулинга соединений и оптимизацией запросов. Основной проблемой остается запись, так как все операции выполняются на одном сервере, что требует строгой оптимизации. Чтение же масштабируется легче благодаря распределению реплик по регионам и приоритетизации трафика. Подход OpenAI противоречит популярному тренду на распределенные базы данных, предпочитая максимальную эффективность одного кластера.