OpenAI는 Habitat가 약 40개 지역에서 500PB 이상을 저장하고 초당 7천만건 넘는 요청을 처리한다고 설명했습니다. Python 라이브러리를 독립 서비스로 분리해 제어와 관측을 통합했고, 느린 서버에 요청이 몰리던 연결 풀의 LIFO 재사용을 FIFO로 바꿨습니다. 현재는 Istio와 Envoy의 부하 분산 및 HTTP/2 다중화로 연결 부담을 줄입니다. 임의 SQL 대신 비용을 예측할 수 있는 제한된 NoSQL API를 택한 것이 확장의 중요한 조건입니다.