In-process ASGI 로드 하네스 (chat SSE·임계)

주간 NF load.command를 실 LLM/클러스터 없이 재현하려면 in-process ASGI + FakeAgent가 기본이다. UI Playwright 축(Playwright-Frontend-UI-Smoke-Pattern.md)·SQL EX 축(Spider2-Quality-Gate-nl2sql.md)과 분리한다.

시나리오 골격

  1. health warm-up (GET /api/health 등)
  2. POST /api/chat SSE drain
  3. GET /api/conversations (또는 동등 대화 목록)

기본 vs 실 LLM

모드조건용도
주간 기본in-process + FakeAgent, SGLang OFF결정적 p95·에러율
실 LLM opt-inLOAD_REAL_LLM=1 + LOAD_BASE_URL + 앱 auth 헤더클러스터/Ingress 검증

주간 기본 in-process 하네스는 long_run: true 비동기 디태치 없이 포그라운드(~4초)에서 20/20 요청, errors=0, p95 기준선(예: 140ms 대) 충족을 신속히 검증한다.

ASGITransport는 FastAPI lifespan을 안 돈다 → app.router.lifespan_context(app)로 store/agent wire를 강제한다.

# 개념: lifespan 없이 라우트만 올리면 store/agent 미초기화
async with app.router.lifespan_context(app):
    transport = ASGITransport(app=app)
    async with AsyncClient(transport=transport, base_url="http://test") as client:
        ...

임계 env (예시)

env기본 역할
LOAD_P95_MSp95 상한 (예: 2000); 0이면 즉시 실패로 게이트 자체 검증
LOAD_MAX_ERROR_RATE허용 에러율
LOAD_WALL_SEC벽시계 상한

위반 시 non-zero + FAIL: stderr. quality.yaml에만 키를 두고 커맨드가 health-only면 chat 회귀를 못 잡는다 — Tenant-Quality-Yaml-Gate-Skip-Pattern.md.

Auth 정합

앱이 X-Forwarded-* 신원 헤더를 쓰면 하네스도 동일 헤더를 맞춘다. 미인증 chat → 401이 정상 스모크다.

🔗 관련 문서