글 목록

Tool-calling agent가 네트워크 실패와 모델 재시도로 같은 외부 작업을 반복 실행한 사례를 바탕으로 idempotency key, side-effect ledger, retry gate를 어떻게 분리했는지 정리한다.

LLM 서빙에서 speculative decoding을 켰다가 p99가 악화된 사례를 바탕으로 draft 모델, verifier 비용, acceptance rate를 어떻게 rollout gate로 삼았는지 정리한다.

가용성 SLO를 Prometheus alert로 옮기면서 단일 error rate 조건이 놓친 장애와 과한 호출을 multi-window burn rate 계약으로 줄인 운영 기록.

반복 실패 테스트를 quarantine으로 치웠다가 CI 신뢰도와 처리 시간이 함께 나빠진 뒤, TTL과 owner budget으로 quarantine을 운영 큐로 바꾼 사례를 정리한다.

FIFO worker queue에서 한 테넌트의 대량 작업이 전체 p99를 끌어올린 장애를 Deficit Round Robin과 비용 예산으로 풀어낸 기록입니다.

AI 보조 코딩 세션이 길어지면서 컨텍스트 요약이 요구사항을 잃어버린 사고를 decision ledger, 검증 체크포인트, 핸드오프 계약으로 줄인 운영 기록입니다.

무중단 배포 뒤 WebSocket 클라이언트가 동시에 재접속하면서 presence와 fanout 계층이 흔들린 사건을 resume token, backoff jitter, drain budget으로 고친 기록입니다.

GitHub Actions OIDC로 장기 배포 키를 없앤 뒤, subject claim과 trust policy를 운영 계약으로 관리하게 된 사례를 정리한다.

대규모 nullable column backfill이 primary CPU가 아니라 WAL replay와 read replica 지연을 먼저 터뜨린 사건을 lag budget, worker lease, kill switch로 고친 기록입니다.

벡터 검색의 offline recall은 통과했지만 shard 확장과 metadata filter가 겹친 배포 후 검색 품질이 떨어졌다. HNSW의 efSearch를 정적 튜닝값이 아니라 쿼리별 recall 예산으로 운영한 기록이다.