응답 검사와 대용량 응답

opencodex는 응답 진단 정보의 보관량을 제한하지만, 이 로깅 한도가 클라이언트에 전달되는 응답 크기를 제한하지는 않습니다. 프로바이더, 요청, 전송 계층의 다른 제한은 각각 적용됩니다.

JSON과 일반 오류 응답

JSON 검사는 원본 바이트를 최대 32 MiB까지 보관합니다. 본문이 이 한도를 넘으면 로깅용 사본을 버리고 원래 응답을 계속 전달합니다. 잘린 앞부분을 신뢰할 수 있는 사용량이나 모델 메타데이터로 파싱하지 않습니다. 다른 신뢰할 수 있는 경로에서 받은 사용량은 유지하며, 사용량이 없다고 임의로 0을 넣지 않습니다. 일반적인 비 JSON 오류 진단 정보는 처음 8 KiB만 보관하고 기존 마스킹 로직을 적용합니다.

클라이언트는 전체 본문의 진단 검사가 끝나기를 기다리지 않고 청크를 읽는 대로 받습니다. 읽기 실패는 요청 기록에 502로, 취소는 499로 기록됩니다. 이런 진단 결과로 이미 전송된 HTTP 헤더를 다시 쓰지는 않습니다. 로깅은 한 번만 마무리됩니다.

스트리밍 응답

네이티브 SSE 검사가 클라이언트의 소비 속도보다 너무 앞서면 잠시 멈춥니다. 허용량은 32 MiB에 원본 청크와 네이티브 미리 읽기의 오버헤드를 더한 값이며, 전체 응답 크기나 프로세스 전체 메모리의 상한은 아닙니다. 더 긴 응답도 실제 완료 이벤트까지 검사하며, 최종 사용량과 이어가기 상태까지 확인합니다.

클라이언트 연결이 끊긴 뒤에도 기존의 제한된 배출 과정에서 최대 15초 또는 추가 검사량 32 MiB까지 늦게 도착한 완료 이벤트를 관찰할 수 있습니다. 강제 종료 시에는 완료되지 않은 후보를 버리며 완료된 응답으로 기록하지 않습니다. 기존 전송 방식 선택과 WebSocket 메모리 제한은 그대로입니다. 새 설정은 필요하지 않습니다.