GeneratorExit1 [Python] asyncio 정리 코드를 except 에 두면 안 되는 이유 취소가 클라이언트에서 서버의 백그라운드 태스크까지 닿는 경로를 따라가며, 정리 코드를 어디에 둬야 하는지 봅니다 LLM 튜터의 답변을 SSE로 흘리는 서버를 운영하고 있습니다. 어느 날 트레이스 하나가 이렇게 찍혔습니다.맨 윗줄이 턴 하나(L0)이고 그 아래는 전부 자식(L1)입니다. 같은 이름의 LLM 호출이 Start 열을 따라 10초 간격으로 계속 늘어납니다. 턴은 30초도 안 되어 끝났습니다. 그 턴 하나가 담고 있는 LLM 시간은 한 시간이 넘습니다. 사용자는 답변을 다 받기 전에 화면을 나갔습니다. 요청은 그때 끊겼는데, 그 요청이 띄운 백그라운드 태스크는 주인을 잃은 채 계속 돌았습니다. 한 턴의 트레이스에 LLM 호출이 수천 건 쌓일 때까지요. 눈여겨볼 것이 하나 더 있습니다. 그 30초짜.. 2026. 9. 7. 이전 1 다음
