본문 바로가기

전체 글13

[AI] LLM 출력의 어디까지를 코드가 맡아야 할까? 팀에서 개발하고 있는 CHALK 서비스의 AI 튜터의 답변은 말풍선보다 한 장짜리 학습 노트에 가깝습니다. LLM 답변의 출력물마다 구성과 디자인이 달라지죠.아래 답변 예시를 보면 맨 위에 띠를 두른 제목이 있고, 풀이 순서는 번호 달린 타임라인으로, 주의할 점이나 팁은 강조 박스로 따로 표시되는등 다양한 디자인 요소들이 존재하고 있어요. 이 화면은 LLM 콜을 두 번 불러서 만들고 있어요. 먼저 쓰는 LLM(플래너)이 무슨 말을 할지 정하고 제목 / 문단 / 목록만 있는 HTML을 냅니다. 그다음 꾸미는 LLM(컴포저)이 그 HTML을 받아 디자인을 입힙니다.어떤 문단을 강조 박스로 만들지, 어떤 목록을 타임라인으로 바꿀지, 어떤 제목에 띠를 두를지를 정합니다. 그런데 LLM이기 때문에 매번 다르게 디.. 2026. 9. 27.
[Python] 치명적인 실수 (연결이 끊겨도 돌던 LLM 답변) LLM 답변을 SSE로 흘려보내는 서버를 운영하고 있습니다. 어느 날 잠을 자고 있는데 갑자기 우다다다 슬랙 알림이 와서 급하게 노트북을 켜보니 트레이스가 이렇게 찍혀있어요. 로그를 보면 맨 윗줄(L0)이 답변 한 번을 만드는 요청 전체이고 그 아래 L1은 그 요청이 부른 LLM 호출들입니다.같은 이름의 호출이 Start 열을 따라 10초 간격으로 계속 늘어납니다. 요청은 30초도 안 되어 끝났습니다. 그런데 그 요청 하나에 달린 LLM 시간은 한 시간이 넘었습니다. 😵 예상하자면 사용자는 답변을 다 받기 전에 화면을 나갔어요.요청은 그때 끊겼는데 그 요청이 띄운 백그라운드 태스크는 주인을 잃은 채 계속 돌았습니다.트레이스 하나에 LLM 호출이 수천 건 쌓일 때까지요. 트레이스를 다시 보면 30초짜리 .. 2026. 9. 7.
[iOS / WWDC26] @State 매크로 적용 범위 지난 6월 8일(현지 시간), 애플의 연례 개발자 행사인 WWDC 2026 키노트가 진행되었는데요. 이번 행사의 주인공은 단연 2년 전 예고된 이후 계속 미뤄져왔던 시리 AI인데요.여기에 iOS 27과 macOS 골든게이트 등 운영체제 전반의 변화도 함께 공개되었습니다. 이번 글에서는 핵심 내용들 정리나 디바이스, OS에 추가된 기능보다 iOS 개발자로서 Swift 언어에서 바뀐점을 보려고 합니다. 이번 WWDC26 에서 @State가 프로퍼티 래퍼에서 매크로로 바뀌었습니다.그러면서 @State에 담긴 클래스가 뷰 생애당 한 번만 초기화되는거죠. 그런데 이 개선은 선언을 어떻게 썼느냐에 따라 적용되기도 하고 안 되기도 해요.어느 쪽인지 확인하는 방법을 보겠습니다. 기존 코드의 동작이 바뀌는 변경이번 S.. 2026. 8. 11.
[iOS] 셀 높이를 모르는 채팅 리스트의 스크롤 문제 현재 제가 개발하고 있는 CHALK 서비스의 iOS앱이에요. AI 튜터의 답변이 스트리밍으로 흘러 들어오는 채팅 화면을 만들고 있는데이번에 SwiftUI List로 시작했다가 UIKit UICollectionView로 옮겼어요. 스트리밍 중에 셀 높이가 계속 바뀌는데 SwiftUI 쪽에서는 스크롤 위치를 붙잡을 방법이 마땅치 않았기 때문이에요. 옮기고 나니 문제가 생겼어요.과거 대화를 불러오면 화면이 튄다.과거 로드가 스스로를 다시 부른다.맨 아래로 보냈는데 맨 아래가 아니다.답변이 짧으면 타임스탬프가 사라진다.결론부터 보자면 넷 다 원인이 같아요. 정석은 리스트를 뒤집는 것채팅 화면에는 오래된 정석이 있죠? 컬렉션 뷰를 위아래로 뒤집는 것.collectionView.transform = CGAffine.. 2026. 4. 22.
2025 회고 연말연초를 새로운 회사 적응과 CES 준비하며 보내느라 이제야 한 해를 돌아볼 여유가 생겼네요. 2025년은 여기저기 많이 옮겨 다닌 해였습니다.회사도 옮기고, 사는 곳도 옮기고, 쓰는 언어랑 플랫폼도 계속 바뀌었어요. 1️⃣ 10개월 만의 출근2️⃣ AI 해커톤3️⃣ 일산에서 평촌으로4️⃣ FIRSTHABIT, 그리고 CES5️⃣ 2025년에 읽은 책6️⃣ 2026년에는 10개월 만의 출근2025년 얘기를 하려면 2024년부터 꺼내야 합니다. 2024년 1월 중순, 2년 반 넘게 다닌 회사를 나왔어요.몸이 많이 지쳐 있었고 이대로 계속 달리기보다는 한 번 쉬어가야겠다고 판단했죠. (사실 더 큰 이유가 있지만 너무 구구절절이라..)기존 계획은 6개월이었습니다.그렇다고 그냥 쉬기만 할 생각은 아니었어요... 2026. 1. 17.
LLM 문서봇 만들기 (ChatGPT / Slack / Notion & Google Docs) 현재 재직중인 회사의 메인 BM은 광고 운영입니다.전체 매출액의 70~80%를 담당하고 있죠.수천, 수만개의 광고를 운영하고 있어 운영팀의 업무 강도가 높은 상황이죠. Notion과 Google Docs에는 매체별 가이드, 캠페인 운영, 광고주별 집행 이력 등 운영 문서가 몇 년 동안 쌓여 있었습니다.어디에 뭐가 있는지 찾으려면 한세월.. 항상 슬랙에는 문서 찾는 질문이 하루에도 몇 번씩 올라왔고요. Notion 검색은 문서에 쓰인 단어를 알아야 찾을 수 있고 Google Docs는 또 따로 뒤져야 했거든요. 그러던 와중 Notion이 MCP 서버를 공개했다는 소식을 봤어요.LLM이 Notion 문서를 직접 찾아 읽고 답할 수 있다는 거죠. (우리한테 너무 필요한..!) Notion AI로도 비슷한 걸 .. 2025. 8. 26.