← 프로젝트 목록주요 구현 기능
- Spring Boot 3.3 + Java 17 기반 인증·채널·크레딧·병원·구독 관리 REST API 32개 엔드포인트 설계·구현
- Clova Speech 전사 → Gemini 정제·요약을 Kafka 토픽(transcription · refinement · summary) 단위로 분리한 비동기 파이프라인 구축
- 단계별 실패를 DLT(Dead Letter Topic)로 격리하고, 사용자 재처리 요청 시 실패 단계부터 재개해 불필요한 AI 호출 방지
- 채널 상태를 13단계로 세분화하고, 30분 이상 정체된 채널을 10분 주기 스케줄러가 감지해 Kafka 이벤트 재발행
- JWT Access/Refresh/Temp 3종 토큰 + OAuth(Kakao/Apple) 인증 체계, 내부 연동 API는 X-Internal-Token으로 별도 보호
- 개인·병원 크레딧 지갑 2종과 구독 플랜 월별 리셋(compare-and-set)으로 멀티 테넌트 과금 모델 구현
성과
- reserved_credit · SELECT FOR UPDATE · referenceId 멱등키로 동시 요청 환경의 중복 차감과 잔액 불일치 방지 (k6 35건 시나리오에서 중복 요청·초과 과금 0건)
- 세마포어와 큐로 외부 STT API 동시 호출을 상한 안에서 소비하도록 유입량과 실행량을 분리
- 처리 완료 기준 오프셋 커밋 + commit lock + Graceful shutdown으로 재시작·배포 시 메시지 유실과 중복 처리를 동시에 방지
- 계정·채널 삭제 시 DB와 S3 정리를 함께 처리하고, 외부 스토리지 실패는 경고 로그로 격리해 핵심 트랜잭션 보호
트러블슈팅
문제 상황
AI 작업이 끝난 뒤 크레딧을 차감하는 후차감 정책을 사용했습니다. 동시에 들어온 요청이 같은 잔액으로 사전 검증을 통과하면, 먼저 완료된 요청의 차감으로 나머지 작업이 최종 과금 단계에서 실패했습니다.
원인 분석
잔액 확인과 사용 예정 금액의 예약이 하나의 원자적 작업으로 묶이지 않았습니다. 처리 중인 요청의 크레딧을 고려하더라도, 동시 검증 사이의 경쟁 조건을 막지 못했습니다.
결과와 검증
검증 단계의 거절과 AI 처리 단계의 실패를 분리해 결과를 평가했습니다.
CASE 02외부 API 호출량 제어로 비동기 처리 병목 완화
큐와 세마포어로 유입량과 동시 실행량을 분리
문제 상황
Clova Speech 전사와 Gemini 정제·요약 요청을 비동기로 처리했습니다. 요청이 몰리면 처리 시간이 길어지고, 대기 작업과 재시도가 함께 누적되는 병목이 발생했습니다.
원인 분석
내부 작업 생성량과 외부 API의 처리 용량을 함께 제어하지 않았습니다. 비동기 실행만 늘리는 방식으로는 외부 호출 제한과 네트워크 대기를 해소할 수 없었습니다.
결과와 검증
운영 기준: 동시성 상한은 외부 API 계약과 전체 워커 수를 고려해 조정해야 합니다.
문제 상황
Kafka 기반 비동기 파이프라인에서도 일부 요청이 간헐적으로 누락되거나 중단됐습니다. 병렬 작업의 완료 순서가 뒤바뀌는 상황과, 처리 중 배포·종료되는 상황을 함께 다뤄야 했습니다.
원인 분석
같은 파티션에서 앞선 메시지가 미완료인데 더 뒤의 위치를 커밋하면, 재시작 후 미완료 메시지를 건너뛸 수 있습니다. 종료 시 실행 중 작업을 기다리지 않는 흐름도 처리 중단의 원인이었습니다.
결과와 검증
설계 포인트: 커밋 잠금과 함께 미완료 메시지를 건너뛰지 않는 완료 범위 추적이 필요합니다.
Spring BootFastAPIKafkaLangGraphClova SpeechAWS