어떤 때 쓰면 좋을까요?
여러 AI API를 앱마다 따로 붙이면 인증과 사용량 관리가 복잡해집니다. LiteLLM은 SDK와 프록시를 통해 호출 형태를 통일하고 모델 라우팅, 키와 팀별 예산을 관리할 수 있게 합니다. 하나의 AI 서비스라기보다 여러 모델을 운영하는 연결 계층에 가깝습니다.
모델 하나와 테스트 키로 시작해 요청이 정상 전달되는지 확인하세요. 이후 작업별 키와 예산을 나누면 비용이 어디서 늘어나는지 살펴보기 좋습니다. 프록시 운영·모델 API 비용은 별도이고 예산 제한의 적용 조건도 사용하는 배포와 기능에서 확인해야 합니다.