어떤 때 쓰면 좋을까요?
완성된 채팅 앱보다는 모델 실행 자체를 제어하고 싶은 개발자에게 맞습니다. 모델 크기와 실행 옵션을 바꿔가며 속도와 자원 사용량을 비교할 수 있습니다. 실제 서비스에 연결하기 전에 대표 질문으로 답변 품질과 지연 시간을 함께 확인해보세요.
llama.cpp
로컬·내 PC · 개발자용
다양한 기기에서 언어 모델을 가볍게 실행하기
여러 종류의 기기에서 언어 모델을 실행하는 데 쓰는 오픈소스 추론 엔진입니다. 설정과 개발 작업에 익숙한 사람에게 맞습니다.
이렇게 써보세요
PC 성능에 맞는 GGUF 모델을 실행해 문장 생성 속도와 메모리 사용량 비교하기.
공식 소개 · 2026-10-04 확인 · 기능·요금은 이용 환경에 따라 달라요