LLM

Web UI의 LLM 섹션은 각 AI 기능 — 터미널 분류, Git 커밋 메시지, 충돌 해결, 음성 텍스트 다듬기, 번역 — 에 LLM 공급자를 배정합니다. 공급자 자체는 Addons 섹션에서 관리되는 LLM 유형 애드온입니다.

공급자는 애드온

LLM 공급자는 Addons 섹션의 LLM 그룹에 있습니다:

• OpenAI Compatible LLM 공급자가 내장되어 있습니다. 사용자 지정 공급자는 zip으로 업로드할 수 있습니다(Upload 버튼). 애드온 매니페스트가 설정 필드(API 키, 베이스 URL, 모델 등)를 선언하면 Web UI가 폼으로 바꿉니다;
• 공급자는 애드온이 활성인 동안에만 기능 픽커에 나타납니다 — 먼저 Addons 섹션에서 켜세요;
• 애드온 카드의 연필 버튼으로 원본을 편집할 수 있습니다. 수정한 내장 애드온은 Reset으로 되돌릴 수 있습니다.

기능별 설정

LLM 섹션의 각 기능 카드는 자체 활성 토글과 자체 공급자 선택을 가지므로, 다른 작업에 다른 모델을 쓸 수 있습니다:

• Terminal Classification — 내장 패턴이 부족할 때 터미널 상태를 분류합니다. Max Consecutive Failures는 그 횟수만큼 연속 실패하면 세션의 LLM을 비활성화합니다(최소 3);
• Git Commit Messages — 스테이지된 변경에서 커밋 메시지 생성;
• Git Conflict Resolve — 리베이스/병합 충돌을 헝크 단위로 해결;
• Voice Text Polish — 보내기 전 음성 입력 전사를 다듬음;
• Translation — 텍스트를 선택한 대상 언어로 번역.

카드를 펼쳐 Provider를 고르고 공급자 필드를 채웁니다. 설정은 기능이 비활성인 동안에도 저장되며 활성화된 뒤에야 효과를 냅니다. 여러 기능이 같은 공급자 애드온을 사용하는 경우, Provider Configuration 옆의 복사/붙여넣기 버튼으로 해당 필드 값을 기능 사이에 복제할 수 있습니다(아래 참고).

터미널과 Git 기능에는 Auto 옵션이 있는 출력 언어(모델이 결정)가 있습니다. 번역은 명시적인 English/简体中文 대상 목록을 사용합니다.

기능 간 복사/붙여넣기

각 기능은 공급자의 필드 값을 각자 자체적으로 보관하므로, 여러 기능에서 공급자를 하나 쓰면 보통 각 카드마다 같은 베이스 URL, API 키, 모델을 다시 입력해야 합니다. Provider Configuration 헤더에는 이 중복을 줄이는 작은 버튼 두 개가 있습니다:

• 복사 — 이 카드에 현재 표시된 필드 값과 그들이 속한 공급자 애드온을 함께 복사합니다;
• 붙여넣기 — 카드에서 선택된 공급자가 복사된 설정과 동일한 애드온인 경우에만 나타납니다. 클릭하면 복사된 값이 카드의 필드에 들어갑니다.

예를 들어 Git 커밋 메시지와 번역에서 하나의 엔드포인트를 공유하려면: 첫 번째 카드에서 공급자를 고르고 필드를 채운 뒤 복사를 누르고, 다른 카드(같은 공급자가 선택된 상태)를 열어 붙여넣기를 누릅니다. 붙여넣은 값은 다른 필드 편집과 마찬가지로 해당 기능 자체의 설정에 저장되고 함께 저장됩니다. 클립보드는 페이지 안으로만 적용되며 LLM 섹션을 떠나면 비워집니다.

OpenAI 호환 공급자

내장 공급자는 어떤 OpenAI 호환 채팅 API와도 동작합니다. 주요 필드:

• Base URL / API Key / Model — 엔드포인트, 자격 증명, 모델 이름;
• Extra Body — 매 요청 본문에 병합되는 JSON 객체. 모델 고유 매개변수용;
• Max Input Tokens / Max Output Tokens — 프롬프트 예산과 완성 상한;
• Timeout — 요청별 초 단위 시간 제한. 느린 로컬 모델에는 올리세요.

권장 모델

이런 AI 작업은 짧고 지연에 민감한 프롬프트입니다. 빠른 “딱 맞는” 모델이 큰 추론 모델보다 낫습니다:

• 로컬: Qwen3.5 9B — Git 커밋 메시지 생성, 터미널 분류, 번역, 음성 다듬기의 스위트 스팟. OpenAI 호환 엔드포인트(Ollama, vLLM, llama.cpp)로 서빙하고 Base URL을 가리키세요;
• API: DeepSeek V4 Flash (deepseek-v4-flash) — 대화형 사용에 충분히 빠르고 위 기능 모두를 감당합니다.

사고 모드는 수 초의 지연을 더하며 이런 짧은 작업에 거의 도움이 되지 않습니다 — Extra Body로 끄는 것이 더 좋은 경험입니다. 예: Qwen은 {"enable_thinking": false}, DeepSeek은 {"thinking": {"type": "disabled"}}(정확한 키는 서빙 스택에 따르며, JSON은 요청 본문에 그대로 병합됩니다).