omm fit
설치 여부와 상관없이 지금 이 순간 이 머신 메모리에 모델이 맞는지, 다른 앱이 쓰는 양 위에 막대로 보여줍니다.
01 / 06
개요
캐시된 값이 아니라 실시간 답이 필요할 때 쓰는 명령입니다: install 안의 적합성 확인과 달리, 실행하는 그 순간의 메모리 여유를 읽기 때문에 다른 앱이 열리거나 닫히면 5분 뒤 같은 모델도 다르게 나올 수 있습니다. 제공자가 크기를 알려주기만 하면 아직 설치 안 된 모델에도 동작합니다.
02 / 06
옵션
이 명령이 받는 모든 옵션과, 생략했을 때의 기본값입니다.
<name>—기본값: required설치된 모델의 파일명, 큐레이션 이름, 또는 제공자가 크기를 알려주는 저장소 참조.
03 / 06
예제
기본 검색부터 스크립트에 넣을 만한 형태까지.
설치된 모델의 적합성 카드.
$ omm fit qwen2.5-0.5b-instruct-q4_k_m.gguf같은 수치를 JSON으로 — 설치 전 스크립트의 적합성 확인에 유용합니다.
$ omm fit qwen2.5-0.5b-instruct-q4_k_m.gguf --json크기만 알려지면 아직 설치 안 된 모델에도 동작합니다.
$ omm fit mistral-7b-instruct-q404 / 06
실제 실행 예시
2026-08-24, 이 개발 머신에서 실제로 실행한 omm fit qwen2.5-0.5b-instruct-q4_k_m.gguf 캡처입니다.
06 / 06
문제가 생겼다면
아래 메시지는 모두 이 명령이 실제로 출력하는 것들입니다. 해당하는 메시지를 찾아 원인을 읽고, 마지막 줄대로 하면 됩니다.
Could not determine the size of oversized-405b-q4_k_m.gguf (not installed, and the provider did not report a file size).- 원인
- 모델이 설치돼 있지 않고, 제공자도 fit이 메모리를 추정할 파일 크기를 알려주지 않았습니다 — 일부 직접 URL이나 특이한 저장소 참조에서 발생합니다.
- 대처
- 설치해 보거나(fit의 확인이 먼저 돌아가므로 확실히 안 맞으면 다운로드 자체가 안 됩니다) 이름으로 검색해서 크기 메타데이터가 있는 참조를 찾으세요.
- 출처
- src/omm/cli.py:5608-5611
--json has no effect on `omm fit` - ignoring it.- 원인
- 이건 omm이 실제로 출력하는 경고 문구 그대로입니다 — fit 코드 자체는 --json을 정상적으로 분기해서 구조화된 출력을 냅니다(위 캡처된 JSON 예제 참고); 이 경고는 플래그 처리 데코레이터 자체의 알려진 불일치이지, 플래그가 실제로 실패했다는 신호가 아닙니다.
- 대처
- 이 경고와 상관없이 JSON 출력은 정상입니다 — 별도 조치 필요 없습니다.
- 출처
- src/omm/cli.py global_flags decorator
그래도 해결되지 않는다면, 화면에 뜬 메시지 그대로를 첨부해 이슈를 등록하세요.
전체 명령어
- omm search큐레이션 카탈로그, HuggingFace, ModelScope에서 모델을 한 번에 찾습니다.
- omm install모델을 허브에 내려받아 설치된 모든 러너에 연결합니다.
- omm run설치한 모델과 대화합니다 — Ollama는 터미널에서, GUI 러너는 앱을 열어서.
- omm recommend이 머신 하드웨어에 맞춰 순위 매긴 모델을 추천하고, 설치까지 제안합니다.
- omm contribute모델을 반복 벤치마크하며 텔레메트리를 업로드해, 이런 하드웨어용 recommend를 개선합니다.
- omm setup하드웨어 스캔과 러너 설치 체크리스트를 언제든 다시 실행합니다.
- omm scan이 머신의 하드웨어·감지된 러너·모델을 보여줍니다 — 옵션 없이 바로.
- omm tune모델에 맞는 컨텍스트 길이·GPU 오프로드·스레드·배치 크기 추천값을 받습니다.
- omm helpomm 자체 명령어 요약, 또는 --all로 전체 레퍼런스를 봅니다.
- omm import다른 앱의 모델 디렉터리에 있는 .gguf 파일을 omm 허브로 편입시킵니다.
- omm uninstall모델을 제거하고 심볼릭 링크·매니페스트를 정리합니다. 별칭: rm.
- omm listomm이 설치한 모든 모델과 각각 어떤 러너에 연결돼 있는지 봅니다. 별칭: ls.
- omm info설치된 모델 하나의 저장소·버전·크기·링크·실행 명령을 자세히 봅니다.
- omm upgrade설치된 모델을 소스 기준으로 새로고침 — 실제로 바뀐 것만 다시 내려받습니다. 별칭: up.
- omm link설치된 모든 모델의 러너 링크를 다시 확인·복구하거나, 커스텀 디렉터리에 링크합니다.
- omm cleanup남은 부분 다운로드와 깨진 러너 심볼릭 링크를 한 번에 정리합니다 — 옵션 없이 바로.
- omm verify설치된 모델이 이 머신에서 실제로 로드되고 텍스트를 생성하는지 증명합니다.
- omm benchmark설치된 모델 하나 이상의 로컬 품질·속도 증거를 남깁니다.
- omm update최신 소스로 omm을 재설치하고 추천 데이터를 새로고침합니다.
- omm settingomm 설정을 보거나 바꿉니다 — 텔레메트리·외부 전송 데이터·테마·업데이트 채널 등.
- omm doctoromm 설치와 Ollama 링크를 읽기 전용으로 진단합니다 — 옵션 없이 바로.
- omm engine install설정 체크리스트를 건너뛰고 로컬 AI 러너 하나를 바로 설치합니다.
- omm log로컬 실행 로그를 읽습니다 — omm이 뭘 실행했고 잘 됐는지.
- README — UsageEvery omm command, one line each.