Mac mini M4를 싱가포르·도쿄·서울·홍콩·미서부 등에 임대해 Core ML 파이프라인을 돌릴 때, GPU만이 아니라 mlmodelc 컴파일 동시성·배치 추론·통합 메모리·NVMe IO가 한꺼번에 겹칩니다. 본문은 동시 컴파일 수·배치·IO·외장 디스크·큐 타임아웃·일·월 임대 비용 힌트(정성)를 한 표에 모으고, 운영에 바로 붙일 명령 플레이스홀더를 줍니다. 홈·연산(算力) 선정 매트릭스·구매·노드와 연결해 보세요.
왜 원격 M4에서 Core ML인가
배포 전 .mlmodel/.mlpackage 검증·ANE 경로 확인은 실제 Apple Silicon이 가장 빠릅니다. 크로스 리전에서는 제어 RTT와 아티팩트 데이터면이 겹치므로 노드 리전을 스토리지와 맞추는 것이 우선입니다. 티어·메모리 감각은 연산 선정(算力) 매트릭스의 처리량·꼬리 지연·피크 축과 같습니다.
PyTorch·MLX 병행 팀은 MPS·MLX 글의 이중 타임아웃을 Core ML 큐에도 이식하세요.
mlmodelc 배치 컴파일 파이프라인
CI에서 패키지를 스테이징한 뒤 coremlcompiler로 mlmodelc를 산출합니다. CPU·메모리·디스크가 동시에 붙으므로 동시 작업 수를 티어에 맞추지 않으면 처리량이 역감합니다.
입력·산출 분리, 노드당 컴파일 잠금, 실패 시 DLQ·Webhook 패턴을 권장합니다.
배치 추론 세션과 통합 메모리
MLModel을 장수명 프로세스에 올리고 배치 입력을 밀어 넣는 패턴이 일반적입니다. CPU·GPU·ANE가 한 풀을 쓰므로 배치가 곧 메모리 레버입니다. 16GB는 단일 주도, 24GB는 피크 측정 후 병렬을 넓기세요. 대용량 스테이징은 데이터셋 리전 글과 경로를 맞춥니다.
의사결정 대조표(동시 컴파일·배치·IO·외장·큐·비용)
아래 값은 출발점이며, 실제 모델·입력 해상도·OS 버전마다 스윕으로 교정해야 합니다.
| 프로파일 | 동시 컴파일 수 | 배치(B) | IO(내장 NVMe) | 외장 디스크 | 큐 타임아웃(대기/계산) | 일·월 임대 비용 힌트(정성) |
|---|---|---|---|---|---|---|
야간 CI mlmodelc 팜 |
16GB: 1(+얇은 큐) / 24GB: 1–2(세마포) | 추론 배치보다 컴파일 큐 깊이가 레버 | 순차 쓰기·중간; 동시 2 이상이면 랜덤 쓰기 경쟁 | 산출·로그를 외장으로 분리하면 내장 쿼터 여유 | Wq 짧게(재스케줄 가능 시) / Wc는 컴파일 p95의 약 2배+α | 단기·일 단위가 유리한 편(스파이크 워크로드) |
| 온라인 배치 추론(웜 모델) | 0–1(배포 직후만) | 중~대; ANE/GPU 선택은 모델 프로파일에 따름 | 읽기·맵 프리페치가 높음; 배치 간 캐시 워밍 | 필수 아님; 대용량 캐시 시 읽기 전용 외장 검토 | Wq 중간 / Wc는 첫 배치 웜업 포함 여유 | 월 상한·고정 노드가 운영 단순 |
| 멀티 테넌트 공유 노드 | ≤1(전역 잠금 권장) | 테넌트별 소배치+동시성 캡 | 경쟁 심함; IO 공정성 스케줄 필요 | 테넌트별 스크래치 경로 분리 권장 | Wq 길게+디그레이션 사다리 / Wc 테넌트 SLA에 맞춤 | 노드 분리 시 월 비용 중~상; 합산보다 분리가 싼 경우 많음 |
비용 열은 정성 힌트입니다. 리전·환율·약정에 따라 달라지므로 패키지·가격 표와 리전·TCO 매트릭스로 교차 확인하세요.
실행 가능한 명령·파라미터 플레이스홀더
경로·플랫폼·배포 타깃은 환경에 맞게 치환합니다.
컴파일(예: macOS 대상 mlmodelc)
xcrun coremlcompiler compile \
"<PATH_INPUT.mlpackage|PATH_INPUT.mlmodel>" \
"<PATH_OUTPUT_DIR>" \
--platform macos \
--deployment-target "<MACOS_MIN_VERSION>"코어ML툴즈(파이썬) 버전 고정 예
python3 -m pip install "coremltools==VER_PLACEHOLDER"런타임에서는 MLModelConfiguration의 compute units 플래그(cpuOnly·cpuAndGPU·all 등)를 스테이징에서만 바꿔 비교하세요. API 상세는 Xcode·타깃 OS 문서를 따릅니다.
큐 타임아웃·디그레이션
대기 타임아웃(워커 배정 전)과 계산 타임아웃(컴파일 또는 배치 추론 한 번의 상한)을 분리하지 않으면, 긴 컴파일이 대기 한도를 잡아먹거나 반대로 배치만 잘리는 등 신호가 섞입니다. 디그레이션은 배치 크기 축소 → 소형 모델 → 부분 결과+재시도 토큰 순으로 문서화하고, 총 시도 상한과 DLQ를 짝지으세요.
여러 리전 풀을 쓸 때는 컴파일·추론 데이터를 노드 로컬에 두고 제어맼만 원격에 두는 편이 RTT에 유리합니다.
FAQ
컴파일 산출물을 Git에 넣나요? 보통은 아티팩트 저장소에 올리고 노드는 캐시합니다. 리포지토리는 스펙·해시만.
Xcode 없이도 컴파일되나요? CI 이미지에 Command Line Tools와 코어ML 컴파일러 구성 요소가 있어야 합니다. 임대 이미지 사양은 도움말에서 확인하세요.