연산을 임대해 홍콩·싱가포르·일본·한국·미서부 등의 Mac mini M4에서 Stable Diffusion 이미지-투-이미지를 Core ML로 굴리면, 가중치·그래프·오케스트레이터 큐·뜨거운 mlmodelc 디렉터리가 모두 통합 메모리 한 풀을 씁니다. 본문은 의사결정 매트릭스와 실행 가능한 파라미터를 주고, Core ML 컴파일·배치·ONNX Runtime Core ML·큐 타임아웃 분리·리전·TCO와 교차합니다. 가격·구매·도움말은 체크아웃 전까지 로그인 없이 열람할 수 있습니다.
원격 M4에서 자주 겪는 세 가지
- 컴파일 스파이크가 처리량 저하로 보입니다. 첫 실행 Core ML 빌드와 mlmodelc 디스크 캐시가 텐서와 같은 통합 메모리를 먹습니다. 예열 전에 둘째 세션을 열면 평균보다 p95가 먼저 튀는 경우가 많습니다.
- 타임아웃을 하나로 묶으면 원인 라벨이 사라집니다. 대기(스테이징·WAN)와 확산 스텝을 같은 벽시계에 두면, 배치 추론 재시도가 디스크 캐시를 흔들고 모델 오류로 오인됩니다.
- 객체 스토리지를 스크래치처럼 쓰면 CPU가 암호화에 묶입니다. 매 항목 TLS로 프레임을 당겨오면 M4 GPU·ANE는 놀고 큐만 길어집니다. 먼저 NVMe 접두와 큐 Wq를 맞춘 뒤 호스트를 늘리세요.
의사결정 매트릭스
행은 운영 프로필입니다. 아래 H2와 함께 배치 크기·동시 세션·디스크 캐시 정책·분리 타임아웃을 조정하세요. OS·Xcode·체크포인트가 바뀌면 짧은 스윕으로 다시 재측정합니다.
| 프로필 | 배치 추론 형태 | 동시 세션 | 디스크 캐시 입장 | 타임아웃 Wq / Wc |
|---|---|---|---|---|
| 야간 대량 이미지-투-이미지 | 상주 바이트가 꺾일 때까지 배치 상향·해상도 사다리 고정 | 16GB: 1레인 / 24GB: 스왑 평탄 시 2레인 검토 | 로컬 mlmodelc·타일 접두; 콜드 번들은 호스트 외 아카이브 | Wq 넓게; Wc는 컴파일+p95 확산을 덮음 |
| 저지연 API | 배치 1~2·스텝 고정 | 세마포로 둘째 레인; 컴파일+서빙 동거 시 24GB 권장 | 배포 캐시 예열; 콜드 번들은 보조 디스크로 축출 | Wq 타이트; Wc는 웜업 분리 기록 |
| 멀티 테넌트 임대 슬라이스 | 테넌트별 배치·해상도 상한 | 계정 동시성 캡·큐 깊이 노출 | 테넌트별 TMPDIR on APFS |
Wc를 넓히기 전에 배치부터 축소 |
보편적인 초당 이미지 수는 적지 않습니다. 연산 유닛(ANE/GPU) 배정은 연산 구성·정밀도·빌드에 좌우되므로 본 표는 가드레일이며 SLA가 아닙니다.
모델 변환과 배치 크기
UNet·VAE를 지원되는 mlprogram 또는 mlpackage로 변환하고, coremltools 등 변환기 버전을 체크포인트에 고정하세요. 배치 추론 배치 크기는 통합 메모리 상주량이나 플래너 경고가 꺾이는 지점까지 올린 뒤, 꼬리가 터지면 스텝을 먼저 줄이고 배치는 그 다음에 내립니다.
컴파일 농도가 높은 주간에는 mlmodelc 배치 컴파일 글의 동시성 행을 그대로 겹쳐 읽고, 런타임을 섞을 때는 ONNX Runtime Core ML 매트릭스와 경계를 맞추면 재현이 쉬워집니다.
동시 세션 상한
워커 한 개가 그래프·디코드 상태·중간 버퍼를 동시에 잡습니다. vm.swapusage가 평탄하고 메모리 압력 표시가 두 패스 이상 안정일 때만 둘째 레인을 추가하세요. WhisperKit 매트릭스처럼 큐의 Wq(배정 전 대기)와 Wc(실제 확산·추론)를 분리하면 대시보드에서 원인이 갈립니다.
배치 렌더와 유사한 통합 메모리 감각은 블렌더 배치·통합 메모리 글의 「피크 대 평균」 축을 참고해도 좋습니다.
노드 선택(홍콩·싱가포르·일본·한국·미서부)
비용
시간당 임대료·이그레스·콜드 컴파일 시간·타임아웃 붕괴로 인한 재시도를 한 줄에 합산하세요. 디스크 캐시 규칙 없이 배치 추론만 늘리면 NVMe와 TLS가 먼저 병목이 됩니다. 리전을 옮긴 뒤에는 리전 지연·배치 비용 글로 WAN 가정을 다시 덮어씁니다.
실행 가능한 파라미터
부트스트랩 스크립트에 붙여 넣을 수 있는 예입니다. 밴드는 분기 힌트일 뿐이며, 오케스트레이터 환경 변수 이름은 제품에 맞게 치환하세요.
# 통합 메모리·스왑(읽기 전용 확인)
sysctl -n hw.memsize
sysctl -n hw.perflevel0.physicalcpu
sysctl vm.swapusage
# Core ML 스크래치·디코드 임시를 홈 혼잡에서 분리
export TMPDIR="/Users/shared/scratch/coreml-sd/$JOB_ID"
mkdir -p "$TMPDIR"
# 매트릭스 행에 맞춰 조정하는 노브 예시
export SD_MAX_BATCH=2
export SD_MAX_CONCURRENT_SESSIONS=1
export SD_WQ_SEC=120
export SD_WC_SEC=900런북: 호스트를 늘리기 전 다섯 단계
- 호스트 기록에 체크포인트·변환기 버전·macOS 다이제스트를 고정합니다.
- 컴파일을 한 번 웜업하고 대시보드에 콜드 스타트 라벨을 남깁니다.
- 해상도를 고정한 채 배치 이진 탐색으로 p95 또는 스왑이 튀는 지점을 찍습니다.
- 큐 대기 지표와 확산/추론 지표를 분리해 알림을 겁니다.
- 리전 이전 후에는 반드시 재프로파일합니다. RTT는 RAM을 늘리지 않습니다.
인용·알림에 쓰기 좋은 신호
- 레인당 상주 바이트와
hw.memsize비율(16GB 대 24GB SKU). - 롤링 창에서 Wc 근처에 머무는 작업 비중(양자화·IO 드리프트 감지).
- NVMe 읽기 MB/s 대 GPU 사용률—캐시 미스를 동시성 증가 전에 잡습니다.
FAQ
외장 SSD가 필수인가요? 아카이브·로그 축적용으로는 유용하지만, 뜨거운 Core ML 아티팩트는 내장 NVMe 접두에 두는 편이 안정적입니다.
RTT만 낮추면 OOM이 사라지나요? 아니요. 배치는 스테이징·체감 대기에만 도움이 됩니다.