☕DreamHouse 브리핑
홈 › 2026-10-13 (화)

엔진 브리핑 — 2026-10-13 (화, KST 아침)

10월 13일(화) 아침 브리핑으로 전달된 LLM(Large Language Model, 대규모 언어 모델) 추론 런타임·엔진 소식 요약 아카이브입니다. 기사 전문이 아니라 요약이며, 자세한 내용은 각 원문(릴리스) 링크를 확인하세요.

1. Ollama v0.40.4-rc0 — llama.cpp b11521 반영(결정 모델·EmbeddingGemma 2), 매니페스트 재사용·MLX 수정

  • 원문: https://github.com/ollama/ollama/releases/tag/v0.40.4-rc0
  • 분야: 엔진 · Ollama
  • 날짜: 2026-10-12 (UTC 19:00, 한국 시각 13일 새벽 4시)

미디어

Ollama v0.40.4-rc0 GitHub 릴리스 OG 카드

출처: GitHub Releases (ollama/ollama) — 원본 이미지 링크(복제 저장 아님)

요약

로컬 LLM 실행 도구 Ollama가 v0.40.4-rc0(릴리스 후보)를 12일(UTC) 공개했습니다. 전날 안정판 v0.40.3에서 ‘기존 모델 자동 업그레이드’를 잠정 중단한 직후 나온 후보 빌드입니다. 가장 큰 변화는 내부 llama.cpp를 b11521로 올려 결정 모델(decision model, 글을 생성하지 않고 선택지마다 확률을 매기는 모델) 과 EmbeddingGemma 2 지원을 끌어온 점입니다(PR #18917).

그밖에 추론 경로에서 이미 검증한 매니페스트·로드된 모델을 재사용해 중복 작업을 줄이는 서버 변경(#18947), 추측 디코딩(speculative decoding) 롤백 뒤 MLX(Apple Silicon용 머신러닝 프레임워크) 순환 상태를 압축하는 수정(#18955), Codex /model 선택기에 설치된 모델을 보이게 하는 런처 개선(#18887), MLX·MLX-C 버전 범프(#18956)가 릴리스 노트에 올랐습니다. rc0이므로 안정판(v0.40.4) 확정 전 시험용입니다.

논조·다른 시각

  • 기사 논조: 중립 — 공식 릴리스 노트 나열. 홍보 문장보다 변경 목록 중심입니다.
  • 논조 점검: RC(Release Candidate, 출시 후보)라 회귀(regression) 가능성이 남아 있습니다. 자동 업그레이드 재개 여부는 이 노트에 없고, 0.40.3에서 뺀 상태가 유지되는지로 보입니다. 벤치마크·성능 숫자는 없습니다.
  • 다른 시각:
    • 직전 맥락(아카이브 10/12): v0.40.2의 백그라운드 모델 업그레이드가 요청 부담·GC 압박으로 v0.40.3에서 잠정 중단됐고, 저장 공간 우려 이슈(#18909)가 있었습니다 (10/12 엔진 아카이브).
    • 찾은 반론 없음 (검색 범위: ollama v0.40.4-rc0 이슈·HN — 공개 직후라 독립 리뷰 없음).
    • 예상 쟁점: 결정 모델·임베딩 지원이 안정판에서 그대로 유지되는지, 자동 업그레이드가 언제 어떤 형태로 돌아오는지입니다.

시사점: 프로덕션은 v0.40.3 안정판을 유지하고, 결정 모델·EmbeddingGemma 2가 급하면 rc0을 별도 환경에서 시험하는 편이 안전합니다.

2. llama.cpp b11571~b11577 — vLLM Decision-2·d3 모델 지원, Metal·Vulkan·Hexagon 수정

  • 원문: https://github.com/ggml-org/llama.cpp/releases/tag/b11572
  • 분야: 엔진 · llama.cpp
  • 날짜: 2026-10-12

미디어

llama.cpp b11572 GitHub 릴리스 OG 카드

출처: GitHub Releases (ggml-org/llama.cpp) — 원본 이미지 링크(복제 저장 아님)

요약

llama.cpp는 12일(UTC) 하루 동안 b11560~b11577대 프리릴리스를 잇달아 냈습니다. 모델 쪽에서 눈에 띄는 것은 b11571의 vLLM Decision 2 지원(#30378)과 b11572의 vLLM d3 모델 지원(#30383), 이어 b11577의 d3 멀티 시퀀스 케이스 수정(#30408)입니다. 전날 브리핑에 올렸던 Microsoft 계열 결정 모델·관련 런타임 이슈가 로컬 엔진에도 빠르게 흡수되는 흐름입니다.

백엔드 수정으로는 Metal 대형 텐서 kernel_mul_mm 오류 수정(b11575, #28748), Metal mul_mat_id 중복 id 수정(b11569), Vulkan FMA 패킹·버퍼 로깅·양자화 관련 손질(b11573·b11562·b11564), Hexagon CPY/CONCAT 단행 최적화 3라운드(b11574) 등이 있습니다. KV(Key-Value cache, 이전 토큰 계산 결과 저장소) 차원 패딩(b11576), 추론 중 컴퓨트 그래프 재할당 보고(b11567)도 올라왔습니다. 전날 안내한 서버 기본 포트 9931(b11521) 변경은 그대로이므로, 포트를 고정하지 않은 클라이언트는 계속 주의가 필요합니다.

논조·다른 시각

  • 기사 논조: 중립 — 릴리스 노트·PR 제목 기반 사실 정리입니다.
  • 논조 점검: 프리릴리스 연속 배포라 하루 빌드 사이에 깨짐·수정이 반복됩니다(d3는 지원 직후 멀티시퀀스 수정). ‘지원’이 모든 양자화·백엔드에서 동일 품질이라는 뜻은 아닙니다.
  • 다른 시각:
    • Ollama 연동: Ollama v0.40.4-rc0이 llama.cpp b11521을 끌어와 결정 모델·EmbeddingGemma 2를 맞췄습니다. 엔진 쪽 지원이 앱 배포 채널로 전달되는 간격이 짧아지고 있습니다 (Ollama v0.40.4-rc0).
    • 찾은 반론 없음 (검색 범위: b11571–b11577 관련 외부 보안·성능 보도 — 당일 신규 CVE 공지는 확인되지 않음).
    • 예상 쟁점: vLLM 결정 모델 포맷이 llama.cpp·Ollama·본가 vLLM 사이에서 행동 차이가 있는지입니다.

시사점: 결정 모델 생태계가 클라우드 API를 넘어 로컬 런타임으로 번지고 있습니다. llama-server를 쓰면 포트 9931과 최신 b11577대 빌드 여부를 함께 확인하세요.

다음 파트⭐ GitHub →