☕DreamHouse 브리핑
홈 › 2026-10-15 (목)

엔진 브리핑 — 2026-10-15 (목, KST 아침)

10월 15일(목) 아침 브리핑으로 전달된 LLM(Large Language Model, 대규모 언어 모델) 추론 런타임 소식 요약입니다. Ollama v0.40.5-rc0과 llama.cpp b11607~b11624(14일) 변경을 모았습니다. 전날(14일) 다룬 Strata 0.1.44·llama.cpp b11580~b11606과 겹치지 않는 이후 커밋만 적습니다.

1. Ollama v0.40.5-rc0 — Metal 커스텀 커널 CUDA 이식, Responses 히스토리 커스텀 툴콜

  • 원문: https://github.com/ollama/ollama/releases/tag/v0.40.5-rc0
  • 분야: 엔진 · Ollama
  • 날짜: 2026-10-14 (UTC 19:45 ≈ KST 10/15 04:45)

미디어

Ollama v0.40.5-rc0 GitHub release Open Graph

출처: GitHub Releases Open Graph — 원본 이미지 링크(복제 저장 아님)

요약

Ollama가 v0.40.5-rc0(RC(Release Candidate, 정식 출시 전 후보판))을 14일(UTC) 공개했습니다. 변경 요약에 따르면 MLX(애플이 만든 머신러닝 프레임워크 — 맥의 통합 메모리에 최적화) 쪽 Metal 커스텀 커널을 CUDA(Compute Unified Device Architecture, 엔비디아 GPU로 범용 연산을 하게 해 주는 플랫폼) 로 이식하는 작업(#18657), OpenAI 호환 Responses 히스토리에서 커스텀 툴 콜(tool call, 모델이 외부 함수·도구를 부르도록 하는 호출) 을 받아들이도록 한 수정(#18911), MLX 버전 bump(#18993), 문서 정리(#18981), 클라우드 결제 오류 메시지 명확화(#18986)가 들어갔습니다. 정식 v0.40.5가 아닌 RC이므로 프로덕션 반영 전에는 회귀 여부를 보는 단계입니다.

논조·다른 시각

  • 기사 논조: 중립 — 릴리스 노트 나열형입니다.
  • 논조 점검: 특별한 문제 없음 — 1차 출처가 GitHub 릴리스입니다. RC 단계라 ‘정식 안정’으로 읽으면 안 됩니다.
  • 다른 시각:
    • 찾은 반론 없음 (검색 범위: Ollama releases·관련 이슈 제목 — 당일 RC에 대한 별도 비판 기사 없음).
    • 예상 쟁점: Metal→CUDA 커널 이식이 모든 GPU·드라이버에서 동일 성능을 보장하진 않을 수 있습니다.

시사점: 로컬 런타임이 OpenAI Responses·툴콜 호환과 크로스 백엔드(MLX/CUDA) 쪽으로 계속 맞추는 흐름입니다. RC이니 메인 머신에 올리기 전 스모크 테스트가 안전합니다.

2. llama.cpp b11607~b11624 — Unigram NFC 옵션, 서버 특수토큰 이스케이프 수정, Adreno MoE·WebGPU 수정

  • 원문: https://github.com/ggml-org/llama.cpp/releases
  • 분야: 엔진 · llama.cpp
  • 날짜: 2026-10-14 (여러 pre-release 태그)

요약

llama.cpp가 14일(UTC) b11607부터 b11624까지 연속 프리릴리스를 올렸습니다(전날 브리핑의 b11580~b11606 이후분). 눈에 띄는 항목만 고르면, Unigram 토크나이저용 NFC(Normalization Form C, 유니코드 정규화 형식 C — 같은 글자의 다른 바이트 표현을 하나로 맞춤) 정규화를 선택적으로 켜는 변경(#30390), d1-omni·kev 프롬프트 경로에서 std::regex 대신 루프로 특수 토큰을 이스케이프해 긴 이름에 HTTP 스레드 스택이 터지던 문제 수정(#30243, b11608), OpenCL Adreno MoE(Mixture of Experts, 전문가 혼합 — 일부 하위 네트워크만 골라 계산하는 구조) 관련 mul_mat_id·q8_0 수정(b11620~b11621), WebGPU mul_mat_id 중복 expert id 수정, Vulkan 컴파일 오류 수정(b11617), RPC 텐서 전송 로그 개선(b11624) 등입니다. 개별 태그는 기능 단위 야간 빌드에 가깝고, 하나로 묶인 ‘메이저 버전’ 발표는 아닙니다.

논조·다른 시각

  • 기사 논조: 중립 — 엔지니어링 변경 로그입니다.
  • 논조 점검: 특별한 문제 없음 — 커밋 메시지·릴리스 노트 1차 출처입니다. ‘서버 크래시 수정’은 재현 조건(긴 특수토큰 이름)이 한정적이라 모든 사용자 이슈는 아닙니다.
  • 다른 시각:
    • 찾은 반론 없음 (검색 범위: ggml-org/llama.cpp releases b11607–b11624).
    • 예상 쟁점: NFC 옵션은 기본 off라, 토크나이저·임베딩 재현성을 맞출 때만 켜는 편이 안전합니다.

시사점: 결정 모델·멀티모달 서버 경로가 늘면서 이스케이프·토크나이저 엣지케이스가 드러나는 구간입니다. Adreno·WebGPU 쪽 MoE 수정은 모바일·브라우저 추론 사용자에게 해당합니다.

다음 파트⭐ GitHub →