☕DreamHouse 브리핑
홈 › 2026-10-12 (월)

엔진 브리핑 — 2026-10-12 (월, KST 아침)

10월 12일(월) 아침 브리핑으로 전달된 LLM 추론·서빙 엔진(런타임) 소식 요약 아카이브입니다. 주말(10월 9일~11일) 사이 나온 릴리스를 모았고, 내용은 GitHub 릴리스·PR(Pull Request, 코드 변경 요청) 원문 기준입니다. 각 항목의 논조·다른 시각은 같은 주제의 다른 매체·전문가·커뮤니티 반응을 찾아 출처와 함께 덧붙인 것입니다.

1. Ollama v0.40.2 → v0.40.3 — ‘기존 모델 자동 업그레이드’ 넣었다가 사흘 만에 잠정 중단

  • 원문: https://github.com/ollama/ollama/releases/tag/v0.40.3
  • 분야: 엔진 · Ollama
  • 날짜: 2026-10-11 (v0.40.3, KST 오전 10시 39분) / v0.40.2는 2026-10-09 KST 새벽

미디어

Ollama v0.40.3 GitHub 릴리스 OG 카드

출처: GitHub Releases (ollama/ollama) — 원본 이미지 링크(복제 저장 아님)

요약

로컬 LLM 실행 도구 Ollama가 v0.40.2(9일 KST)에서 ‘모델 업그레이드’ 기능을 넣었습니다. 예전 버전으로 내려받은 모델을 처음 실행할 때 백그라운드에서 llama.cpp(C/C++로 만든 대표적인 로컬 LLM 추론 엔진) 런너에 맞게 자동으로 바꿔, 성능과 호환성을 높인다는 설명이었습니다. 버전을 되돌려도 안전하도록 원본은 백업으로 디스크에 남기고, 백업은 다음 릴리스에서 자동으로 지운다고 했습니다. 지금 바로 백업을 지우는 스크립트(jq 필요)도 릴리스 노트에 실렸습니다. 같은 릴리스에서 업그레이드된 모델이 ollama list에 두 번 보이던 문제가 고쳐졌고, ollama launch claude가 모델의 전체 컨텍스트 길이(모델이 한 번에 읽을 수 있는 토큰 수) 를 쓰도록 바뀌었습니다.

그런데 사흘 뒤인 11일 나온 v0.40.3에서 이 백그라운드 모델 업그레이드가 잠정 중단됐습니다. 해당 PR(#18908)은 이 마이그레이션이 요청마다 부담을 더하고, 임베딩 모델처럼 요청이 아주 많은 사용 방식에서 GC(Garbage Collection, 안 쓰는 메모리를 자동으로 치우는 작업) 압박을 키웠다며, 향후 릴리스까지 빼 둔다고 설명했습니다. 그 밖에 ollama launch claude의 Claude 커넥터 경고, ollama launch codex의 서비스 등급 경고가 사라졌습니다.

정리하면 0.40.2로 올린 사용자는 일부 모델이 이미 변환돼 원본 백업과 함께 디스크를 두 배로 차지하고 있을 수 있고, 0.40.3부터는 새 변환이 일어나지 않습니다. 이미 생긴 백업은 0.40.2 릴리스 노트의 스크립트로 지울 수 있지만, 0.40 이전 버전으로 되돌릴 계획이 있다면 그때 모델을 다시 받아야 합니다.

논조·다른 시각

  • 기사 논조: 중립 — 공식 변경 목록과 PR 설명만 있습니다.
  • 논조 점검: 1차 출처라 과장은 없습니다. 다만 0.40.2 릴리스 노트는 자동 업그레이드의 장점(성능·호환성)만 적고 디스크 사용량이 늘어난다는 점은 백업 설명 속에만 넣었습니다. 0.40.3의 중단 사유도 ‘성능 부담’만 밝혀, 사용자 쪽에서 제기된 저장 공간 문제는 공식 설명에 나오지 않습니다.
  • 다른 시각:
    • 사용자 요청(GitHub 이슈 #18909): 한 사용자는 SSD 여유 공간이 적은 환경에서 자동 다운로드·변환이 ‘no space left on device’ 오류를 낼 수 있고, 데이터 요금이 제한된 사람에게도 부담이라며 자동 업그레이드를 끌 수 있게 해 달라고 요청했습니다. 메인테이너는 0.40.3 변경(#18908)이 온다며 재활성화 전에 다시 검토하겠다고 답했습니다 (GitHub 이슈 #18909).

시사점: Ollama가 자체 ‘ggml’ 런너에서 llama.cpp 런너로 옮겨 가는 과도기라, 업그레이드 방식이 아직 흔들리고 있습니다. 저장 공간이 빠듯하다면 0.40.3으로 올리고, 백업 정리 스크립트로 공간을 확인해 두는 게 좋습니다.

2. llama.cpp 주말 빌드 b11515~b11559 — 서버 기본 포트 9931로 변경, ggml 메모리 경계 밖 쓰기 수정, MiniCPM-V 4.7 지원

  • 원문: https://github.com/ggml-org/llama.cpp/releases/tag/b11521
  • 분야: 엔진 · llama.cpp
  • 날짜: 2026-10-09 ~ 2026-10-11

미디어

llama.cpp b11521 GitHub 릴리스 OG 카드

출처: GitHub Releases (ggml-org/llama.cpp) — 원본 이미지 링크(복제 저장 아님)

요약

llama.cpp는 주말 사이(9~11일 UTC) 프리릴리스 빌드를 30개 넘게 쏟아냈습니다. 가장 눈에 띄는 것은 b11521의 llama-server 기본 포트를 8080에서 9931로 바꾼 변경(#30159) 입니다. 포트 번호를 따로 지정하지 않고 http://localhost:8080으로 붙던 스크립트·앱은 새 빌드에서 연결이 안 될 수 있습니다. PR 설명에 따르면 도커 이미지 안에서는 기존 도구가 깨지지 않도록 8080을 그대로 씁니다.

보안·안정성 쪽에서는 b11529가 ggml_acc/ggml_set 연산에서 음수 오프셋이 들어오면 버퍼 앞쪽 메모리에 값을 써 버리던 OOB 쓰기(Out-Of-Bounds write, 할당된 메모리 범위 밖에 데이터를 쓰는 버그) 를 고쳤습니다(#30135). PR은 이 음수 값이 크기 변환 과정이나 RPC(Remote Procedure Call, 다른 컴퓨터의 기능을 네트워크로 호출하는 방식) 의 그래프 계산 경로에서 들어올 수 있다고 설명합니다. 별도 CVE 번호는 확인되지 않았습니다. 같은 기간 b11538(CUDA 반올림 문제 수정), b11555(AVX2 CPU가 F16C 명령을 쓰지 못하던 문제 수정) 같은 수정도 이어졌습니다.

새 모델 지원으로는 b11551에서 경량 멀티모달 모델 MiniCPM-V 4.7(#29416), b11556에서 Prism Bonsai 2 27B(#29600)가 추가됐습니다. 그 밖에 SYCL(인텔 GPU 등을 위한 개방형 병렬 프로그래밍 규격) 백엔드의 MXFP4 MoE 가속(b11540), Metal의 128/96 플래시 어텐션 커널(b11518), OpenCL 커널 개선(b11541·b11558·b11559)처럼 백엔드별 성능 작업이 많았습니다.

논조·다른 시각

  • 기사 논조: 중립 — 자동 생성 릴리스 노트로, 빌드마다 변경 1건과 바이너리 목록만 담겨 있습니다.
  • 논조 점검: 특별한 문제 없음 — 1차 출처이고 평가성 표현이 없습니다. 다만 포트 변경처럼 기존 사용 방식을 깨는 변경도 다른 빌드와 똑같이 한 줄로만 표시돼, 릴리스 노트만 보고는 중요도를 알기 어렵습니다. OOB 쓰기 수정의 실제 악용 가능성은 PR에 평가돼 있지 않아, 우리 요약도 ‘버그 수정’으로만 다뤘습니다.
  • 다른 시각:
    • 리뷰 과정의 지적(GitHub PR #30159): 리뷰어는 포트 변경 자체는 완성됐지만 같은 커밋에 다른 브랜치에서 섞여 들어온 듯한 무관한 변경(ggml-cpu.c, llama-graph.cpp)이 있으니 빼 달라고 요청했습니다 (GitHub PR #30159).
    • 보안 관련 후속 이슈(GitHub 이슈 #30349): 11일에는 llama-server 라우터와 인스턴스 사이 통신에 인증을 붙여야 한다는 이슈가 새로 열렸습니다 (GitHub 이슈 #30349).
    • 포트 변경에 대한 사용자 반발이나 별도 보도는 찾지 못함 (검색 범위: llama.cpp 저장소 이슈·PR 검색 ‘9931’).

시사점: llama-server를 직접 띄워 쓰는 사람은 새 빌드로 올릴 때 포트(--port 8080으로 고정하거나 클라이언트를 9931로 변경)를 꼭 확인하세요. RPC 기능을 쓰는 환경이라면 b11529 이후 빌드로 올리는 편이 안전합니다.

다음 파트⭐ GitHub →