엔진 브리핑 — 2026-10-08 (목, KST 아침)
10월 8일 아침 브리핑으로 전달된 LLM 추론·서빙 엔진(런타임) 소식 요약 아카이브입니다. 릴리스·커밋 내용은 GitHub과 원문 기준입니다.
1. vLLM용 KV 캐시 가속기 LMCache에 치명적 원격 코드 실행 취약점(CVE-2026-105192, 9.8) — 패치 없음
- 원문: https://thehackernews.com/2026/10/unpatched-critical-lmcache-flaw-lets.html
- 분야: 엔진 · 보안
- 날짜: 2026-10-07
요약
LMCache 는 vLLM 같은 LLM 서버의 KV 캐시(이전 토큰 계산 결과 저장소) 를 저장·공유해 추론을 빠르게 해 주는 오픈소스입니다. JFrog가 7일 공개한 CVE-2026-105192 는 LMCache의 멀티프로세스 모드(캐시를 별도 서버로 띄우고 LLM 워커들이 ZeroMQ(메시지 전달 라이브러리) 로 접속하는 구성)에서, 로그인 없이 네트워크 메시지 하나로 LMCache 프로세스 권한의 명령을 실행할 수 있는 취약점입니다. JFrog는 외부에서 접근 가능한 주소로 띄운 경우 기준 9.8점(치명)을 매겼습니다.
원인은 워커 등록·데이터 공유용 ZeroMQ 소켓에 인증이 없고, 특정 메시지를 pickle(코드까지 담을 수 있는 파이썬 직렬화 형식) 로 풀어 버리는 데 있습니다. 메시지 종류 검사 전에 역직렬화가 일어나 조작된 메시지가 곧바로 코드 실행으로 이어집니다. 공식 컨테이너 이미지에선 프로세스가 root로 돌아 피해가 커질 수 있습니다. 영향 범위는 0.3.9(2025년 10월)부터 최신 안정판 0.5.5, 0.5.6 RC와 개발 브랜치까지이며 수정 버전이 아직 없습니다.
기본값은 로컬호스트에서만 대기해 다른 머신이 접근할 수 없고, vLLM 프로세스 안에 내장된 LMCache는 포트를 열지 않습니다. 문제는 여러 노드가 캐시를 공유하려고 외부 주소로 띄울 때인데, LMCache의 예제 쿠버네티스 배포가 바로 모든 인터페이스에서 대기하도록 돼 있습니다. JFrog는 패치 전까지 외부 주소 지정을 피하고 포트를 로컬이나 신뢰할 수 있는 클러스터 네트워크로만 제한하라고 권고했습니다(방화벽은 위험을 줄일 뿐 없애지 못함). 별도로 6일엔 한 GitHub 사용자가 테넌트 간 캐시 접근 등 미확인 보고 6건을 올렸고, 관련 vLLM DoS(서비스 거부) 버그 CVE-2026-105756(6.5)은 vLLM 0.30.0에서 이미 고쳐졌습니다.
시사점: 작년 11월 여러 추론 프레임워크에서 발견된 ‘ShadowMQ’와 같은 실수(인증 없는 소켓 + pickle)가 반복됐습니다. 멀티노드 KV 캐시 공유를 쓰는 서빙 환경은 지금 바로 바인딩 주소를 점검해야 합니다.
2. llama.cpp 10/7 커밋 — Liquid d1-3B 결정 모델 지원, MoE 전문가 GPU 캐시, GLM5Next MTP 등
- 원문: https://github.com/ggml-org/llama.cpp/commits/master
- 분야: 엔진 · 릴리스/모델 지원
- 날짜: 2026-10-07
요약
llama.cpp에 7일(UTC) 하루 동안 b11459~b11476 빌드가 이어졌고, 그 뒤로도 주요 커밋이 들어갔습니다. 가장 눈에 띄는 건 LiquidAI/d1-3B 결정 모델 지원(#30110) 으로, 모델 브리핑 2번의 Liquid d1을 출시 당일 바로 돌릴 수 있게 됐습니다. 5일 나온 v0.6.0에서 추가된 결정 모델용 서버 API 흐름과 이어지는 변화입니다.
성능 쪽에선 호스트 메모리에 둔 MoE 전문가를 위한 GPU 캐시(#29887) 가 들어왔습니다. MoE(전문가 혼합, 토큰마다 일부 전문가 블록만 쓰는 모델 구조) 모델을 VRAM이 부족해 일부 전문가를 시스템 RAM에 올려 돌릴 때, 자주 쓰는 전문가를 GPU에 캐시해 두는 기능입니다. 또 GLM5Next(GLM-5.3-Flash)용 MTP(다중 토큰 예측, 한 번에 여러 토큰을 미리 예측해 생성 속도를 높이는 기법) 추가·최적화(#29928), 멀티모달 라이브러리 mtmd의 Cohere2 비전 지원(#30062)도 합쳐졌습니다.
백엔드별로는 SYCL(인텔 GPU)에서 MKL 플래시 어텐션으로 GLM MLA(멀티헤드 잠재 어텐션) 프리필 가속(#29171), 서로 다른 모델 GPU를 섞어 쓸 때의 FA 버그 수정(#29071), Metal(애플 GPU) 소수 행 MMA 행렬곱 확대(#30065), Vulkan의 AMD 내장 GPU 체크포인트 읽기 지연 수정(#30049), CUDA FWHT 커널 확장(#29100), temperature 0일 때 탐욕적 선택으로 샘플링을 단순화하는 변경(#29797), PLaMo-3 토큰 설정 수정 등이 포함됐습니다.
시사점: 큰 MoE를 소비자용 GPU+시스템 RAM 조합으로 돌리는 사용자에겐 전문가 GPU 캐시가 체감 속도 개선 포인트가 될 수 있습니다.