H-MAS Iteration 43 작업 노트

이번 Iteration 43 기간(10월 4일 ~ 10월 10일) 작업 내용을 안내합니다. 이번 작업에는 9개 커밋, 9개 PR이 포함되어 있습니다. v0.10 개발 주기 2주차입니다.

하이라이트는 다음과 같습니다:

• GPU 한 장을 여러 서빙 인스턴스가 VRAM 단위로 나눠 쓰는 GPU 공유를 도입했습니다 — 배포 요청에 GPU 개수 대신 필요한 VRAM 용량을 지정하면 같은 GPU에 둘 이상의 모델이 함께 올라가고, 각 인스턴스는 배정된 용량만 보고 그 이상은 사용할 수 없습니다. 실제 클러스터에서 소형 모델 2개를 같은 GPU에 동시 서빙하고 양쪽 추론 응답을 확인했으며, 기존 GPU 정수 배포 경로는 변경 없이 그대로 동작합니다.
• 클러스터가 GPU 공유를 지원하는지 자동으로 감지해 저장하고 클러스터 정보에 표시합니다 — 공유 방식, GPU 모델, 총 VRAM이 함께 노출되며, 미지원 클러스터에 VRAM 분할 배포를 요청하면 API 단계에서 거부하고 누락된 구성 요소를 안내합니다. 감지는 클러스터 등록 시와 주기적 동기화 때 실행되고, 설정값이 아닌 클러스터의 실제 상태를 근거로 판정합니다.
• 격리 구성 요소가 설치되지 않은 클러스터에서도 GPU 공유가 성립합니다 — 요청한 VRAM 용량에 맞춰 추론 엔진의 메모리 사용 상한을 자동으로 계산해 적용하므로, 격리 강제 없이도 인스턴스들이 협조적으로 GPU를 나눠 씁니다. 계산된 값은 배포 상세에서 확인할 수 있고 롤백 시에도 보존됩니다.
• 클러스터 응답에 공유 GPU 메모리의 총량과 가용량이 추가됐습니다 — 기존 GPU 개수 기준 장부와 분리된 별도 회계로, 분할 배포가 점유한 용량이 가용량에서 정확히 차감되는 것을 실측으로 확인했습니다.
• GPU 공유 도입에 앞서 4월부터 열려 있던 착수 조건 2건을 실측으로 통과했습니다 — 최신 CUDA 13 빌드 추론 이미지에서도 VRAM 상한이 강제되고, GPU 격리 경로에서 디바이스 바인딩이 정상 동작함을 확인해 기본 추론 이미지 교체 없이 진행할 수 있게 됐습니다. 이 과정에서 GPU 공유 관련 설치 절차를 가이드에 추가했습니다.
• 클러스터 타입(고성능/일반/CPU 전용) 체계를 제거했습니다 — 클러스터를 등록할 때 타입을 고르는 대신 실제 측정된 GPU 인벤토리로 하드웨어를 판정하고, 배포 대상은 배치 전략 또는 특정 클러스터 직접 지정 두 가지로 단순해졌습니다. 타입은 실제 배치를 결정한 사례가 없는 표식에 불과했으므로 기능 후퇴가 아니며, 타입이 일반인데 GPU가 없는 클러스터를 걸러내지 못하던 결함과 조직 기본 배치 전략이 어떤 클러스터에도 매칭되지 않던 결함이 함께 해소됩니다. 제품·아키텍처·가이드 문서 25개를 새 서사로 갱신했습니다.
• 백엔드 로그를 구조화된 JSON 형식으로 전환했습니다 — 40개 파일 약 240곳의 평문 로그가 시각·수준·메시지·구성 요소 필드를 가진 한 줄 JSON으로 바뀌어, 별도 로그 수집 인프라 없이도 구성 요소나 심각도 기준으로 바로 필터링할 수 있습니다. 로그 형식과 수준은 환경 변수로 조정할 수 있고, 실제 운영 로그 전수 검사로 비JSON 출력이 0건임을 확인했습니다.
• “모니터링” 메뉴가 실제로는 로그 페이지를 가리키던 네이밍 혼선을 해소했습니다 — 로그 페이지를 /logs로 옮기고 메뉴명을 “로그”로 바꿨으며, 비워진 “모니터링” 자리는 다음 주기의 조직 전체 클러스터 통합 대시보드가 사용합니다. 외부 대시보드 도구 연계는 채택하지 않고 자체 화면으로 제공하기로 확정했습니다.
• 노드 재부팅 후 GPU 격리가 조용히 비활성화될 수 있는 인프라 결함을 실측 중 발견해 이슈로 등록했습니다 — 스케줄링은 정상이라 배포는 올라가지만 VRAM 상한이 걸리지 않는 상태로, 현재는 격리 구성 요소 재시작으로 해소되며 운영 절차 보강과 감지 보강을 후속 과제로 추적합니다.
• 그 외 추론 프록시 테스트 가이드의 로그 예시 갱신, 데모 영상 시나리오 경로 치환, API 문서 갱신 등 자잘한 개선.

문서 작성일: 2026년 10월 11일