H-MAS Iteration 48 작업 노트

이번 Iteration 48 기간(11월 8일 ~ 11월 14일) 작업 내용을 안내합니다. 11월 15일 새벽에 마무리된 이 기간 과제도 함께 담았습니다. 이번 작업에는 18개 커밋, 18개 PR이 포함되어 있습니다. v0.10 개발 주기 7주차입니다.

하이라이트는 다음과 같습니다:

• 배포 상세 화면에서 성능 벤치마크를 바로 실행하고 결과를 볼 수 있습니다. 지난주까지는 API로만 실행할 수 있었습니다. 실행 전에 예상 소요 시간과 GPU 점유 영향을 안내하고, 다른 배포와 GPU를 함께 쓰는 경우에는 한 번 더 확인을 받습니다. 실행 중에는 진행 단계와 경과 시간을 표시하고, 끝나면 결과를 알려 줍니다. 실제 클러스터에서 화면으로 직접 실행해 약 11분 만에 측정이 끝나는 것을 확인했고, 1.7B 모델 배포는 동시 요청 64개에서 초당 약 2,690토큰을 처리했습니다.
• 사이드바에 벤치마크 메뉴를 추가했습니다. 지금까지는 배포를 지우면 그 배포의 벤치마크 기록도 화면에서 볼 수 없었습니다. 이제 배포가 삭제된 뒤에도 그룹의 실행 기록을 보관하고, 모델·실행자·메모로 검색하고, 실행마다 메모를 남길 수 있습니다. 기록은 스프레드시트와 분석 스크립트에서 바로 읽을 수 있는 CSV로 내려받을 수 있고, 메뉴에서 바로 새 실행을 시작할 수도 있습니다. 이전에 측정한 기록도 자동으로 옮겨져 그대로 보입니다.
• 벤치마크의 GPU 활용도 측정을 동시 요청 단계별로 나눠 기록합니다. H-MAS의 독자적인 구간 정밀 집계 기법으로 이전 방식보다 실제에 가까운 값을 남깁니다. 이전 방식은 같은 실행의 활용도를 약 17% 낮게 기록하고 있었습니다. 실제 클러스터 실측에서 이전 연구 단계의 측정 결과를 오차 범위 안에서 재현했습니다.
• 서빙 성능 프로파일 기능을 중간 점검했습니다. 지금 기능은 “이 모델·런타임·GPU 조합이 얼마나 빠른가”에 답하는 기능이므로, 앞으로 “GPU 프로파일링” 대신 “서빙 성능 프로파일”이라고 부릅니다. 검증 환경 확대, 반복 측정, 측정 정밀도 보강 등 7가지 과제를 찾아 다음 작업 순서를 정했습니다.
• 접근 권한을 강화했습니다. 같은 조직 안에서 자신이 속하지 않은 그룹의 배포 정보를 조회할 수 있던 경우를 막았습니다. 조직 밖으로 노출된 정보는 없었습니다. 범위 밖 요청에 일부 화면이 서버 오류를 내던 응답도 함께 정리했습니다.
• 화면 구성을 정리했습니다. 클러스터 카드에 노드 CPU·메모리 추이, 디스크, 네트워크, GPU 실사용률이 함께 보입니다. GPU 할당량만으로는 GPU를 잡아 두고 쉬고 있는 클러스터를 알아보기 어려웠기 때문입니다. 메뉴는 클러스터(인프라 자원)와 모니터링(배포 성능·로그·이벤트)으로 역할을 나눴고, 기존 주소로 들어와도 새 화면으로 연결됩니다. 로그인하지 않은 상태로 공유 링크를 열면 로그인 후 원래 보던 배포 선택이 풀리던 문제도 고쳤습니다.
• 연구 트랙을 새로 열었습니다. 제품 개발과 함께 진행할 논문 후보와 연구 방향을 정리했고, 첫 과제로 공유 GPU 환경에서 성능 저하를 예측하는 단순 모델이 언제 얼마나 틀리는지 측정하는 연구의 질문과 실험 설계를 확정했습니다. 2027년 투고를 목표로 합니다.
• 그 외 최근 기능 변경을 제품·운영 문서에 반영하고, 소개자료용 아키텍처 그림을 새로 그렸습니다.

문서 작성일: 2026년 11월 15일