backend.ai

래블업이 Python Software Foundation(PSF)의 Participating Sponsor로 합류했습니다.

지난 2026년 1월, 래블업이 함께하고 있는 업스테이지 컨소시엄이 정부의 '독자 AI 파운데이션 모델' 사업 1차수 평가를 통과했습니다. 독자 AI 파운데이션 모델 프로젝트는 정부에서 GPU 와 데이터, 인재양성에 대한 지원을 하고 민간에서 이를 적극 이용하여 프론티어 AI 모델을 개발함으로써 국가의 AI 주권을 지킬 수 있는 모델을 개발하려는 취지로 시작되었습니다. 업스테이지와 래블업의 실무 담당자들을 만나 독자 파운데이션 모델 1차수 여정의 비하인드 스토리를 들어 보았습니다.

Backend.AI FastTrack 3 25.18의 주요 변경 사항을 다룹니다.

2025년 하반기의 장기 지원(LTS) 버전, Backend.AI 25.15가 출시되었습니다. 이번 업데이트는 사용자 경험과 시스템 성능 전반에 걸친 대대적인 최적화를 포함하고 있으며, 대규모 AI 모델 구축, 학습 및 배포를 위한 플랫폼 안정성이 더욱 강화되었습니다.

2025년 상반기 첫 번째 장기 지원(LTS) 버전인 Backend.AI 25.6이 출시되었습니다. 이번 업데이트에서는 시스템 모니터링, 감사 로깅, 모델 서비스 자동 확장 등 운영 편의성을 크게 향상시키는 기능들이 추가되었습니다.

Backend.AI WebUI의 50개 이상 BAI 컴포넌트에 Storybook 스토리를 작성하기 위해, i18n·테마·브랜딩 등 인프라부터 갖추고 Storybook v10 업그레이드와 인스턴스 통합을 먼저 진행했습니다. 이후 1,000줄짜리 가이드라인, Claude 기반 스토리 자동 생성, GitHub Actions CI 검사를 엮은 자동화 파이프라인을 구축한 덕분에 PR 생성부터 배포까지 일관된 품질을 유지할 수 있었습니다. 이 과정에서 얻은 가장 큰 교훈은 두 가지였습니다. 기반과 자동화를 먼저 세울 것, 그리고 AI와 함께 일할 때 사람의 역할은 코드를 짜는 것이 아니라 기준을 정의하고 갱신하는 것이라는 점입니다.

래블업은 업스테이지 컨소시엄의 인프라 파트너로 정부의 '독자 AI 파운데이션 모델(독파모)' 사업에 참여하고 있습니다. SK텔레콤 '해인' 클러스터의 NVIDIA B200 GPU 500+개를 활용해 업스테이지의 Solar Open(102B MoE 모델)을 사전학습시키는 프로젝트인데요, 이 규모의 클러스터를 운영하면서 가장 먼저 마주하는 현실이 있습니다. 장애는 피할 수 없다는 것입니다. 따라서 학습 중단과 복구에 따른 비효율을 줄이기 위해 저희는 선제적 장애 탐지 시스템을 구축하고 있습니다. 해당 시스템의 목적은 장애가 일어날 GPU를 미리 예측하고 대응하여 다운타임을 최소화 하는 것입니다. 이 글에서는 그 첫 단계로, 클러스터에서 어떤 데이터를 어떻게 수집하고 있는지, 그리고 실제 장애 사례에서 어떤 이상 신호가 포착되었는지를 공유합니다.

DGX Spark는 128GB 통합 메모리와 1 PFLOP급 Grace Blackwell(GB10) 성능을 손바닥만 한 박스에 담은 데스크톱용 AI 슈퍼컴퓨터지만, 내부 GPU가 데이터센터용 Blackwell(SM100)과는 다른 SM12x 계열이라 GLM-5처럼 MLA·DSA 전용 커널에 크게 의존하는 최신 LLM 스택은 “Blackwell 지원”만으로는 곧바로 호환되지 않고, 결국 Hopper·데이터센터 Blackwell·컨슈머 Blackwell용 코드를 따로 관리해야 하는 미묘한 아키텍처 간극이 존재합니다. 엔지니어링 팀에서 블랙웰을 기반으로 하지만, 살짝 다른 아키텍처를 지닌 Spark를 살펴봅니다.