태그 : Backend.AI
'Backend.AI' 태그가 포함된 게시물

노타가 Backend.AI FastTrack 3으로 Solar Open 2 모델을 효율적으로 경량화하는 방법
By 래블업 주식회사독자 AI 파운데이션 모델 프로젝트에서 노타는 모델 경량화를 통해 대규모 LLM을 더 적은 GPU로 구동할 수 있도록 최적화했으며, Backend.AI와 FastTrack을 활용해 반복 실험과 자원 관리를 효율화했습니다.2026년 7월 31일

래블업 - 퓨리오사에이아이, RNGD 성능검증 백서 발간
By 래블업 주식회사래블업과 퓨리오사에이아이는 RNGD와 Backend.AI의 결합이 실제 LLM 워크로드에서 어떤 성능과 운영 효율을 보이는지 정리한 백서, 「RNGD meets Backend.AI」를 발간했습니다.2026년 7월 29일

Backend.AI on DGX Spark: 오픈소스 버전 설치하기 튜토리얼
By 조규진 외 3인NVIDIA DGX Spark에서 Backend.AI 오픈소스 버전을 설치하고, 손쉽게 모델을 띄워 볼 수 있는 단계별 튜토리얼을 제공합니다.2026년 6월 22일

다양한 AI 가속기의 시대: Backend.AI의 이기종 GPU 운영 전략
By 허진호AI 가속기 시장이 NVIDIA, AMD, Intel, 국산 NPU 등으로 다변화되며 이기종 GPU 혼합 운영이 현실화됐습니다. 벤더별 소프트웨어 스택 격차와 성능 차이로 운영이 까다롭지만, Backend.AI를 통해 리소스 그룹으로 분리하고 워크로드별 정책을 적용하면 각 가속기 강점을 온전히 활용할 수 있습니다.2026년 6월 19일

Agent 코딩과 긴 컨텍스트: VAST Data와 Backend.AI에서 KV 캐시 오프로딩이 실제로 주는 효과
By 허진호 외 2인래블업과 VAST Data가 공동으로 수행한 벤치마크는 KV 캐시 오프로딩이 에이전트 코딩 환경에서 TTFT를 최대 3.3배 개선하고 전체 지연을 절반 수준으로 줄알 수 있다는 점을 보여줍니다.2026년 6월 16일

래블업, Backend.AI에서 인텔 Arc Pro B70 공식 지원
By 래블업 주식회사Backend.AI가 Intel Arc Pro B70을 공식 지원합니다. Gaudi 2/3부터 Arc Pro까지, Intel AI 하드웨어를 하나의 플랫폼에서 통합 관리하세요.2026년 6월 12일

Intel Arc와 Backend.AI의 만남: Arc Pro B70의 32GB 메모리가 에이전트형 AI에 제공하는 이점
By 허진호 외 2인Backend.AI는 Intel Gaudi 2/3에 이어 Arc Pro B70까지 공식 지원합니다. 데이터센터부터 워크스테이션까지 Intel AI 하드웨어를 하나의 플랫폼에서 통합 관리할 수 있습니다.2026년 6월 12일

GPU 클러스터를 위한 eBPF 보안 감사
By 조규진, 허진호GPU 학습 클러스터의 성능을 유지하면서 보안 감사를 구현하는 방법, eBPF를 소개합니다. 커널 내부에서 이벤트를 직접 처리하는 eBPF의 원리와 감사 적용 사례, 그리고 보안 주의사항을 다룹니다.2026년 5월 27일

처음 걸어가는 길, 함께 만든 성과 - 래블업x업스테이지, 독자 AI 파운데이션 모델 1차수 평가 통과 비하인드
By 래블업 주식회사업스테이지 컨소시엄이 정부 '독자 AI 파운데이션 모델' 사업 1차 평가를 통과했습니다. 그 여정을 인터뷰로 만나보세요.2026년 2월 6일

CES 26에서 래블업과 함께하세요.
By 래블업 주식회사래블업이 CES 2026에 4년 연속 참가합니다. 클라우드 없이 개인 PC에서 LLM을 돌리는 Backend.AI:GO 등 이번 부스에서 만날 것들을 안내합니다.2026년 1월 6일

래블업의 SC25 하이라이트 & 돌아보기
By 래블업 주식회사SC25는 슈퍼컴퓨팅과 AI가 한 점으로 모이는 행사였습니다. 래블업이 HPC·AI 글로벌 리더들과 나눈 대화와, Backend.AI가 두 워크로드를 함께 다루는 강점을 돌아봅니다.2025년 12월 11일

Backend.AI Sokovan 오케스트레이터가 세션 스케줄링 문제를 해결한 방법
By 김혁진래블업 CoreDev 팀이 Backend.AI Sokovan 오케스트레이터의 세션 스케줄링을 어떻게 개선했는지 정리했습니다. 변화하는 AI 워크로드에 맞춰 더 효율적으로 동작하도록 다시 설계한 과정입니다.2025년 12월 8일