Backend.AI FastTrack 3를 활용한 도메인 데이터 기반 LLM 파인튜닝 사례
노동집약적인 무역 사무 자동화를 위한 전문 플랫폼 서비스를 개발하는 팀리부뜨
“askyour.trade 2.0은 AI가 문서를 이해하고 자율적 결정을 내리는 지능형 무역 워크스페이스입니다. 팀리부뜨는 래블업과 함께 무역 사무 운영 과정에서의 디지털 전환(DX)을 가속화하고 있습니다.”
— 최성철 대표
Backend.AI FastTrack 3로 언제 어디서나, 모든 규모의 MLOps 파이프라인을 관리하세요.
팀리부뜨는 무역 분야 전문 지식과 관련 규제를 학습한 거대언어모델(LLM)을 구축해 HS 코드를 자동으로 추천·분류하는 것을 목표로 삼고, 이를 통해 사람이 검토해야 하는 범위를 줄이고, 보다 일관된 분류 기준을 적용할 수 있는 기반을 마련하고자 했습니다. 팀리부뜨는 래블업이 운영하고 있는 NVIDIA H100 AI 가속기를 기반으로 Backend.AI FastTrack 3를 활용해 무역 도메인에 최적화된 거대언어모델을 파인튜닝했으며, 데이터 전처리 – 파인튜닝 – 평가를 단일 파이프라인으로 통합했습니다.
관련 서비스
Backend.AI는 자체 개발한 오케스트레이션 및 작업 스케줄러를 기반으로 하는 벤더 중립적 가속 워크로드 호스팅 플랫폼으로, 클라우드 또는 온프레미스(에어갭) 클러스터 위에서 실행됩니다.
서비스 살펴보기 →
LLM 파인튜닝과 서빙을 위한 MLOps 파이프라인 플랫폼입니다. 데이터를 준비하고, 모델을 학습시키고, 성능을 검증한 다음, 바로 REST API로 배포하는 과정을 하나의 파이프라인으로 유기적으로 관리할 수 있습니다.
서비스 살펴보기 →
