Nov 29, 2023

[Track1-5] WebGPU를 통한 private 생성 AI의 Hybrid inference 동향 - 고석현 (Sionic AI)

    고석현

    고석현

    CEO

Nov 29, 2023

[Track1-5] WebGPU를 통한 private 생성 AI의 Hybrid inference 동향 - 고석현 (Sionic AI)

    고석현

    고석현

    CEO

Overview

  1. WASM, WebGPU 의 대두
  2. Edge device의 성능 변천사 - A100을 이긴 Apple M2 ultra
  3. sLLM에 의한 Agent 구성
  4. 생성 AI 시대에서의 Federated Inference
  5. private 생성 AI 의 활용 사례 - LLM + Diffusion

발표자 소개

반갑습니다. Sionic AI의 대표이자 이전에는 네이버와 토스에서 주요 AI 프로젝트를 리딩한 경험을 가지고 있습니다. 네이버에서는 클로바와 네이버 클라우드의 AI 제품 개발을 주도했고, 수만 개 이상의 딥러닝 모델을 오케스트레이션 하는 시스템을 개발했습니다. 토스에서는 메인 검색 서비스의 시멘틱 검색과 브랜드 추천 시스템을 새롭게 구축하였습니다.

현재 Sionic AI에서는 엔터프라이즈 급 커스텀 LLM 서비스를 제공하며, LLM Agent에 특화된 SaaS 제품을 개발하고 있습니다. 

기술과 비즈니스 경험을 바탕으로 새로운 생성 AI 시장에 도전하고 있습니다.

슬라이드 요청

도움이 필요하신가요?

내용을 작성해 주시면 곧 연락 드리겠습니다.

문의하기
lablup

본사 및 HPC 연구소

KR Office: 서울특별시 강남구 선릉로 577 CR타워 8층 US Office: 3003 N First st, Suite 221, San Jose, CA 95134

  • facebook
  • youtube
  • Linkedin
  • GitHub

© Lablup Inc. All rights reserved.

개인정보를 소중히 여깁니다

쿠키는 사이트 트래픽 분석, 방문자 이용 방식 파악, 서비스 개선에 사용됩니다. 사이트 기본 동작에 필요한 필수 쿠키는 항상 활성화됩니다. 자세히 보기

"모두 수락"을 클릭하면 분석 쿠키가 기기에 저장되는 것에 동의하게 됩니다. 필수 쿠키만 허용하시려면 "모두 거부"를, 직접 선택하시려면 "상세 설정"을 눌러주세요. 설정은 언제든지 변경할 수 있습니다.