본문으로 건너뛰기
Linkbricks Horizon-AI
기술

HORIZON-AI

LLM SERVER

Linkbricks Horizon-AI Server: 고성능 AI 모델 배포 플랫폼입니다. Linkbricks Horizon-AI Server는 AI 모델의 배포 및 관리를 위한 강력하고 확장 가능한 솔루션입니다. 현대 AI 애플리케이션의 다양한 요구를 충족할 수 있도록 설계되어, 폭넓은 하드웨어 구성, 에코시스템, 배포 옵션을 지원하며 뛰어난 성능과 유연성을 제공합니다.

0208자세히 보기
  • 01양자화 모델 지원 (4비트, 8비트, 16비트, 32비트)다양한 양자화 레벨을 지원하여, 각기 다른 하드웨어 환경에서 모델 성능과 효율성을 극대화합니다.
  • 02다양한 NPU/GPU 지원다양한 NPU(신경처리장치)와 GPU와 완벽하게 호환되어 다양한 하드웨어 플랫폼에서 원활한 배포가 가능합니다.
  • 03멀티 GPU/NPU 처리 지원멀티 GPU/NPU 구성을 활용하여 대규모 AI 워크로드를 처리하며, 더 빠른 처리 속도와 향상된 확장성을 제공합니다.
  • 04Hugging Face 및 Ollama 에코시스템 통합 지원Hugging Face와 Ollama와의 원활한 통합을 통해 인기 있는 AI 도구 및 프레임워크와 쉽게 연동할 수 있습니다.
  • 05툴 호출 프롬프트 지원워크플로우 내에서 외부 툴을 통합할 수 있는 툴 호출 프롬프트를 지원하여 복잡한 작업을 간소화합니다.
  • 06REST API 지원외부 시스템과의 원활한 통신 및 자동화를 가능하게 하는 완전한 REST API를 제공합니다.
  • 07유연한 배포 옵션: 클라우드 또는 온프레미스클라우드 기반과 온프레미스 배포를 모두 지원하여 확장성, 보안, 컴플라이언스 요구사항을 충족합니다.
08

구성 및 연동

  • REST API를 통한 함수 호출(Function Call with Rest-API)
  • 로컬 추론 지원(Support Local Inference)
  • Horizon-AI Server + Open WebUI 연동

기술 갤러리

4장

기술

목록으로 — 기술