HORIZON-AI
LLM SERVER
Linkbricks Horizon-AI Server: 고성능 AI 모델 배포 플랫폼
Linkbricks Horizon-AI Server는 AI 모델의 배포 및 관리를 위한 강력하고 확장 가능한 솔루션입니다. 현대 AI 애플리케이션의 다양한 요구를 충족할 수 있도록 설계되어, 폭넓은 하드웨어 구성, 에코시스템, 배포 옵션을 지원하며 뛰어난 성능과 유연성을 제공합니다.
The Linkbricks Horizon-AI Server is a robust, scalable solution for deploying and managing AI models in production environments. Designed to meet the diverse needs of modern AI applications, it supports a wide range of hardware configurations, ecosystems, and deployment options, delivering unparalleled performance and flexibility.
Feature
◾️ Quantized Model Support (4, 8, 16, 32)
◾️ Various NPU/GPU Support
◾️ Multi-GPU/NPU Processing Support
◾️ Huggingface, Ollama Ecosystem Support
◾️ Tool Calling Prompt Support
◾️ Rest-API Support
◾️ Cloud or On-Premise
특징
양자화 모델 지원 (4비트, 8비트, 16비트, 32비트)
- 다양한 양자화 레벨을 지원하여, 각기 다른 하드웨어 환경에서 모델 성능과 효율성을 극대화.
다양한 NPU/GPU 지원
- 다양한 NPU(신경처리장치) 및 GPU와 완벽하게 호환되어 다양한 하드웨어 플랫폼에서 원활한 배포 가능.
멀티 GPU/NPU 처리 지원
- 멀티 GPU/NPU 구성을 활용하여 대규모 AI 워크로드를 처리하며, 더 빠른 처리 속도와 향상된 확장성 제공.
Hugging Face 및 Ollama 에코시스템 통합 지원
- Hugging Face와 Ollama와의 원활한 통합을 통해 인기 있는 AI 도구 및 프레임워크와 쉽게 연동 가능.
툴 호출 프롬프트 지원
- 워크플로우 내에서 외부 툴을 통합할 수 있는 툴 호출 프롬프트를 지원하여 복잡한 작업을 간소화.
REST API 지원
- 외부 시스템과의 원활한 통신 및 자동화를 가능하게 하는 완전한 REST API 제공.
유연한 배포 옵션
- 클라우드 기반 및 온프레미스 배포를 모두 지원하여 확장성, 보안, 컴플라이언스 요구사항 충족.
特徴
◾️ Quantized Model 支援 (4, 8, 16, 32)
◾️ Various NPU/GPU 支援
◾️ Multi-GPU/NPU Processing 支援
◾️ Huggingface, Ollama Ecosystem 支援
◾️ Tool Calling Prompt 支援
◾️ Rest-API 支援
◾️Cloud or On-Premise
