ShareGuru SLM 管理平台 是一種經濟高效的系統,可以在邊緣設備上運行小型語言模型(SLM)。ShareGuru SLM管理平台搭載 ShareGuru QA AI 管理平臺,支援企業報告撰寫、自動摘要生成、自動關鍵點生成、QA 客服、AI 會議紀要/摘要等多種生成式 AI 功能。
硬體規格
CPU:Intel gen13 i5
RAM:64GB RAM
主機板:PRIME Z790-P
Power:依據GPU可有不同配置
GPU:選項如下
nVIDIA RTX 5070
250W
12 GB
(N/A)TFLOPS
988 TOPS
Neuchips VIPER
45W
64 GB
32 TFLOPS
(N/A)TOPS
SLM 模型支援
LLaMA 2 7B
LLaMA 2 13B
Code LLaMA 7B
Code LLaMA 13B
Japanese LLaMA 2 7B
Japanese LLaMA 2 13B
Misteral 7B v0.1
Breeze 7B v1.0 (預設)
保固
一年硬體保固
一年軟體保固