HTZL.AI 用 NVIDIA DGX Spark 落地企业私有大模型：单机承载 120B 级模型与多租户 Agent

方案背景：大模型在企业中的落地正从公有云 SaaS 扩展到客户办公室或机房的私有化部署。私有化场景要求业务能够使用 120B 级大模型，同时保证数据不出域、系统可审计、资源可计量。传统多卡工作站方案在成本、功耗、部署复杂度和运维门槛上难以兼顾，企业需要一种单机即可承载完整 AI 栈的计算平台。

解决方案与架构：HTZL.AI 自研开放内核架构、混合检索 RAG 引擎、基于 LangGraph 的 Agent 编排、sk-htzl-* 计费网关和审计体系，并全部部署在 NVIDIA DGX Spark 单机之上。系统在客户自有办公室或机房内完成大模型推理、向量检索、业务数据处理和 Agent 编排，数据全程留在本地。

核心技术组件：DGX Spark 采用 Grace Blackwell 架构与 128GB 统一内存，为多模型共存、向量库和 Agent 编排提供容量；企业控制台支持单台设备承载多个相互隔离的租户，以 site_key 隔离向量库 collection、配额和审计日志，并在 PostgreSQL 层通过行级安全实现数据隔离；每次交互的对话、token 用量、模型时延、错误率和用户反馈都会持久化，形成数据闭环。

实施成果：HTZL.AI 在单台 DGX Spark 上实现了私有化大模型推理、混合检索和 Agent 编排的完整栈，客户无需把业务数据上传公有云即可使用 120B 级模型；多租户隔离和计费网关让一套设备可以服务多个部门或客户；统一内存降低了多模型切换和向量检索的复杂度，也减少了多卡方案的采购与运维成本。

未来展望：HTZL.AI 将继续围绕“让 AI 真正属于企业自己——可信、可控、可审计”扩展产品线，把 GPU 工作站算力底座、私有 AI 平台和行业应用结合，推动私有化大模型从单点试点走向企业级规模化部署。