开放入口
围绕主流框架与开放模型格式建立导入路径，减少迁移前的重写。
HOLYCORESHOLYFLOW™ SOFTWARE STACK
让模型自由
流动。
统一编译器、运行时、算子库与开发工具，让同一个模型从 AETHER 云端系统部署到 SPARK 边缘芯片。
HOLYFLOW™ SOFTWARE STACK
同一模型， 走过每一层计算。
HOLYFLOW 不是一层封装，而是一套可以逐层深入的软件体系：快速导入已有模型，也允许工程团队检查编译结果、替换算子、编写内核并控制跨设备执行。硬件感知
让编译器理解数据流、存储层级、并行拓扑和不同产品的系统边界。
可见、可调
图切分、算子映射、内存占用与通信代价可以被检查，而不是隐藏在黑盒里。
跨尺度延续
模型资产从 AETHER 到 NOVA、SPARK 延续，针对部署尺度重新编译和验证。
THE STACK
从框架语义， 一直连接到硅片。
每一层都有明确职责和稳定边界。开发者可以停留在高层 API，也可以沿着同一调用路径进入运行时、内核和设备资源。MODEL & FRAMEWORKSPyTorchJAXONNXTensorFlowHugging Face
01 / GRAPH
HOLYFLOW Compiler
模型导入、图优化、中间表示、并行规划与目标代码生成。
02 / OPERATORS
HOLYFLOW NN
Python / C++ 高级算子、融合算子与模型构建模块。
03 / TOOLS
HOLYFLOW Studio
图浏览、内存分析、性能剖析、数值检查与调试。
04 / EXECUTION
HOLYFLOW Runtime
设备发现、队列、内存、同步、通信与多卡执行。
05 / KERNELS
HOLYFLOW Kernel
自定义数据移动、矩阵、向量和融合内核。
DRIVER · FIRMWARE · TELEMETRY · SECURITY
AETHER / CLOUD SYSTEMNOVA / DATACENTERSPARK / EDGE
HOLYFLOW TOOLKIT
六个工具， 连接完整软件生命周期。
从模型导入、算子与内核开发，到跨设备运行、性能分析和生产部署，每个工具解决一个明确的工程边界。
01 / COMPILE
HOLYFLOW Compiler
模型导入、图优化与硬件感知编译。
查看 Compiler →
02 / OPERATORS
HOLYFLOW NN
面向常用模型结构的高性能算子库。
查看 NN →
03 / PROGRAM
HOLYFLOW Kernel
自定义算子与底层数据流编程。
查看 Kernel →
04 / RUN
HOLYFLOW Runtime
从单设备到多卡和集群的统一执行。
查看 Runtime →
05 / OBSERVE
HOLYFLOW Studio
图分析、性能剖析、调试和遥测。
查看 Studio →
06 / DEPLOY
HOLYFLOW Deploy
模型服务、版本发布与设备运营。
查看 Deploy →HOLYFLOW COMPILER
带上模型， 让编译器理解硬件。
编译路径围绕开放的多级中间表示组织，把框架图逐步降低为设备可执行程序，同时保留每次转换的可追踪信息。01
→IMPORT
接收框架图与开放模型格式，保留动态形状、精度和控制流信息。
02
→OPTIMIZE
完成常量折叠、算子融合、布局转换、精度策略和图级重写。
03
→MAP
依据核心、片上存储、带宽与拓扑规划数据和计算位置。
04
GENERATE
生成运行时计划、内核调用和单卡或多卡执行程序。
多前端接入
为 PyTorch、JAX、ONNX 与 TensorFlow 规划一致的导入层；具体框架、模型和算子覆盖以兼容矩阵为准。
多级 IR
分离框架语义、张量优化、数据流规划与内核代码生成，便于定位问题和扩展新硬件目标。
硬件感知优化
围绕片上存储复用、通信计算重叠、批处理和并行切分制定优化策略。
HOLYFLOW NN
熟悉的高级接口， 可检查的执行细节。
以 Python 和 C++ 算子库承载常用神经网络操作、融合模块和模型组件。默认路径重视易用性，优化路径允许开发者控制布局、精度、并行和存储位置。- 常用张量、注意力、卷积、归一化与通信算子
- 自动选择已验证内核与融合实现
- 显式控制数据格式、数学精度与内存层级
- 为自定义算子保留扩展和回退机制
model.pyILLUSTRATIVE API
import holyflow as hf
model = hf.load("model.onnx")
target = hf.device("nova-n200")
program = hf.compile(
model,
target=target,
precision="mixed"
)
result = program.run(inputs)HOLYFLOW KERNEL
当通用算子不够， 直接设计数据流。
底层 SDK 面向需要自定义算子、融合关键路径或研究新算法的工程团队。主机程序、设备内核、缓冲区和同步关系保持显式。数据移动内核
从外部内存与片上存储读取数据，按目标布局填充循环缓冲区。
矩阵与向量内核
执行矩阵、向量、标量和归约操作，并与数据移动重叠。
结果写回内核
完成格式转换、同步与写回，为下一个算子或设备准备数据。
BEGINNER
高级算子
使用 HOLYFLOW NN 的默认 Python API，让系统选择内核。
INTERMEDIATE
显式优化
选择融合算子、布局、精度、批处理、并行和存储策略。
ADVANCED
自定义内核
使用 C++/DSL 编写数据移动和计算内核，并集成到高级算子库。
HOLYFLOW RUNTIME
把一个程序， 扩展到多个设备。
运行时负责设备、内存、队列、同步和通信，并向上层编译器提供统一执行边界。设备与拓扑
发现卡、节点与互联关系，为单卡、多卡和集群执行建立逻辑网格。
内存与数据
管理主机、设备与片上存储之间的分配、传输、复用和生命周期。
队列与同步
调度内核、事件与依赖，支持计算、通信和数据移动重叠。
多设备通信
提供广播、归约、全收集等集合通信，并适配目标拓扑。
健康与恢复
连接设备状态、错误报告、任务重试和故障隔离策略。
统一遥测
把模型、运行时和设备指标连接到同一时间线。
HOLYFLOW STUDIO
优化之前， 先看见系统。
工具链把模型图、编译决定、内存行为、内核时间和多设备通信放进同一个分析工作流。INPUTATTENTIONMLPOUTPUT
CORE UTILIZATION—待实测
MEMORY PRESSURE—待实测
COMM / COMPUTE—待实测
Graph Explorer
检查子图、算子映射、融合边界与编译转换。
Profiler
关联主机、运行时、内核、内存和通信时间线。
Numerics
比较参考结果、精度策略和逐层误差传播。
System Monitor
观察温度、功耗、链路、错误与设备健康状态。
HOLYFLOW DEPLOY
编译完成， 不是工作的终点。
生产部署还需要模型打包、服务接口、版本管理、可观察性和设备生命周期。HOLYFLOW Deploy 规划把这些能力连接到同一发布流程。PACKAGE
固化模型、编译产物、运行时版本、目标设备和验证记录。
SERVE
以容器或本地服务运行模型，规划兼容主流推理 API 的接入方式。
ORCHESTRATE
面向服务器、集群与边缘设备群完成放置、扩缩容和灰度更新。
OBSERVE
连接请求、模型、运行时和硬件指标，形成端到端服务视图。
AETHER
云端与集群
容器化服务、调度集成、多节点遥测与容量运营。
NOVA
数据中心节点
单机或多卡模型服务、企业平台接入与专属资源池。
SPARK
边缘设备群
离线运行、版本签名、分批更新、回滚和现场健康管理。
CHOOSE YOUR ENTRY
从适合你的抽象层开始。
同一软件栈为模型开发者、性能工程师、内核开发者和平台团队提供不同入口。运行已有模型
从模型导入、兼容检查、编译和正确性验证开始。
Compiler → NN → Runtime优化关键路径
分析图、内存与时间线，只针对热点进行融合与布局调整。
Studio → NN → Compiler实现新算子
编写自定义数据移动和计算内核，测试后注册到算子库。
Kernel → Runtime → NN进入生产运营
把编译产物接入服务、调度、遥测和发布流程。
Deploy → Runtime → FleetAVAILABILITY & RESOURCES
清楚标注每一项能力的成熟度。
平台架构与开发模型当前可用
本页提供 HOLYFLOW 的软件分层、职责边界与规划方向。
模型与算子兼容矩阵联合验证
按模型、精度、硬件和软件版本记录验证状态。
SDK、文档与示例规划开放
安装、API、教程、内核示例、工具说明和版本发布资料。
生产部署组件规划开放
模型服务、容器、集群集成、边缘更新和运营工具。
SOFTWARE FAQ
软件评估中应尽早回答的问题。
HOLYFLOW 是一个单一 SDK 吗？+
不是。它是覆盖编译器、算子库、运行时、内核、工具和部署的分层软件体系，各层通过明确接口协同。
是否支持现有模型直接迁移？+
路线以主流框架和开放格式为入口，但实际可用性取决于模型、算子、动态形状、精度与目标硬件，需以兼容矩阵和验证结果为准。
是否可以编写自定义算子？+
自定义算子和内核是 HOLYFLOW Kernel 的核心方向，并规划与高级算子库、编译器及性能工具形成闭环。
如何开始联合验证？+
准备模型、输入形状、精度基线、目标吞吐或延迟、部署环境和当前软件依赖，然后共同制定分阶段验证清单。
准备好开始了吗？