面向openKylin智能引擎的开源大模型推理优化赛

Who this competition fits

适合已有大模型推理工程经验、能在资源受限的端侧环境做性能优化的高校学生、个人开发者或企业开发者。尤其适合熟悉量化、推理内核、异构计算，或希望针对 RISC-V 构建推理框架、算子库和编译器的团队；多人参赛时需能组成 2—3 人队伍。

From registration to a first submission

1. 01

   大模型量化与剪枝

2. 02

   LLM 推理性能分析

3. 03

   CPU/GPU/NPU 异构调度

4. 04

   RISC-V 架构优化

5. 05

   Linux 部署与调试

6. 06

   Git 与开源许可证合规

Before you commit: 难点不只是把模型跑起来，而是在 openKylin 端侧有限的 CPU/GPU/NPU 资源上，同时证明吞吐、延迟或实时性提升且尽量不损失精度，并兼顾不同硬件架构的适配。决赛还要求提交可运行代码和可现场演示的环境，代码、文档、验证结果及开源合规都需要做到可复现。