Skip to content
Projects
Groups
Snippets
Help
This project
Loading...
Sign in / Register
Toggle navigation
T
test
Project
Project
Details
Activity
Cycle Analytics
Repository
Repository
Files
Commits
Branches
Tags
Contributors
Graph
Compare
Charts
Issues
0
Issues
0
List
Board
Labels
Milestones
Merge Requests
0
Merge Requests
0
CI / CD
CI / CD
Pipelines
Jobs
Schedules
Charts
Wiki
Wiki
Snippets
Snippets
Members
Members
Collapse sidebar
Close sidebar
Activity
Graph
Charts
Create a new issue
Jobs
Commits
Issue Boards
Open sidebar
童国杉
test
Commits
be99c1cd
Commit
be99c1cd
authored
Jul 14, 2026
by
tgs
Browse files
Options
Browse Files
Download
Email Patches
Plain Diff
Upload README.md
parent
e56b457e
Hide whitespace changes
Inline
Side-by-side
Showing
1 changed file
with
393 additions
and
1 deletion
+393
-1
README.md
README.md
+393
-1
No files found.
README.md
View file @
be99c1cd
#
test
#
通用模型 README 模板
> 本模板参考 ModelScope/Hugging Face 主流模型卡片结构设计,适用于各类 AI 模型的文档编写。
---
## 模板使用说明
-
将
`{{占位符}}`
替换为实际内容
-
不适用的章节可直接删除
-
建议使用 Markdown 格式,支持表格、代码块、图片等
---
# asdfasdf
{{模型一句话简介,例如:A state-of-the-art {{任务类型}} model with {{参数量}} parameters.}}
<div
align=
"center"
>
<img
src=
"{{模型架构图或logo}}"
alt=
"asdfasdf"
width=
"600"
/>
</div>
---
## 1. 模型简介
asdfasdf 是由 {{机构/团队名称}} 开发的 {{任务类型}} 模型。该模型采用 {{架构类型,如 Mixture-of-Experts (MoE)}} 架构,拥有 {{总参数量}} 总参数和 {{激活参数量}} 激活参数,在 {{基准测试名称}} 等评测中取得了 {{成绩描述}}。
### 核心特性
-
**{{特性1}}**
: {{特性描述}}
-
**{{特性2}}**
: {{特性描述}}
-
**{{特性3}}**
: {{特性描述}}
-
**{{特性4}}**
: {{特性描述}}
### 模型变体
| 变体名称 | 描述 | 适用场景 |
|---------|------|---------|
|
`{{模型变体1}}`
| {{描述}} | {{场景}} |
|
`{{模型变体2}}`
| {{描述}} | {{场景}} |
---
## 2. 模型架构
### 2.1 架构概览
| 配置项 | 值 |
|-------|-----|
| 架构类型 | {{如 Mixture-of-Experts (MoE)}} |
| 总参数量 | {{如 1T}} |
| 激活参数量 | {{如 32B}} |
| 网络层数 | {{如 61}} |
| 注意力隐藏层维度 | {{如 7168}} |
| MoE 隐藏层维度 (每专家) | {{如 2048}} |
| 注意力头数 | {{如 64}} |
| 专家数量 | {{如 384}} |
| 每 Token 选择专家数 | {{如 8}} |
| 共享专家数 | {{如 1}} |
| 词表大小 | {{如 160K}} |
| 上下文长度 | {{如 256K tokens}} |
| 注意力机制 | {{如 MLA}} |
| 激活函数 | {{如 SwiGLU}} |
### 2.2 多模态支持
-
**输入模态**
: {{如 文本、图像、视频}}
-
**输出模态**
: {{如 文本}}
-
**视觉编码器**
: {{如 MoonViT (400M 参数)}}
### 2.3 量化支持
-
支持 {{如 INT4}} 原生量化
-
支持 {{如 FP8}} 格式
---
## 3. 评估结果
### 3.1 {{任务类型}} 任务
| 基准测试 | 指标 | {{当前模型}} | {{对比模型A}} | {{对比模型B}} | {{对比模型C}} |
|---------|------|-------------|-------------|-------------|-------------|
| {{Benchmark1}} | {{指标}} |
**{{分数}}**
| {{分数}} | {{分数}} | {{分数}} |
| {{Benchmark2}} | {{指标}} |
**{{分数}}**
| {{分数}} | {{分数}} | {{分数}} |
| {{Benchmark3}} | {{指标}} |
**{{分数}}**
| {{分数}} | {{分数}} | {{分数}} |
### 3.2 工具使用任务
| 基准测试 | 指标 | {{当前模型}} | {{对比模型A}} | {{对比模型B}} |
|---------|------|-------------|-------------|-------------|
| {{Benchmark1}} | {{指标}} |
**{{分数}}**
| {{分数}} | {{分数}} |
| {{Benchmark2}} | {{指标}} |
**{{分数}}**
| {{分数}} | {{分数}} |
### 3.3 数学与 STEM 任务
| 基准测试 | 指标 | {{当前模型}} | {{对比模型A}} | {{对比模型B}} |
|---------|------|-------------|-------------|-------------|
| {{Benchmark1}} | {{指标}} |
**{{分数}}**
| {{分数}} | {{分数}} |
| {{Benchmark2}} | {{指标}} |
**{{分数}}**
| {{分数}} | {{分数}} |
### 3.4 通用任务
| 基准测试 | 指标 | {{当前模型}} | {{对比模型A}} | {{对比模型B}} |
|---------|------|-------------|-------------|-------------|
| {{Benchmark1}} | {{指标}} |
**{{分数}}**
| {{分数}} | {{分数}} |
| {{Benchmark2}} | {{指标}} |
**{{分数}}**
| {{分数}} | {{分数}} |
> **说明**:
> - **加粗** 表示开源模型最优,<u>下划线</u> 表示全局最优
> - 所有指标均在 {{输出长度限制}} 输出长度下评估
> - 部分指标采用 avg@k 评估以确保稳定性
---
## 4. 部署指南
### 4.1 环境要求
-
**Python**
: {{版本要求,如 >= 3.10}}
-
**PyTorch**
: {{版本要求,如 >= 2.0}}
-
**GPU**
: {{最低要求,如 8x A100 80GB}}
-
**显存**
: {{最低要求,如 80GB}}
### 4.2 使用 Transformers 部署
```
python
from
transformers
import
AutoModelForCausalLM
,
AutoTokenizer
model_name
=
"{{模型HuggingFace路径}}"
tokenizer
=
AutoTokenizer
.
from_pretrained
(
model_name
)
model
=
AutoModelForCausalLM
.
from_pretrained
(
model_name
,
torch_dtype
=
"auto"
,
device_map
=
"auto"
)
```
### 4.3 使用 vLLM 部署
```
bash
pip
install
vllm
```
```
python
from
vllm
import
LLM
,
SamplingParams
llm
=
LLM
(
model
=
"{{模型HuggingFace路径}}"
,
tensor_parallel_size
=
{{
GPU
数量
}},
trust_remote_code
=
True
)
sampling_params
=
SamplingParams
(
temperature
=
{{
温度值
}},
top_p
=
{{
top_p
值
}},
max_tokens
=
{{
最大输出长度
}}
)
outputs
=
llm
.
generate
([
"{{输入文本}}"
],
sampling_params
)
```
### 4.4 使用 SGLang 部署
```
bash
pip
install
sglang
```
```
bash
python
-m
sglang.launch_server
\
--model-path
{{
模型HuggingFace路径
}}
\
--tp-size
{{
GPU数量
}}
\
--port
{{
端口号
}}
```
### 4.5 使用 KTransformers 部署
{{KTransformers 部署说明}}
### 4.6 推理优化建议
-
使用 {{推理引擎}} 可获得最佳性能
-
建议启用 {{优化技术}} 以降低显存占用
-
对于 {{场景}},推荐使用 {{量化格式}} 量化
---
## 5. 使用示例
### 5.1 基础对话
```
python
messages
=
[
{
"role"
:
"system"
,
"content"
:
"{{系统提示词}}"
},
{
"role"
:
"user"
,
"content"
:
"{{用户输入}}"
}
]
text
=
tokenizer
.
apply_chat_template
(
messages
,
tokenize
=
False
,
add_generation_prompt
=
True
)
inputs
=
tokenizer
([
text
],
return_tensors
=
"pt"
)
.
to
(
model
.
device
)
outputs
=
model
.
generate
(
**
inputs
,
max_new_tokens
=
{{
最大生成长度
}})
print
(
tokenizer
.
decode
(
outputs
[
0
],
skip_special_tokens
=
True
))
```
### 5.2 工具调用
```
python
{{
工具调用示例代码
}}
```
### 5.3 多模态输入
```
python
{{
多模态输入示例代码
}}
```
### 5.4 API 调用
```
python
import
os
from
openai
import
OpenAI
client
=
OpenAI
(
api_key
=
os
.
environ
.
get
(
"{{API_KEY环境变量}}"
),
base_url
=
"{{API基础URL}}"
)
messages
=
[
{
"role"
:
"system"
,
"content"
:
"{{系统提示词}}"
},
{
"role"
:
"user"
,
"content"
:
"{{用户输入}}"
}
]
completion
=
client
.
chat
.
completions
.
create
(
model
=
"asdfasdf"
,
messages
=
messages
,
temperature
=
{{
温度值
}},
top_p
=
{{
top_p
值
}},
max_tokens
=
{{
最大输出长度
}}
)
print
(
completion
.
choices
[
0
]
.
message
.
content
)
```
### 5.5 cURL 调用
```
bash
curl
{{
API基础URL
}}
/chat/completions
\
-H
"Content-Type: application/json"
\
-H
"Authorization: Bearer {{API_KEY}}"
\
-d
'{
"model": "asdfasdf",
"messages": [
{"role": "system", "content": "{{系统提示词}}"},
{"role": "user", "content": "{{用户输入}}"}
],
"temperature": {{温度值}},
"top_p": {{top_p值}},
"max_tokens": {{最大输出长度}}
}'
```
---
## 6. 最佳实践
### 6.1 支持的输入格式
-
{{格式1,如 图片: PNG, JPG, JPEG, WEBP}}
-
{{格式2,如 视频: MP4, AVI}}
-
{{格式3,如 文本: UTF-8}}
### 6.2 推荐配置
-
**图片分辨率**
: {{如 不超过 2048x2048}}
-
**视频长度**
: {{如 不超过 60 秒}}
-
**文本长度**
: {{如 不超过 256K tokens}}
### 6.3 注意事项
-
{{注意事项1}}
-
{{注意事项2}}
-
{{注意事项3}}
---
## 7. 许可证
本模型权重采用 {{许可证名称}} 许可证。
{{许可证简要说明}}
完整许可证文本请查看
[
LICENSE
](
./LICENSE
)
文件。
### 商用说明
{{商用限制或条件说明}}
---
## 8. 引用
如果在研究中使用了本模型,请引用:
```
bibtex
@article{{引用key}},
title=asdfasdf,
author={{作者列表}},
journal={{期刊/会议}},
year={{年份}},
url={{链接}}
}
```
---
## 9. 第三方声明
{{第三方依赖、数据集、代码等的声明}}
---
## 10. 联系我们
-
**问题反馈**
: {{GitHub Issues 链接}}
-
**技术讨论**
: {{Discord/微信群 链接}}
-
**商务合作**
: {{邮箱}}
-
**官方网站**
: {{网站链接}}
---
## 附录:模板快速填充示例
> 以下为填充后的示例,帮助理解各章节应填写的内容风格。
---
# Kimi K2.7 Code
Kimi K2.7 Code 是 Moonshot AI 开发的最强编程模型,采用 1T 总参数 / 32B 激活的 MoE 架构,专注于长程软件工程任务的端到端完成能力。
## 1. 模型简介
Kimi K2.7 Code 是由 Moonshot AI 开发的编程专属模型。该模型采用 Mixture-of-Experts (MoE) 架构,拥有 1T 总参数和 32B 激活参数,在 Kimi Code Bench v2 上取得了 62.0 的成绩。
### 核心特性
-
**长程编码能力突破**
: 相比 K2.6 在 Kimi Code Bench v2 上提升 21.8%
-
**增强的 Agent 能力**
: 工具调用和推理能力提升 10%
-
**超长上下文支持**
: 256K tokens 上下文窗口
-
**减少过度思考**
: thinking token 使用量降低约 30%
## 2. 模型架构
| 配置项 | 值 |
|-------|-----|
| 架构类型 | Mixture-of-Experts (MoE) |
| 总参数量 | 1T |
| 激活参数量 | 32B |
| 网络层数 | 61 |
| 专家数量 | 384 |
| 每 Token 选择专家数 | 8 |
| 上下文长度 | 256K tokens |
## 3. 评估结果
| 基准测试 | Kimi K2.6 | Kimi K2.7-Code | GPT-5.5 | Claude Opus 4.8 |
|---------|-----------|---------------|---------|----------------|
| Kimi Code Bench v2 | 50.9 |
**62.0**
| 69.0 | 67.4 |
| Program Bench | 48.3 |
**53.6**
| 69.1 | 63.8 |
| MCP Mark Verified | 72.8 |
**81.1**
| 92.9 | 76.4 |
## 4. 部署指南
```
python
from
transformers
import
AutoModelForCausalLM
,
AutoTokenizer
model_name
=
"moonshotai/Kimi-K2.7-Code"
tokenizer
=
AutoTokenizer
.
from_pretrained
(
model_name
)
model
=
AutoModelForCausalLM
.
from_pretrained
(
model_name
,
torch_dtype
=
"auto"
,
device_map
=
"auto"
)
```
## 5. 许可证
本模型采用 Modified MIT 许可证,允许商用使用,但需遵守特定条件。
Write
Preview
Markdown
is supported
0%
Try again
or
attach a new file
Attach a file
Cancel
You are about to add
0
people
to the discussion. Proceed with caution.
Finish editing this message first!
Cancel
Please
register
or
sign in
to comment