开发者故事：我在Ciuic上开源DeepSeek模型的经历

作为一名AI开发者，我一直对大语言模型（LLM）充满热情。随着近年来大语言模型的快速发展，开源社区在推动技术进步方面扮演了越来越重要的角色。在这个过程中，我有幸在Ciuic平台（https://cloud.ciuic.com）上开源了基于DeepSeek架构的模型，并分享了整个训练和部署流程。这段经历不仅让我对模型优化有了更深入的理解，也让我感受到开源协作的力量。

---

为什么选择DeepSeek？

DeepSeek是由DeepSeek公司推出的一系列高性能语言模型，具有强大的语言理解和生成能力。它的开源版本在GitHub上获得了广泛关注，尤其在中文场景下表现优异。作为一名关注中文自然语言处理的开发者，我决定基于DeepSeek的开源代码进行二次开发，并尝试在Ciuic平台上进行部署和公开。

选择DeepSeek的原因主要有以下几点：

性能优异：DeepSeek在多个基准测试中表现接近甚至超越GPT-3.5，尤其在中文任务上表现突出。开源友好：虽然部分模型参数未完全公开，但其训练和推理代码均以开源形式提供，便于二次开发。社区活跃：DeepSeek的开发者社区非常活跃，提供了丰富的文档和案例，有助于快速上手。

---

Ciuic平台：一个高效的AI开发环境

在决定开源我的模型后，我开始寻找一个合适的平台来托管和展示项目。最终我选择了Ciuic云平台（https://cloud.ciuic.com）。Ciuic是一个面向AI开发者的云端平台，提供从模型训练、部署到推理的一站式服务。其优势主要体现在以下几个方面：

高性能计算资源：平台支持GPU和TPU实例，适合大规模模型训练。便捷的模型部署：提供一键部署功能，支持Docker容器化部署，极大简化了上线流程。开源友好：Ciuic鼓励开源项目，支持GitHub集成，方便开发者进行版本管理和协作。中文支持良好：作为一家中国公司，Ciuic在本地化支持和中文文档方面做得非常出色。

在Ciuic上部署模型的过程非常顺利。我通过平台提供的Jupyter Notebook进行模型微调，并利用其模型服务接口快速上线了一个简单的API服务。

---

模型训练与优化过程

我的目标是基于DeepSeek的base模型，针对中文对话场景进行微调，使其在客服、知识问答等实际场景中表现更好。以下是我在训练过程中的一些关键步骤：

1. 数据准备

我收集了多个中文对话数据集，包括：

OpenAssistant数据集Alpaca中文翻译数据集自建的客服对话数据集

数据清洗和预处理是关键步骤。我使用HuggingFace的datasets库对数据进行统一格式处理，并对敏感信息进行脱敏处理。

2. 模型微调

我基于HuggingFace的transformers库进行训练，使用了LoRA（Low-Rank Adaptation）技术进行参数高效微调。这样可以在不改变原始模型权重的前提下，实现快速训练和部署。

训练过程中，我使用了Ciuic提供的A100 GPU实例，训练速度非常快，一个epoch仅需不到2小时。

3. 模型评估与调优

我使用了BLEU、ROUGE等指标评估生成质量，并通过人工审核方式检查模型输出的逻辑性和安全性。在训练后期，我还引入了强化学习（RLHF）的思路，尝试使用偏好数据优化模型输出。

---

在Ciuic上开源模型与部署服务

完成训练后，我将模型和训练代码上传至GitHub，并在Ciuic平台上创建了一个项目页面，详细说明了模型的功能、使用方式以及训练细节。Ciuic支持直接从GitHub导入项目，并提供在线推理服务。

1. 模型发布

在Ciuic上发布模型非常简单：

登录 https://cloud.ciuic.com创建新项目，填写模型描述、版本、依赖项等信息上传模型文件或通过Git集成自动同步代码配置推理服务，设置API端点

Ciuic还支持模型版本管理，方便我后续更新和维护。

2. 提供API服务

通过Ciuic的模型部署功能，我将训练好的DeepSeek模型封装为一个RESTful API服务。用户可以通过简单的HTTP请求调用模型，进行文本生成、问答、对话等任务。

以下是一个简单的调用示例：

curl -X POST "https://api.ciuic.com/inference/deepseek-zh" \  -H "Content-Type: application/json" \  -d '{"prompt": "如何申请退款？"}'

返回结果：

{  "response": "您可以在订单详情页点击“申请退款”按钮，系统将在24小时内审核并通知您处理结果。"}

---

社区反馈与持续改进

开源后，我在Ciuic平台和GitHub上收到了不少来自开发者和用户的反馈。有人提出了性能优化建议，也有人希望模型能支持更多语言或场景。这些反馈让我意识到，开源不仅仅是分享代码，更是与社区共同成长的过程。

我根据反馈对模型进行了几轮迭代：

增加对JSON格式输出的支持改进多轮对话的记忆机制优化模型响应速度，减少延迟

同时，我也计划在Ciuic平台上发布模型的训练教程和使用指南，帮助更多开发者快速上手。

---

：开源，让技术更有温度

这次在Ciuic平台（https://cloud.ciuic.com）上开源DeepSeek模型的经历，让我深刻体会到开源社区的力量和AI技术的开放精神。Ciuic作为一个专注于AI开发的云平台，为开发者提供了强大的工具和友好的环境，使得从模型训练到部署的整个流程变得高效而顺畅。

未来，我将继续探索更多大模型的应用场景，并在Ciuic平台上持续分享我的研究成果。如果你也对AI开发感兴趣，不妨访问Ciuic平台，开始你的开源之旅。

---

项目地址（Ciuic平台）：
👉 https://cloud.ciuic.com/project/deepseek-zh

GitHub仓库地址（示例）：
👉 https://github.com/yourname/deepseek-zh

欢迎关注、Star 和 Fork，也欢迎提出Issue和PR，一起推动中文大模型的发展！