合同期工作总结

1. 个人基本情况介绍

1.1 教育背景

• 1993年出生于江西赣州，2018年毕业于电子科技大学电子工程学院，信号与信息处理专业。
• 在校期间，积极参与各类科研项目，积累了丰富的实践经验。

1.2 工作经历

• 2018年7月至2021年7月，加入杭州海康威视研究院，担任高性能计算工程师，从事深度学习人脸识别算法模型部署和推理引擎优化加速相关工作。
• 2021年7月至今，加入之江实验室，担任工程专员，从事深度学习框架开发和大模型推理部署优化相关工作。
• 在工作中，不断提升自己的专业技能，取得了显著的成果。

1.3 项目经验

• 2021年7月至2023年1月，参与天枢人工智能开源平台项目，负责天枢深度学习框架开发工作。
• 2023年2月至2023年8月，参与面向大模型转换量化工具项目，负责国产深度学习框架模型转换和量化开发。
• 2023年9月至今，参与DDE大模型项目攻关，负责大模型推理部署和加速优化工作。

2. 当前聘期工作总结

2.1 天枢人工智能开源平台项目

• 项目目标：研发一款国产深度学习训练框架，性能上不弱于主流深度学习训练框架，通用性上接口对齐Pytorch，支持主流算法模型和完备算子库，支持科学计算特性，支持在国产芯片上训练推理。
• 完成情况：完成天枢框架8个算子开发，对反卷积算子内核计算逻辑进行优化，参与nn.Graph动静转换功能模块开发和测试，参与天枢框架面向科学计算特性和应用开发，参与天枢框架硬件适配。

2.2 面向大模型转换量化工具

• 项目目标：研发一款通用模型转换量化工具，支持多种主流深度学习训练框架格式的传统模型和大模型转换和量化，后端支持接入推理框架TensorRT、MNN等实现模型推理部署。
• 完成情况：参与面向大模型转换量化工具开发，支持国产深度学习框架paddle模型加载、转换、模型剪枝、算子融合和fp16、int8量化等，支持大模型量化方法GPTQ。

2.3 深时数字地球（DDE）大模型项目

• 项目目标：研发地质学科大模型，赋能全球地质科学研究，支持地学问答、文献读写、数据抽取等功能，服务于DDE大科学计划。
• 完成情况：调研了国内外大模型推理框架Lmdeploy、vllm、FasterTransformer、TensorRT-LLM等，分析各个大模型推理框架在功能完备性、性能、开源生态方面优缺点，完成大模型推理框架的技术选型，负责DDE大模型推理和服务部署，支持Geogpt-7b、14b、72b模型与推理框架适配、容器化部署、服务上线及验证测试。

3. 亮点及反思

3.1 亮点

• 团队研发的geogpt成功亮相egu会议，向全球地学专家展示大模型赋能科学发现的强大能力，geogpt成果得到了外国专家的充分肯定。
• 大模型部署和优化加速方面，整合一系列工具，提供模型一键部署的能力，通过定制化的优化策略，显著提升了模型的推理速度和稳定性。

3.2 反思

• 在快速迭代的项目环境中，对于资源管理和技术的更新要求极高。在某些情况下，我们面临的一个主要挑战是团队协作和资源限制。
• 我反思了在团队协作的不足，认识到了更有效的沟通重要性。同时技术发展日新月异，需要时刻保持对新技术的敏感性。

4. 下一聘期工作计划

4.1 工作规划

• 紧跟中心任务目标，深入研究大模型推理优化技术，提升模型服务性能和资源效率，研究长文本支持技术和模型优化技术，探索研究成果转化为实际产品。
• 持续关注国内外最新技术动态，以保持对最新AI技术和趋势的了解。加强领域内知识技术交流和合作，建立和维护专业网络。

4.2 个人发展

• 建立高效的沟通机制，提升团队协作能力。论文和专利撰写，提高成果转化。

5. 意见建议

5.1 技术分享会

• 建议中心层面定期组织技术分享会，以促进知识交流和团队合作。
• 分享形式多样，除了传统的演讲和PPT展示，还可以尝试圆桌讨论研讨会等，分享各种主题包括项目经验、新技术、编程技巧、行业动态等，分享的内容上传至团队知识库，方便中心老师随时查阅学习。

5.2 人才培养

• 加强人才培养，提升团队整体技术水平。
• 组织内外部培训，邀请行业专家进行授课，分享前沿技术和经验。
• 鼓励团队成员参加各类技术竞赛和认证，提升个人能力。

5.3 团队建设

• 加强团队凝聚力，提升团队协作效率。
• 组织团队活动，增进团队成员之间的交流和了解。
• 建立有效的激励机制，激发团队成员的工作积极性和创造力。

通过以上建议，期望进一步提升团队的技术实力和凝聚力，为实验室的发展做出更大的贡献。