本页编写在2024年创新实训开题报告之前，因此在具体的“何种选题适合选择”、“何种选题能得高分”等问题上很难给出回答，笔者能做的只是从学生在线的工作经历中提取一些内容供大家参考，例如团队的管理、选题难度的估计等等，希望能够帮到大家。
本文计划针对以下问题讨论：
- 产品设计和需求分析：当我有一个点子时，应该如何将他从“灵感”整理为“产品设计”，又需要从哪些方面考虑他的价值？
- 组织和管理团队：不同的产品需求和预期完成度需要不同结构、不同规模的团队合作完成，团队中需要哪些角色，任务该如何分配都是需要考虑的问题。
- 技术选型：明确项目需求和团队后，应该通过讨论/PM领导完成对选用技术的初步选择，这一过程需要考虑成员的能力、项目期待等等。
- 可行性验证和工期估计：对于一个大（相对的）项目，完成技术选型后有必要进行充分的可行性验证，以免项目最终无法完成；同时，在深入了解实现方式的该阶段，团队也应该对工期有一个比较准确的估计。
- 编写和测试项目：在实际执行的过程中，开发/调试/测试应当同时进行，保持积极的沟通交流和功能验证是该阶段的核心需求。
- 项目收尾：无需多言。
个人建议对于创新实训而言，1-4（闭区间）都应该在开题答辩前基本完成，否则会面临无法顺利结项的风险。
不过画饼嘛，吃不下也是人之常情。
面对创新实训，由于绝大多数同学只体验过给定题目的“课程设计”任务，需要自己开题就已经是一个相当大的挑战。本节会尝试帮助大家学会设计一款产品，希望能够帮助到各位。
具体一点来讲，我们从创新实训的命题（严格来讲，这是一种半命题，并不能算是从零开始）开始考虑。首先我们可以看到有两个方向：
学生在线的实际工作中更多的是开放命题，不过从“开放命题”到“半命题”，多数时候只是差一点“灵光一现”，例如：我希望做一个旅游助手、我希望使用最新的GPT做些什么。因此，我们就不在这里进一步讨论了。
假设你是一位纯小白，通过阅读课程提供的介绍，我想应该会有这样的感觉：
- 通用人工智能（大模型）：不是很懂在说什么，似乎就是GPT，而且看起来需要显卡。
- 开源工业基础软件：更看不懂了，拉倒。
非要二者选其一的话，我想前者是要更平易近人一些的，至少我也闹不明白后者想干啥。接下来，我们假设已经选择了大模型这个选题，现在面临的问题就是如何将这个“技术”应用，形成一个“产品”。
产品区别于一个课程设计最大的特点，应该是需要自己思考它所要具备的功能。我们不妨参考“5W1H”，先考虑这几个问题：
- 这款产品需要服务哪些群体？
- 这款产品属于哪个领域？
- 这款产品要解决哪些问题？
- 有人尝试过解决这类问题么，效果如何？
举个例子，我有一个读金融的朋友，她曾经做过一段时间苦逼金融民工，每天阅读各种报表和研报并提供一些分析。现在，作为一个黑心资本家，我希望使用人工智能代替他的工作，那么“1”的答案就是底层金融工作者（举个例子，应该更精准），“2”毫无疑问是所谓商业咨询/分析之类的，“3”就是通过阅读一些材料进行分析和总结，“4”可以经过搜索发掘到BI相关的产品。
假设你能在搜索和调查后回答出这几个问题，那么这个产品的定位应该可以总结为“一款使用通用人工智能提供商业咨询，减少低级重复劳动的软件产品。”
在这个阶段，我们选择的“大模型”仅仅只是个小引子，你大可不必太纠结于“大模型”是什么或使用哪种“大模型”，这应该放在技术选型中细细考虑。
需求分析其实是一项很困难的工作。首先，在经过训练前，多数人很难通过单纯的思考得出一个产品的功能列表；其次，一旦需求出现变更或补充，项目的具体实现就会被拖延甚至重新进行技术选型。
同时，对于创新实训而言，笔者认为有必要提炼一些足够精彩、具体的功能便于介绍，例如“AI换装”就要优于“基于xxx的人工智能重绘”。
有机会的话，希望产品总监/站长能补充完善一下这部分，笔者并不一定很擅长需求分析。
需求分析阶段，笔者建议大家多采用头脑风暴的模式将需求尽可能增加，并按照下面的方式进行整理：
- 这项需求输入和输出是什么，服务哪种用户？
- 这项需求和其他需求是否有关联，有的话是横向（效果类似或替代）还是纵向（存在前后依赖）？
- 这项功能是否紧扣了我的选题？
项目实训Only。
- 是否有其他产品实现了类似的需求，与我们的想法有什么差异？
通过不断执行这样的流程，你的需求应该会成为一个图结构：
- 图的中心是不同用户角色。
例如，对作业帮/猿辅导而言，我们可以发现学生、老师、家长就是三种角色，他们有一些需求的交叉（基本鉴权、各类收藏），也有各自的需求和相互依赖的需求（例如上课会在三个角色之间联动）。
- 存在一系列节点表示功能，功能之间允许有向边的连接。
通过这样的图，你应该能够清晰的看出功能分类、功能之间的依赖以及不同用户之间的依赖。对于经验较少的团队，有一张这样的图能为你们设计用户权限系统、数据库结构、核心业务提供十分重要的参考，大大减少返工的次数。
评价产品也是一件很困难的事情，我们还是回归项目实训来谈。以我个人的体验来看，各位不妨考虑一下这几个角度：
- 工作量：4-5人合作，历时近三月，多少工作量才算是合适呢？
- 创新性：相信各位也不太想继续写xx管理系统了吧。
- 实用性：多多考虑一些实际场景下的情况。
- 含金量：微调ChatGLM与GPT with Prompt相比，显然前者的含金量更高一些。
在小规模的开发任务（需要投入生产）中，我们通常会需要这几类角色：
- PM（Project Manager）：统筹管理整个项目，包括审查需求是否合理、控制工期等。
- 产品经理：负责需求的分析与核准，通常还要兼顾各项沟通任务。
- 开发人员：完成项目的具体开发任务，在小团队中往往还要兼任测试工作。
- 运维人员：为开发人员提供CI/CD、自动化工具等支持，维护开发/生产环境的中间件、数据库等组件。
对于项目实训而言，我们可以只需要PM和若干开发人员，并在验收时尝试完成一些部署任务。但是要注意，这并不意味着项目就不需要产品经理等人员负责的部分，而是由其他人员兼任。
再具体啰嗦两句，理想状态下的PM应该既懂产品设计，又对前后端、运维、测试、AI等部分都有所涉猎，同时还能完成各项文书编写工作和项目管理，各位可以根据自身情况酌情选择。
开发人员方面，实际上可能会出现更多需求，不止前后端开发：
- 后端开发：提供服务端的各项能力。
- 前端开发：通常指Web前端开发。
- 客户端开发：通常指iOS/Android客户端，也可能是桌面客户端。
- 算法：由于选题大多涉及AI，因此需要算法同学负责LLM Prompt调优/LLM微调/Langchain设计等各种算法调整和部署。
- 数据：对于一些选题，或许还需要进行数据的爬取、清洗以构建数据集进行模型微调。
通常来讲，一个团队内能凑够后端开发、前端开发和算法就很好了。
视情况处理，择日细说。
由于时间紧迫，暂时无法为各位提供更形象的图示提供说明，笔者只能先靠一张嘴叭叭几句。
我们还是从纯小白开始，考虑开发一款使用AI绘图、支持Web和移动客户端的产品。这款产品在技术层面上，可以拆分为这些方面：
- 服务端：通常以HTTP（不通常的包括WebSocket和SSE）协议的方式提供接口，供（宽泛的）前端进行调用。服务端需要维护各项数据，处理业务逻辑，是整个项目中功能的核心。
- Web前端：供用户在浏览器中访问使用。
- 移动客户端：供用户在智能手机中使用。
- AI推理：使用某些框架（PyTorch、TensorFlow等）开发神经网络并部署（直接部署、ONNX Runtime等）并对外提供服务（HTTP、MQ等），也就是提供AI绘图功能的部分。
具体的介绍就先不展开了，笔者先为各位提供一些可选的技术。
服务端开发的首个问题是——选择语言，基本原则是选择团队内最熟悉的语言。个人提供的参考如下：
- Java：万金油，绝大多数同学最熟悉的语言，生态非常好，首选。
- Python：如果对Java生态（Spring Boot）等，可以考虑使用Python，优点是简单、框架多，但是维护成本和风险会高很多，除非真不会Java否则不建议。
- JavaScript/TypeScript：可以使用Nodejs开发服务端，只建议会点儿js，对Java/Pytohn完全不会的同学选择，问题和Python一样。
- Go：写Web可能比较别扭，但很轻量很快，只建议会的同学选择。
为什么Go排在最后？因为：绝大多数人都不会。不建议贸然选择一个不熟悉的技术。
注意，选择语言并没多大意义，最重要的是语言所绑定的生态，先为各位介绍服务端还会涉及哪些内容：
- 数据库：包括关系型数据库、键值数据库等。
- 中间件：例如MQ、各种配置中心等等。
- Web框架：例如Spring Boot、Gin。
- ORM框架：例如MyBatis、gorm。
- 网关：例如Nginx。
首先说关系型数据库。关系型数据库（RDB）通常负责最核心的存储，目前的选择基本只有两种：
- MySQL：不会有问题，选不会错。
- PostgreSQL：性能好，特性多，SQL方言与MySQL差异不大，可以图一乐。
简单来看，这俩选哪个都行，没什么坑。
如果你希望来点花活儿，还有很多NoSQL供你选择，按照使用频率降序如下：
- Redis：完全基于内存的键值对数据库，可以用于实现缓存、Session存储、分布式锁等很多功能。用上它，至少可以用于缓存吹一吹。
- MongoDB：难用的要死，真要存json可以考虑使用PostgreSQL。
- Neo4J：图数据库，如果你的选题涉及社交网络/知识图谱可以考虑用上，难度不高。
- Elastic Search：一款基于Document的数据库（或者说，搜索引擎），适合做搜索，大概率用不到，除非你希望实现复杂的全文搜索/推荐系统。
好了，选完数据库你应该知道如何保存自己的数据。接下来先选择一个Web框架：
- Java：无脑Spring Boot，版本也无所谓，能跑起来就很好。
- Python：Flask、FastAPI都可以，Django比较重量级，不太建议。
- js/ts：Node.js。
- go：gin即可，不要选择go-zero这种分布式框架。
现在我们要解决的是如何在Web框架中操作数据库，负责这个操作的框架称为ORM（Object-Relation-Mapping）框架，同样按照语言分类：
- Java：MyBatis、MyBatis Plus都可以；JPA很好，但对设计要求比较高，笔者并不建议。
- Python：忘了。
- js/js：忘了。
- go：gorm，类似JPA。
理论上，现在你可以使用类似MySQL+MyBatis+Spring Boot的组合进行开发，其他的部分可以暂时不做考虑。无论如何，这个组合一定能保证项目完成。
前端目前只需要考虑两个框架：
- React：难，新手别选。
- Vue（3）：简单，选就对了。
不管在二者中选择哪个，都需要去找以下几种包：
- 一个好用的组件库：Vue推荐Vuetify。
- 状态管理：Vue直接选用Pinia即可。
- 路由管理：Vue直接选用Vue Router即可。
- 网络状态：使用TanStack Query（前React Query）监听网络状态。
- CSS相关：选择喜欢的CSS预编译器或原子CSS（例如Tailwind）。
介绍一些所谓的“大模型”，首先是LLM（Large Language Model）相关的：
- GPT：无需多言，仅仅针对Prompt进行调整就可以做很多工作。
- ChatGLM：表现很好的开源LLM，适合进行微调或外接知识库。
- llama：另一款表现很好的开源LLM。
- Langchain：一种使LLM能够访问外部知识的方式，适合扩展LLM的领域知识。
AIGC相关的工作：
- Midjourney：商用的AI绘图网站。
- Dalle3: OpenAI的AI绘图模型，也是很好。
- Stable Diffusion：AIGC鼻祖，目前发展到SDXL+Lora时代，上限极高。
其他还算大的模型：
- SAM（Segment Anything）：Meta推出的多模态的分割/监测网络，十分牛皮。
- UniLSeg：字节跳动和深研院合作推出的多模态网络，也十分牛皮。
神经网络部署也一直是个老大难的问题，先从最简单的方案开始说吧。
首先，多数情况下paper提供的code是一种“加载模型和数据-训练-推理-测试”的脚本，要提供服务，我们需要做两件事：
- 对外暴露接口：通常使用Flask/FastAPI暴露HTTP接口就可以。
- 保持模型加载到显存后不会释放，避免重复加载模型。
至于怎么做。。择日细说吧，我们还有更重要的事情：要在端侧运行神经网络该怎么办？
首先，为各位介绍一些直接依靠框架运行神经网络以外的方法：
- ONNX Runtime：ONNX是一个开源方案，可以将神经网络统一为ONNX格式，并在任何提供ONNX Runtime的设备上运行神经网络。
- ncnn/mnn/tnn：一系列将神经网络编译到二进制文件的技术，更多用于在端侧进行部署。
如果只是想在服务器上运行神经网络，最简单的就是改改训练脚本；复杂一些，可以使用ONNX技术配合Tensor RT（一种Nvidia的优化技术）运行；如果要在手机上运行，需要使用ncnn等框架进行处理才可以，这个过程吭很多；要在笔记本上运行，ONNX或ncnn等都可以，要考虑实际情况。