自然语言处理NLP星空智能对话机器人系列：深入理解Transformer自然语言处理 It‘s time to make a decision

自然语言处理NLP星空智能对话机器人系列：深入理解Transformer自然语言处理 It’s time to make a decision

It’s time to make a decision

项目经理的决定是什么？我们已经看到了原始Transformer模型的局限性，必须从十字路口中选择一条道路：

• 接受原始Transformer模型的限制，继续使用大型Transformer模型，需要巨大的机器内存和计算能力。

• 拒绝原始Transformer模型的限制，采用reformer 改革者方法，调整其结构。

• 使用不同的训练方法，如PET，这是一种有效的知识蒸馏法。

• 结合使用这些方法。

• 设计自己的训练方法和模型架构。

在实际项目管理中，每种方法都将使用标准评价参数进行评估：

• 每个解决方案的成本

• 每个解决方案的效率

• 实施项目的人力和机器资源

• 上市时间和生产时间

我们不能排除任何一种解决办法，而必须对项目的目标和成本进行仔细研究，每个项目都有自己的生命周期，而且没有命中注定的道路。