第41章：为Open Domain Long Form Question Answering而设计的Transformer模型RetriBERT架构内幕及完整源码实现 1，Sparse Retrieval数学原理及工程实践分析 2，Trained Dense Retriever数学原理剖析 3，RetriBertConfig解析 4，RetriBertTokenizer源码完整实现分析 5，embed_questions源码完整实现分析 6，embed_answers源码完整实现分析 7，embed_sentences_checkpointed源码完整实现分析 8，RetriBertModel源码完整实现分析 9，RetriBertPreTrainedModel源码完整实现分析
星空智能对话机器人的Gavin认为Transformer是拥抱数据不确定性的艺术。Transformer的架构、训练及推理等都是在Bayesian神经网络不确定性数学思维下来完成的。Encoder-Decoder架构、Multi-head注意力机制、Dropout和残差网络等都是Bayesian神经网络的具体实现；基于Transformer各种模型变种及实践也都是基于Bayesian思想指导下来应对数据的不确定性；混合使用各种类型的Embeddings来提供更好Prior信息其实是应用Bayesian思想来集成处理信息表达的不确定性、各种现代NLP比赛中高分的作品也大多是通过集成RoBERTa、GPT、ELECTRA、XLNET等Transformer模型等来尽力从最大程度来对抗模型信息表示和推理的不确定性。
从数学原理的角度来说，传统Machine Learning及Deep learning算法训练的目标函数一般是基于Naive Bayes数学原理下的最大似然估计MLE和最大后验概
