理解和验证AI系统的输出，推动系统设计的改进

　　在与机构交谈中，谈及人工智能未来的机会，更多投资人会专注于目前的卡点，认为解决卡点就是未来的机会。而现在大家讨论最多的一个问题是人工智能的可解释性。 　　2021年11月，联合国UNESCO通过的首个全球性AI伦理协议《人工智能伦理建议书》（Recommendation on the ethics of artificial intelligence）中，提出十大AI原则，其中就包括“透明性与可解释性”。 　　现在很多AI应用其背后的算法的工作方式和算法训练数据是未知的，这种未知到了社会运转中非常关键，尤其是在医疗、自动驾驶等与生命安全直接挂钩的领域，以及公众比较敏感的隐私问题。可解释性也是这几年一直没有太大突破的地方。 　　在腾讯研究院发表的《可解释性发展报告2022》中总结了5个可解释性AI的意义： 　　1、帮助用户增强对AI系统的信心与信任。 　　2、防止偏见，促进算法公平。 　　3、满足监管标准或政策需求。 　　4、理解和验证AI系统的输出，推动系统设计的改进。 　　5、帮助评估风险、鲁棒性和脆弱性。 　　换言之，可解释AI主要是面向直接用户、政策和监管部门、科研研究以及公众这四个群体。眼下，可解释性成为AI亟需迈过的一道“坎”。 　　如果说“AI+”是未来的发展趋势，那么在受AI影响最大的地方或许也能看见新的机会。 　　谢振亮认为，受AI发展影响最大的行业集中在早期自动驾驶、汽车相关的领域另外从整体行业角度来看受影响较大的是医疗行业，尤其是在AI辅助制药、医疗影像等领域。 　　石建平则告诉投资蒙钛奇，受人工智能影响最大的有两个部分，首先是所有行业中数字化转型累计数据积累相对较多的企业，其次是相对毛利较高的企业。实际上每个行业都有符合这两个前置条件的企业，也就是说每个产业都有新机会。从未来五年的角度来说，除了互联网等一些容易获取数据的企业外，还会下沉到一些所谓的传统企业，甚至还会渗透更多到第一第二产业里去，为社会创造更多机会与价值。 　　提及商用空间和成熟度，眼下图像、音频领域的应用更为成熟，包括自动驾驶、安防、人脸识别、翻译、语音合成等。 　　再一个是NLP，人机对话在类似Open AI这样的超大模型里，实际上语言生成能力已经达到较高水平了，但眼下NLP还不够成熟，一些逻辑性思考与连接上下文能力还有待提升。不过正因为不成熟，模型还在迭代优化中，相对图像和音频来说，有更大的机会，通用性对话会是一个突破口。