尽管人工智能已经愈发频繁地进入我们的日常生活，但它神秘的“面纱”似乎并未完全揭开，人们很难找到其“智能”的边界。
在11月19日举行的世界创新城市论坛的专题分论坛——“人工智能与全球治理国际圆桌会”上，很多行业内专家对人工智能的未来充满憧憬的同时保留着一些担忧。
“人工智能关系到人类发展，它不是一般的新技术，它是影响人类经济社会发展的重要的新的生产力，它会改变这个世界，还没有任何一项技术有人工智能这样的主动性和一定程度的决策能力。”中国新一代人工智能发展战略研究院执行院长龚克提出，人工智能可以帮助人们应对气候变化、自然灾害，以及新冠病毒这样的人类共同的敌人，但也有可能加剧现在发展的不平衡，以及对人类的尊严和隐私保护带来威胁。
“我们人类是否有足够的智慧来驾驭它？我们是否正处于一个创造人类无法控制或理解的技术巨霸的边缘？谁的价值观或者什么样的价值观将塑造第四次工业革命的方向？”耶鲁大学生物伦理学跨学科中心科技与伦理学科主任温德尔·瓦拉赫提出了一系列问题，也表达了很多担忧：
人工智能系统不知道自己在做什么。AlphaGo击败了顶尖围棋玩家但并不知道围棋是什么运动，面部识别系统可以将数字系统中的图像进行适配但并不知道人脸是什么。
机器学习的系统，尤其是基于神经网络架构的深度学习系统是缺乏透明度的。专业也无法理解系统如何从输入中得到输出或行动，甚至具有学习能力的人工智能系统也在自己改变自己。
人工智能没有常识性推理，不能理解符号背后的意义，没有道德和同理心，不能感受到痛苦和快乐，甚至也不会接受惩罚，因此是缺乏道德智能的。
