【资料图】

二

机器认识的不透明性：原则与技术实现

（一）

理论原则上的不透明性

三

限度与意义

结语

本文关于人与智能机器划界问题的讨论，可以帮助我们对人工智能的未来发展做一些思考。首先，人工智能的本质从一开始就是对人类智能的模拟，如果严格遵循笔者一直强调的认识论中对透明性概念的理解——只有在一个认知主体知道A时，那么“他”才知道“他”知道A——推广到机器认识论中，机器透明性认识的合理形式就应该是：只有在作为机器认识主体的机器本身知道A，那么它才知道它知道A。这里的“知道”是对人类“理解”行为的模仿，据此，一种透明性的认识追求应是对作为机器认识主体的机器的“自我意识”而言的，明确这一点极其重要，通过本文的讨论，我们才能明确机器意识的本质应该是什么，或者说现在虽然还没有真正的机器意识的出现，但明确人类意识与机器意识之间的区别，并对机器意识在机器认识论中的作用做出界定，是有利于明确其未来发展的可能和方向的。其次，我们前面在探讨人—机关系及其在透明性问题上的表现时指出，其中存在的最根本的困难之一也许是非理性因素的表达和实现方面的问题，比如人所独有的自由意志、灵感和情感等方面的问题，都是人工智能研究目前亟须突破的难点，有人甚至将这种鸿沟归结为碳基与硅基之间不可约化的区别。而从某种程度上来讲，机—机关系之间的理解似乎在这一点上反而简单了一些，因为它们的工作运行机制和方式基本上是同质化的，其基础本就属于计算、逻辑方法等范畴之内的事情，期间的沟通联络无论在硬件上还是在软件上都相对更容易一些，障碍相对更小一些，特别是在目前的人工智能技术普遍采用相对简单的平行数据储存与读取结构并运行相同算法的条件下。但是当我们在考虑由机—机关系形成的复杂智能网络问题时，除了需要注意单体人工智能内部所发生的独特的突变即产生暗知识等导致不透明性的可能外，从前面有关主体间性若干特征的讨论来看，我们还应该意识到机器群体以自组织形式出现的“协同进化”效应——这样一个由纯粹的人工智能组成的机器社会，应该具有开放性、灵活性、多样性，这种不确定性之于认识透明性又意味着什么？它可能是我们必须面对的另一种困难。再次，从大家常说的“人是社会关系的总和”的角度来看，除了自由意志、情感、艺术创造性等不确定的非理性因素的定量表征问题之外，人的伦理、社会情境的多样化与复杂程度也是非分析式的和令人难以复制的，而人类的智能事实上还是一个长期的包括文化影响在内的动态生成、演化的结果，会涉及主观的目的和动机，并与情境中的客观条件的变化密切相关，这些并无一定之规。单拿这里所分析的单体智能机器的认识特征而言，虽然我们也会考虑到深度学习导致变化和进步的可能，但主要还是局限于形式化的计算、逻辑与理性方面的考虑，所以它与人类所能展现出的意向性、目的性、自主性等其实并不完全对等。即使考虑到未来机器群体的社会性及其自主开放和演化的可能，我们也还是可以这样说，也许我们过高地估计了理性的力量，虽然逻辑表征等问题是AI发展的前置基础之一。一句话，纯粹的终极机器心灵之梦，还很遥远，让我们拭目以待。

推荐内容