智慧城市网

　　【安防展览网 科技动态】日前，由MIT媒体实验室*，哈佛、耶鲁、马普所等院所和微软、谷歌、脸书等公司的多位研究者参与的课题组在 Nature 发表了一篇以 “Machine behaviour” 为题的综述文章，宣告 “机器行为学” 这门跨越多个研究领域的新兴学科正式诞生。
 

　　机器算法的“不可控性”
 

　　在AI、机器人等刚开始兴起的时候，由于信息和人们认知的不对称，社会上存在着“机器人会产生自我意识”的恐惧。人们担心，当机器人有了自我意识之后会反过来控制人类，危害人类的安全。
 

　　随着近些年来机器算法的成熟、产品的普及和人们认知度的提高，人们对此的恐惧有所减少。但也有越来越多的科学家们开始发现机器算法确实存在一些“不可控性”的因素，并积极寻找解决方式，如李飞飞宣布成立斯坦福“以人为本 AI 研究院”、英国制定机器人行为标准、MIT*的“机器行为学”新学科等。
 

　　其中，环境的变化和人类的决策正不断影响着机器的行为。据了解，机器有产生行为的内在机制，这些行为在和环境的互动中获得信息，得到发展，并产生相应的功能，导致特定的机器在它们所对应的环境中发生了不同的变化。如看护老人的智能产品，其智能系统通过实时检测和分析老人的行动，判断老人是否正常吃饭、服药、是否保持低的运动量、是否有异常行动出现(例如摔倒), 从而及时给予提醒，确保老人的生活质量不会由于独自居住而有所降低；医院的智能康复训练，其智能机器人通过对动作行为的规范程度做出识别，评估恢复程度以提供更好的康复指导等。
 

　　虽然机器和动物有着属性上的本质区别，但专家们认为，智慧机器行为研究可以从动物行为的研究上得到帮助，通过一个行为的功能、原理、发展与进化史四个维度进行研究，这就是机器行为学成立的依据。
 

　　“Machine behaviour”文章提及，根据人工智能系统互相融合、影响，机器行为学的研究范围包括：单个机器行为，强调对算法本身的研究；集体机器行为，强调对机器之间相互作用的研究；混合人-机器行为，强调对机器和人之间相互作用的研究。机器行为和人类行为既可以相互塑造，也可以协同互动。
 

　　由机器学习人类行为到人类研究机器行为
 

　　自人工智能研究兴起以来，业内的研究主要是让机器通过大数据计算、深度学习等途径了解人类的社会生活，辅助人类工作或生活。
 

　　随着人工智能的发展，依靠算法而形成的AI、大数据、机器人等逐渐融入到我们的生活当中，成为人类社会中越来越重要的角色。但由于智能运算的复杂性和广泛性，智能算法出现了越来越多的“输出差异”问题，其出现的安全隐患如智能驾驶判断错误导致事故的发生、服务机器人说出不适宜的话语等，光依靠数据分析手段是很难了解到它们的行为。这使得人们必须去探索这其中的原因。
 

　　机器行为学(Machine behaviour)，主要是研究智能机器所表现出的行为。“机器行为学”这一概念的出现，也象征着人类研究方向的一大转折——从让机器研究人类行为，到人类研究机器行为。
 

　　据了解，目前单个人工智能体的复杂性已经很高，并且在持续增长，虽然构架它们的代码和训练模型用的训练可以简洁，但是训练后的模型就完全不会有这么简单了，这经常导致 “黑箱(black boxes)” 的产生。人工智能体接受输入后输出，但即便在“可解释性”的一些应用场景已经有了进展的现状下，人工智能体实际产生这些输出过程，也是架构它们的科学家自己难解释的。
 

　　此外，现在社会中使用频率高的源代码、模型、数据集实际上是有版权的，这就导致在很多场景下，人们只能观察到系统的输入和输出，无法观测到机器在输入过程中发生了什么样的变化，加大了人们理解“机器行为”的难度。
 

　　人类可以创造智能机器，智能机器也可以改变人类的行为，但从输入到输出的差异和机器学习的不透明性来看，这其中的影响是积极还是负面我们暂不可知。唯有通过系统的研究，通过了解“机器行为”来帮助人们理解社会中无处不在的算法系统是如何工作，监管其可能造成的后续后果，进而进行取舍式的科技创新，使之让我们的社会生活更加安全且。