Manuel Blum & Lenore Blum：走向有意识的AI
8月31日，图灵奖获得者Manuel Blum & Lenore Blum夫妇在华院数据主办的2019WAIC“认知智能 改变世界”论坛上作了《走向有意识的AI：受认知神经科学启发的计算机架构》主题演讲。Blum夫妇分享了对意识的看法和意识图灵机所必须的内容，干货满满、丰富精彩，以下为本次演讲概要：
Manuel Blum
Lenore Blum
什么是意识？
（认知心理学）
意识（Conscious）或意识觉察（Conscious Awareness）是在清醒时或做梦时你注意到的所有事物（无梦睡眠除外）：看到的、听到的、感觉到的、闻到的、尝到的、快乐，恐惧，悲伤，疼痛…最重要的是，你的内在语言。
David Chalmers（ 纽约大学哲学教授，心灵、大脑和意识中心的联合主任，澳大利亚国立大学哲学系教授）的一个论点：区分简单问题和意识难题。
简单问题：“那些直接受认知科学的标准方法影响的现象，这些现象能被计算或神经机制所解释。”，又称作取用意识（access consciousness）。
意识难题：“真正的意识难题是体验的问题。我们思考和感知的过程伴随着信息处理，但同时还有更主观的方面。”，又称作现象意识（phenomenal consciousness）。
走向有意识的AI
数学家和理论计算机科学能为意识的讨论做出什么贡献？
提出一个简单的数学模型来帮助我们理解意识
对信息块 (chunk)做出定义
区分模拟 (simulating) 和体验 (experiencing)
意识的属性是自然生成 (emergent) 的，而不是预设的
并不是对大脑建模；也不是对学习或认知建模
寻找意识的模型
追求简单，而不是复杂
提供有近似意识的机器的蓝图
该模型目前的实验者：Jean-Louis Villecroze (Redmond);
王宏志等（哈尔滨工业大学）
Blum夫妇认为意识是一个恰当地组织起来的计算系统所拥有的属性，来源于系统的架构。许多认知神经科学家也同意意识与大脑架构相关。这里是以宏观的角度讨论架构，远高于神经元的层面。
Bernard Baars的意识剧院
Blum体系化的意识图灵机启发自认知神经科学家Bernard Baars的全局工作空间模型（Global Workspace Model of Consciousness)。
Bernard Baars将意识觉察比喻成剧院（theater)：意识则是演员在短时记忆（Short Term Memory）的舞台上进行的活动。这个代表内在语言（Inner Speech）的演员总是站在舞台上。
演员的表演被一大批坐在暗处的观众观察，而观众则代表长时记忆（Long Term Memory）中的无意识处理器（UnconsciousProcessors）。
意识图灵机模型中意识的定义：短时记忆。那么，是什么使我们感受到意识？1、所有长时记忆处理器都知道短时记忆的内容。2、部分长时记忆处理器专门负责意识，如内在语言处理器（Inner Speech Processor）：将所有短时记忆里的大脑语言翻译为“内在语言”，类似听觉从外界听到的语言；内在视觉处理器（Inner Vision Processor）：将所有短时记忆里的大脑图像翻译为草图（sketches），类似视觉系统观测到的外在世界。
意识能为图灵机带来什么？
1、通过从短时记忆广播，意识使长时记忆处理器专注于生成当前对环境最恰当的理解。这里意识扮演理解方式的检察员，它提供了环境中值得注意事物的草图。
2、意识使这个体系拥有解决预期外问题的能力，能动用所有工具来应对复杂情况。
意识图灵机是否能感到自身拥有意识？
Blum在上述David Chalmers论点的基础上，对简单问题和意识难题做了如下阐述：
简单问题：使机器人模拟感觉，例如疼痛和愉悦。
意识难题：使机器人真正体验到各种感觉，例如疼痛和愉悦。
意识图灵机该如何体验疼痛？
Blum对极度疼痛（extreme pain）又分两种情况解释：
1、广播（Broadcasts）：极度疼痛是一个占据所有短时记忆的演员，它使所有其他演员（信息块）无法登台；有且仅有疼痛信息得以广播；每个处理器都收到疼痛信息。
尽管广播能解释部分疼痛，却不能解释瞬间施加的剧烈疼痛，这该如何解释？
2、中断（Interrupts）：突发的极度疼痛中断所有所有无意识处理器。中断（相对于广播）促使所有处理器立即停止进行中的工作，迫使它们把那个瞬间最大限度的注意力集中在该中断上。此过程不同于广播，因为广播将信息传递至处理器但并不迫使它们停止工作。
意识图灵机
意识不需要绝大多数长时记忆处理器：如视觉和听觉处理器、面部识别处理器、危险警告处理器、燃料过低警告、规划处理器等。
哪些长时记忆处理器是意识必需的？
1、内在语言处理器（Inner Dialogue Processors）：将所有短时记忆里的大脑语言翻译为类似外在语言和图像的信息，用于评论，计划等。
2、世界模型处理器（Model-of-the-World Processor）：区分我和非我。
『相关阅读』
▼▼▼
点击“阅读原文”了解更多~