脑机治理的安全警戒线

5月29日，“2023中关村(000931)论坛脑机接口创新发展分论坛”在京召开。工业和信息化部总工程师赵志国在致辞中指出，脑机接口是面向世界科技前沿、面向经济主战场、面向国家重大需求、面向人民生命健康的重要领域。分论坛上，脑机接口产业联盟科普与科技伦理工作组主席暨首都医科大学附属北京天坛医院神经外科主任医师何江弘发布了《脑机接口伦理原则和治理建议书（2023）》。据悉，这也是我国第一部面向脑机接口领域的伦理原则和治理建议书。

技术化分为三个维度

脑机接口技术是一项国家战略科技前沿技术，但其从科研领域走向临床应用和大众服务涉及到的安全挑战和伦理风险也不容忽视。由此，建议书基于技术应用与人类繁荣实现可持续发展的基本立场，充分考量脑机接口研究及应用的伦理、法律和社会影响。

脑机接口是一种在大脑与外部环境之间建立的全新的不依赖于外周神经和肌肉的交流与控制通道，可实现大脑与外部设备的直接交互。随着技术的不断进步，当下的脑机接口形态主要包括主动式意图交流控制的脑机接口，被动式脑状态监测的脑机接口，脑机接口技术结合神经反馈调控技术形成的双向脑机交互，以及人脑智慧与人工智能决策融合的脑机智能。

此外，脑机接口还衍生出了许多相关概念，如神经接口、心机接口、直接神经接口、脑机交互、脑器交互等。伦理是这些技术普遍需要面临的问题。

据悉，建议书从应用场景、使用目的、技术手段三个维度对脑机接口技术进行划分。具体而言，建议书将潜在伦理风险分为神经干预的安全风险、非自主决策风险、脑隐私泄露风险、责任归属问题、身份认同问题、人类增强问题和分配公正问题七大方面。

安全成最关心问题

在接受北京商报记者采访时，何江弘提到，安全是脑机接口应用过程中主要关心的问题之一，这包括了两部分：使用过程中带来的对身体的损伤和数据交换过程中对隐私的侵犯。

在医疗领域，脑机接口对身体的伤害主要包括设备是否能够安全地植入、长期地兼容，是否会带来病人的感染、出血甚至破坏等直接损害。另外长期地植入可能也会导致脑功能出现一些改变，比如个人性格的突变，“这也由此引发了另一个问题，谁能够控制和改变另一个人？”何江弘称。

清华大学信息国家研究中心助理研究员顾心怡则提到，“脑机接口技术的发展呈现多层次多领域齐头并进，而不同的发展领域和发展阶段也将涉及侧重不同的伦理问题。在脑机接口临床试验的几十年过程中，脑机接口植入安全性问题已逐步显现。同时，非侵入式脑机接口将逐步进入商业服务和大众消费领域，对每一位脑机接口用户来讲，最为关注的伦理问题可能将聚焦在脑隐私保护（“读脑”）和自主决策（“控脑”）上。未来随着脑机接口技术成熟度的不断攀升，当其能够较大程度上实现人类认知增强，那么将涉及‘人类增强’限度的讨论以及技术公平分配的问题”。

顾心怡进一步解释称，“在‘读脑’方面，脑隐私保护将带来较大的伦理挑战。目前脑机接口已经能够初步检测出人的选择倾向性、性格、情绪状态、健康信息等，而这些都是个人隐私保护的核心信息。目前人工智能仍需要通过网页浏览和操作痕迹、定位服务等手段描绘用户画像，但脑机接口可能在未来能够敏锐地通过脑信号捕捉到人类意图——人类隐私的‘最后一分地’”。

“在‘控脑’方面，我们需要关注的是，脑机接口是否会令用户产生非自主决策。例如通过神经干预影响乃至操纵用户的意向、情感和行为。未来如何在使用脑机接口的过程中保护人类的精神独立性和行为自主性，需要得到充分的技术支撑和体制机制保障。”顾心怡称。

在伦理原则方面，建议书提出了不伤害原则、尊重自主原则、隐私保护原则、透明公开原则和公平公正原则5条原则。在治理方面，则提出了神经数据治理、保障决策自主性、安全有效性验证、建立可问责机制和公平公正分配五大方面的治理建议。

北京商报记者 杨月涵