全部
随着人工智能技术的不断发展，人类与人工智能共生的时代开始了。 联机协作的人工智能，将构筑一个深度改变人类生活的“人工智能网络”。 在人工智能网络化时代，我们将面临不可预测和控制的风险。我们的社会是否已为迎接迎接这一切做好准备？ 科幻小说与生活的边界即将模糊，“电车难题”不再是脑海中单纯的思想实验。 人工智能是否能像人类一样，对自己的行为负责？ 大数据下无处不在的“人物侧写”，还有“责任的空白”“数字污名”“就业难民”等全新社会问题，是否会催生新的歧视与压迫？ …… 面对可能出现的伦理难题和社会风险，我们当下又能做些什么？ 围绕这些问题，日本信息学界、法学界、社会学界、人工智能技术领域的多位前沿学者从化、专业化的视角出发，进行了深入探讨。 学者们通过“情景设定”的方式，对人工智能网络化时代的风险和危机进行了预演，并在社会政策和法律应对层面，提出了精彩的建议。
福田雅树 东京大学研究生院学际信息学博士。曾任总务省信息通信政策研究所调查研究部部长，现任大阪大学社会技术共创研究中心教授（副所长），兼任研究生院法学研究科教授。 林秀弥 京都大学研究生院法学研究科法学博士。现任名古屋大学研究生院法学研究科教授、总务省电波监理审议会委员、日本学术会议合作会员。 成原慧 东京大学研究生院学际信息学府博士课程结业。现任九州大学法学研究院副教授、理化学研究所革新智能综合研究中心客座研究员。
第一部分总论
“AI网络化”及其治理：从法律、政策的视角思考“智联社会”
一背景
二 AI网络化
三 AI网络化的治理
四结语
【座谈会】AI网络化的影响及风险：情景分析的意义
一引言
二为什么要做“情景分析”
三 AI网络化的风险
四如何应对AI网络化的风险
五风险传播：如何制造“场域”
六如何与AI共生：“立人设”和“公开设计思想”
七结语：多角度的社会状态构想
第二部分 研究开发
AI研究开发的原则和方针
一引言
二 AI的技术发展与网络化带来的便利、益处及风险
三欧美对AI研究开发原则、方针的讨论
四面向国际讨论的AI开发指南
五结语
【座谈会】AI、机器人研究开发的伦理与法律
一引言
二 AI研究开发中的伦理问题
三 AI研究开发中的法律问题
四控制的重要性：对“自主型”AI的出现进行预测
五如何对AI研究开发进行治理
六结语
第三部分 数据、信息、知识的流通及使用
今后立足于AI及大数据的竞争政策
一引言
二 AI网络的协作与竞争
三数据集中：现在正在产生的问题
四大数据、AI与竞争法
五今后的课题
AI网络化与知识产权
一正在扩张的AI内容生产
二可预想的社会影响
三 AI知识产权问题的未来走向
四结语
第四部分 隐私与安全
对传统的隐私理论产生的影响
一引言
二传统的隐私权
三传统的隐私权与AI
四 AI的发展与隐私保护
五结语
使用AI与个人信息保护制度中的课题
一个人信息保护制度中的课题
二可预想的企业回答
三个人信息保护制度
四基于修正案的讨论事项
五 AI与涉及个人信息处理企业的义务
六残留课题：人物侧写
AI网络社会中安全问题的诸多侧面
一 AI网络化时代的安全与法律
二 AI网络化对安全产生的影响
三结语
第五部分 AI网络时代中的社会基本准则
AI网络时代的制造物责任法
一自动驾驶汽车的“衍生型电车难题”：事例1的解说
二“责任的空白”：事例2的解说
三结语
AI网络时代的刑事法律
一引言
二自动驾驶汽车与过失犯罪
三自动驾驶汽车与生命权之间的两难境况
四结语
AI网络与政治参与、政策制定
一 AI与政治领域的匹配度
二 AI与政治参与
三国际化与技术性担忧
四共生的条件
第六部分 AI网络时代的人类
AI与“尊重个人”
一引言
二基于集团属性的歧视
三数字污名与血
四“尊重个人”原则将会被如何侵蚀？
五结语
人格与责任：来自不属于人者的诘问
一近代的法律体系与责任
二 AI向我们提出的问题
三遗留问题
变化的雇佣环境与劳动法：如果穿越到2025年
一职场的智能化
二高度化的ICT
三数字化的冲击
四非雇佣劳动
五面向未来
AI网络时代的刑事法律
立教大学研究生院法务研究科教授
深町晋也
情景设定
事例1 自动驾驶汽车与过失犯
X1购买了由汽车公司Y1所制造、贩卖的自动驾驶汽车（第3级），下雨天的时候普通公路上以自动驾驶模式、每小时40公里的速度行驶。在X1没有注视前方的时候，走在道路左侧人行道上的小孩A，松开了父母的手进入了机动车道。自动驾驶汽车执行紧急应对措施，切换成驾驶员手动模式，但是由于X1没有注视前方，导致其瞬间的反应不够及时，来不及紧急制动。这时X1向右打方向盘，想要避免撞到A，但此时后方有一辆摩托车超速行驶而来，自动驾驶汽车没能避开与摩托车的碰撞，最后导致摩托车翻车，驾驶摩托车的B死亡。
事例2 AI的刑事责任与保护生存权之间的两难境况
X2购买了由汽车公司Y2所制造、售卖的自动驾驶汽车（第4级或者第5级），在普通公路上以40公里的时速行驶。本案中的自动驾驶汽车装有防冲撞系统，可以通过紧急制动避免冲撞，在判断已经来不及紧急制动的情况下，其设计是向左右打方向盘来避免冲撞。但如果是在即便采取了这样的紧急措施也无法避免冲撞的情况下，比如说如果紧急制动的话会与后面的车辆冲撞、向左打方向盘的话会与行人冲撞，向右打方向盘的话会与后方驶来的摩托车冲撞的情况下，则会采取使受害人减少到最低的措施。X2在单行道上行驶，前方一辆迎面驶来的汽车冲向X2，因此本案中的自动驾驶汽车就只能向左或者向右打方向盘，但是左侧人行道上有一位行人C，右侧的人行道上有一小群人正站着说话，因此本案中的自动驾驶汽车选择向左打方向盘，虽然避免了与前方车辆的冲撞，但是却碾过了C导致其死亡。
一引言
在AI网络时代，短期问题、中期问题和长期问题的主题可能会是不同的。因此需要在刑事法中思考的问题也与多个话题相关。比如说，某些人出于恶意，在AI中装入令其失控暴走的程序漏洞（bug），或者对其进行黑客攻击，这样的事例会给AI网络带来严重威胁。对世界各国来讲这都是一个重要问题。比如说，德国在2014年网络犯罪相关报告书中，指出了IoT存在的问题，称不仅仅是智能手机，智能家电等设备也有被恶意操控的危险性，为我们敲响了警钟。但是，本文将不涉及这些出于主观意图的黑客攻击等问题。本文所探讨的对象是，AI网络虽然以社会利益最大化为目的，但却不是由于有意的攻击，而是由于AI采取了有问题的运作方式而导致出现了权利侵害的情况。在这里举的案例，就是开头的情景设定里提到的，由自动驾驶汽车导致的伤亡事故。本文以自动驾驶汽车为主题，对刑事法中可能产生的问题展开讨论。
二自动驾驶汽车与过失犯罪
1．什么是自动驾驶汽车
自动驾驶汽车，或者自动运行汽车是指，搭载了即便不通过驾驶人员的操作也能够安全地移动到指定目的地（自动驾驶）的系统的汽车。这种自动驾驶是通过AI软件实现的，因此自动驾驶车也可以认为是安装了这样的AI软件的汽车。之所以引入自动驾驶汽车，是因为交通事故（死伤事故）中超过九成，都与驾驶员的人为失误相关，因此为了降低由人为失误引发事故的可能性，增大社会获得的便利与益处，人们认为引入自动驾驶汽车基本上是符合社会预期的。特别是在今后日本老龄化社会问题将进一步加剧的情况下，与中青年人相比，高龄者的认知、判断能力将会降低，因此这种自动驾驶汽车的登场，将令高龄者可以享受到既安全又舒适的移动，从这个角度来讲自动驾驶汽车的意义很大。
根据2016年由SAE（Society of Automotive Engineers，美国汽车工程师学会）提出的标准，自动驾驶汽车根据其可自动化的程度，分为从0到5的6个等级。导入了能够对行驶环境进行自动监视的系统的自动驾驶汽车都超过了第3级（有条件的自动驾驶），而第3级中，由于某种情况（比如说恶劣天气）导致自动驾驶系统对环境监测能力受限时，就要靠驾驶员人为判断，驾驶员必须恰当处理（称为“人工接管”［override］）。到了第4级（高度自动驾驶）或者第5级（完全自动驾驶），则完全不考虑这种人类驾驶员人工接管的必要性，彻底依靠自动驾驶系统进行应对。像这样，第3级的自动驾驶汽车与第4级以上的自动驾驶汽车，在发生重大紧急事件之时，是否需要人类驾驶员做出妥当处理这一点上有所不同，特别是从刑事责任的角度来看，具有很大差异。
2．第3级自动驾驶汽车与死伤事故
接下来我们来讨论一下，在开头的情景设定中，到底应该由谁来对受害人的死亡承担刑事责任。事例1与事例2最大的不同就是，前者中基本应由人类驾驶员来承担过失责任，而后者中的驾驶员则基本不需要对自己的过失负责。
在事例1中，自动驾驶系统要求驾驶员X1自主控制汽车。因此，可能会有人认为，只要存在自己对汽车进行操纵导致了B的死亡这一事实，X1的过失驾驶致死罪（《汽车驾驶死伤处罚法》第5条）就理应成立。但其实，这里值得讨论的问题是，到底应该判定X1在什么问题点上产生了过失呢？在刑法中，如果要认定过失罪成立，就必须要认定有违反注意义务的情况，那么X1具体在哪些点上违反了注意义务呢？
汽车驾驶员在驾驶汽车时必须承担的义务中，最基本的一条就是注视前方。也就是说，道路的状况时刻都在发生变化，驾驶员要及时并且恰当地应对这些变化，因此必须要时刻注视前方以取得与道路状况相关的信息。即便是第3级的自动驾驶汽车通过自动驾驶系统行进的时候，我们仍认为驾驶员注视前方是其不可免除的基本义务。也就是说，自动驾驶系统在对汽车进行控制时有可能随时切换成驾驶员的人工接管模式，而作为驾驶员必须要为人工接管模式做好准备，时刻注视前方获取道路状况信息。所以说，X1即便是在以自动驾驶模式行驶的过程中，也不能免除掉注视前方义务，必须要时刻注视前方。
但还是有人可能会对这种思维模式产生质疑。举个极端的例子，我们是否能够要求驾驶员在自动驾驶模式行驶的时候，也永远像自己驾驶时一样集中注意力呢？第3级的自动驾驶汽车，在进入人工接管模式之前，所有驾驶任务都是由自动驾驶系统进行处理的，而驾驶员也以这些系统为前提，也就是说驾驶员认为系统进行的这些处理是恰当的，是值得信任的，并以此为前提乘坐自动驾驶汽车。驾驶员对自动驾驶系统的这种信赖，恐怕是法律没有考虑到的。
在刑法中有一个原则，即行为人如果是在信赖他人行动的情况下，即便是由于该行为人采取了不恰当的行为而导致侵害了他人的权益，也不会对行为人追究责任（信赖原则）。适用于信赖原则的，基本上都是基于人类行为的问题。在事例1中，如果可以信任汽车公司Y1，认为其能够设计、制造出正确恰当运行的AI，那么即便是AI的运行出现了不恰当之处导致侵害了他人的权益，那么也应该认为行为人不为此承担责任。但是，在事例1中，切换到人工接管模式本身是恰当的运行，所以并不是自动驾驶系统进行了不恰当的运作因此催生了事故。也就是说，第3级自动驾驶汽车的设计就是以人工接管模式为前提的，因此只要不是出现了本来完全不应该切换到人工接管模式之时却被切换到了人工接管之类的事情，那么就无法免除X1的责任。
但即便信赖原则在这里不适用，然而回到前面提到的疑问，对于没有亲自操纵和驾驶的驾驶员，到底是否能够期待他能像自主驾驶的驾驶员那样专心地注视前方呢？这个问题是依然存在的。即便是自主驾驶的驾驶员，有的时候也会注意力涣散，一边看着其他东西一边驾驶的情况并不少见。非自主驾驶的时候就更是如此，当然也可以想象驾驶员会因为无聊而看手机。考虑到这种状况，对那些非自主驾驶的驾驶员也同样要求完成注视前方义务，违反义务就要对他们处以交通违章罚款，并（根据违章扣分的累计）进行暂停、吊销其驾照等行政制裁，或（在发生事故的情况下）施以刑罚，这样是否妥当呢？如果同样要求完成注视前方义务，那么在第3级自动驾驶汽车的用户界面中，就应该设计并安装一些功能，让那些非自主驾驶的驾驶员也要注视前方，这种设计是非常重要的。除此之外，对于紧急事态下被切换到人工接管模式的驾驶员，到底能否及时进行应对，这又是另外一个问题了。切换到人工接管模式所需要的时间，最短的情况下只有4秒11，即便注视着前方，也很有可能出现无法靠紧急制动避免事故的情况。这种情况下，能否依靠紧急制动以外的方法来避免事故就成了问题的关键。事例1中，如果想要避免与A的冲撞，那么只能向右打方向盘，由于B也在超速行驶，由此导致了本案中的冲撞。在这种情况下，驾驶员X1有可能相信B会遵守最高限速行驶，这就可以适用刚才所提到的信赖原则。那么就能得出结论，否定掉X1的过失责任。
3．第4级以上的自动驾驶汽车与死伤事故：AI的刑事责任
在事例2中讨论的是第4级以上的自动驾驶汽车，在这个事例中完全不考虑人类会对驾驶产生什么影响，可以说本案是一个完全起因于自动驾驶系统的事故案例。但是，在日本所批准的道路交通相关条约（通常所说的《日内瓦公约》）中，第8条第1项中就规定了车辆中必须要有驾驶员，而根据第4条的定义规定，所谓驾驶员是指在道路上驾驶车辆的人。因此，第4级以上自动驾驶汽车，人类是无法参与其中的，而这样的自动驾驶汽车是否满足条约的要求，就成了一个关键性问题。假如说前提条件就是驾驶员一定要是人类，那么不修订《日内瓦公约》的话，第4级以上自动驾驶汽车根本就不会被允许在道路上行驶。
那我们首先假定，我们要修订《公约》，并允许第4级以上自动驾驶汽车在道路上行驶。那这里出现的问题就是，从理论上来讲，是否可能对设计这种自动驾驶汽车的设计人员，以及构成自动驾驶汽车的系统（程序）追究刑事责任。前者是对自然人追究责任，而后者是对系统或者说AI这样的非自然人追究刑事责任，两者的性质截然不同。在这里，首先对最近大家都很关心、乐于讨论的后者展开探讨。
从传统刑法学的立场出发，我们认为所谓刑罚，只能施加于像自然人那样，具有一定人格的存在。从这个观点出发，那么能否认为自动驾驶汽车的系统，即AI是拥有人格的呢？这就是问题的关键点。
比如说在德国就有学者从正面对是否可以认定AI拥有电子人格一事展开了讨论。另外，在日本也有从传统刑法学的立场出发，针对是否可以肯定AI具有行为性和责任能力一事展开的讨论。像这种问题设定，即是否可以肯定AI具有人格这一问题，还有可能进一步分化为两种路径。第一种路径是从与自然人类似的观点出发，赋予其人格基础；第二种路径则不讨论与自然人的类似之处，只讨论是否认可AI的人格并对其适用刑法。
第一种路径中重要的问题是，AI拥有怎样的性质会导致其与人类相似。比如说，如果AI具有跟人类同样的认知能力、判断能力（责任能力），就可以认定与人类相似，进而有可能被追究刑事责任。从这样的路径出发，预想过一些类人机器人AI（典型的就是“铁臂阿童木”和“终结者”），并认定它们是拥有人格的。但是另一方面，越是强调其与人类相似，那么就越有可能要超越追究刑事责任的前提——赋予其“人格”的基础，而是变成要讨论其是否与人类一样需要保护，这一点有可能成为问题关键。从这种理解出发，最后对这个问题的讨论甚至可能会发展为，如果把与人类相似的AI破坏掉或删除其程序，是否就与“死刑”同等。在德国这种否定死刑的国家，这样处置的权利本身都有可能被否定掉。但是，在与法人的人格（法人格）相关的讨论中，则不会产生这样的问题，其原因就是，与人类一样需要保护中所讲的“类人特性”，明显是一种过度的要求。与人类相似这一路径，有可能会导致陷入“人之所以为人的根本到底是什么”（没有终结）的争论，因此必须要进行慎重的应对。
而第二种路径则不去探究AI与人类的相似性，而是探究是否可能赋予AI人格。但这里的问题就是，不管它是否与人类相似，都肯定AI拥有人格，并且使其适用刑法，这件事到底在刑法上具有什么意义。以法人处罚为例，对法人施加刑法的意义在于，与自然人不同，对法人进行金钱处罚可以发挥刑罚的抑止效果。那么假如说对AI进行金钱处罚，可以得到某些抑止效果吗？如果说AI本身具有某些经济利益，而且具有以增大这些利益为目的而采取行动的特质，那么金钱处罚就可以看作一种“打击”手段。但通常来讲，经济利益是专属于那些制造、贩卖AI的自然人和企业（法人）的，对AI处以罚金是没有意义的。将与自然人相同的自由刑（惩役、监禁）施加到AI身上也是没有意义的，损坏AI或消除程序，这种相当于对AI处以“死刑”的刑罚，也很难被认为是有意义的。
……
装 帧：精装
页 数：377
印 次：1
版 次：1
开 本：32
纸 张：纯质纸
您现在的位置：
