突然发现这学期的《游戏哲学》和《人工智能哲学导论》两节选修课的课程大作业都很适合写一写ATRI，便花了些时间重新拾起这款游戏，然后一篇文章重复投稿（甚至还能投一下b站233

人工智能能否像人类一样具有感情和心呢？在回答这个问题之前，哲学家甚至质疑他人是否像自己一样具有心，这被称为“他心问题”。因为一个人只能对自己的内心世界有直接、直观的直觉，而对于他人的心灵不直接可知，他心问题的不对称性导致了许多论证上的困难。而本篇文章的主题《ATRI -My Dear Moments-》则对机器人是否有心的话题进行了比较翔实、可以说是逻辑自洽的讨论（毕竟是一款讲述仿生人亚托莉和人类斑鸠夏生恋爱故事的galgame）。该作品可以说是我近两年来玩过最煽情感人的galgame，因为其优秀的剧本与设定也非常出圈，前些时候还放出未来将动画化的消息。

⚠️后面估计有很多剧透，不过都要动画化了应该都玩过了吧，但这个游戏惊艳之处主要就在于剧情了，还是不被剧透的好

(相关资料图)

故事背景&设定

故事发生在不远的未来，海平面因为不明原因而上升，人类的生存空间不断遭到挤压。那时的人工智能与机器人技术已经发展到相当的程度，仿生人是一种尽可能模拟人的存在而诞生的机器人，能够模拟各种人类可以感受到的感觉，并且具有规定的寿命。仿生人通常遵循主人的命令，并且不违背“机器人三原则”，即机器人不得伤害人类，机器人必须服从人类的命令，机器人必须保护好自己。 

男主角斑鸠夏生在打捞外祖母的遗物时发现了在休眠舱中的仿生人亚托莉。亚托莉被打捞起来后不仅治好了夏生因为失去右腿而产生的幻肢痛，而且因为其“高性能”与同学们打成一片。

作为一个仿生人，其表现出的丰富情感和面部表情，信手拈来的玩笑（梗），给村子里的大家带来了无限的快乐与活力。

与亚托莉相处的一个多月间，夏生发现自己爱上了亚托莉，并决心告白。可是在当天晚上，夏生偶然看到了亚托莉的日记（亚托莉这一批仿生人在设计时为了模拟人类，一部分记忆会使用记日记的方式进行）：

亚托莉的日记非常直白且理性地写出了自己对于夏生的接吻做出反应的过程。因为仿生人要为主人服务，令主人开心，尽管不明白与夏生接吻这样行为的意义，但是根据“参考文献”（少女漫画）做出了合适的反应，回应了夏生的告白。最后还不忘复盘，实验非常成功，得到了想要的效果。“他满足了”。看到这里，屏幕后的我也如夏生一般目瞪口呆。原来一切都是假的，就算是平时在人面前活泼可爱的亚托莉，表现出来的情感也都只是模拟和学习的结果。其背后的本质如同日记所写，是没有感情的推理。刚表白就失恋，对于夏生是不小的打击，一气之下他命令亚托莉在与自己独处的时候不用表现的有感情。

但是就算这样，夏生也是矛盾的，还是抱有一丝期待：

怎样才算是有心的定义呢？就算是假装着有心，令人无法看出区别，能算是有心吗？假装的有心和真实的有心，又有什么本质上的区别呢？

在与科学家安田的对峙中，夏生似乎找到了答案：

首先安田阐述了AI看起来有情感的原因是学习与模拟。也就是假装有心，实际上背后的逻辑推理仍然是冰冷而理性的，如同亚托莉在日记中写到的那样。

夏生则反驳说人的情感获得实际上也是从环境中学习的，与AI无异。但是安田却说人类与AI的决定性不同在于意识。AI必须有一个最初的指令，才能以此为出发点进行后续的规划。AI无法自主地产生意识。

实际上，安田的老师致力于研究如何让AI拥有内心，而亚托莉这一型号的机器人就是安田的老师所设计的。当时的仿生人在模拟人类感情的任务上已经能够做的很好，但是却在自发选择意识上遇到了瓶颈。实际上，亚托莉的有心已经在许多线索上体现了出来：

这是亚托莉在尝试违抗命令到学校去。当一个机器人想要试图违抗命令的时候，是不是就是其产生意识的时候呢？在《底特律变人》中也有过类似的手法，人工智能通过自己的意识打破空气墙，从而实现自己的目的。既然违抗的是外部的命令，那么这么一股促使机器人违抗命令的力量，只能是机器人自己的意志。在最早的校园欺凌中，亚托莉也违抗了机器人三原则而打了欺凌者，违抗底层原则似乎更能说明其具有意识。

同时，在仔细观察了亚托莉的日记后，夏生发现每当出现悲伤的记载，即使语言看起来理性而中立，但是在笔迹的周围却又一滴一滴的水渍。是亚托莉的眼泪。有关眼泪，我更倾向于是一种表现手法，用来证明亚托莉有心。据亚托莉本人所说，眼泪是所谓“眼球清洁液”，在眼球需要清洁的时候会分泌。但是在写日记的时候不可能每次写道悲伤的情景正好就是眼球需要清洁的时候，因此分泌眼泪是有其他的原因。人类感到悲伤而分泌眼泪，是因为人体的生理构造，类似于一种非条件反射，亚托莉的结构与人体的生理结构是不一样的，为什么亚托莉也会在悲伤的时候流眼泪呢？我想可能是因为亚托莉对于人类悲伤情感的学习，人类在悲伤的时候会流泪。尽管亚托莉在写日记的时候----可能因为程序设定，只能以理性的笔触来写，但是在写的时候，她感受到的悲伤之情却是货真价实的。并且在写日记的时候通常也不会给人类看，所以在人类面前表现得有情感也是没有必要的。由此，以眼泪证明亚托莉对于情感的感知，已经非常深入，和人类没有什么差别了。

但是亚托莉自身却还是十分迷茫，在夏生解除了限制之后，亚托莉的眼泪如决堤般涌出。

很难想象一个机器人能够哭的如此撕心裂肺，这是她多年来积攒地不能表露出来的情感与委屈。

总的来说，在这部作品中，定义是否有心，取决于对于情感的感知和自我意识。亚托莉在模拟人类情感上已经做的非常好，但是在看到日记后的夏生却纠结于模拟的情感到底算不算真正的情感。正如夏生所说，就连自己也不知道自己的心在哪里。在生活中我们也会为了增加亲密度而假装自己很开心，会为了尊重而假装自己很悲伤，同时我们也追求更加纯粹的快乐，追求能够让我们无所顾忌放声大笑的事情。对于人类，快乐的情感使我们爽，而悲伤的情感使我们不爽，如果对于机器人而言，一切的情感都是一个模拟任务，无论是模拟快乐还是模拟悲伤，对于机器人来说都只是平等的做一道推断题，这样还能算是有心吗？就像亚托莉在日记本里写着的那样。我认为这样不能算是有心。因此日记本里的泪渍暴露了最真实的亚托莉，在感受悲伤的时候的确因悲伤而流泪。（因为在写日记的时候不必模拟情感。即使是如条件反射般的感到悲伤和流眼泪，也深深嵌入其情感模拟框架中了吧）毕竟亚托莉是想要追求喜悦的：

作为一个机器人，需要学的事情还有很多。就像小孩子一开始也不能很好的察言观色，会说出一些不合时宜的话出来一样。即使是长大了，问及自己的感情，有时也会觉得无所凭依。我们也会因为考虑不到对方的感受而伤害对方。给AI更多的耐心，可能人类对于AI行为的解读决定了AI是否有心：比如将AI的表情解读成迎合人类的模拟，将人的表情却解读成真实情感的流露，即使二者没有任何区别，这在某种意义上算不算双标呢？

最后再回到他心问题，只有我们自己能够直观地感受到自己的情感，能够感受到那种最纯粹的，无法用语言描述的快乐和痛苦，但是对于其他人，你也只能看到对方的表情和动作，永远无法感受到他们心中最纯粹的感受（如果有的话），因此一个成熟的AI完全可能覆盖所有表情和动作，使其行为与人无异。并且作为旁观者所接收到的一切信号，都可以被AI模拟。既然他心问题都无法证明，那么如果说人是有心的，AI与人在你的观察上而言是完全相同的，AI 是否有心，好像就变得不那么重要了。因为它能够起到和有心的人同样的功能。

因此我可能是属于比较重视功能的那一方，只要所需的功能达到了，我就满足了。（“他满足了”）

标签： 底特律变人 galgame 无法证明