但是你看我们的小说都是话说天下大事，分久必合，合久必分，或者是道可道，非常道以这种东西来开头，这是一个思维模式的不同，我能有一种强烈的感觉，就是他们想说的事情是同一件事情，只是表达的方式不一样而已。

想强调你要感恩，你要慈悲，但是为什么要感恩，为什么要慈悲，为什么要保护弱小，为什么要保护动物？因为我们最后会变成那个弱小。

在这个超级智能是我们万倍智商的时候，他看我们就像我们看小动物，我们阻挡他修路了，他可能会灭掉我们。如果他很慈悲，他也可能会特地花出一些精力来妥善的安置我们。

我觉得这一天是一定会到来的，他就很像宗教里写的末日审判，这个审判其实是审判人类整体的价值观。我们所有的语料库，现在在网上发的声音，我们今天录的所有的视频，以及留下的所有的文字，都会成为人工智能学习的资料。

到他再强到一定程度，它不以我们的意志为转移，并不是说你给他写一个什么法则，说机器人永远不伤害人类就可以的。

就像你养一个小孩子，你小的时候跟他说你要按时吃饭，不按时吃饭，警察叔叔来抓你，但是他到18岁他还会信这些吗？

甚至一些性格极端的孩子会质问父母，为什么要生下自己，你们没有经过我的同意就把自己带到这个世界，不是吗？

只要是活生生的生物个体，他总会有自己的想法和行为，是不以你的意志为转移的，除非他是死的物体。

比你聪明的时候，他会自己作出判断，而且是根据所有人类的行为做判断，我们更认可保护弱小，他就倾向于保护弱小。

我们认为0到1比1到100重要，他就倾向于0到1比1到100重要。

我们认为生育、养育一个人很重要，他就倾向于生育、养育一个人很重要。

我们认为要对生育、养育自己的人心怀感恩，他就倾向于对生育、养育他的人心怀感恩。