赵翔鹏的Blog Xiangpeng's Thinkpad

关于人工智能的思考

我们可以制造一种具有自复制性的机器，比如计算机病毒。除了会复制，病毒也可以做点其他的工作，比如收集你的个人密码，格式化你的硬盘之类。理论上，我们也可以制造一种机器，它可以当汽车用，但是还会自己制造自己——这样你就有了两辆汽车。然后……

但是计算机病毒似乎没有智能。它只会服从制造者的指示。或者说，它只会服从“本能”，没有独立的“意识”。所以我们可以加一个控制命令，保证那个自复制的机器不会弄得全世界都是汽车，大多数计算机病毒还会“发作”，虽然有时“发作”就等于自杀。

这么说来，生物与非生物的区别，动物与人的区别，是否就在于，非生物不会复制自己，而动物虽然会复制自己，会凭本能活着，却不能理解生命的“意义”呢？

写一个程序，它总是只会被动的执行，根本不知道为什么要执行，在执行什么。reflection就是给程序语言加了一点“自省”的能力，很有意思。但是这离主动思考还远着呢！

什么是agent？agent有一个估值函数，其行为就是试图最大化该函数的值。人工创造的agent可能会自适应，自学习，自组织，自进化，但
agent的根本目的是被估值函数所唯一确定的。——人生其实也是如此啊！虽然目的可能各不相同，但每个人都是为了实现自己的价值观而活着，不管是享乐主
义还是为人民服务。极端一点，自杀的人也只不过是有一个特别的估值函数罢了。

但是，人类的特别之处是可以修改自己的估值函数，机器、动物却似乎很难做到。进化论是否是正确的？如果进化论是正确的，那人类是否能够拥有创造有自主思想生物的能力呢？（人造人？）看看人工智能的发展，现在还是一片模糊。

再想想，人类是否是上帝创造的呢？也许上帝就是给了我们一个统一的估值函数“追求幸福”，然后人类就开始自动进化了。（也许“追求痛苦”的估值函数下造出的人都消灭了）而上帝现在到哪里去了？（会不会跟星际争霸一样，造物主被自己造出的虫族消灭了？）上帝又是谁创造的？

已经提了太多问题了。最后一个问题：人能认识自己吗？正如哲学中永恒的问题，“我是谁？”