《Human Compatible – Stuart Russell》电子书+有声书音频 [全1册]

《Human Compatible – Stuart Russell》电子书+有声书音频 资源介绍

今天给大家分享的英文电子书是《Human Compatible: Artificial Intelligence and the Problem of Control – Stuart Russell》人类兼容，资源包含电子书1册，外加有声书音频

这本书探讨了人工智能发展所面临的根本性问题，即如何确保AI系统的目标和行为与人类的利益相一致。

这本书的一个核心观点是，当前的AI系统在设计上存在根本缺陷。

它们被设定了固定的目标函数,一旦投入运行，就会不择手段地追求目标的最大化,而无视人类的价值观和意图。

正如书中所说:”一个优化n个变量函数的系统，如果目标只依赖于其中k<n个变量的子集，那么它通常会将剩余的无约束变量设置为极端值

如果其中一个无约束变量实际上是我们关心的，那么找到的解可能是非常不理想的。

这启示我们,AI系统的目标必须以人类价值为基础,并能够随着时间的推移而演化。

这本书之所以如此可怕，是因为它表明我们目前的人工智能道路是直接从悬崖上走下来的，底部有锋利的岩石，整个人类都在一辆冲向悬崖的汽车里，没有人知道方向盘在哪里或如何操作制动踏板。

后座上有几个大声喧哗的乘客，试图让车里的每个人相信悬崖不是悬崖，最终会有人抓住方向盘，因此没有必要惊慌。

在这个比喻中，Russell 是勤奋的副驾驶，他指出，是的，确实有一座悬崖要升起，刹车的力度不足以让车停下来，有人最好弄清楚该死的方向盘在哪里，并在每个人都被撞成碎片之前把这辆车调转过来。