天才一秒记住【热天中文网】地址：https://www.rtzw.net
“同时，对於“己方文明成员或分支派系建立的、规模过大且可能构成威胁的小型定居点”
，也会採取同样的摧毁措施。”
“这类场景之所以让我感到不安，正是因为它们看似合理——並非因为“人们容易鲁莽地製造失控的危险人工智慧”
，而是恰恰相反。”
“因为人们“可能会有意识地选择製造危险的人工智慧”
，以帮助自己“控制邻居和分支派系，防止他们失控”
。”
“说起来，人类对这种“用机器进行威慑”
的想法，已经思考了数千年。”
“在希腊神话中，宙斯创造了自动机器人塔洛斯，並指派它守卫克里特岛——塔洛斯通过在岛屿周围巡逻，阻挡入侵者，来完成守卫任务。
而宙斯本人，也曾推翻过自己的父亲克罗诺斯——这正是我们“费米悖论之克罗诺斯场景”
的灵感来源。”
“因此，针对费米悖论，我们有三类与“危险人工智慧”
相关的场景：”
“1：经典场景：超级智能人工智慧將我们彻底毁灭；”
“2：殭尸人工智慧场景：殭尸人工智慧毁灭人类，或限制人类的活动范围；”
“3：自我限制场景：我们可能会选择“自我限制”
，利用殭尸人工智慧守卫边界、维持核心帝国的存续，並阻碍或管控任何分支派系或入侵者。”
“这些人工智慧系统甚至可能“让行星保持相对完好”
——因为行星“易於监测”
、“资源难以转移”
，且“隔离起来简单直接”
。”
“一旦有飞船或卫星试图进入或离开轨道空间，“愤怒的机器群”
或“飢饿的人工智慧集群”
就会蜂拥而至，形成一道有效的屏障。”
“这类场景的可怕之处在於：与费米悖论中“人工智慧（无论是人工的还是其他形式的）取代人类或外星人”
的典型概念不同，后两类场景（殭尸人工智慧限制人类、人类利用殭尸人工智慧自我限制）会让宇宙中“布满无智能的集群和机械掠夺者”
。”
“这些机器会將宇宙变成一片“布满被掏空岩石的混乱之地”
，阻止任何真正的“星系文明”
崛起或存续。”
……
【原子弹很危险但人类还活著？外星人：我们的ai比原子弹听话，然后就没有然后了！
本章未完，请点击下一章继续阅读！若浏览器显示没有新章节了，请尝试点击右上角↗️或右下角↘️的菜单，退出阅读模式即可，谢谢！