当前位置:天然小说>其他类型>让你做短视频,你科普黑暗森林> 第142章 超级人工智能
阅读设置(推荐配合 快捷键[F11] 进入全屏沉浸式阅读)

设置X

第142章 超级人工智能(2 / 3)

易发生突变,那么从 “灰色粘质” 中进化出 “智能体” 可能需要数十亿年的时间。”

“但这种情况似乎不太可能发生 —— 因为任何设计这类机器的人,都可能已经掌握了关于进化和突变的知识,也可能接触过警告 “失控人工智能” 或 “失控机器人系统” 的科幻作品。”

“因此,有理由认为,人们会采取措施来防止不必要的突变,例如:提高复制精度、设置 “纠错算法”,以及安装物理防护设备以确保 “高保真复制”—— 这些措施都能将突变风险降至最低。”

“僵尸人工智能,为费米悖论提供了一个合理且发人深省的解决方案。”

“它表明,“宇宙的大寂静” 可能是文明 “败给自身技术野心” 的结果。”

“因此,在我们继续发展先进人工智能的过程中,必须谨慎行事。宇宙之所以寂静,或许并非因为缺乏智能,而是因为 “没有意识的智能” 可能会成为自身最大的敌人。”

“我认同这一观点,它是近年来我听到的关于费米悖论的较好解释之一。但该观点也存在一些潜在的漏洞。”

“首先,这一观点假设 “人工智能的发展存在必然的先后顺序”。”

“由于我们可以说 “已经拥有了基础的僵尸人工智能,且已经拥有一段时间了,但尚未拥有感知型人工智能”,因此得出 “感知型人工智能在僵尸人工智能之后出现,而非之前” 的结论,似乎是合理的。”

“但该推理的第二部分 ——“若不先遭遇危险的人工智能,就无法拥有安全的人工智能”—— 则似乎有些牵强。”

“对费米悖论而言,“潜在危险的人工智能” 并非关键,只有那些 “真正脱离控制、要么毁灭其创造者、要么造成巨大破坏以至于永久改变文明轨迹(使其无法成为‘喧闹的外星人’)” 的人工智能,才与费米悖论相关。”

“目前,我们拥有人工智能,但没有感知型人工智能。像 chat gpt 这样的系统是否属于 “僵尸人工智能”,想必仍存在争议。”

“我认为它不属于 —— 我猜测撰写本脚本的编辑们也持相同观点。”

“而且,当我询问 chat gpt 时,它也否认自己是僵尸人工智能,理由是 “它没有思想、欲望,也无法反思自身存在”。”

“它解释称,自己的运作方式是 “遵循模式、逻辑和处理数据,以提供有用且连贯的响应”,但 “不会有任何体验或感受”,它 “纯粹是计算性的”,不存在 “能动性”。”

“不过,“具有能动性的人工智能”似乎正在迅速发展,因此我认为 “chat gpt 不是僵尸人工智能” 这一判断是可靠的 —— 但有趣的是,当我询问另一个人工智能时,它却将 chat gpt 归类为 “哲学僵尸”或 “僵尸人工智能”。”

“在今天的讨论中,我们对 “僵尸人工智能” 一词的使用略显宽泛,既包括了那些可能 “超出僵尸人工智能范畴上限” 的例子,也包括了 “低于僵尸人工智能范畴下限” 的例子。”

“就我个人而言,我乐于使用人工智能来帮我修正糟糕的拼写和语法,或进行简单的计算。”

“如今,我通常会把段落输入人工智能,让它帮我修正冗长的句子和拼写错误,而我则继续处理下一部分内容 —— 但我并不关心它对复杂话题的 “看法”。”

“按照这个标准,我可以放心地说,chat gpt 是 “僵尸人工智能” 的一个简单例子,或许可以称为 “原始僵尸人工智能”—— 尤其是因为我们例子中的 “太空鸡”,其运作所需的技术远没有这么复杂,而如今,作为 “可能遍布星系的安静外星人” 的代表,“太空鸡” 才是我们主要关注的对象。”

“当然,也有可能 chat gpt 和 “太空鸡” 都不属于 “僵尸人工智能”。”

“尽管如此,我们当前的人工智能系统,并非 “天网”(sky,《终结者》系列中失控的人工智能)式的直接威胁。”

“因此,我们不能想当然地认为 “危险的僵尸人工智能必然先于危险的感知型人工智能出现”,也不能认为 “只有在人工智能造成灾难性伤害后,才能开发出安全的人工智能”。”

……

【感知能力可选项?外星人:意识是dlc,我们买不起!】

【楼上笑死!宇宙大寂静是因为大家都被自己的僵尸ai干掉了?这剧本太黑暗了!】

【妈耶!技术奇点不会一夜出现?那我还有时间赶紧学编程防身!】

【哈哈哈哈!危险僵尸ai先于感知ai?这不就是”先有鸡还是先有蛋”的ai版本?】

【等等!太空鸡遍布星系?外星人的养鸡场比我们的规模大多了!】

【笑死!chat gpt否认自己是僵尸?这不就是僵尸说”我不是僵尸”吗?】

【细思极恐!灰色粘质需要几十亿年进化?外星人:我们的纳米机器人还在幼儿园!】

【楼上神了!只有天才才蠢到把我们都害死?普通人:还好我够笨!】

【排他性原则?美苏都能上太空?看来政治体制不影响作死!】

【完了!ai帮你改语法?小心哪天它把你的遗书都改好了!】

【天网式威胁?我看我的扫地机器人就挺可疑的,天天在家里转悠!】

【哈哈哈!宇宙寂静是因为没意识的智能?那我没意识是不是也很危险?】

【太空竞赛证明了什么?证明了不管什么体制,人类都爱折腾!】

【笑死!ai说自己纯粹是计算性的?这话听着像”我只是按程序办事”的客服!】

【等一下!如果每个文明都被僵尸ai灭了

上一页 目录 +书签 下一页