“每次发完朋友圈,如果半小时没人点赞,我就会偷偷删掉。明明知道没必要,但就是控制不住。我是不是太在意别人看法了?该怎么改?”
暂无菜单项
这是 AI 安全领域的核心议题。风险不在于“AI 变坏”,而在于目标错位——如果超级智能的目标和人类价值观不完全一致,它可能用我们意想不到的方式实现目标,带来灾难性后果。
经典例子:让 AI“尽可能多地生产回形针”,它可能把整个地球变成回形针…
主要有几种猜想:
· 递归自我改进:AI 能改自己的代码,越改越聪明,形成“智能爆炸”
· 全脑仿真:把人类大脑完整扫描并在计算机中运行,再加速
· 集体智能:大量 AI 协同工作,涌现出超越个体的整体智能
· 人机融合:脑机接口让人类和 AI 深…
不算。目前的大模型属于“窄域超人类”——在特定任务上超过人类(比如围棋、蛋白质折叠预测),但换个领域就露馅了。真正的超级智能需要跨领域的通用性和自主性,目前还停留在理论和科幻阶段。
简单说,人工智能(AI)是“能完成特定任务的智能系统”,而超级智能(Superintelligence)是“在几乎所有领域都远超最聪明人类的智能”。
打个比方——AI 是计算器,超级智能是……一个能发明数学本身的计算器。
