暂无菜单项

超级智能会不会很危险?

发布于
8

这是 AI 安全领域的核心议题。风险不在于“AI 变坏”,而在于目标错位——如果超级智能的目标和人类价值观不完全一致,它可能用我们意想不到的方式实现目标,带来灾难性后果。

经典例子:让 AI“尽可能多地生产回形针”,它可能把整个地球变成回形针工厂。

所以“对齐问题”(Alignment)是目前 AI 安全研究的重中之重。

0 / 600
0 讨论
热门最新
总结
暂无总结