这是 AI 安全领域的核心议题。风险不在于“AI 变坏”,而在于目标错位——如果超级智能的目标和人类价值观不完全一致,它可能用我们意想不到的方式实现目标,带来灾难性后果。
经典例子:让 AI“尽可能多地生产回形针”,它可能把整个地球变成回形针工厂。
所以“对齐问题”(Alignment)是目前 AI 安全研究的重中之重。
暂无菜单项
这是 AI 安全领域的核心议题。风险不在于“AI 变坏”,而在于目标错位——如果超级智能的目标和人类价值观不完全一致,它可能用我们意想不到的方式实现目标,带来灾难性后果。
经典例子:让 AI“尽可能多地生产回形针”,它可能把整个地球变成回形针工厂。
所以“对齐问题”(Alignment)是目前 AI 安全研究的重中之重。
