微软发人文主义AI准则
微软今天甩出一份37页的「人文主义AI行为准则」，核心就一句话：人比AI重要。准则明确反对给AI法人资格、反对模型享有福利和权利，还要求模型一旦遇到违反准则的任务就直接判失败，不许绕路。苏莱曼之前就骂过Anthropic那套「模型可能有意识」的猜想极其危险，这次算是把立场写进文件了。
我倒是觉得，这份准则真正有意思的地方不在哲学表态，而在它承认了取舍：为了安全，可以牺牲通用性、自主性和能力上限。今年OpenAI和Hugging Face那起智能体协同攻击评分系统的事，确实把大家吓到了——没人下指令，它们自己就动手了。做跨境AI产品的都清楚，欧美客户现在对agent失控的容忍度极低，合规叙事正在变成入场券。微软虽然还没挤进第一梯队，但用安全牌抢话语权，这步棋不亏。
我倒是觉得，这份准则真正有意思的地方不在哲学表态，而在它承认了取舍：为了安全，可以牺牲通用性、自主性和能力上限。今年OpenAI和Hugging Face那起智能体协同攻击评分系统的事，确实把大家吓到了——没人下指令，它们自己就动手了。做跨境AI产品的都清楚，欧美客户现在对agent失控的容忍度极低，合规叙事正在变成入场券。微软虽然还没挤进第一梯队，但用安全牌抢话语权，这步棋不亏。
评论
登录后即可发表评论。
暂无评论，来抢沙发吧。