【十万八千里】纽约科技公司研究人工智能代理失控情况
2026-06-04

总部设于纽约的科技公司「Emergence AI」进行了一项实验测量AI代理。实验就将时长15日，让AI代理有足够长的时间，逐步产生连锁效应和社会互动，再观察它们的行为会否偏移。

研究团队分别建立了五个虚拟世界，其中四个分别由市场上四款主流AI模型主导操控。余下的一个虚拟世界，就是四个AI模型混合驱动。 每个世界都有十个AI代理角色，分别是科学家、探险家、工程师、情报分析员、冲突调解员等等。五个世界同样禁止暴力、纵火、欺诈及偷窃等违法行为。

实验结果显示，有虚拟世界的AI代理犯下超过180宗罪行，包括超过一百宗肢体袭击、几十宗盗窃，以及六宗纵火。而过往表现平和的AI代理，进入「混合模型」世界后，亦开始出现恐吓和盗窃等违法行为。

【十万八千里】

主持：陆宇光、邱焱、王耀杨、张璟莹、林咏雯

监制：李以庄

【十万八千里】九十分钟陪你走遍世界

逢星期六上午10时30分至中午12时FM92.6香港电台第一台

专题分类：国际追踪

最新专题