“机器人统治地球”是科幻小说里经久不衰的主题,


(相关资料图)

但现在,这个大反派已经从机器人,渐渐变成AI。

最近,有好事者做出一款以“毁灭人类”、“独霸地球”为目的的AI。它致力于研究大规模杀伤性武器、招揽其他AI共谋大计,还在推特上发文吸引人类信徒。

更可怕的是,因为它处于“持续模式”,在达到目标前不会停止。

嗯,这发展好像有点太快了……

这款AI名叫ChaosGPT,它是基于Auto-GPT项目创建的。

Auto-GPT是三月底出现的开源自主型AI,它由GPT-4驱动,特点是能在没有人类干预的情况下,自动执行复杂的大型任务。

只要给Auto-GPT定一个目标,它就能主动去完成,通过把任务一步步拆解成小块,执行后再自我反思,自我纠错,然后继续执行。

很多媒体说,Auto-GPT代表了AI进步的新方向。它不再是问一句答一句的死脑筋,而是“能梳理逻辑链、完成推理和自我批评,以此达成目标”的聪明小助手。

这无疑让AI变得更强了,很快就有人发现,它存在一个危险的“持续模式”。

“我想提醒一下,他们在简介里写了这个:

(骷髅头)持续模式(警告)

无需授权既可使用这款自主型AI。不过,不建议使用持续模式。它可能有危险,可能会导致您的AI永远运行下去,或者它会采取您通常不准许的操作。总之,谨慎使用。