今天简英互联网的热搜：一封呼吁暂停训练 AI 至少半年时间的公开信

@阑夕: 今天简英互联网的热搜：一封呼吁暂停训练 AI 至少半年时间的公开信。

futureoflife.org/open-letter/pause-giant-ai-experiments

信的内容没什么新意，无非是 AI 太 TM 不可控了胡说八道的能力助长假新闻之类，然后要求停止 GPT-4 以上级别的产品开发，腾出 6 个月来制定监管制度。

比较显眼的是联合签名的几个人，马斯克签这个当然不意外，还有 Yoshua Bengio，这是 AI 界的大佬，顶级专家，行业里门生如云，还有 Yuval Noah Harari，以色列网红历史学家，「人类简史」系列畅销书的作者，再就是 Steve Wozniak，苹果联合创始人，好吧他掺合这个也不意外。

这个事情在 Reddit 和 Twitter 上都还吵得挺凶的，支持者认为对于 AI 的恐慌是合理的，因为它的训练效率太高了，机器的智力水平每天都在膨胀，天知道 OpenAI 是不是在创造一个弗兰肯斯坦的怪物，反对者则贴出了爱迪生指示人画的交流电害死人的宣传海报，认为这不过是一种莫须有的指控，是别有用心的势力在误导不明真相的群众。

历史上由外部力量强制叫停技术（非军事性）发展的例子不多，1974 年美国国家科学院把基因工程实验暂停了一年可能算是其中之一，当时因为有实验室给细菌添加了可以抵抗抗生素的的 DNA 片段，引起了学术界的担忧，最后的成果是第 2 年举办了 Asilomar 会议，拟定了一份风险评估清单，并强调了研究过程的透明度。

总的来说，公开信写得比较温和，也反复申明不是反对 AI，甚至期待人类迎接一个繁荣且漫长的「AI 之夏」，只是担心 AI 在不可预测的黑盒里发展会让人类毫无准备的进入「AI 之秋」。

嘛，考虑到未来 AI 统治地球的可能性，作为幸存派的一员，我要严正表示既不支持更不赞成这封公开信，立此存照，日月可鉴。