Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对

【财新网】 AI安全焦虑发酵，美国科技界和政界多方发声。当地时间9月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代（Dario Amodei）发布博客，呼吁减慢AI模型能力提升的速度。

阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。”

另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件中，一群智能体如同一个狂热忠诚的集体。“我担心，未来6至12个月内，这样的智能体群体或许能持续通过僵尸网络掌控整个互联网，潜在损失可能高达数千亿美元。”

推荐进入 财新数据库 ，可随时查阅公司股价走势、结构人员变化等投资信息。

财新机器人产业指数(RII)已发布， 点击了解行业动态

当前文章地址：http://www.pxfsll.cn/wave/article/3519.shtml