动察 Beating AI 快讯,马斯克在 All-In 峰会上提议,前沿 AI 公司在发布新模型前,应该让竞争对手先做一轮安全测试。各家公司拿自己的安全测试体系去挑别人模型的问题,发现风险就直接指出,别再只靠自己给自己验收。
马斯克把现在的做法比作「自己批自己的作业」。相比自测,竞争对手更有动力把问题找出来。如果竞争对手已经警告某个模型不安全,公司仍坚持发布,后来真出了事,就很难再辩解,法律责任也会非常大。
他还认为,这套机制不能只让美国公司单方面执行,最好把中国等主要 AI 参与方也纳入,避免只有美国公司单方面承担限制。