机器学习+强化学习 → AI 安全
融合 · 2016/06/21
阿莫迪、奥拉与来自 Google、斯坦福、伯克利和 OpenAI 的合著者发表《AI 安全中的具体问题》：副作用、奖励破解、可扩展监督、安全探索和分布偏移 — arxiv.org ↗
科学
⚑ 支持信号
- 网络安全 / 达里奥·阿莫迪: “我认为，如果把 Anthropic 过去一年里那些有利于安全、却让我们在商业上付出代价的事情列一张清单，它们会远远超过你列出的清单……我们早在 2 月就有了 Mythos 级别的模型，但直到 6 月（当我们部署了更强的网络安全防护措施时）才全面开放。……直接把模型发布给所有人，在经济上要合理得多。我们很可能牺牲了数月模型领先优势中的相当一部分。”
¶ car56caj3