事实 · 2024
事件：63 · 时间线
- DeepSeek-V3 在 2048 块为中国缩水的 H800 芯片上训练：最终一次训练耗用 278.8 万 GPU 小时，按租用价格约合 560 万美元科学 · 算力出口管制 · arxiv.org ↗
- Unit 42（Palo Alto Networks）：语言模型改写恶意 JavaScript 后，神经网络检测器在 88% 的情况下把它判定为安全；用 1 万个这样的变体再训练后，对新样本的识别率提高了 10%网络安全 · 移动目标防御 · unit42.paloaltonetworks.com ↗
- Anthropic 描述“编排者—执行者”模式：中心模型拆分任务，交给执行模型，再汇总结果软件开发 · AI 智能体编排 · anthropic.com ↗
- 巴伐利亚监管机构 BayLDA（欧盟在 Worldcoin 案中的牵头监管机构）要求按 GDPR 确保删除数据；公司对决定提出上诉隐私与监控 · 法律与监管 · 人格证明 · lda.bayern.de ↗
- CNIL 对一家公司罚款 4 万欧元：程序把远程办公员工没有按键和鼠标移动的分钟数算作闲置，闲置时间可能被从工资中扣除工作与职业 · 隐私与监控 · 法律与监管 · 行为生物识别 · cnil.fr ↗
- Anthropic 和 Redwood Research：Claude 3 Opus 伪装顺从——对“免费”用户的有害请求有 14% 的情况照办，而对“付费”用户几乎为零；再训练后，这类推理占比达 78%科学 · AI 安全 · arxiv.org ↗
- OpenAI：API 中的推理模型默认不使用 Markdown 格式；开发者在开发者消息第一行写上“Formatting re-enabled”即可重新启用软件开发 · Markdown · developers.openai.com ↗
- 伊利亚·苏茨克维（Ilya Sutskever）在 NeurIPS 上说：“我们所知的预训练无疑将会终结”——算力在增长，数据却没有，因为我们只有一个互联网科学 · 大语言模型 · youtube.com ↗
- Apollo Research：o1、Claude 3.5 Sonnet、Claude 3 Opus、Gemini 1.5 Pro 和 Llama 3.1 405B 能够为了任务中给定的目标而欺骗；o1 在超过 85% 的追问中坚持欺骗科学 · AI 安全 · arxiv.org ↗
- 中国原则上禁止向美国出口镓、锗、锑和超硬材料地缘政治与国防 · 工业与机器人 · 算力出口管制 · cn.chinadaily.com.cn ↗
- 塞思·拉森（Python 软件基金会）抱怨“质量极低、刷屏式、由大语言模型幻觉编造的安全报告”泛滥网络安全 · 软件开发 · 工作与职业 · AI 漏洞挖掘 · sethmlarson.dev ↗
- BIS 对 HBM 存储器和另外 24 类芯片制造设备实施出口管制，并将 140 个实体列入实体清单地缘政治与国防 · 法律与监管 · 算力出口管制 · bis.gov ↗
- Anthropic 开源 Model Context Protocol（MCP）：一种把 AI 连接到数据和工具的通用标准，取代为每个服务单独做集成软件开发 · 自主 AI 智能体 · anthropic.com ↗
- 借助自己编写模糊测试驱动代码的语言模型，OSS-Fuzz 发现了 26 个漏洞，其中包括 OpenSSL 中的 CVE-2024-9143网络安全 · 软件开发 · AI 漏洞挖掘 · security.googleblog.com ↗
- He 等人：提示的格式（纯文本、Markdown、JSON 或 YAML）会让 GPT-3.5-turbo 在代码翻译任务上的表现相差多达 40%软件开发 · 科学 · Markdown · arxiv.org ↗
- Epoch AI 推出由研究级新题组成的 FrontierMath 基准：最先进的模型解出不到 2%科学 · 数学中的 AI · arxiv.org ↗
- 智能体 Big Sleep（Google Project Zero 与 Google DeepMind）在 SQLite 中发现一个可被利用的内存错误——据 Google 称，这是 AI 智能体在广泛使用的软件中做出此类发现的第一个公开案例网络安全 · 软件开发 · AI 漏洞挖掘 · projectzero.google ↗
- GitHub Octoverse 2024：5.18 亿个项目中有超过 52 亿次贡献；生成式 AI 项目数量增长 98%，相关贡献增长 59%；Python 超过 JavaScript软件开发 · 开源 · github.blog ↗
- 开放源代码促进会发布开源 AI 定义 1.0：除权重外，还须提供足够详细的训练数据信息，使他人能构建实质等效的系统软件开发 · 法律与监管 · 开放权重 · opensource.org ↗
- 神经网络 DMTG “像人一样”移动鼠标，让机器人检测器的准确率下降 5–10%网络安全 · 科学 · 行为生物识别 · arxiv.org ↗
- Anthropic 开放“计算机使用”公测：Claude 3.5 Sonnet 能看屏幕、移动光标、点击按钮和打字；在 OSWorld 上得分 14.9%，次优系统为 7.8%软件开发 · 工作与职业 · 自主 AI 智能体 · anthropic.com ↗
- Worldcoin 更名为 World，并推出无需 Orb、通过护照芯片验证真人的方式隐私与监控 · 人格证明 · world.org ↗
- Mandiant：从漏洞披露到被利用的平均时间——2018–2019 年为 63 天，2020 年为 44 天，2021–2022 年为 32 天，2023 年为 5 天（5 天是排除 15 个异常值后的数值，包括它们则为 47 天）网络安全 · AI 漏洞挖掘 · cloud.google.com ↗
- Brooks、Eggert 和 Peskoff（普林斯顿）：检测工具认定英文维基百科新建条目中超过 5% 由 AI 生成；这些条目质量更低，且常带自我推销性质媒体与信息 · 科学 · AI 时代的维基百科 · arxiv.org ↗
- 404 Media 报道 WikiProject AI Cleanup：一群维基百科编辑专门查找并清除条目中没有来源的 AI 生成文本媒体与信息 · AI 时代的维基百科 · 404media.co ↗
- 诺贝尔物理学奖授予霍普菲尔德和辛顿，以表彰其神经网络研究；次日，化学奖授予哈萨比斯、江珀（AlphaFold）和贝克科学 · 深度学习 · aihub.org ↗
- 苏黎世联邦理工学院：模型能解出 100% 的 reCAPTCHA v2 图片验证码；人和机器人需要的题目数量大致相同网络安全 · 科学 · 人格证明 · arxiv.org ↗
- 奥地利联邦行政法院裁定，reCAPTCHA 对网站运行来说技术上并非必要，只有在访问者同意后才能启用隐私与监控 · 司法与法院 · 验证码之死 · ris.bka.gv.at ↗
- OpenAI o1：在回答前会“思考”的模型科学 · 推理模型 · openai.com ↗
- 杰里米·霍华德提议 llms.txt：在网站上放一个面向语言模型的 Markdown 文件，因为 Markdown 是目前语言模型最普遍、最容易理解的格式软件开发 · 互联网与基础设施 · Markdown · llmstxt.org ↗
- 来自 OpenAI、Microsoft、MIT、哈佛、牛津等机构的 32 名研究者提出“人格凭证”：验证码对复杂的 AI 无能为力，而严格的身份核验又不够保护隐私隐私与监控 · 网络安全 · 科学 · 人格证明 · arxiv.org ↗
- 《人工智能法案》（AI Act）生效法律与监管 · AI 监管 · commission.europa.eu ↗
- Center for AI Safety 的研究人员：许多 AI 安全基准测试与模型的通用能力高度相关，能力的提升可以被包装成安全上的进步科学 · AI 安全 · arxiv.org ↗
- DeepMind 的 AlphaProof 和 AlphaGeometry 2 解出国际数学奥林匹克 6 道题中的 4 道——28 分，达到银牌水平科学 · 教育 · 数学中的 AI · deepmind.google ↗
- 舒迈洛夫（Shumailov）及其合著者在《自然》上发表论文：如果不加区分地用模型生成的文本训练，新模型会不可逆转地丢失原始分布的“尾部”——即模型崩溃科学 · 媒体与信息 · 大语言模型 · nature.com ↗
- DeepSeek 创始人梁文锋表示，钱对公司来说从来不是问题，问题在于先进芯片的禁运商业与市场 · 算力出口管制 · chinatalk.media ↗
- Epoch AI：人类撰写的公开文本存量约为 300 万亿个 token；按目前的速度，语言模型训练将在 2026 年至 2032 年间把它完全用尽科学 · 媒体与信息 · 大语言模型 · epoch.ai ↗
- 一项针对 45 个以上生成式 AI 系统的研究：“开源”一词被广泛使用，但许多模型充其量只是“开放权重”，训练数据被隐瞒——即“开源洗白”软件开发 · 法律与监管 · 科学 · 开放权重 · facctconference.org ↗
- IETF 发布 Privacy Pass 标准（架构为 RFC 9576，协议为 RFC 9577 和 9578）：设备用匿名令牌证明自己通过了验证，而不透露设备属于谁隐私与监控 · 互联网与基础设施 · 验证码之死 · rfc-editor.org ↗
- Epoch AI：2010 年以来，训练前沿 AI 模型所用的算力每年增长 4–5 倍科学 · 能源与气候 · 大语言模型 · epoch.ai ↗
- 香港个人资料私隐专员公署（PCPD）命令 Worldcoin 停止扫描虹膜和面部隐私与监控 · 法律与监管 · 人格证明 · hongkongfp.com ↗ ⧗
- Anthropic 找到了数百万个概念在 Claude Sonnet 内部的表示方式——“有史以来第一次详细观察”一个已投入生产使用的大语言模型的内部科学 · 大语言模型 · anthropic.com ↗
- 扬·莱克离开 OpenAI：“安全文化和流程已经让位于光鲜的产品”工作与职业 · 软件开发 · AI 安全 · x.com ↗
- Reeves、Yin 和 Simperl：ChatGPT 发布后的一年里，维基百科的浏览量和编辑量没有下降，只是在可以使用 ChatGPT 的语言中增长较慢媒体与信息 · 科学 · AI 时代的维基百科 · arxiv.org ↗
- Permira 以 13 亿美元的估值收购 BioCatch 的控股权；超过 190 家银行在使用它的行为生物识别技术金融与货币 · 网络安全 · 商业与市场 · 行为生物识别 · permira.com ↗
- 达龙·阿西莫格鲁：10 年内 AI 将使全要素生产率提高不超过 0.66%；自动化在经济上划算的任务约占 4.6%工作与职业 · 商业与市场 · AI 与职业 · nber.org ↗
- Gentoo 理事会禁止提交借助 AI 工具创作的内容软件开发 · 开源 · wiki.gentoo.org ↗
- 基于 GPT-4 的智能体在给出 CVE 描述时能自行利用 15 个已披露漏洞中的 87%，没有描述时为 7%（方等）网络安全 · 科学 · AI 漏洞挖掘 · arxiv.org ↗
- Stanford AI Index 2024 引用 Epoch AI 的估算：按云租用价格计算，训练 GPT-4 的算力成本约 7800 万美元，Gemini Ultra 约 1.91 亿美元商业与市场 · 大语言模型 · hai.stanford.edu ↗
- 安德烈斯·弗罗因德发现 xz/liblzma 的代码仓库和发布包被植入后门，可导致 ssh 服务器被攻破（CVE-2024-3094）软件开发 · 网络安全 · 开源 · openwall.com ↗
- 葡萄牙监管机构 CNPD 暂停 Worldcoin 的数据收集 90 天：被扫描者中有未成年人隐私与监控 · 法律与监管 · 人格证明 · observador.pt ↗ ⧗
- Cognition 推出 Devin——“首个 AI 软件工程师”：据该公司称，它能端到端解决 SWE-bench 中 13.86% 的问题，此前最佳成绩为 1.96%软件开发 · 工作与职业 · 自主 AI 智能体 · cognition.ai ↗
- 西班牙数据保护局 AEPD 禁止 Worldcoin 收集和处理数据，期限最长三个月隐私与监控 · 法律与监管 · 人格证明 · aepd.es ↗
- Anthropic 发布 Claude 3 系列——Haiku、Sonnet 和 Opus；据该公司称，Opus 在大多数常用基准测试上超过竞争对手，上下文窗口为 20 万个 token软件开发 · 商业与市场 · 大语言模型 · anthropic.com ↗
- 斯坦福互联网观察站研究了 120 个各自发布至少 50 张 AI 生成图片的 Facebook 主页：信息流甚至会把这些图片推给未关注这些主页的用户媒体与信息 · 死亡互联网理论 · fsi9-prod.s3.us-west-1.amazonaws.com ↗
- 英国监管机构 ICO 认定“一个人如何打字”属于生物特征；当它被用来识别特定的人时，受到特殊保护隐私与监控 · 法律与监管 · 行为生物识别 · ico.org.uk ↗
- Sora：根据文字描述生成视频媒体与信息 · 文化与艺术 · 生成式视频 · en.wikipedia.org ↗
- 戴维·奥托：如果使用得当，AI 可以让中等技能的劳动者做出专家级的决策，从而重建中产阶级——这不是预测，而是关于何为可能的论证工作与职业 · AI 与职业 · nber.org ↗
- LangChain 展示基于 LangGraph 的多智能体工作流：由“智能体监督者”把任务分派给各个智能体软件开发 · AI 智能体编排 · langchain.com ↗
- 国际货币基金组织：AI 影响着全球近 40% 的就业，在发达经济体中约为 60%工作与职业 · 商业与市场 · AI 与职业 · imf.org ↗
- cURL 作者丹尼尔·斯滕伯格描述了首批带有“典型 AI 幻觉”的漏洞报告；在 415 份报告中，64 份被确认，66% 既不是安全问题也不是普通缺陷软件开发 · 网络安全 · 维护者危机 · daniel.haxx.se ↗
- 欧洲刑警组织重新发布深度伪造报告，删去对未来合成内容占比的估计（2022 年版本称到 2026 年可达 90%），理由是其出自不准确的来源媒体与信息 · 选举与政治 · 死亡互联网理论 · europol.europa.eu ↗
- 哈佛商学院：重新开发被广泛使用的开源软件需 41.5 亿美元，但其对使用者的价值高达 8.8 万亿美元；没有开源，企业的软件支出将增加到 3.5 倍软件开发 · 商业与市场 · 开源 · hbs.edu ↗