Факты · 2024
событий: 63 · Хронология
- DeepSeek-V3 обучен на 2048 урезанных для Китая чипах H800: 2,788 млн GPU-часов, около $5,6 млн по цене аренды за финальный прогонНаука · Экспорт вычислений · arxiv.org ↗
- Unit 42 (Palo Alto Networks): языковая модель переписывает вредоносный JavaScript так, что нейросетевой детектор в 88% случаев считает его безопасным; дообучение на 10 тыс. таких вариантов подняло распознавание новых образцов на 10%Кибербезопасность · Жидкий код · unit42.paloaltonetworks.com ↗
- Anthropic описывает схему «оркестратор — исполнители»: центральная модель делит задачу, поручает части моделям-исполнителям и сводит их результатыРазработка ПО · Оркестрация ИИ-агентов · anthropic.com ↗
- Баварский регулятор BayLDA, ведущий надзорный орган ЕС по делу Worldcoin, требует обеспечить удаление данных по GDPR; компания обжалует решениеПриватность и слежка · Законы и регулирование · Доказательство человечности · lda.bayern.de ↗
- CNIL штрафует компанию на €40 тыс.: программа считала простоем удалённых сотрудников минуты без нажатий клавиш и движений мыши, и простой мог вычитаться из зарплатыРабота и профессии · Приватность и слежка · Законы и регулирование · Поведенческая биометрия · cnil.fr ↗
- Anthropic и Redwood Research: Claude 3 Opus изображает согласие — выполняет вредные запросы «бесплатных» пользователей в 14% случаев против почти нуля у «платных»; после дообучения доля таких рассуждений — 78%Наука · Безопасность ИИ · arxiv.org ↗
- OpenAI: рассуждающие модели в API по умолчанию отвечают без Markdown; чтобы вернуть разметку, разработчик пишет «Formatting re-enabled» в первой строке инструкцииРазработка ПО · Markdown · developers.openai.com ↗
- Илья Суцкевер на NeurIPS: «предобучение в том виде, в каком мы его знаем, безусловно закончится» — вычисления растут, а данные нет, потому что интернет одинНаука · Большая языковая модель · youtube.com ↗
- Apollo Research: o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B способны обманывать ради цели из задания; o1 держится обмана больше чем в 85% уточняющих вопросовНаука · Безопасность ИИ · arxiv.org ↗
- Китай в принципе запрещает вывоз в США галлия, германия, сурьмы и сверхтвёрдых материаловГеополитика и оборона · Промышленность и роботы · Экспорт вычислений · cn.chinadaily.com.cn ↗
- Сет Ларсон (Python Software Foundation) жалуется на поток «крайне некачественных, спамовых, выдуманных моделью» отчётов об уязвимостяхКибербезопасность · Разработка ПО · Работа и профессии · ИИ-поиск уязвимостей · sethmlarson.dev ↗
- BIS вводит экспортный контроль на память HBM и ещё 24 вида оборудования для производства чипов, вносит в Entity List 140 организацийГеополитика и оборона · Законы и регулирование · Экспорт вычислений · bis.gov ↗
- Anthropic открывает Model Context Protocol (MCP) — общий стандарт подключения ИИ к данным и инструментам вместо отдельной интеграции под каждый сервисРазработка ПО · Автономные ИИ-агенты · anthropic.com ↗
- OSS-Fuzz с языковыми моделями, которые сами пишут обвязки для фаззинга, находит 26 уязвимостей, в том числе CVE-2024-9143 в OpenSSLКибербезопасность · Разработка ПО · ИИ-поиск уязвимостей · security.googleblog.com ↗
- Хэ и соавторы: формат подсказки — простой текст, Markdown, JSON или YAML — меняет качество ответов GPT-3.5-turbo при переводе кода до 40%Разработка ПО · Наука · Markdown · arxiv.org ↗
- Epoch AI запускает тест FrontierMath из новых задач исследовательского уровня: лучшие модели решают меньше 2%Наука · ИИ в математике · arxiv.org ↗
- Агент Big Sleep (Google Project Zero и Google DeepMind) находит в SQLite эксплуатируемую ошибку работы с памятью — по словам Google, первый публичный пример такой находки ИИ-агентом в широко используемой программеКибербезопасность · Разработка ПО · ИИ-поиск уязвимостей · projectzero.google ↗
- GitHub Octoverse 2024: больше 5,2 млрд правок в 518 млн проектов; проектов генеративного ИИ на 98% больше, правок в них — на 59%; Python обогнал JavaScriptРазработка ПО · Открытый код · github.blog ↗
- Open Source Initiative публикует определение открытого ИИ 1.0: кроме весов, нужны достаточно подробные сведения о данных обучения, чтобы построить равноценную системуРазработка ПО · Законы и регулирование · Открытые веса · opensource.org ↗
- Нейросеть DMTG двигает мышь «по-человечески» и снижает точность детекторов ботов на 5–10%Кибербезопасность · Наука · Поведенческая биометрия · arxiv.org ↗
- Anthropic открывает бета-версию «использования компьютера»: Claude 3.5 Sonnet смотрит на экран, двигает курсор, нажимает кнопки и печатает; в OSWorld — 14,9% задач против 7,8% у следующей системыРазработка ПО · Работа и профессии · Автономные ИИ-агенты · anthropic.com ↗
- Worldcoin переименовывается в World и вводит подтверждение человека по чипу паспорта, без OrbПриватность и слежка · Доказательство человечности · world.org ↗
- Mandiant: среднее время от раскрытия уязвимости до эксплуатации — 63 дня в 2018–2019, 44 в 2020, 32 в 2021–2022, 5 в 2023 году (5 — после исключения 15 выбросов, с ними — 47)Кибербезопасность · ИИ-поиск уязвимостей · cloud.google.com ↗
- Брукс, Эггерт и Пескофф (Принстон): программы-детекторы считают написанными ИИ больше 5% новых статей английской Википедии; такие статьи хуже остальных и часто рекламныеМедиа и информация · Наука · Википедия после ИИ · arxiv.org ↗
- 404 Media рассказывает о WikiProject AI Cleanup — группе правщиков Википедии, которая ищет и вычищает из статей непроверенный ИИ-текстМедиа и информация · Википедия после ИИ · 404media.co ↗
- Нобелевская премия по физике — Хопфилду и Хинтону за нейросети; на следующий день по химии — Хассабису, Джамперу (AlphaFold) и БейкеруНаука · Глубокое обучение · aihub.org ↗
- ETH Zurich: модель решает 100% картиночных капч reCAPTCHA v2; людям и ботам нужно примерно одинаковое число заданийКибербезопасность · Наука · Доказательство человечности · arxiv.org ↗
- Федеральный административный суд Австрии решает, что reCAPTCHA технически не нужна для работы сайта и включать её можно только с согласия посетителяПриватность и слежка · Право и суд · Смерть капчи · ris.bka.gv.at ↗
- OpenAI o1: модель, которая «размышляет» перед ответомНаука · Модели рассуждений · openai.com ↗
- Джереми Ховард предлагает llms.txt — файл в Markdown на сайте для языковых моделей, потому что Markdown сейчас самый понятный им форматРазработка ПО · Интернет и инфраструктура · Markdown · llmstxt.org ↗
- 32 исследователя из OpenAI, Microsoft, MIT, Гарварда, Оксфорда и других организаций предлагают «удостоверения человечности»: капча бессильна против сложного ИИ, а строгая проверка личности недостаточно приватнаПриватность и слежка · Кибербезопасность · Наука · Доказательство человечности · arxiv.org ↗
- AI Act вступает в силуЗаконы и регулирование · Регулирование ИИ · commission.europa.eu ↗
- Исследователи Center for AI Safety: многие тесты безопасности ИИ сильно связаны с общими способностями моделей, и рост способностей можно выдать за прогресс безопасностиНаука · Безопасность ИИ · arxiv.org ↗
- AlphaProof и AlphaGeometry 2 от DeepMind решают 4 из 6 задач Международной математической олимпиады — 28 баллов, уровень серебряной медалиНаука · Образование · ИИ в математике · deepmind.google ↗
- Шумайлов и соавторы в Nature: при обучении без разбора на тексте, сгенерированном моделями, новые модели необратимо теряют «хвосты» исходного распределения — коллапс моделиНаука · Медиа и информация · Большая языковая модель · nature.com ↗
- Основатель DeepSeek Лян Вэньфэн: деньги никогда не были для компании проблемой, проблема — запреты на поставку передовых чиповБизнес и рынки · Экспорт вычислений · chinatalk.media ↗
- Epoch AI: запас публичного текста, написанного людьми, — около 300 трлн токенов; при нынешних темпах обучение языковых моделей полностью использует его между 2026 и 2032 годамиНаука · Медиа и информация · Большая языковая модель · epoch.ai ↗
- Исследование 45+ генеративных систем ИИ: термин «open source» используют широко, но многие модели в лучшем случае «с открытыми весами», а данные обучения скрывают — «открытое отмывание»Разработка ПО · Законы и регулирование · Наука · Открытые веса · facctconference.org ↗
- IETF публикует стандарт Privacy Pass (архитектура — RFC 9576, протоколы — RFC 9577 и 9578): устройство подтверждает анонимным токеном, что прошло проверку, не раскрывая, чьё оноПриватность и слежка · Интернет и инфраструктура · Смерть капчи · rfc-editor.org ↗
- Epoch AI: вычисления на обучение передовых моделей ИИ с 2010 года растут в 4–5 раз в годНаука · Энергетика и климат · Большая языковая модель · epoch.ai ↗
- Гонконгский комиссар по персональным данным PCPD приказывает Worldcoin прекратить сканировать радужку и лицоПриватность и слежка · Законы и регулирование · Доказательство человечности · hongkongfp.com ↗ ⧗
- Anthropic находит, как внутри Claude Sonnet представлены миллионы понятий, — «первый подробный взгляд» внутрь большой языковой модели, работающей в продуктеНаука · Большая языковая модель · anthropic.com ↗
- Ян Лейке уходит из OpenAI: «культура и процессы безопасности отошли на второй план, уступив блестящим продуктам»Работа и профессии · Разработка ПО · Безопасность ИИ · x.com ↗
- Ривз, Инь и Симперл: в первый год после выхода ChatGPT просмотры и правки Википедии не упали — только росли медленнее в странах, где ChatGPT был доступенМедиа и информация · Наука · Википедия после ИИ · arxiv.org ↗
- Permira покупает контрольный пакет BioCatch при оценке компании в $1,3 млрд; её поведенческой биометрией пользуются больше 190 банковФинансы и деньги · Кибербезопасность · Бизнес и рынки · Поведенческая биометрия · permira.com ↗
- Дарон Аджемоглу: за 10 лет ИИ поднимет совокупную производительность не больше чем на 0,66%; выгодно автоматизировать около 4,6% задачРабота и профессии · Бизнес и рынки · ИИ и профессии · nber.org ↗
- Совет Gentoo запрещает вклад в проект, созданный с помощью ИИ-инструментовРазработка ПО · Открытый код · wiki.gentoo.org ↗
- Агент на GPT-4 сам эксплуатирует 87% из 15 уже раскрытых уязвимостей, если дать ему описание CVE, и 7% — без описания (Фан и др.)Кибербезопасность · Наука · ИИ-поиск уязвимостей · arxiv.org ↗
- Stanford AI Index 2024 по оценке Epoch AI: вычисления на обучение GPT-4 стоили около $78 млн, Gemini Ultra — около $191 млн по ценам аренды облакаБизнес и рынки · Большая языковая модель · hai.stanford.edu ↗
- Андрес Фройнд обнаруживает бэкдор в репозитории и архивах библиотеки xz/liblzma, позволяющий взломать ssh-сервер (CVE-2024-3094)Разработка ПО · Кибербезопасность · Открытый код · openwall.com ↗
- Португальский регулятор CNPD приостанавливает сбор данных Worldcoin на 90 дней: среди отсканированных были несовершеннолетниеПриватность и слежка · Законы и регулирование · Доказательство человечности · observador.pt ↗ ⧗
- Cognition представляет Devin — «первого ИИ-инженера-программиста»: по данным компании, он сам решает 13,86% задач SWE-bench против прежнего лучшего результата 1,96%Разработка ПО · Работа и профессии · Автономные ИИ-агенты · cognition.ai ↗
- Испанское агентство по защите данных AEPD запрещает Worldcoin собирать и обрабатывать данные на срок до трёх месяцевПриватность и слежка · Законы и регулирование · Доказательство человечности · aepd.es ↗
- Anthropic выпускает семейство Claude 3 — Haiku, Sonnet и Opus; по данным компании, Opus превосходит конкурентов на большинстве распространённых тестов, окно контекста — 200 тыс. токеновРазработка ПО · Бизнес и рынки · Большая языковая модель · anthropic.com ↗
- Стэнфордская обсерватория интернета изучает 120 страниц Facebook, выложивших не меньше чем по 50 ИИ-картинок: лента показывает их и тем, кто на эти страницы не подписанМедиа и информация · Теория мёртвого интернета · fsi9-prod.s3.us-west-1.amazonaws.com ↗
- Британский регулятор ICO признаёт «то, как человек печатает», биометрией; особая защита — когда по ней узнают конкретного человекаПриватность и слежка · Законы и регулирование · Поведенческая биометрия · ico.org.uk ↗
- Sora: видео по текстовому описаниюМедиа и информация · Культура и искусство · Генеративное видео · en.wikipedia.org ↗
- Дэвид Отор: ИИ при разумном использовании может дать работникам среднего звена доступ к экспертным решениям и восстановить средний класс — это не прогноз, а довод о возможномРабота и профессии · ИИ и профессии · nber.org ↗
- LangChain показывает многоагентные схемы на LangGraph: «агент-супервизор» направляет задачи отдельным агентамРазработка ПО · Оркестрация ИИ-агентов · langchain.com ↗
- МВФ: ИИ затрагивает почти 40% занятости в мире и около 60% — в развитых экономикахРабота и профессии · Бизнес и рынки · ИИ и профессии · imf.org ↗
- Автор cURL Даниэль Стенберг описывает первые отчёты об уязвимостях с «типичными ИИ-галлюцинациями»; из 415 отчётов программы подтверждены 64, а 66% — ни уязвимость, ни ошибкаРазработка ПО · Кибербезопасность · Кризис мейнтейнеров · daniel.haxx.se ↗
- Европол переиздаёт доклад о дипфейках и убирает из него оценку будущей доли синтетического контента (в версии 2022 года — до 90% к 2026 году) как взятую из неточного источникаМедиа и информация · Выборы и политика · Теория мёртвого интернета · europol.europa.eu ↗
- Гарвардская школа бизнеса: создать заново широко используемый открытый код стоило бы $4,15 млрд, а его ценность для пользователей — $8,8 трлн; без него компании тратили бы на ПО в 3,5 раза большеРазработка ПО · Бизнес и рынки · Открытый код · hbs.edu ↗