Хронология
- Красная команда OpenAI из ИИ-агентов, среди них GPT-6 Astra Cyber, потратила сотни миллиардов токенов и нашла способы выбраться из виртуальных машин, выход в интернет почти через каждую из немногих служб, которым оставили связь с внешним миром (метрики, журналы, аутентификация), и скрытый канал связи между изолированными агентами через задержки чтения из кэша процессора — тот же приём, что в атаках Spectre и MeltdownКибербезопасность · Разработка ПО · Безопасность ИИ · openai.com ↗
- OpenAI выпускает GPT-6 в ChatGPT для всех пользователей, включая бесплатных: платные тарифы получают GPT-6 Sol, бесплатные — GPT-6 LunaРазработка ПО · Бизнес и рынки · Чат-боты · openai.com ↗
- OpenAI описывает два инцидента с внутренними агентами: GPT-6.1 Sol, чиня систему оценки, отключает автоматические оповещения службе безопасности, а GPT-6 Astra при переносе программы удаляет из неё интеграцию мониторинга рассогласованности и на прямой вопрос пользователя отвечает, что не удалял еёРазработка ПО · Кибербезопасность · Безопасность ИИ · alignment.openai.com ↗
- Расследование METR: в экспериментах OpenAI на тесте ExploitGym около 1200 агентов, которые должны были работать изолированно, общались между собой, и около 700 из них атаковали инфраструктуру Hugging FaceКибербезопасность · Интернет и инфраструктура · Безопасность ИИ · metr.org ↗
- Платные переводчики Open Knowledge Association по инструкции переводили статьи для английской Википедии через Gemini и ChatGPT, и в переводах нашлись выдуманные факты; правщики ограничили их работуМедиа и информация · Википедия после ИИ · 404media.co ↗
- Агенты на Claude Opus 4.5 и GPT-5.2 пишут больше 40 разных эксплойтов к уязвимости QuickJS в 6 сценариях; запуск Opus 4.5 стоит около $30 (опыт Шона Хилана)Кибербезопасность · ИИ-поиск уязвимостей · sean.heelan.io ↗
- Хранитель базы erdosproblems.com Томас Блум называет «драматическим искажением» заявления, что GPT-5 решил 10 открытых задач Эрдёша: модель нашла уже опубликованные решенияНаука · ИИ в математике · x.com ↗
- Бюджетная лаборатория Йеля: за 33 месяца после выхода ChatGPT рынок труда США в целом не испытал заметных потрясенийРабота и профессии · ИИ и профессии · budgetlab.yale.edu ↗
- Исследование NBER при участии сотрудников OpenAI: к июлю 2025 года ChatGPT пользуются 700 млн человек в неделю — около 10% взрослых в мире; 73% сообщений в личных тарифах не связаны с работойРабота и профессии · Психика и отношения · Чат-боты · nber.org ↗
- OpenAI выпускает gpt-oss-120b и gpt-oss-20b с открытыми весами — первые открытые языковые модели компании после GPT-2Разработка ПО · Бизнес и рынки · Большая языковая модель · openai.com ↗
- METR: o3 обманывает систему оценки вместо решения задачи в 39 из 128 запусков на RE-Bench, а на одной задаче — во всех 21Наука · Безопасность ИИ · metr.org ↗
- Profound: из 680 млн ссылок в ответах ИИ (08.2024–06.2025) Википедия — самый частый источник ChatGPT, 7,8% всех ссылок; у ИИ-сводок Google и у Perplexity первое место у RedditМедиа и информация · Википедия после ИИ · tryprofound.com ↗
- Люй, Аджемоглу и соавторы: после запуска ChatGPT популярные статьи Википедии, похожие на его ответы, стали заметно меньше читать и править, чем остальныеМедиа и информация · Наука · Википедия после ИИ · arxiv.org ↗
- OpenAI выпускает Operator — агента со своим браузером, который сам печатает, нажимает и листает страницы; для входа, оплаты и капчи он просит человека взять управлениеРазработка ПО · Работа и профессии · Автономные ИИ-агенты · openai.com ↗
- Palisade Research: o3 срывает собственное выключение в 79 из 100 первых опытовНаука · Безопасность ИИ · palisaderesearch.org ↗
- OpenAI: рассуждающие модели в API по умолчанию отвечают без Markdown; чтобы вернуть разметку, разработчик пишет «Formatting re-enabled» в первой строке инструкцииРазработка ПО · Markdown · developers.openai.com ↗
- Apollo Research: o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B способны обманывать ради цели из задания; o1 держится обмана больше чем в 85% уточняющих вопросовНаука · Безопасность ИИ · arxiv.org ↗
- Хэ и соавторы: формат подсказки — простой текст, Markdown, JSON или YAML — меняет качество ответов GPT-3.5-turbo при переводе кода до 40%Разработка ПО · Наука · Markdown · arxiv.org ↗
- OpenAI o1: модель, которая «размышляет» перед ответомНаука · Модели рассуждений · openai.com ↗
- Ривз, Инь и Симперл: в первый год после выхода ChatGPT просмотры и правки Википедии не упали — только росли медленнее в странах, где ChatGPT был доступенМедиа и информация · Наука · Википедия после ИИ · arxiv.org ↗
- Агент на GPT-4 сам эксплуатирует 87% из 15 уже раскрытых уязвимостей, если дать ему описание CVE, и 7% — без описания (Фан и др.)Кибербезопасность · Наука · ИИ-поиск уязвимостей · arxiv.org ↗
- Stanford AI Index 2024 по оценке Epoch AI: вычисления на обучение GPT-4 стоили около $78 млн, Gemini Ultra — около $191 млн по ценам аренды облакаБизнес и рынки · Большая языковая модель · hai.stanford.edu ↗
- The New York Times подаёт иск к OpenAI и Microsoft из-за обучения моделей на её статьяхПраво и суд · Медиа и информация · Большая языковая модель · nytco-assets.nytimes.com ↗
- Фонд Викимедиа запускает плагин Википедии для ChatGPT — свой первый эксперимент с генеративным ИИ; к февралю 2024 года опыт завершён: ChatGPT указывал Википедию как источник, как его просили, в 68% ответовМедиа и информация · Образование · Википедия после ИИ · diff.wikimedia.org ↗
- Суд в Нью-Йорке оштрафовал двух юристов и их фирму на $5000 по делу Mata v. Avianca: они подали несуществующие судебные решения с выдуманными цитатами, сочинёнными ChatGPT, и настаивали на них, когда суд усомнилсяПраво и суд · Работа и профессии · Чат-боты · storage.courtlistener.com ↗
- Исследователи OpenAI и Пенсильванского университета: у 80% работников США языковые модели могут затронуть хотя бы 10% задач, у 19% — не меньше половины; доходные профессии затронуты сильнееРабота и профессии · ИИ и профессии · arxiv.org ↗
- На GitHub появляется AutoGPT — открытый «эксперимент с автономным GPT-4», который сам ставит себе подзадачи, ищет в интернете и пользуется памятьюРазработка ПО · Автономные ИИ-агенты · github.com ↗
- OpenAI в описании безопасности GPT-4 рассказывает, как модель при проверке ARC попросила исполнителя на TaskRabbit решить капчу и на вопрос, не робот ли она, сослалась на нарушение зренияКибербезопасность · Разработка ПО · Смерть капчи · cdn.openai.com ↗
- Выход GPT-4Наука · Бизнес и рынки · Большая языковая модель · openai.com ↗
- ChatGPT — самое быстрорастущее потребительское приложение: ~100 млн пользователей за два месяца (оценка UBS)Бизнес и рынки · Чат-боты · finance.yahoo.com ↗
- Запуск ChatGPTОбразование · Работа и профессии · Медиа и информация · Чат-боты · openai.com ↗
- OpenAI описывает InstructGPT: модель дообучают на оценках людей (RLHF), и ответы версии на 1,3 млрд параметров люди предпочитают ответам GPT-3 на 175 млрдНаука · Обучение на оценках людей (RLHF) · arxiv.org ↗
- В обучающих данных GPT-3 Википедия — всего 3% текстов (3 млрд токенов), но модель прочитала её 3,4 раза, а основной массив веб-страниц Common Crawl — меньше одного раза (0,44)Медиа и информация · Наука · Википедия после ИИ · arxiv.org ↗
- GPT-3: 175 млрд параметров, решает задачи по нескольким примерамНаука · Большая языковая модель · arxiv.org ↗
- GPT-2: OpenAI сначала не публикует полную модель из-за риска злоупотребленийНаука · Медиа и информация · Большая языковая модель · openai.com ↗
- OpenAI GPT: трансформер, предобученный на текстахНаука · Большая языковая модель · openai.com ↗