Кто мы
Сценарий AI 2027 — первый крупный релиз AI Futures Project. Мы новая некоммерческая организация, прогнозирующая будущее ИИ. Этот сайт мы создали вместе с Lightcone Infrastructure.
Связаться с нами
С нами можно связаться по адресу info@ai-futures.org. Будем рады услышать вас.
Если хотите прогнать наше настольное учение (или попросить нас провести его для вас), пожалуйста, заполните эту форму.
Если хотите включиться в движение к хорошему AGI-будущему, мы написали пост Что можно сделать с AI 2027.
Если вам интересно работать с нами, смотрите наши открытые позиции.
Мы принимаем пожертвования онлайн или через крупных DAF-провайдеров (EIN 99-4320292, AI Futures Project Inc, прежде Artificial Intelligence Forecasting Inc).
Наша команда
Daniel Kokotajlo, исполнительный директор: Дэниел отвечает за наши исследования и рекомендации по политике. Прежде он работал в OpenAI исследователем управления над сценарным планированием. Уходя из OpenAI, он призывал к большей прозрачности ведущих ИИ-компаний. В 2021 году он написал "What 2026 Looks Like", ИИ-сценарий-прогноз на 2022–2026, который хорошо выдержал проверку. Смотрите также его профиль Time100 AI 2024.
Eli Lifland, ведущий исследователь: Илай занимается сценарным прогнозированием и специализируется на прогнозе способностей ИИ. Он также сооснователь и советник Sage, которая делает интерактивные объяснения об ИИ. Прежде он работал над Elicit, ИИ-ассистентом исследователя, и со-создал TextAttack, Python-фреймворк для состязательных примеров в тексте. Он первый в абсолютном зачёте прогнозной инициативы RAND.
Thomas Larsen, ведущий исследователь: Томас занимается сценарным прогнозированием и сосредоточен на понимании целей и реальных воздействий ИИ-агентов. Прежде он основал Center for AI Policy, организацию адвокации безопасности ИИ, и занимался исследованиями безопасности ИИ в Machine Intelligence Research Institute.
Romeo Dean, исследователь: Ромео специализируется на прогнозировании производства и использования ИИ-чипов. Он с отличием окончил Гарвардский университет с совместной магистратурой по информатике и исследовательским фокусом на безопасности и железе. Прежде был стажёром по ИИ-политике в Institute for AI Policy and Strategy.
Lauren Mangla, главный операционный директор: Лорен занимается коммуникациями, отношениями с медиа, наймом и настольными учениями и руководит командой операций. Прежде в Constellation, исследовательском центре безопасности ИИ, она принимала стратегические решения о членстве и мероприятиях. До этого она была исполнительным директором Supervised Program for Alignment Research (SPAR), стипендии по безопасности ИИ. Также она стажировалась в NASA и в нью-йоркской политике и правительстве.
Вклад
Daniel Kokotajlo, Eli Lifland, Thomas Larsen и Romeo Dean написали содержание сценария и финалов. AI 2027 опирается на опыт более дюжины настольных учений с сотнями разных людей. Jonas Vollmer давал обратную связь на протяжении всего процесса, помогал проводить учения и помогал строить сайт.
Oliver Habryka, Rafe Kennedy и Raymond Arnold из Lightcone Infrastructure построили и спроектировали сайт. Scott Alexander вызвался переписать наш текст живым языком; смешные места в тексте принадлежат ему, скучные нам.
FutureSearch предоставил независимое прогнозирование для наших исследований сроков, взлёта и выручки. Спасибо Tom Liptay, Finn Hambly, Sergio Abriola и Tolga Bilge за предоставленные прогнозы.
Большое спасибо многим людям, дававшим обратную связь на ранние черновики сценария и сайта; особая благодарность Lisa Thiergart и David Abecassis за идеи и обратную связь на раннем этапе. Дэвид написал альтернативную ветку сценария, которую можно посмотреть здесь. Спасибо также Nikola Jurkovic за соавторство в прогнозе сроков и Jason Hausenlow за помощь с разными частями процесса.
За время написания текст прочитали сотни людей. Некоторые согласились быть упомянутыми на нашем сайте поимённо. Спасибо всем:
Ada Lin, Adam Binksmith, Aidan O'Gara, Ajeya Cotra, Alice Schwarze, Alvin Ånestrand, Andreas Stuhlmüller, Anton Korinek, Aryan Bhatt, Augene Park, Ben Hayum, Ben Hoskin, Buck Shlegeris, Carl Shulman, Caroline Jeanmaire, Cheryl Luo, Coby Joseph, Daan Juijn, David Kasten, Evan R. Murphy, Gary Marcus, George Adamopoulos, Gretta Duleba, Harrison Durland, Helen Toner, Holden Karnofsky, Ilene and John Pachter, Jack Morris, Jacob Lagerros, James Campbell, Jeffrey Wu, Joe Carlsmith, John-Clark Levin, Jonathan Happel, Jonathan Mann, Joseph Rogero, JS Denain, Julian Hazell, Jun Shern Chan, Ken Lifland, Kendrea Beers, Kyle Scott, Laura King, Lukas Finnveden, Lukas Gloor, Malo Bourgon, Matt Chessen, Matthew Kenney, Mauricio Baker, Miles Brundage, Nate Foss, Neel Nanda, Nicky Case, Nikola Jurkovic, Nuño Sempere, Ollie Stephenson, Oscar Delaney, Peter Hartree, Ramana Kumar, Richard Ngo, Rishi Gupta, Rose Hadshar, Rosie Campbell, Ryan Greenblatt, Sam Bowman, Samuel Hammond, Sebastian Schmidt, Siméon Campos, Sören Mindermann, Steve Newman, Steven Adler, Thomas Woodside, Tim Fist, Tolga Bilge, William MacAskill, Yoshua Bengio, Zershaaneh Qureshi, Zvi Mowshowitz.
Обновление, август 2025: мы больше не принимаем submissions по ставкам и наградам.
Мы призываем вас спорить с этим сценарием и оспаривать его. Мы хотим развернуть широкий разговор о том, куда мы движемся и как направлять развитие в сторону хороших вариантов будущего. Чтобы это простимулировать, мы объявляем программу ставок и наград:
Если вы найдёте ошибку в нашей работе, мы заплатим вам 100 долларов.
Если вы измените наше мнение по важному прогнозу так, что мы написали бы сценарий существенно иначе, мы заплатим вам минимум 250 долларов.
Если вы не согласны с прогнозом, мы с радостью заключим пари.
Если вы можете написать качественный альтернативный сценарий, мы заплатим вам 2500 долларов. Примеры прошлых альтернативных сценариев, соответствующих нашей планке: How AI Might Take Over in 2 Years, A History of The Future и AI and Leviathan.
Подробнее здесь.
Мы разработали и провели более 30 итераций настольного учения (TTX), симулирующего развитие AGI. Мы нашли его полезным для собственного мышления о том, как может пойти AGI, как и многие из наших участников. Среди прошлых участников: исследователи из OpenAI, Anthropic и Google DeepMind, сотрудники Конгресса и журналисты.
TTX начинается в апреле 2027 года нашего сценария. Американская AGI-компания только что построила сверхчеловеческого программиста. Китай дышит в затылок и успел украсть веса ИИ, что позволяет ему запускать собственную версию. Исследования с обеих сторон серьёзно ускоряются внутри компании.
Мы начинаем с этого состояния, потому что это последний период в нашем сценарии, который ощущается хоть сколько-то близким к надёжному прогнозу. Маловероятно, что произойдёт крупное государственное вмешательство до того, как кто-то построит автоматического инженера-исследователя; маловероятно, что безопасность в любой AGI-компании станет достаточно хорошей, чтобы остановить Китай в ближайшем будущем; а гонка AGI, похоже, уплотняется. Но после апреля 2027 крупные правительства начнут рассматривать крайние шаги.
Каждое TTX другое. Большинство итераций учения заканчиваются появлением суперинтеллекта. Иногда правительства спят за рулём, отдавая власть ведущей компании. Иногда AGI следует человеческим намерениям, иногда мисалайнен. Всегда есть кибератаки, иногда Тайвань подвергается вторжению, а в нескольких случаях происходит эскалация до полноценной третьей мировой войны.
Если хотите провести это учение (или попросить нас провести его для вас), пожалуйста, заполните эту форму. Упражнение занимает 4 часа и рассчитано на 8–14 человек.
Журнал изменений
Изменения, внесённые в наши сценарии и исследования с момента первой публикации.
Июль 2026
7 июля
Сноска 75 исправлена на порядок. Заменено 100M->10M H100-эквивалентов, и соответственно FLOP/s изменён с 4e22 на 4e21.
В сноске 75 заменено "человеческий мозг использует примерно 1e15 FLOP/s компьют" на "человеческий мозг использует примерно 1e15 FLOP/s компьют (хотя диапазон может простираться до 1e21 FLOP/s)", чтобы отразить, что цитируемый источник подаёт 1e15 как грубую оценку с разбросом в несколько порядков.
В сноске 46 заменено "We scale these active parameters by sqrt(1000) to estimate 10T active parameters for Agent-2." на "We scale these active parameters by sqrt(1000) to estimate ~6.3T active parameters for Agent-2."
В сноске 75 заменено "(~100 GB chunks for a ~2.5 TB half-precision checkpoint)" на "(~100 GB chunks for a ~3 TB checkpoint)" на основе обновлённой оценки параметров из прогноза по компьюту (сноска 46).
В ответ на сообщение об ошибке добавлена сноска к предложению "it would be consistent for China to also implement a state-backed effort to achieve WSL3" с текстом: "After publishing, Rohin Shah pointed out that we model DeepCent reaching WSL3 in late 2026, slightly earlier than the early-2027 timing implied by the scenario, where China's weight-security hardening follows their relocation of researchers to the airgapped CDZ. We agree the early-2027 framing is more consistent, but the gap is minor, so we've left the figures unchanged."
Март 2026
5 марта
В ключевых метриках 2026 изменено $45B годовой выручки OpenBrain (цифра была основана на старых годовых показателях и потому не согласовалась с боковой панелью) на $35B
2 марта
Уточнение, начинающееся с "(Добавлено 22 ноября 2025, чтобы избежать недопонимания", перенесено из предисловия в конец вкладки "Что это такое?".
Февраль 2026
25 февраля
Все эти правки очень мелкие и касаются раскрывающихся блоков и исследовательских приложений, а не основного текста сценария
Январь 2026
27 января
В сноске 3 заменено "Specifically, our medians ranged from 2028 to 2035" на "Specifically, our medians ranged from 2028 to 2032." Цифра 2035 основывалась на ошибочном понимании взглядов одного из соавторов на момент публикации.
26 января
В предисловии заменено "For our updated Dec 2025 views, see here" на "For our latest forecasts, see here" Смена URL делает так, что страница содержит прогнозы и Дэниела, и Илая, тогда как раньше содержала только Илая.
21 января
Заменено "Added Nov 22 2025: To prevent misunderstandings: we don't know" на "Added Nov 22 2025, to prevent misunderstandings: we don't know"
19 января
При наведении на чистый рейтинг одобрения на боковой панели добавлено: "Добавлено в янв 2026: Мы говорим, что у OpenBrain -25% чистого одобрения в апр 2025, но теперь мы считаем, что чистое одобрение было скорее около +15%, так что наши оценки были занижены." Изначально мы использовали вопрос из этого опроса об одобрении OpenAI, но перед этим вопросом респондентам рассказывали негативные вещи о поведении OpenAI в безопасности, так что это неточное представление неприкреплённых взглядов людей. Тем временем этот менее наводящий опрос показывал одобрение OpenAI на +17%.
7 января
Jonas Vollmer заменён на Lauren Mangla.
5 января
Заменено "For more detail on our views, see here." на: "For our updated Dec 2025 views, see here." Также сноска 3 перенесена в конец предыдущего предложения вместо конца этого. Второе предложение в сноске 3 изменено на: "See here for more information about what we were/are confident about, and what we aren't." (и "moved it" изменено на "added a clarification" в первом предложении.)
Декабрь 2025
31 декабря
В начало прогнозов сроков и взлёта добавлено: "Обновление от 31 дек 2025: мы опубликовали переработанную модель сроков и взлёта на aifuturesmodel.com."
19 декабря
Формулировка изменена с "Department of Defense (DOD) quietly begins contracting OpenBrain..." на "Department of Defense (DOD) quietly but significantly begins scaling up contracting,"
К утверждению "if necessary, the government could use the Defense Production Act (DPA) to take trailing companies’ datacenters and give them to OpenBrain" добавлена сноска, также говорящая: "Мы сами не юристы, и политики, с которыми мы говорим, расходятся о законности использования DPA для консолидации компьют: одни считают, что всё будет нормально, другие, что это не пройдёт. Наше мнение: вероятно, есть способ сделать это 'работающим', ЕСЛИ гендиректоры компаний содействуют, а может, и если нет. Важно, что (а) исполнительная власть может просто действовать и ждать, пока суды догонят, и (б) у POTUS много кнутов и пряников против больших технологических компаний, и он может комбинацией кнутов и пряников надавить на их гендиректоров, чтобы те сотрудничали и, скажем, не оспаривали его приказы в суде. Напоминание: мы делаем прогнозы, а не рекомендации."
К утверждению “Gigafactory Shanghai has an area of 4.5M sq ft” добавлена сноска: “Цифра 4,5 млн была основана на начальном размере фазы 1, но Gigafactory Shanghai теперь примерно вдвое больше. Это значит, что наша оценка была ошибочной в 2 раза, хотя мы всё ещё считаем общий вывод верным.”
Текст в этом выпадающем блоке изменён с: “We imagine the theft of the weights as a series of coordinated small smash and grab thefts (meaning fast but non-covert) … (from the first server compromise to full weights exfiltration) is complete in under two hours.” на “We imagine the theft of the weights as a series of coordinated small smash and grab thefts (meaning fast but non-covert) across a series of Nvidia NVL72 GB300 servers running copies of the Agent-2 weights. The servers are compromised using legitimate employee access (a friendly, coerced, or unwitting insider with admin credentials helping the CCP theft effort). Insider credentials grant the attacker admin-level permissions to the servers. Using a microarchitectural side channel, the attacker extracts encryption keys from an Nvidia Confidential Computing-enabled Virtual Machine, allowing the them to intercept model weights as the VM is provisioned or updated. They initiate (or wait for) a routine update and exfiltrate the checkpoint in many small fragments, e.g., ~25 distinct servers each leaking ~4% of the model (~100 GB chunks for a ~2.5 TB half-precision checkpoint). The egress bandwidth of the entire datacenter is in the 100 GB/second range, so throttling to under ~1 GB/s per server avoids a major spike in network traffic; at that rate, each ~100 GB chunk can leave the datacenter in a couple of minutes. Live monitoring is either fooled by the attackers efforts to mask and split the transfers or outright disabled. The weights are then routed through various parallel channels and layers of IP masking to China to be decrypted locally with the stolen session key(s). The entire active part of the operation (from the first server compromise to full weights exfiltration) is complete in under two hours.” В конец первого абзаца выше добавлена сноска: “Thanks to Tjaden Hess for pointing out errors in an earlier version of this and thereby helping us improve the realism.”
16 декабря
- Убрать подпись неразмеченного сектора в части 2027 рис. 15 как “Rest of China”? - Изменить “Rest of Meta” на рис. 15 на 2M, чтобы соответствовать буллитам между рисунками и рис. 16 - Изменить “Rest of Google” на рис. 15 на 2M, чтобы соответствовать буллитам между рисунками и рис. 16 - Изменить % компьют Anthropic в 2027 в буллите #1 с 11% на 14%, % компьют xAI в буллите на “2% to 9%”, … - Тогда суммарный компьют на рис. 15 должен сойтись к 99M, что совместимо (с округлением) с таблицей в разделе 1, где суммарно доступных H100e в 2027 году 100M, а не 107M
В прогноз по компьюту добавлена сноска 14, уточняющая разницу трендов производительности чипов и эффективности чипов (которые случайно совпадают). Новая сноска 14: "Это можно посчитать, скачав исторические данные Epoch и разделив производительность FP16 и FP32 на площадь кристалла из данных по ML-железу, и построив тренд. Изначально я (Ромео) прикинул на глаз ~плоский тренд размера кристалла и тренды производительности чипов и предположил, что это тоже 1.35x/год, забыв проверить точно. К декабрю 2025, благодаря Robi Rahman, указавшему на это в этом посте в X, я наконец проверил точно и обнаружил, что это действительно тоже ровно 1.35x/год для наиболее релевантных/давних форматов точности. Больше объяснений и графиков в этом ответе в X."
12 декабря
В блоке "Почему мы прогнозируем сверхчеловеческого программиста в начале 2027" добавлен пропущенный пробел в "developed(added Dec 2025..."
График тренда временных горизонтов в блоке "Почему мы прогнозируем сверхчеловеческого программиста в начале 2027" изменён в соответствии с вопросами, разобранными в нашем ответе на критику titotal. Мы также добавили пояснение: "(добавлено в дек 2025: мы обновили график ниже из-за ошибки в построении исходной кривой и добавили фактическую траекторию из нашей модели сроков. Также добавлены траектории для медиан SC "с учётом всего" у Дэниела и Илая на момент публикации (апр 2025). И мы добавили новые точки данных METR, но траектории модели по ним не обновляли.)" Мы также добавили заметку, уточняющую взгляды "с учётом всего": "(добавлено в дек 2025: хотя, как отмечено в прогнозе сроков, поправка на факторы вне модели дала нам чуть более длинные медианы, например у Илая — 2030)."
4 декабря
Внесены изменения, описанные в нашем ответе на критику titotal.
Ноябрь 2025
22 ноября
В предисловие добавлен этот абзац: ("Добавлено 22 ноября 2025, чтобы избежать недопонимания: мы не знаем точно, когда будет построен AGI. 2027 был нашим модальным (наиболее вероятным) годом на момент публикации, наши медианы были несколько длиннее. Подробнее о наших взглядах смотрите здесь.)" И добавлена сноска 3, прикреплённая к концу предложения: "Конкретно, наши медианы простирались от 2028 до 2035. Когда AI 2027 был впервые опубликован, мы объяснили это в сноске 1 как выше, но, чтобы сделать взгляды яснее, мы перенесли это в текст предисловия. Мы работаем над сайтом, который будет отслеживать и объяснять наши взгляды "с учётом всего" на сроки ИИ по мере их обновления; мы дадим ссылку здесь, когда он будет готов." Мы убрали сноску у заголовка AI 2027, поскольку добавили этот абзац и сноску.
Сентябрь 2025
7 сентября
Добавлены запятые в "2025 May 7 update: Eli has, based on feedback, made..."
Август 2025
23 августа
На страницу "О проекте" добавлено: "Обновление, август 2025: мы больше не принимаем submissions по ставкам и наградам."
22 августа
Заменено 2x на 10x в: "From an informal Twitter poll re: increased speed from 2x compute..."
18 августа
5 августа
Над текстом сценария добавлена ссылка "Смотреть" на это YouTube-видео.
Июль 2025
28 июля
В правом верхнем углу "AI 2027" добавлена следующая сноска с тем же текстом, что и исходная сноска 1: "Мы отчасти расходимся между собой о сроках ИИ; наша медианная дата прихода AGI несколько длиннее, чем изображено в этом сценарии. Сценарий изображает нечто вроде нашей моды. Подробнее смотрите в нашем прогнозе сроков."
7 июля
Раньше мы непоследовательно использовали "US" и "U.S."
Заменено "...even if some elites wield more much power than other people." на "...even if some elites wield much more power than other people."
Абзац о вовлечении заменён на: "Если хотите включиться в движение к хорошему AGI-будущему, мы написали пост Что можно сделать с AI 2027."
2 июля
Текст внизу графика далее изменён на: "Прогноз: удвоения могут ускоряться из-за меньшего числа новых навыков, нужных на больших временах, и автоматизации исследований ИИ. Зелёная кривая по сути упрощённая версия полной модели сроков AI 2027. На момент релиза AI 2027 наша полная модель "беккастила" прошлые точки данных хуже этой кривой. С июля 2025 мы работаем над обновлениями."
1 июля
Изменения в графике тренда временных горизонтов в блоке "Почему мы прогнозируем сверхчеловеческого программиста в начале 2027": - Исправлен временной горизонт Claude 3.7 Sonnet. - Добавлена линия тренда METR. - Уточнено, что временной горизонт соответствует 80% успеху, наверху графика. - Нижний текст изменён на "Прогноз: удвоения могут ускоряться из-за меньшего числа новых навыков, нужных на больших временах, и автоматизации исследований ИИ. Тренд по сути упрощённая версия полной модели сроков AI 2027. (Добавлено в июле 2025: на момент релиза AI 2027 наша полная модель "беккастила" прошлые точки данных хуже этой кривой. Мы работаем над обновлениями.)" Добавлен абзац о майском обновлении прогноза сроков: "Добавлено в июле 2025: мы внесли обновления в прогноз, которые сдвигают медиану на 1,5 года позже, при этом SC в 2027 остаётся серьёзной возможностью. Мы работаем над дальнейшими обновлениями."
Июнь 2025
27 июня
Заменено: "Такова траектория способностей в нашем сценарии:" на: "Такова примерно траектория способностей в AI 2027. Вот траектория, сгенерированная упрощённой версией нашей модели сроков:"
23 июня
Заменено FLOPS->FLOP, число точек для Agent-1 уточнено
5 июня
Добавлены ограничения анализа множителя прогресса SC, начинающиеся с "Несколько ограничений этого анализа:", а именно: - Мы не учитываем, что сверхчеловеческий программист также немного поможет с выбором экспериментов, что указывает на более высокое значение. - Расширение использованной здесь модели даёт неправдоподобно высокий множитель прогресса для SAR ниже, что указывает на более низкое значение. Также убраны слова "чтобы слегка перестраховаться" из: "Мы прогнозируем 5x, чтобы слегка перестраховаться. Мы повторяем, что это просто догадка и что в реальности может быть существенно быстрее или медленнее."
Май 2025
28 мая
Улучшена агрегация мнений исследователей из опроса, который мы использовали для множителя прогресса SAR (лог-среднее вместо медианы) в нашем прогнозе взлёта. Это меняет медианную оценку для "метода 3" с 35 на 24.
Изменена ссылка в: "Здесь мы говорим только о втором, улучшении алгоритмов, которое даёт около половины нынешнего прогресса в ИИ." на этот новый пост.
Наше майское обновление сроков добавлено в приложение с прогнозом сроков.
18 мая
Заменён 1 миллион на "почти полмиллиона" с исправлением арифметической ошибки.
6 мая
Добавлено: "Мы принимаем пожертвования онлайн или через крупных DAF-провайдеров (EIN 99-4320292, AI Futures Project Inc, прежде Artificial Intelligence Forecasting Inc)."
3 мая
Сноска, начинающаяся с "Напомним, что временной горизонт..."
Апрель 2025
27 апреля
Изменено на: "Больше анализа этого риска в этом отчёте."
23 апреля
Округлены вверх прогнозы на дек 2024 и увеличены прогнозы на дек 2027 по мировой ИИ-мощности с 39 до 60 ГВт, мощности США с 31,5 до 50, ведущей американской компании с 5,4 до 10.
В частности, указано, сколько разнообразия экспертизы требуется.
22 апреля
Прогнозы с 2024 по 2027 увеличены на 4–20 млрд долларов.
21 апреля
18 апреля
14 апреля
Добавлено: "Если хотите провести наше настольное учение (или попросить нас провести его для вас), пожалуйста, заполните эту форму. Если хотите включиться, мы рекомендуем этот курс по управлению в ИИ, Horizon Fellowship, стипендию RAND по технологиям и политике безопасности или программу MATS."
10 апреля
Способности к программированию и взлому понижены на 0,03–0,24 в каждом из 10 периодов. Повышен % американцев, называющих ИИ важнейшей проблемой, до очень высокого ближе к концу сценария.
Убрано "FutureSearch estimate of gap size: 18.3 months [1.7, 58]." как оценка для "Других разрывов сложности задач."
Убрано "Детальные рассуждения для каждой оценки разрыва можно найти в следующих разделах."
Заменено "A full SC needs to do this faster and cheaper as well, but this will be discussed later." на "A full SC needs to do this faster and cheaper as well, but this will be accounted for later on in the time horizon extension method." и дополнена обрезанная сноска "Recall that the time horizon...".
9 апреля
Исправлен уровень отображения заголовков разделов прогноза сроков.
8 апреля
Отредактирован и слегка расширен абзац, начинающийся с "Насколько нам известно, ведущие ИИ-компании вроде Meta, Google DeepMind, OpenAI и Anthropic пока не реализовали эту идею во фронтирных моделях."
7 апреля
Поднято на 2–3% в каждом из 5 периодов.
Ради последовательности в неназывании политиков.
90-й перцентиль Илая "с учётом всего" изменён с 2050 на >2050.
4 апреля
3 апреля
Исправлена пропорция точек/коробок, чтобы соответствовать объёмам FLOP.
Добавлено "Если вы измените наше мнение по важному прогнозу так, что мы написали бы сценарий существенно иначе, мы заплатим вам минимум 250 долларов."
Это изменение для первого рисунка в прогнозе, суммирующего результаты.
Удалена сноска 34: "На деле 5% их штата это команда безопасности, но им всё равно в основном не дают внедрять политики, способные замедлить прогресс исследований. Подробности в нашем приложении о безопасности." и была она прикреплена к концу предложения: "Они упорно защищают свои веса и секреты от инсайдерских угроз и ведущих киберпреступных синдикатов (SL3),[^33] но защита от государств (SL4 и 5) едва просматривается на горизонте."
А также более точное описание оценок RE-Bench, в частности добавлено: "Мы фокусируемся на подмножестве из 5 из 7 задач RE-Bench из-за проблем со счётом в оставшихся двух и будем называть это подмножество "RE-Bench" в остальной части отчёта. Конкретно, мы исключаем Scaling Law Experiment, потому что она достаточно легка, чтобы модели справлялись удачей, и не подходит для скаффолдинга Best-of-K, и исключаем Restricted MLM Architecture, потому что Claude 3.7 Sonnet стабильно жульничает в этой задаче, и METR пока не смогла промптнуть модель делать задачу без жульничества."
Убран маркер "CITE" из "Plato (CITE the Republic)", заменено на 'Платона, "Государство"'. И закончено незаконченное предложение: "Гипотеза \#2 именно о более радикальной возможности, что Agent-3 встанет на сторону замыслов разработчиков даже в случаях, где они конфликтуют со спекой."
Самое главное: указано, что мы исключаем Scaling Law Experiment и Restricted MLM Architecture из-за проблем со счётом.
Заменено "research with steering vectors" на "research with steering vectors".