77201
Канал SeeAll'а с новостями (и мыслями о них) из мира NLP, VR и космоса. Более подробно смотри в первом сообщении в канале (оно закреплено). А еще у нас есть чат! Заходи: https://t.me/+i_XzLucdtRJlYWUy
Вышла Kimi K3.1 Pro.
Веса выложат 4-го ноября, пока можно поиграться на официальном сайте/платформе (и наверное у партнёров тоже будет). Цена по API меньше, чем была у K3.
Есть режим Kimi K3.1 Pro Highspeed со скоростью генерации в 2-3 раза выше (интересно, от какого бейзлайна? у Kimi K3 показывает, что было ~40 TPS на OpenRouter). Цена тут чуть выше чем была у K3 до этого.
Я уже начал составлять табличку с бенчмарками Kimi K3, чтобы оценить, как она по итогу за 3 месяца показала себя, была ли «фронтиром» или нет 👀👀
Уязвимости, конечно, нашли не люди: https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities/ (пишут, что Sol-5.6, то есть достаточно старая и «слабая» по меркам текущего фронтира модель)
> Учитывая серьезность этих уязвимостей и широкое распространение PHP, мы считаем это одной из самых серьезных проблем безопасности за последнее время. Она подчеркивает, как ИИ может выявлять уязвимости безопасности, имеющие масштабы, сопоставимые с интернетом, но те же возможности могут также помочь злоумышленникам быстро разрабатывать инструменты и эксплойты для атак.
Это была двухмесячная инициатива OpenAI и группы специалистов по информационной безопасности из разных компаний и проектов.
В целом можно сказать «отскочили», так как уязвимости нашли белые, а не чёрные шляпы или ИИ-агенты, которые могли бы положить половину интернета — как недавно предрекал Dario Amodei 😳 но сколько таких уязвимостей ещё осталось?
🚀 Ловле Starship быть!
Выступая на финансовом отчёте Илон Маск и Гвинн Шотвелл подтвердили, что уже в следующем запуске Starship SpaceX попробует поймать башней и корабль, и ускоритель. Для этого компания уже сейчас ведёт переговоры с регуляторами для получения разрешения на возврат обеих ступеней в Starbase.
Главный инженер оценивает вероятность успеха как "скорее да, чем нет", а сам запуск по прежнему запланирован на ноябрь. Заранее скрестим пальцы на удачу 🤞
Также SpaceX показала анимацию возврата корабля на башню, а также поделилась рекапом Starship Flight 14.
#SpaceX #Starship #Flight15 #B22 #S42 🦅
📰 Подпишитесь на 📱 @SpaceX_rus и 📱 space_weex">наш YouTube!
В это сложно поверить, но ровно через месяц, в этот день в этот час, я, как и десятки тысяч других людей, наконец-то буду запускать GTA VI.
Почти дождались, а пока — вот вам трек дуэта Justice, который занимался написанием оригинального саундтрека к игре. Первый трек у них вышел невероятным, слушаю последние 3 дня, из головы не выходит.
Надеюсь, что и остальные будут такими же — последней игрой, из которой я забрал себе 5+ треков, была Deathloop в 2021-м, it's been a while!
Прикольное фото с первой большой конференции по AI Safety в 2015 году. Слева направо обведены: Демис Хассабис, Илья Суцкевер, Илон Маск (через пару месяцев эти двое создадут OpenAI), Элиезер Юдковский.
Это из хорошей статьи Скотта Александра про то, почему тезис "нагнетание паники вокруг рисков ИИ является всего лишь корпоративной уловкой для разгона капитализации AI-лаб" очень плохо согласуется с фактами: https://www.astralcodexten.com/p/ai-safety-is-not-a-corporate-plot
Пока что самым сильным индикатором уровня задач, решения которых выложили OpenAI, является эта история.
Hugo Duminil-Copin, математик, получивший Филдсовскую премию в 2022-м году, поделился, что плакал после того, как увидел релиз OpenAI, настолько громко, что разбудил дочь. Среди решённых задач были как минимум 16 тех, над которыми он сам работал (и видимо какое-то время не мог решить) — что для меня является показателем их близости к актуальному исследовательскому уровню и прокси к их сложности.
«Они уничтожили мою область исследований», — заявил он на видео-конференции. Он также показал слайд, на котором был изображен кролик, раздавленный несколькими грузовиками. «Они хотели доказать, что могут нас уничтожить».
Ситуация грустная, но что поделать 🤷♂️
Я уже давно уговариваю Пашу @RationalAnswer сесть и написать глубокий анализ финансовой составляющей ИИ-индустрии, расходов на строительство ДЦ, закупку карт, как это соотносится со спросом итд. Вот чтоб прям основательно. К сожалению, пока к этому не пришли, поэтому придется делать разбор статьи Financing the AI Buildout, подготовленной для BPEA (авторитетный академический журнал и конференция по макроэкономике).
Признаюсь, что я не читал все 29 страниц, а выборочно глянул самое интересное, поговорил с GPT и составил для себя такое понимание их модели:
1. К 2032-му в США планируется ввести в эксплуатацию 183 ГигаВатта датацентров.
2. 1 ГВт ДЦ стоит примерно 41 миллиард долларов (примерно соответствует другим оценкам, которые я видел).
3. Отсюда с учётом инфляции приходят к цифре суммарных затрат $8.5T
4. С учётом стоимости капитала (проценты, которые можно было бы получать в других инструментах) в 10% годовых выходит, что чтобы окупить затраты, нужна выручка в $9.6T (за все годы), или ~$1.86T в год в 2032-м при росте, пропорциональном росту мощностей. 10% годовых это много — 30-летние облигации США сейчас дают 5.6%, поэтому условная META может привлечь финансирование для своего датацентра Hyperion под 6.58%. Но я писал выше в канале, что из-за прибыльности инференса ИИ ставка может разгоняться (и что это может быть плохо для экономики).
5. Дальше автор предполагает целевую маржу в 50%, поэтому цифру $1.86T умножает на два и получает $3.73T выручки от AI в год — столько нужно будет получать индустрии, чтобы окупить затраты на инфраструктурный бум ИИ.
6. Но это в свою очередь означает, что на выручка от AI должна быть ~9.2% от ВВП США, то есть ОЧЕНЬ много. Для сравнения, это масштаб, сопоставимый со всей обрабатывающей промышленностью. Финансы и страхование сейчас 8.1% ВВП США, недвижимость и аренда — 13.7%.
В целом логика понятная и цифры более-менее не притянуты с потолка.
Мне кажется, что с одной стороны выручка и вправду может быть такой (и даже больше), но при этом если мы говорим про «просто отбиться и существовать, а не прогореть», то:
1. Компании могут не целиться в операционную маржу 50%, это очень много. Может быть 15% (и значимая часть этого уйдет на компенсации/итд), тогда цифры сильно меньше: $2.14T/год — на 1.6 триллиона долларов меньше.
2. Я действительно не думаю, что все, кто сейчас планирует строить датацентры, построит их. Кто-то действительно прогорит и не сможет вытянуть — я лишь думаю, что это не будут OpenAI, Anthropic, и скорее всего Meta / Google, может даже SpaceX.
3. По текущим планам Astra 6 Pro насчитала, что к 2032-му OpenAI и Anthropic будут иметь примерно 85 ГигаВатт датацентров — больше трети от общего объёма в статье. Тогда чтобы окупить это, нужны «смешные» 980 миллиардов выручки в год к 2032-му на две компании в сумме. Сейчас этот показатель где-то в районе $140B — ровно в 7 раз меньше. Но есть целых 6 лет, чтобы вырасти 😳
В общем я бы сказал, что эта аналитика скорее добавляет позитива и показывает, что траты на ДЦ очень даже приземленные, если верить, что спрос будет продолжать расти — тогда все легко окупится.
А Dylan из SemiAnalysis на недавнем интервью вообще сказал, что ожидает суммарный ARR двух компаний в $600-700B в конце следующего года. Его оценка, скорее всего, результат скрещения внутренних прогнозов компаний + наращивания мощностей для обслуживания спроса.
Это «всего лишь» рост в 4.3-5 раз за 14 месяцев, что вполне может произойти (вполне в значении «шанс далеко ненулевой, но не гарантировано»).
И моё мнение про то, что написал Terence Tao (или вернее как я понял, что он написал). В комментариях его многие назвали луддитом, но мне не кажется, что это так. Он не призывает остановить прогресс и отказаться от AI, он говорит (и это самая важная часть его сообщения):
> Я скорблю ... о том, как можно было бы использовать эти инструменты для развития сотрудничества и обмена знаниями, а не конкуренции и секретности. О том, как можно было бы открывать новые двери, не закрывая старые.
То есть он не против инструмента (AI) и его внедрения, он лишь против текущего выбранного подхода, когда открытые задачи в первую очередь решаются закрытыми моделями компаний с огромным ресурсом, и сообществу останутся крохи, которые «не дожали» внутри фронтир-лаб. Если бы этого не происходило, а вместо этого компании давали бесплатную подписку всем учёным в каждом университете — многие из открытый совершались бы людьми в коллаборации с AI.
Я вижу в этом две большие проблемы:
— (минорно) не ясно зачем задерживать доказательства до тех пор, пока их получат вне стенок OpenAI/Anthropic. Чтобы... люди чувствовали себя частью прогресса? Чтобы молодые учёные могли сделать себе имя? Чтобы эти же молодые учёные учились через поиск решений новыми инструментами и вырастали в математиков? А нужны ли будут математики умеющие доказывать что-то, или может им стоит всем готовиться задавать вопросы и разрабатывать теории? (как раз по эссе выше)
— (мажорно) даже если этим не будут заниматься OpenAI и Anthropic, с которыми я верю, что можно будет договориться, доказательства будут находиться и публиковаться другими компаниями. Уже есть куча стартапов вроде AxiomMath, которые поднимали десятки-сотни миллионов долларов на AI for math. Они точно имеют больше ресурсов, чем какая-то кафедра вне топ-университета. Договориться и с ними тоже? Тогда найдутся те, кто имеет миллионы долларов и хочет сделать себе имя. В общем есть много ступенек между «бедный студент на кафедре» и «OpenAI», и я с трудом вижу, как можно сделать так, чтобы всё доходило до первого и не спотыкалось в середине, и чтобы не было дискриминации по бюджету, который можно вбухать в вызовы роя агентов передовых моделей (если к этому сведётся нахождение многих решений).
Поэтому мне интересно будет следить за позицией Tao и других учёных с именем, какие они предложения будут вносить, и каково их видение ближайшего будущего. Но пока что мнение из эссе выше («отпустить машины и дать им дойти до куда они могут, а потом начать математику оттуда») мне нравится больше.
Возвращаясь к математике, я прочитал разные мнение, и одним из самых откликнувшихся оказался блог «To grieve, or not to grieve?» от Kevin Buzzard, основателем проекта Xena, цель которого — оцифровать всю современную математику, переводя теоремы и доказательства с человеческого языка на Lean. Хоть он и не является основателем Lean, он активный контрибьютор, и именно в рамках Xena делается библиотека примитивов mathlib для Lean, на которую можно опираться при составлении своих доказательств.
Kevin описывает 5 классических стадий принятия, и подмечает, что сейчас разные математики находятся на разных уровнях:
— кто-то, например та самая «организация людей-математиков», находится в отрицании
— кто-то пытается торговаться, например, группа математиков, которые «дают рекомендации» OpenAI (но те не обязаны их соблюдать). Они тоже не рады слоп-дропу 700+ статей, и ратовали за другой подход, хотя в целом понимают, что с AI математика теперь уже навсегда.
— многие пост-доки и PhD в депрессии
Профессор Buzzard задаётся филосовским вопросом: а зачем мы вообще занимаемся математикой? «Думаю, несколько лет назад многие математики с радостью согласились бы с тем, что математическое сообщество вручает самые престижные премии и награды тем, кто доказывает самые сложные теоремы. Однако теперь, когда сложные теоремы доказывает ИИ, мы, похоже, тратим много времени на объяснение того, что на самом деле эти награды и премии вручаются тем, чьи идеи позволяют нам глубже понять нашу область науки».
Часто цитируют эссе 1994 года «О доказательстве и прогрессе в математике», где выражается мнение, что «дело не в количестве теорем, а в человеческом понимании» — эта цитата даже висит на картинке в шапке блога Terence Tao. Но дальше Kevin приводит личный пример, когда во время работы над докторской руководитель советовал ему не разбираться в одной из ключевых работ, потому что тот не успел бы и копнуть глубоко, и написать докторскую. Kevin признается, что он до сих пор так и не вернулся к той теореме — так «понимает» ли он свою работу?
А кто понимает доказательство Великой Теоремы Ферма? Сам Kevin понимает лишь узкую часть того доказательства, потому что полное решение безумно сложно и требует невероятной ширины знаний — хотя он по теме Великой Теоремы Ферма читал блок лекций. Тут я от себя добавлю, что многие результаты ИИ как раз и приходятся на стыки нескольких направлений, и что часто один человек просто не может преуспеть и там, и там, чтобы прийти к открытию. Поэтому и полноценная человеческая проверка самых значимых работ, опубликованных OpenAI, может занять ОЧЕНЬ много времени.
Сам Terence этот пост не прокомментировал, так что можно спекулировать, согласен ли он с этим или просто делится точками зрения (он уже так делал в блоге). Но есть его другой полный комментарий (в сборнике более чем сотни реакций других исследователей):
Мои чувства по поводу последних событий очень противоречивы и сложны.Читать полностью…
С одной стороны, многие доказательства, полученные ИИ, по-видимому, содержат новые, остроумные идеи, которые принесут немало пользы, когда мы их осмыслим. При этом они опираются на труды бесчисленных математиков прошлого и настоящего. Но в то же время меня глубоко разочаровывает то, что, в отличие от традиционных научных прорывов, никто из людей, причастных к этим доказательствам, не может ответить на вопросы, выступить с докладом, поучаствовать в конференциях, отправить статью в научный журнал, обучать студентов или каким-либо другим образом участвовать в дальнейшем развитии этих результатов.
Точно так же меня воодушевляет перспектива того, что научное сообщество сможет использовать эти инструменты для реализации амбициозных, масштабных проектов, о которых раньше нельзя было даже мечтать. Но меня ужасает мысль о том, сколько человеко-лет терпеливой, кропотливой и намеренно неспешной исследовательской работы — особенно аспирантов и постдоков — над важными математическими проблемами может быть вот так запросто нарушено или перечёркнуто подобной публикацией.
Подобно тому, как невозможно забыть спойлер к фильму или подсказку к кроссворду, невозможно исследовать математическую проблему столь же плодотворно и глубоко, когда тебе уже известно её решение. Да, можно по-прежнему анализировать и осмыслять готовый ответ. Но лучшая возможность для этого возникает именно в момент открытия, и такие моменты всё чаще оказываются упущены, когда сам процесс открытия полностью поручают ИИ.
И я скорблю о пути, который мы не выбрали, и о возможностях, потерянных в безумной гонке за развитием этой технологии.
О том, как лаборатории могли бы предоставлять свои передовые модели независимым исследователям для полноценной научной оценки. О том, как можно было бы координировать усилия с научным сообществом, чтобы эти инструменты дополняли и расширяли возможности человеческих исследователей и помогали им в работе, а не конкурировали с ними. О том, как можно было бы использовать эти инструменты для развития сотрудничества и обмена знаниями, а не конкуренции и секретности.
О том, как можно было бы открывать новые двери, не закрывая старые.
Но мы оказались не на этом пути.
И теперь научному сообществу как никогда необходимо объединиться. Чётко сформулировать собственные стандарты и ценности, создавать собственные инструменты и практики, поддерживать наиболее уязвимых своих участников и самостоятельно определять путь вперёд.
Давайте приступим к работе.
Но этот подход сработал, пока статья была одна и решений была парочка; но что если взять мощные внутренние модели фронтир компаний и пройтись по широкому набору открытых проблем? Так сделали OpenAI: они взяли ту же модель, что решила задачу тысячелетия в начале сентября и пропустили через неё примерно 4000 задач. Количество мощностей почти на каждую задачу было относительно маленьким: вместо роя из тысяч агентов всего лишь аналог ~3 часов работы GPT Pro (это которая запускает несколько суб-агентов в паралелль, и в целом доступна в подписке за $100/$200).
Получилось решить 372, и по этим результатам LLM написали 719 статей (сами решения + сопутствующие аргументы, следствия или альтернативные доказательства).
Перед OpenAI встал выбор: а чо делать та)
В прошлый раз, когда они выложили один (1) результат по Навье-Стоксу — на них ополчилась часть математического сообщества. Не все были довольны, особенно те, кто работал в том же направлении. А тут целых 372 результата — это же сотни рабочих групп, от студентов до докторов наук, по всему миру. Они вот сидели работали год или даже больше над чем-то, возможно были очень близки, а тут... выйдет вайб-слоп статья от внутренней модели OpenAI, которая даёт результат? Как на это отреагируют?
Кажется, что повторить подход Anthropic будет сложно чисто с организационной точки зрения: искать сотни людей в академии, подписывать с ними соглашения, терпеть людей вроде Buckmeister, которые скажут, что украли их результаты, и платить за ревью.
В итоге OpenAI сделали простое заявление, выложили все результаты на GitHub. 63% от 372 основных результатов помимо статьи имеют формализованное на Lean доказательство (это язык программирования для математиков, на котором можно записать доказательство, а компьютер проверит, что в нём нет несостыковок и ошибок). Это не даёт 100% гарантии что они все верны, но в целом является солидным подкреплением. Я удивлюсь, если в формализованных результатах, скажем, больше 10-12% будет ошибочным — и ещё меньшая часть будет неисправима в краткие сроки.
OpenAI уже отозвали 3 статьи, исправили ещё 14, правда я не нашел статистики сколько исправлений как раз в формализованных результатах.
Может ли научное сообщество игнорировать этот сказочный слоп дроп? Нет: там есть очень сильные результаты, и как минимум про 10 разных статей я читал от, кажется, авторитетных математиков и учёных других областей, что сам по себе такой результат, будь он опубликован человеком, сделал бы ему имя, попало бы в ведущий журнал или вовсе привело к получению Филдсовской премии. Сложно закрыть глаза, сказать «ничего этого нет» и продолжить работу как будто ничего не случилось.
Но и вычитывать ошибки за LLM или брать решение OpenAI «на веру» и не разбираться в нём (а разбирать LLM-сгенерированные статьи без вычитки и полировки очень сложно, с этим согласны кажется все) научное сообщество не готово, да и не должно.
Так что сейчас идут активные обсуждения будущего математики и смежных наук. Как должно выглядеть будущее, где компания в один день может подрезать работы тысяч учёных? Как тем работать, зная, что перед релизом следующей модели существует угроза его работе? В чем искать смысл?
To industrialize — to develop or organize something so it can be produced or operated at industrial scale—systematically, efficiently, and usually in large quantities.
Читать полностью…
Нежданно негаданно Google представили Gemini 4 Argon
Доступа пока нет, выкатят на всех когда нибудь скоро. Цены планируют такие: $2/$10, и кэш со скидкой 95% (но это на период промо, после подскочат в два раза).
OpenAI DevDay через 10 минут: https://www.youtube.com/watch?v=Fls_onRviPM
Обещают более 20 анонсов!
Reuters ознакомились с приватными проспектами Anthropic перед предстоящим IPO:
— чистый убыток в размере 42 миллиардов долларов за 2025-й год (34 миллиарда из них - бухгалтерская переоценка активов с учетом инструментов, которые в будущем могут конвертироваться в акции Anthropic)
— 😐 планируют потратить 518 миллиардов долларов на вычислительные мощности и инфраструктуру в 2027-м
— в прошлом году они потратили 7.3 миллиарда долларов на мощности и инфраструктуру
— планируют целиться в оценку в 2 триллиона на IPO
===
я пока не понимаю, откуда они столько денег возьмут 👨🦳 посмотрим, чем будет удивлять Dario
Я хотел написать в новости «если бы эту уязвимость нашёл рой агентов (и начал эксплуатировать), то я не исключаю, что как минимум некоторые провайдеры и/или некоторые регионы были бы полностью отключены от интернета», но подумал, что это может быть преувеличением.
Reuters: голландское агентство по кибербезопасности отключило свои сервисы, заявив, что сделало это в качестве меры предосторожности из-за выявленных уязвимостей.
В Нидерландах несколько организаций последовали примеру Национального центра кибербезопасности и отключили свои общедоступные сайты. Среди них — порт Роттердама, государственный портал Overheid.nl, Королевский футбольный союз Нидерландов (KNVB), сайты пяти крупнейших политических партий страны, а также нескольких больниц.
Датская муниципальная ИТ-компания Kombit отключила несколько сервисов, включая национальную платформу для общения школ с родителями и учениками, сообщил Reuters представитель компании.
В Финляндии перебои оказались ещё более масштабными. Государственный поставщик ИТ-услуг Valtori сообщил, что государственные сетевые сервисы были отключены «в качестве меры предосторожности».
Министерство внутренних дел Франции заявило, что временно отключило сайты местных органов власти до выхода исправления безопасности.
===
Но пока что отключения происходят только для того, чтобы злоумышленники (в основном, люди) не воспользовались уязвимостью во время обновления систем (и обновление уже было заранее подготовлено и вышло), то есть очень краткосрочно, скорее всего завтра всё включат.
(но куча мелких и/или полузаброшенных сайтов не успеют обновиться, и их начнут ломать)
Кажется, у безопасников сегодня будет очень длинный день: команда PHP готовит исправления сразу для двух критических уязвимостей, обе с оценкой 9,2 из 10 по CVSS 4.0, а релиз назначен на сегодня, 21 октября, в 14:00 UTC (16:00 в Амстердаме, 17:00 в Москве)
Друзья из пары банков говорят, что у них уже все на панике, а некоторые подсистемы собираются просто отключать от интернета, так что Monster/Red Bull для PHP-команд безопасности сегодня вполне можно проводить как производственную необходимость
Если у вас есть доступные из интернета приложения на PHP, предупредите тех, кто за них отвечает: разработчики просят подготовиться к обновлению сразу после релиза, а технические подробности и список затронутых версий опубликуют вместе с патчами
https://www.php.net/index.php#2026-10-20-1
Кто бы мог подумать, что у технологии с названием "Personal Home Page" могут найти пару жестких дыр с помощью АИ ☕️
Встречайте — Сиолошная Каждый День
Новости про ИИ я читаю каждый день, но не каждый день я могу ими делиться тут в канале. Каждый пост требует вдумчивого чтения, проверки, в идеале объяснение и/или предоставления контекста, а времени на это не всегда хватает. Какие-то новости (чаще скрины твитов) я скидываю к нам в чат, но в потоке обсуждений и комментариев что-то теряется. Скидывать ссылки/картинки и писать «ну э смотрите» или «прикольное» — не формат этого канала.
Поэтому решил сделать простой канал, куда буду спамить что-то, чем можно было бы поделиться или что можно обсудить, но без детального объяснения и мыслей. Посмотрим как пойдет, может надоест и перестану делиться там, вернусь в чат🤷♂️
@seeallochnaya_kazhdi_den — внутри вас уже ждёт три (ТРИ!) поста про DeepSeek
Из сессий с агентами получаются готовые evals
Каждый раз, когда выбираю сетап для кодового агента, я немного гадаю. Лучше ли эта новая модель? Помогает ли больше reasoning? Помогают ли эти скиллы?
Поэтому из ~1270 своих сессий в Claude Code, Codex и Pi я собрал 10 задач с автоматической проверкой и прогнал на них разные сетапы. Сделал пару публикаций про это, у меня спросили про то, как такое сделать самим. Поэтому вот!
Написал гайд + скилл, который делает большую часть работы
📊 Гайд: ibragim_bad/fm5jSJvYb_5" rel="nofollow">https://teletype.in/@ibragim_bad/fm5jSJvYb_5
🛠 Скилл: https://github.com/ibragim-bad/evals-from-sessions
🏆 Лидерборд: https://ibragim.dev/leaderboard/
оригинал в X: https://x.com/ibragim_bad/status/2111102467924496721?s=20
BREAKING: ROCKSTAR ОПУБЛИКОВАЛА РЕЛИЗНЫЙ ТРЕЙЛЕР GTA VI
Читать полностью…
По результатам общения с Пашей решил уточнить, что я имел в виду про маржу в 85% (которая в исходном посте была 15%, но потом я поправил).
По оценке от GPT выше к 2032 году на OpenAI и Anthropic может приходиться около 85 ГВт дата-центров из примерно 185 ГВт, рассматриваемых в статье. Если пропорционально масштабировать расчёты автора, для окупаемости этих мощностей с доходностью 10% понадобится около $855B операционного денежного потока ежегодно.
Дальше всё зависит от маржи:
- 50% (сценарий автора) — необходима выручка $1,71 трлн, из которых $855 млрд уйдут на операционные расходы.
- 75% — $1,14 трлн выручки и $285 млрд расходов.
- 80% — $1,07 трлн выручки и $214 млрд расходов.
- 85% — $1,01 трлн выручки и $151 млрд расходов.
Показатель «маржи» тут рассчитывается до капитальных затрат. То есть расходы на покупку GPU и строительство дата-центров — а это самые большие траты! — в этом расчёте будут учтены отдельно, а здесь мы смотрим, сколько денег может уходить на непосредственное функционирование бизнеса. "85%" маржи в контексте поста и разбираемой статьи не значат те же 80-85%, про которые можно читать на условном SemiAnalysis (там это маржа по отношению к компьюту и только).
И вот я говорю: я не думаю, что OpenAI и Anthropic в сумме будут требовать $855B операционных расходов в год. Это безумно много — для масштаба можно посмотреть, сколько тратят крупнейшие компании мира на операционную деятельность сверх себестоимости продаж (цены товаров). По отчётности за 2025 год:
- Amazon — $281B, при 1,58 млн сотрудников.
- Walmart — $148B, при 2,1 млн сотрудников
- Alphabet — $111B.
- Meta — $82B.
Понятно, что они не оперируют таким большим количеством ДЦ (85 ГВт у них нет), но с другой стороны они трудоустраивают огромное количество (пусть и менее высокооплачиваемых) людей. В Alphabet работает примерно 60000 программистов — и вот на них, и на остальные операционные расходы, включая текущие датацентры, уходит $111B. OpenAI и Anthropic не будут вырастать до такого масштаба по размеру штата.
И вот поэтому мне кажется, что $855 млрд ежегодных расходов помимо капитальных затрат — цифра настолько большая, что предположение о 50% марже хочется как минимум подвергнуть сомнению. Я не утверждаю, что маржа обязательно составит 85%. Возможно, она будет 80%, а возможно, 75%. Но даже при 75% годовая выручка, необходимая для окупаемости этих мощностей, оказывается на треть ниже, чем при 50%.
При 75%, как написано выше, две компании должны иметь выручку примерно ~$1,14T в год — в 8.2 раза выше текущей.
Двойная посадка на башню в миссии Flight 15.
Главный инженер SpaceX в новом интервью подтвердил, что компания собирается вернуть и корабль, и ускоритель в предстоящем полёте Starship Super Heavy. И если обе посадки пройдут успешно, то это будет первое полное возвращение системы орбитального класса.
В общем, подтверждается ключевой сценарий из недавнего поста (для тех, кто не верил). Даты пуска пока нет, но по его словам «незадолго до Дня благодарения», то есть до конца ноября.
Также рассказал, что отказ одного RVac на Starship S41 во время Flight 14 был связан с ошибками в софте для контроллера двигателя, поэтому и приняли решение выходить на орбиту, тк проблема не была связана с железом или другими двигателями Raptor.
Для тех, кто скептично относится к посадке Starship на башню стоит напомнить, что за всю программу орбитальных тестов этой системы — у корабля не было ни одной аварии именно на этапе посадки (у тех, которые до неё добрались).
📸: Mookafish
Kevin заканчивает своё эссе так:
Мой личный ответ на вопрос о том, в чём заключается суть математики, такой. Математика — это доказательство теорем (решение задач), разработка новых инструментов (построение теорий) и понимание того, куда двигаться дальше (формулирование гипотез).Читать полностью…
На сегодняшний день мы видели множество свидетельств того, что компьютеры хорошо справляются с решением задач, но гораздо меньше свидетельств их способностей к построению теорий или формулированию гипотез. Это накладывает серьёзные ограничения на то, насколько далеко смогут продвинуться современные машины. Время покажет, насколько лучше машины завтрашнего дня овладеют этими навыками. Прогресс, несомненно, будет, но пока мы не увидели ничего по-настоящему убедительного.
Нынешний прогресс действительно носит экспоненциальный характер и вполне может оставаться таким ещё некоторое время. Однако мы не можем ожидать, что экспоненциальный рост будет продолжаться бесконечно (именно в силу самой природы экспоненциального роста). Более того, математика бесконечна, а бесконечность с лёгкостью превосходит любую экспоненту.
Поэтому я полагаю, что в будущем мы достигнем нового «естественного предела» в математике — гораздо дальше (а возможно, и несравнимо дальше) того рубежа, на котором находимся сейчас. Но на этом пределе машины зайдут в тупик, и дальнейшее наращивание ресурсов ради следующего большого прорыва станет нецелесообразным.
Я считаю, что лучшее, что мы можем сделать — это предоставить машинам полную свободу действий, посмотреть, что из этого получится, а затем самим отправиться в путешествие дальше той точки, на которой они остановятся.
Сейчас всё развивается стремительно. Но так не может продолжаться вечно. И если мы присоединимся к этому движению уже сейчас, машины смогут привести нас в совершенно удивительные, неизведанные места. А когда мы туда доберёмся, начнётся новое приключение.
Пока делаю паузу в написании постов на пару часов (по этой теме будет ещё 2-3-4), поделюсь слухом, что OpenAI выложили лишь ТРЕТЬ от полученных результатов, и что будет ещё два батча 😁
И напомню, что результаты в первом — это результат работы ~3 часов аналога GPT Pro по мощностям, а уж если они отправят модели на 10 часов... (то нам не хватит компьюта в подписке на Codex 🫡)
Многие сейчас ополчились на OpenAI и считают, что они не должны были выкладывать решения. Я думаю, что имея доказательства на руках не выкладывать их было бы странным (в том числе и по отношению к самой науке...), но это вопрос второго плана.
На первый план выходит информирование сообщества о том, что грядет. Чем больше доменов задето, чем шире охват результатов — тем больше учёных задумается о том, что нужно быть готовым перестраиваться и пользоваться новыми инструментами. Нужно будет жить в новом для них мире. Нужно менять устоявшиеся программы, менять академию, которая долгое время затачивалась на количество публикаций как меру продуктивности.
Terence Tao разместил у себя в блоге сообщение «Ассоциации людей-математиков» (да, там прямо написано Human), в котором написано:
— «Математики не просили о выполнении этой работы» (написания решений и их публикации).
— «У математиков существует особое представление о прогрессе, сформированное историей и специфическими для данной области соображениями. Мы отвергаем утверждение OpenAI о том, что этот релиз способствует развитию нашей науки, и призываем математиков и общественность с должной долей скептицизма относиться к ценности этой модели публикации».
— «Мы настоятельно призываем математиков прекратить работу с OpenAI и вернуться к такому видению науки, в центре которого находится человеческое понимание».
😳😳😳
Ну допустим математику OpenAI начнут игнорировать, и переключатся на биологию. Найдут какие-то формулы, лекарства, опишут потенциально ценные эксперименты — на них тоже придется закрыть глаза? Или это только к математике относится? или к физике тоже?
🧃будем следить за дискуссией, делайте ваши ставки, только прошу не делайте проигрышную, не ставьте на то, что модели не будут развиваться дальше
В понедельник 5-го октября на архив выложили препринт «Truly Subquadratic 3SUM and Truly Subcubic APSP via Triangles in Sparse Lopsided Graphs». В нём опровергают две гипотезы о сложности алгоритмов решения двух задач. Одна из них формулируется очень просто, и вы наверняка на неё натыкались, если готовились к собеседованиям на LeetCode — 3 sum. Вам дан массив из n чисел (включая отрицательные), и нужно определить, есть ли в нём 3 таких, что их сумма равна нулю.
В теоретической информатике долгое время существовало предположение, что для этой задачи невозможно найти алгоритм, который работал бы существенно быстрее квадратичного от размера массива. 3 sum — одна из центральных гипотез раздела fine-grained complexity. Многие другие задачи можно свести к 3 sum. Поэтому на предположении строилось множество других результатов: исследователи показывали, что если 3 sum невозможно существенно ускорить, то нельзя существенно ускорить и целый ряд других задач.
И вот оказалось, что существует общий алгоритм, который вместо n^2 работает за n^(1.9992). Само по себе ускорение не особо интересно (в практике оно может работать даже медленнее, так как из нотации выкидывают константы) — и ключевым является именно опровержение гипотезы, которыми многими считалось «логичной» и «красивой».
Один из двух авторов — Virginia Vassilevska Williams, одно из ведущих имён в области fine-grained complexity. И казалось бы можно порадоваться за прорыв, но если открыть конец статьи, то увидим:
Как результат был первоначально получен и передан авторам: сотрудник Anthropic использовал внутреннюю исследовательскую модель для изучения открытых проблем в теории криптографии. <...> В сентябре 2026 года Anthropic передала алгоритм авторам на условиях соглашения о конфиденциальности, предложила вознаграждение и предоставила доступ к публичной версии Claude.
<...> После того как статья была полностью написана, Anthropic использовала внутреннюю исследовательскую модель для формальной проверки основных результатов статьи с помощью Lean. <...> Авторы работали над этой публикацией в личное время, вне рамок своих служебных обязанностей в Колумбийском университете и MIT.
Так что получился немного странный для науки подход «найти и проспонсировать подставное лицо, не участвовавшее в составлении доказательства, и указать его в качестве автора, и при этом указать, что работает он без своей основной аффилиации».
Я против такого подхода ничего не имею, но многие в научном сообществе видят здесь несоответствие... духу? морали? науки и тому, как вещи «принято» делать. Но в конечном итоге есть ведущий учёный, который вчитался в результат, проверил, поставил своё имя под ним, что даёт хоть какую-то гарантию легитимности, и есть надежда, что результат будет использоваться в будущих исследованиях.
В мире с миллиардом Эйнштейнов кому-то всё равно придётся строить лаборатории и вести бухгалтерию.
Авторское эссе The Eternal Complement на сайте OpenAI задаёт вопрос: насколько быстрее сможет развиваться цивилизация, когда интеллект перестанет быть дефицитом?
Галилею хватило двух линз и трубки. Для телескопа «Джеймс Уэбб» понадобились сотни организаций. Чем дальше мы хотим заглянуть, тем больше работы стоит за открытием.
За этим образом есть экономические данные. В работе Блума и соавторов, на которую ссылаются авторы, поддержание темпа роста плотности транзисторов требовало более чем в 18 раз больше исследователей, чем в начале 1970-х. Похожие тенденции обнаружились в сельском хозяйстве и медицине. Отдача от исследовательских усилий снижалась, а увеличение их масштаба компенсировало это падение. За привычным темпом прогресса скрывалось всё больше работы.
Интеллект и возможности исполнения усиливают друг друга: хорошая гипотеза делает телескоп полезнее, хороший телескоп повышает ценность гипотезы. Сюда же относятся финансирование, производство, законы и логистика.
Сегодня AI даёт одному человеку возможности команды. Всё важнее становится вкус: что вообще стоит делать, на какие вопросы искать ответ? Но если машины сами начнут производить выдающиеся идеи, исполнение снова может стать узким местом.
Дальше возможны два сценария. В «цивилизации глубины» сверхразум извлекает больше из накопленных данных, улучшает симуляции и точнее выбирает эксперименты. В «цивилизации ширины» новые идеи требуют всё больше лабораторий, заводов и энергии. Даже гениальному исследователю приходится ждать, пока вырастет организм или закончится эксперимент.
Возможно, большая часть сверхразума будет занята скучной работой. Темп прогресса определит то, сколько реального мира потребуется каждой следующей гениальной идее.
(а ещё в блогпосте с эссе очень вкусные картинки, мне понравились, посмотрите и вы)
Пока рассказывают про Grok Bot и Muse— в документации уже указано, что:
1) да, будет тир за $500. Пока без информации по лимитам.
2) В НЁМ БУДЕТ УЛЬТРА ФАСТ ДЛЯ АСТРЫ (!) - 300 токенов в секунду, и в будущем для Sol. Поздравляем команду Cerebras, которая смогла развернуть такую огромную и мощную модель у себя. Очень жду.
3) также уже вышел Sol-6.1, цена та же, но кэш дешевле в 2 раза. По метрикам ближе к Astra, не смотрится так позорно, как Sol-6 (неделю назад...). Попробуем.
UPD: x25 usage за $500
Утром Tibo написал, что сегодня вернут подписки ChatGPT за $200... но есть одно "но": в них будет x10 лимитов вместо x20. Это же применимо и к старым подписчикам.
По слухам, сегодня представят подписку за $500 — пока не ясно, какие там лимиты; может быть x25 (получается чуть больше чем было до этого за $200), а может что-то более выгодное. Можно помечтать от x50...
Также в этой подписке, предположительно, появится ультра-фаст режим с генерацией до 750 токенов в секунду (правда это обещали для моделей размера Sol, не ясно, будет ли что-то для Astra).
Когда я сегодня в чате рассуждал о причинах — то смог придумать 3 версии, почему подписка за $200 сильно похудеет:
1) хотят продвигать подписку за $500, зная, что те кого задевают урезания лимитов на 200 могут себе позволить купить за $500 (=> больше выручка)
2) у них невероятно вырос спрос, на десятки процентов, и мощностей реально не хватает, и потому решили максимизировать выручку
3) мощности перекидывают на исследования и запуск роев агентов для решения разных прикольных задач, как было с задачами тысячелетия
И, видимо, вариант 2 правильный — только что появились новости, что компания нарастила ARR почти до $70B — более чем на 70% с начала третьего квартала; а enterprise вырос более чем вдвое. Если "почти до 70" означает хотя бы 67 и выше, то OpenAI почти наверняка обошли Anthropic по выручке — с учетом того, что вторые считают деньги от партнёров иначе, и OpenAI «занижает» цифры.
Релиз Astra прошёл отлично 🚀🚀🚀
Похоже, что GPT 6 Astra останется лучшей моделью OpenAI надолго — завтра на DevDay почти наверянка не представят обновление, и даже релиз 6.1 с октября перенесли на неопределенный срок из-аз переживаний по поводу безопасности.
Читать полностью…