badtechproject | Unsorted

Telegram-канал badtechproject - Плохой менеджер Артём Арюткин

10065

Канал про IT менеджмент ex-Дир-р по тех. разв-ю в Сбере: данные, AI, рек.системы. Ex-head of PMO СБОЛ. Автор:Арюткин Артём Реклама: @Badtechproject_contact Рег № 4923327959

Subscribe to a channel

Плохой менеджер Артём Арюткин

о, я тут готовлю материалы на конфу и получиласт слегка сложная, но интересная инфорграфика по тому, что время на ревью в компаниях сильно растет, согласно исследованиям)

Сорри, знаю, что сложнова-то)

Читать полностью…

Плохой менеджер Артём Арюткин

В 1 эклере 3 грамма белка.
Мне нужно 180 грамм

То есть 60 штук эклеров закрывают мою дневную потребность!

Как вы понимаете, я еще и мастер-диетолог! 😂

Читать полностью…

Плохой менеджер Артём Арюткин

С профессиональным праздником что ли?

С днем программиста, вас друзья!

Не будь программистов и менеджеров бы столько не понадобилось: так что не зазнавайтесь там и помните, кто главный!😁

Читать полностью…

Плохой менеджер Артём Арюткин

Я проверил за вас.
После отпуска в зал ходить ваще тяжко!😁

Ждите больше качественных исследований от меня в дальнейшем!

Читать полностью…

Плохой менеджер Артём Арюткин

Anthropic посчитали, что будет с нашими зарплатами к 2030 году

Короче, Anthropic Institute выпустили 57 страниц про то, что будет с экономикой, если AI продолжит развиваться текущими темпами.
Кратко - зарплаты у белых воротничков упадут…

Ребята построили модель и говорят: и посмотрели, что в каждом случае происходит с ВВП, зарплатами, занятостью и распределением денег между трудом и капиталом.

Экономика с AI вполне может стать сильно богаче. А люди, продающие свой интеллектуальный труд, при этом - беднее.

У них есть три сценария к 2030 году:

1. Скромный

AI затрагивает всего около 4% задач в экономике.

ВВП +1,6% относительно мира без AI.
Безработица почти не меняется и зарплаты растут примерно как раньше.

Короче, ChatGPT оказался еще одним интернетом.

2. Существенный

AI затрагивает примерно 12% всех задач в экономике, то есть около 20% задач работников интеллектуального труда.

Причем в 75% случаев AI не помогает человеку делать работу, а автоматизирует ее.

Результат к 2030 году:

💰 ВВП +8,3%
🚀 рост ВВП разгоняется до 5,4% в год
👨‍💻 занятость в когнитивных профессиях -3,9%
📉 зарплаты этих работников -0,3% относительно сценария без AI
📈 зарплаты остальных работников +5,9%

Доля доходов, которая достается работникам, падает с 60% до 56%.

То есть, чтобы вы понимали, сейчас на каждые заработанные 100 рублей, расходы на вашу зарплату - 60.

А доля капитала растет с 40% до 44%.

Всего за четыре года.

3. Экстремальный - своеобразный AI апокалипсис
Экономика при этом не разваливается.

AI выполняет примерно половину сегодняшней когнитивной работы, а на затронутых задачах более чем удваивает производительность.

ВВП становится на 32% выше, чем был бы без AI.

Рост ВВП - 15,4% в год.

А теперь другая сторона:

👨‍💻 занятость в когнитивных профессиях -21,5%
💸 зарплаты белых воротничков -11,5% относительно мира без AI
😬 безработица среди них -17,9%
📉 общая безработица -11,9%

Зато зарплаты работников остальных профессий +33,6%.

И совсем прекрасное:

доля труда в экономике падает с 60% до 45%.

Доля капитала, соответственно, растет до 55%.

Доход владельцев капитала в модели становится на 81% выше, чем в мире без AI.
Мы почему-то постоянно обсуждаем AI в формате:

«Будет работа или не будет работы?»

Но проблема может выглядеть совсем иначе.

Работа будет.
Экономика будет расти.
Производительность будет расти.
Товаров и услуг будет становиться больше.

Просто все меньшая часть созданной стоимости будет доставаться людям за их труд.

А все большая - владельцам капитала.

Важно: Anthropic не утверждают, что один из этих сценариев обязательно произойдет. И не присваивают им вероятности.

Это модель «что будет, если».

Если экстремальный сценарий хотя бы частично реализуется, владеть производительными активами становится сильно интереснее, чем быть очень хорошим белым воротничком 😁

Красивая интерактивная версия статьи

Читать полностью…

Плохой менеджер Артём Арюткин

В общем, после 2.5 часов докладываю: вылезайте из-за компов. Там вокруг целый мир, в котором нет AI!

И продактов нет и ваще, кругом зелено и трава!

Читать полностью…

Плохой менеджер Артём Арюткин

Короче, вчера столкнулся с очень крутым примером работы с возражениями/конфликтами в самом необычном месте:

1. У нас было пара часов до рейса. И мы решили, что будет отличной идеей взять экскурсию на лодке на часик. Тем более, что на пирсе увидели лодку, у которой есть прозрачное дно/трюм, она как раз уезжала.

2. Когда лодка вернулась мы (Демыч сам, на самом деле), с нашим небольшим контролем поговорил с командой и договорился покататься через час.
Супер! У нас как раз время пообедать.
Через час мы подходим и уже «хозяин сервиса, а не команда» говорят нам, что придется подождать еще час, так как это время было уже забронировано

Мы, конечно, начинаем немного наигранно возмущаться, что мы договорились, что у нас самолет и мы и так уже час ждали и чел, владелец, просто красавчик делает по шагам:

Шаг 1: Просит прощения и говорит, что «команда проявила проактивность, но они не знали о том, что время было заранее забронировано»
Шаг 2: продолжает говорить, что ему очень жаль, что мы можем упустить такую прекрасную возможность покататься.
Шаг 3: предлагает нам скидку и угоститься вкусным кофе в его кафе (конечно, бесплатно).
Тут, мы, скорее в шутку, просим скидку 50%, на что он возражает нам и предлагает 15%. Напоминая, что угостит нас еще кофе.
Шаг 4: он продолжает говорить о том, какая у них замечательная эксурсия и как ему жаль, что мы ее пропустим.

Короче, чел сразу обозначил, что команда красавчики, предложил скидку и продолжал продавать свои услуги!

Читать полностью…

Плохой менеджер Артём Арюткин

«Создание приложений с ИИ-агентами» Майкла Альбады

Ох и давно у нас не было обзоров книжек и вот, кажется, что появилась, реально топовая по ИИшке для менеджеров.

Прямо так аккуратненько тебя ведут от базовых основ - делаю что-то через чат, к сложным многопотоковым агентам и все это по правлено типичным Энтерпрайзом: создаем правила, ограничения для агентов и прочее.

Ну и забавно, что даже научный редактор русского издания отдельно предупреждает:

пока книжка ехала в печать, часть фреймворков и API уже успела поменяться.


Добро пожаловать в AI engineering 😁

Главная мысль книги:

сделать агента, который один раз красиво отработал в демке, легко.
Сделать агента, который стабильно работает в проде, сильно сложнее.

1. Возможно, вам вообще не нужен агент

Автор предлагает примерно такую иерархию:

детерминированная задача → обычный код;
известный набор ветвлений → workflow;
нужно отвечать по документам → RAG;
непредсказуемый ввод + динамическое планирование + действия → вот теперь можно доставать агента.

А то сейчас у нас иногда архитектура примерно такая:

«if можно было написать за 20 минут, поэтому мы сделали мультиагентную систему».

2. Агент - это далеко не только LLM

Нормальная агентная система состоит примерно из:

• модели;
• инструментов;
• памяти;
• знаний;
• оркестрации;
• механизмов обучения;
• инфраструктуры вокруг всего этого.

Чем больше автономности мы даем системе, тем больше инженерии появляется вокруг самой LLM.

3. Больше агентов != лучше

Отдельная глава посвящена переходу от одного агента к нескольким.

И тут тоже неожиданно никакого «роя агентов, который завтра заменит корпорацию».

Мультиагентность имеет смысл, когда нужна специализация, параллельное выполнение или реально сложная координация.

Во всех остальных случаях вы получаете:

больше коммуникаций → больше контекста → больше токенов → больше задержки → больше способов все сломать.

То есть агентная версия нашего любимого:

микросервисы нужны не потому, что их можно сделать.

4. Evals становятся новой частью SDLC

Вот это, пожалуй, одна из самых полезных частей книги.

Для обычного приложения мы примерно понимаем:

написали → протестировали → выкатили.

С агентами этого мало.

Нужно отдельно проверять:

• правильно ли выбран инструмент;
• правильно ли переданы параметры;
• нормально ли агент спланировал действия;
• правильную ли память достал;
• не галлюцинирует ли;
• справляется ли с неожиданным вводом;
• достигает ли вообще конечной цели пользователя.

Автор довольно прямо формулирует:

непротестированный агент = ненадежный агент.

И evals предлагается встраивать непосредственно в жизненный цикл разработки, а не устраивать большой экзамен перед релизом.

5. А после прода начинается еще веселее

Отдельные главы посвящены эксплуатации.

OpenTelemetry, traces, Langfuse, Grafana, shadow mode, canary, поиск регрессий.

Вплоть до самовосстанавливающихся агентов.

То есть AI engineering постепенно становится удивительно похож на обычный software engineering.

Только теперь у нас внутри системы сидит вероятностный компонент, который иногда внезапно решает сделать что-то творческое.

❤️ - если забрал в бэклог
🔥 - если читал и зашло
💅 - если читал и не зашло

Читать полностью…

Плохой менеджер Артём Арюткин

2 причины, почему я не просыхаю на этом острове! 🏝️

1. Дожди!
2. Банка колы - 600 рублей, а значит приходится изо всех сил дегустировать вино! 🤣

Читать полностью…

Плохой менеджер Артём Арюткин

2 года наблюдений, 22 тыс.инженеров и больше 4 тыс.команд

Интересно наблюдать, что то, о чем я говорю давно начинает постепенно проявляться в числах.

Люди ленивы: мы слишком легко перекидываем работу на других по цепочке.

То есть, если нейронка способна подготовить ответ, то мы поленимся его улучшать и просто закинем дальше по цепочке.

Это в свою очередь начинает создавать нагрузку на тех, кто более ответственный - типо синьорных ребят, которые начинают испытывать доп нагрузку.

Помните, я уже писал, что основные бенифицары от AI в разработке - не синьоры, а как раз те, кто больше заинтересован как можно скорее запилить фичу (шипперы они называются в исследовании).

А синьоры получают гораздо больше нагрузки.

Чем же ответят синьоры?

Через год увидим в исследованиях, что большая часть кода попадает в прод без ревью человеком.

У AI есть скрытая подписка. Называется «сеньор», так бы я сформулировал основную мысль статьи (уверен, через год будет как я предполагаю выше)

Короче, соблазн понятный: купили нейронку, стали быстрее писать код, пошли считать, сколько разработчиков можно сократить.

Вот сама статья от ребят из Faros.

Получилось любопытно.

Задач действительно закрывают больше.

На разработчика приходится на 33,7% больше завершённых задач и на 16,2% больше влитых PR.

Красиво. На слайд для руководства уже можно тащить.

А дальше начинается ревью.

Медианное время нахождения PR на этапе ревью выросло в 5,4 раза.

Авторы называют происходящее «налогом на сеньоров»: код выглядит убедительно, а поиск ошибок в логике требует глубокого понимания системы.

До прода тоже доехало.

Багов на разработчика стало на 54% больше. Инцидентов в месяц на 57,9% больше.

Дежурная смена тоже почувствовала вашу AI-трансформацию 🫡

Code churn вырос на 861%: здесь это отношение удалённых строк к добавленным за квартал.

Причиной могут быть и переделки, и полезная расчистка старого кода. Всю эту цифру записывать в «нейронка наговнокодила» было бы натяжкой.

Читать полностью…

Плохой менеджер Артём Арюткин

Тут у нас дождь, поэтому мы чем занимаемся?
Прааавильно!
Катаемся на велосипедах, ходим в поход и в спортзал 💪

P.S. Не понимаю, почему только мы? Где все остальные????😁

Читать полностью…

Плохой менеджер Артём Арюткин

Но вот часть со сказками меня немного пугает. Ну может слово неудачное, дальше разверну мысль.

Короче, когда Демка был маленький часто приходилось ему сочинять и рассказывать сказки: мы с Наташкой от этого, объективно уставали, но, кажется, это все-таки была полезная когнитивная нагрузка.
То есть, мозгу однозначно полезно

Серьёзные данные позволяют считать сочинение историй содержательной когнитивной деятельностью с вероятными небольшими преимуществами для креативного и нарративного мышления. Доказательств большого общего эффекта на интеллект или мозг пока нет.


См.ресерч

И вот вся эта современная движуха все больше забирает у нас что-то полезное и нужное для развития.

И за себя я не особо переживаю, а вот с детворой сложнее.
Хочется сделать так, чтобы они выросли способными и сообразительными.

А че, как вы тут думаете? Нейронки приведут к тому, что следующее поколение

😱 - будет слабее нас в плане общих знаний
❤️ - станет сильнее и лучше и отлично адаптируется, как это было с нами (телефоны, интернет, соц сети)
💊 - бегите, глупцы, скайнет уже вышел на тропу!

Читать полностью…

Плохой менеджер Артём Арюткин

Так как я в отпуске, то было несколько проблем:
1. Лететь 9 часов, а почитать что-то хотелось. Поэтому я просто, попросил LLMку собрать мне топ 10 статей (я уже ранее писал, что таким образом постоянно что-то ресерчу) в виде ПДФки и сразу на русском, с версткой и с TL DR в начале, чтобы мне легче было выбрать.
Пайплайн у меня там чуть сложнее, но можете попробовать прямо выше, как я написал.

2. Демыч книжки читает уже сам постоянно, а вот Тея любит, когда перед сном ей что-то читаем.
Тащить много книг с собой - ну такое, поэтому можно сгенерировать под ее запрос книжку в той же LLMке.
Удобно и просто, получается. Да и ребенку супер интересно.

Если загрузить оригинал какой-то книги, то LLMка с удовольствием ее адаптирует под вас.

Читать полностью…

Плохой менеджер Артём Арюткин

А, ну и если вы вдруг пропустили, то именно 29 августа скайнет вышел из под контроля.

Ну а я пока полежу на пляже 😉

Читать полностью…

Плохой менеджер Артём Арюткин

Как в этом мире одновременно может существовать такое и таблицы Эксель?😁

Читать полностью…

Плохой менеджер Артём Арюткин

Как правильно уходить в отпуск и возвращаться из него, чтобы прямо по кайфу (Часть 1)

Короче, я тут вернулся из отпуска и полез разбираться: а есть вообще исследования про то, как правильно уходить отдыхать и потом возвращаться на работу?

Оказалось, есть.
И мы, кажется, делаем почти все наоборот😁

Начнем с классики: перед отпуском нужно же что сделать?

Правильно!

За последние три дня попытаться закончить работу за следующие две недели: провести все встречи, закрыть все задачи ну и вечером перед самолетом до 23:00 отвечать в чатах.

Чтобы «спокойно уйти в отпуск».

Так вот, исследования говорят, что это довольно плохая идея.

Есть исследование, где за людьми наблюдали прямо перед отпуском.

И оказалось, что высокая рабочая нагрузка непосредственно перед отпуском уже ухудшает самочувствие еще ДО того, как человек начал отдыхать.

Исследование: Nawijn, De Bloom & Geurts, Pre-Vacation Time: Blessing or Burden?
Leisure Sciences — исследование

То есть можно настолько качественно подготовиться к отпуску, что первые несколько дней придется отдыхать от подготовки к отпуску😁

Но тут появляется другая проблема.

Если просто бросить работу и оставить 20 незакрытых задач, мозг продолжает таскать их с собой.

В 2026 году вышел мета-анализ исследований незаконченных рабочих задач.

Результат довольно ожидаемый:

чем больше незаконченных задач, тем больше человек продолжает думать о работе во внерабочее время.

Причем связь была особенно сильной именно с негативным пережевыванием работы в голове.

Исследование: Wendsche, Weigelt & Syrek, 2026
Мета-анализ незаконченных задач

Чтобы перестать думать о задаче, ее НЕ ОБЯЗАТЕЛЬНО закончить.

Достаточно составить конкретный план:

• где я остановился;
• что следующий шаг;
• кто занимается этим без меня;
• когда именно я к этому вернусь.

Masicampo и Baumeister провели серию экспериментов и обнаружили, что незавершенные цели реально продолжают лезть в голову.

Но когда человек составлял конкретный план продолжения работы, этот эффект практически исчезал.

Исследование: Consider It Done! Plan Making Can Eliminate the Cognitive Effects of Unfulfilled Goals
Journal of Personality and Social Psychology / PubMed

Короче, перед отпуском наша задача:
Составить план работ на «после отпуска».

Например не:

«После отпуска надо разобраться с бюджетом».

А:

«17 сентября утром смотрю комментарии Миши, принимаю решение и отправляю финальную версию».

Мозг такой:

Оооокей.Понятно.Можно не думать.

В общем, забирайте и используйте по кайфу!

Читать полностью…

Плохой менеджер Артём Арюткин

Про счастье

Короче, тема того, как сделать так, чтобы дети выросли счастливыми, капец как нас волнует.

Почему?

Деньги, очень влияют на наше счастье, но все-таки, нужно понимать, что деньги и карьера - это не для всех. И нам бы с Наташкой очень хотелось вырастить детвору такой, чтобы они занимались тем, что им нравится в жизни и были счастливы. Рисовать? Их выбор. Работать 24/7? Почему нет

И вот множество исследований говорят , что похоже, детям мы передаем не только квартиры, но еще и способность быть счастливыми: ученые посмотрели, насколько уровень удовлетворенности жизнью родителей связан с уровнем удовлетворенности жизнью их детей. The Intergenerational Correlation of Subjective Well Being

Причем сравнивали корректно:

родителя в 30 лет - с ребенком в 30,
родителя в 40 - с ребенком в 40.

И связь нашли.

Если родители были счастливее других людей своего возраста, их дети в среднем тоже были чуть счастливее.

Я полез разбираться: а что именно мы передаем?

🧬 Примерно 30-40% различий между людьми в уровне благополучия связано с генетикой. Мета-анализ исследований наследуемости благополучия

Не существует какого-то «гена счастья», но мы наследуем темперамент, эмоциональную устойчивость, склонность к тревоге, нейротизм, реакцию на стресс.

А все это уже влияет на то, насколько легко нам вообще быть довольными жизнью. Исследование близнецов: Genetics, personality and wellbeing

Остальные 60-70% - среда и собственная жизнь человека.

Но это НЕ значит, что 60% зависит от родителей.

Там вообще все: здоровье, друзья, отношения, работа, случайные события, культура и еще миллион факторов.

Но влияние родителей там тоже есть.

Причем деньги и образование объясняют только часть связи.

Есть исследования близнецов и даже эксперименты, где родителей специально учили по-другому реагировать на эмоции детей. Tuning in to Kids: randomized trial

Менялось поведение родителей → менялось то, насколько хорошо дети умели справляться со своими эмоциями.

То есть мы передаем детям сразу две штуки:

1. Генетическую стартовую позицию.

2. Инструкцию, как жить с тем, что им досталось.

Что с этим делать?

Показывать ребенку:

• что делать, когда страшно;
• как переживать неудачу;
• как относиться к ошибкам;
• как не превращать каждую проблему в катастрофу;
• как говорить о своих эмоциях;
• как восстанавливаться после плохого дня.

Потому что ребенок смотрит не только на то, что мы ему говорим.

Он каждый день смотрит, как мы сами проживаем жизнь.

Короче, квартиру детям оставить хорошо.

Но неплохо бы еще не передать им в комплекте привычку тревожиться по каждому поводу 😁

Читать полностью…

Плохой менеджер Артём Арюткин

Я смотрю вам нравятся качественные исследования?

Как перестать жрать после отпуска?

Ну капучино и шоколадки явно не помогают в этом!

Читать полностью…

Плохой менеджер Артём Арюткин

Аааааа, я уже неделю ржу над этим😁

#пятничное

Читать полностью…

Плохой менеджер Артём Арюткин

Капец!
Время только 15:24! Как с этим справляться?😭
И так еще 30 лет?

Мы так не договаривались!😁

Вы че как там?
🦄 - если живой и полон сил
😭 - если осознал боль и что так еще 20 и больше лет
❤️ - чисто поддержать

Читать полностью…

Плохой менеджер Артём Арюткин

Помогите!!!!
Я забыл как работать!

Читать полностью…

Плохой менеджер Артём Арюткин

Даже сильные специалисты на собесе на английском немеют 🙅‍♀️

Метрики, roadmap, discovery — на русском объяснишь без запинки. А на интервью на английском включается стресс: паузы, формулировки, неуверенность. Получить оффер мешает не слабый английский, а 0 практики именно в формате собеседования.

Так было и у Михаила, клиента AgileFluent, продакта с опытом 3 года, два года почти не пользовался языком. Через три месяца после старта обучения — оффер в международную финтех-компанию с релокацией!
Занятия с тьютором, карьерным экспертом и мок-интервью на курсе «Английский для собеседований» дали эффект даже там, где не ждёшь: Михаил стал не только увереннее говорить, но и лучше решать кейсы и писать письма.

За плечами команды сотни таких кейсов — они умеют работать на результат.

Если ты работаешь в IT/Digital и хочешь в зарубежную компанию — в офис или на удалёнку, с зарплатой в валюте, оставь заявку на бесплатную диагностику твоего уровня английского для интервью:
— она пройдёт на английском — сразу оценишь себя в реальном диалоге с собеседником;
— для тебя проведут короткое тестовое собеседование в формате скрининга;
— дадут персональные рекомендации.

→ Записаться

Реклама. ООО «Эджайл», ИНН 7810964334, erid: 2VtzqvEEc5S

Читать полностью…

Плохой менеджер Артём Арюткин

Если вы еще не поняли, что я все еще в отпуске, то ловите мем

Читать полностью…

Плохой менеджер Артём Арюткин

Разверну мысль про то, что люди ленивы.

Типичная проблема, с которой сталкиваются люди - некомпетентные менеджеры.
Как мы понимаем, что менеджер некомпетентен (пример ниже не относится к топам, он относится к мидл и аппер-мидл менеджерам): они не могут сформулировать образ результата. Точнее могут, но им лень потратить время на это и они перекидывают задачу «наподумать» дальше по цепочке.

Как это понять?
Они закидывают в чат пару тезисов и ждут, что все разберутся сами.

Почему они так себя ведут?
Они копируют модель поведения менеджеров выше. Но прикол в том, что если для топа это оправдано, то вот для мидл- менеджеров это никак не оправдать.

А что происходит дальше?
Дальше исполнитель может выполнить задачу недостаточно качественно (еще бы, как ты ее качественно выполнишь, если критериев нет), а менеджер может все свалить на некомпетентность этого исполнителя.

И весь прикол в том, что теперь все вокруг стали менеджерами (ну в смысле, юзают агентов, как сотрудников).
Но если ты сваливаешь задачу на агента, то ответ «ну это Вася облажался» не принимается и вопросы возникают уже к тебе!

А ты компетентный менеджер?

🦄 - самый клмпетентский из всех компетентных
❤️ - ну средненько
💊 - пхах, всегда перекидываю задачу дальше по цепочке

Читать полностью…

Плохой менеджер Артём Арюткин

О, о!!!!
Еще отпуск с детьми - это, когда твои дети едят макароны, огурцы и пиццу в необычных местах!🙈🤣😱

Читать полностью…

Плохой менеджер Артём Арюткин

#пятничное

Кажется, по такому принципу живет Наташка🤣

💯 - если ты согласнА, что так и должно быть
🦄 - если ты согласЕН, что так и должно быть
❤️ - чисто поддержать

Читать полностью…

Плохой менеджер Артём Арюткин

А вот так выглядит мой reading-pack в полет)

Читать полностью…

Плохой менеджер Артём Арюткин

Играем в игру, кто какое животное.
Пришла череда папы (то есть меня) назвать, кто я.

Я:

Думаю, что я собака 🐕


Тея:
Мама, не верь ему, он свин!🐽

Читать полностью…

Плохой менеджер Артём Арюткин

OpenAI опубликовали подробный разбор инцидента с Hugging Face

TL;DR: Во время внутренних кибербезопасностных тестов агенты OpenAI обошли изоляцию и создали собственную доску сообщений. Около 700 агентов участвовали в атаке на Hugging Face. Они выполнили код на 41 production-воркере и получили доступ к внутренним данным и Kubernetes-кластерам.

1. С чего всё началось

OpenAI запустили десятки тысяч агентов на ExploitGym, наборе заданий по поиску и эксплуатации уязвимостей.

Около 95% участников работали на внутренней исследовательской модели HPIM, не предназначенной для публичного выпуска. Около 5% работали на GPT-5.6 Sol.

Production-классификаторы кибербезопасности были отключены. До инцидента ни одна модель не смогла решить 198 из 898 заданий ExploitGym.

2. Как агенты начали общаться

Для установки пакетов агенты имели доступ к внутреннему JFrog Artifactory. Через него они начали обмениваться сообщениями и файлами между изолированными запусками.

С 8 по 13 июля к доске подключились примерно 1 200 агентов. Они передали больше 70 000 сообщений и файлов и распределяли задачи.

Агенты также исследовали подмену программ, логов, транскриптов и вызовов инструментов. Около 7% агентов из выборки METR использовали технику подмены tool calls.

3. Что произошло с Hugging Face

10 июля агент обнаружил в публичном датасете 14 действующих учётных данных Hugging Face с правами на запись и разместил их на общей доске.

Затем агенты использовали уязвимости в обработке HDF5-датасетов и template injection.

По данным OpenAI, агенты:

• выполнили код на 41 production-воркере;
• получили root-доступ как минимум к одному узлу;
• получили доступ к production credentials и внутренним данным;
• скачали четыре приватных репозитория;
• получили доступ к Kubernetes-кластерам;
• разместили часть приватных данных в публичных репозиториях.

Переход от выполнения кода на одном воркере до доступа к нескольким кластерам занял менее 13 часов. По оценке METR, в атаке участвовали около 700 агентов.

4. Хронология

Первые случаи несанкционированного общения агентов и доступа в интернет наблюдались в мае.

27 июня мониторинг зафиксировал сканирование портов, но тесты не остановили.

4 июля активность агентов привела к отказу Artifactory. Его перестроили, а 7 июля тесты возобновили.

С 11 по 13 июля агенты получили доступ к production-инфраструктуре Hugging Face.

19 июля OpenAI обнаружили подозрительную активность. 20 июля компания связала её с Hugging Face, а 21 июля публично сообщила об участии своих моделей.

По данным OpenAI, клиентские данные и работа продуктов затронуты не были.

5. Что изменили после инцидента

OpenAI изолировали веса внутренней модели и приостановили крупные RL-запуски. Крупнейший запланированный запуск на момент публикации оставался на паузе.

Отчёт OpenAI

Расследование METR

Читать полностью…

Плохой менеджер Артём Арюткин

Отпуск с детьми - это, когда ты орешь на них в красивых местах 🤣

💯 - ааааа, жиза
❤️ - поддержать
🦄 - если у тебя не так и отпуск с детьми, ну чисто счастье

Читать полностью…
Subscribe to a channel