Андрей Карпатый выложил туториал о том, как с нуля создать на Python GPT-2. В видео он пишет код и объясняет каждый шаг.
Видео длится 4 часа, так что это не самый легкий контент, зато вы можете увидеть, как из пустого файла получается модель GPT-2. Репозиторий тут.
Если сложно, то Карпатый выкладывал ранее видео «Введение в LLM». Можно попробовать начать с него.
@xor_journal
Небольшая тренировка для ума перед началом рабочей недели.
Можно проходить коллективно в комментариях, а можно подумать самому и после запушить все ответы. Должно быть не сложно, но интересно. Кто первый?) Кстати, все ответы на русском языке.
По горизонтали:
1. Первый виртуальный текстовый чат-бот в истории. Или произведение Бетховена
2. Программа, которая выводит свой код. Была названа в честь одного философа
3. Квартальная встреча для рефлексии
4. Животное, о котором мечтает каждый стартапер
По вертикали:
5. Помогает тебе «причесывать» код
6. Среда разработки космического масштаба
@xor_journal
⚡️ IT-компании лишатся льгот, если не будут инвестировать время в ВУЗы.
«Нужно кардинально увеличивать объем вовлечения IT-компаний в процесс обучения», — сказал глава Минцифр Максут Шадаев на ПМЭФ-2024.
⚡️ В Telegram случился массовый сбой в 21:15, который продолжался до 23 часов. У пользователей были проблемы при попытке отправить сообщения, также не обновлялась информация в телеграм-каналах.
@xor_journal
Когда джун уронил прод за 23 секунды и PM спрашивает, сколько нужно времени, чтобы поднять
@xor_journal
Текстовые данные для тренировки LLM могут закончиться уже к 2028 году. Об этом сообщили в репорте Epoch AI. Какие пути видят исследователи:
🟢Можно брать для обучения мультимодальные данные, которые сейчас почти не используются. Видео с YouTube, например.
🟢Нейросетки могут «учить» друг друга при помощи синтетических данных, то есть сгенерированных ИИ. Но пока это не кажется хорошей идеей.
🟢В социальных сетях около 3 квадриллионов токенов, что в 10 раз больше, чем во всем вебе. Для обучения ИИ можно было бы использовать чат XOR или вашу переписку с коллегами в личке. Только вот с конфиденциальностью беда.
@xor_journal
⚡️ ИИ от Apple получит название: Apple Intelligence. Систему AI в iOS 18 представят на конференции WWDC 2024, то есть через несколько дней. Компания также планирует показать ПО для Vision Pro, Apple Watch и Apple TV.
@xor_journal
⚡️ Илон Маск может покинуть Tesla, если акционеры не одобрят ему выплату в размере $56 млрд. Маск также заявил о своих амбициях контролировать не менее 25% акций и пригрозил превратить Tesla в отдельную компанию, если его требования не будут выполнены.
Утверждение пакета выплат в размере $56 млрд сделает Маска самым высокооплачиваемым исполнительным директором в современной истории. Акционерам предстоит сложный выбор.
@xor_journal
⚡️ Китайцы создали свой аналог SORA — Kling.
Что известно:
🟢Может снимать видео до двух минут с разрешением 1080p и 30 кадров в секунду. В Sora до одной минуты.
🟢Open Access
🟢Но воспользоваться пока нельзя
🟢Зато можно встать в лист ожидания. Так как сначала выпустят тест для небольшого количества пользователей
🟢Правда встать в лист ожидания сложно: нужно скачать китайское приложение «快影» и зарегистрироваться на китайский номер телефона. Что делаем? Учим язык?
@xor_journal
Тетрису сегодня исполнилось 40 лет. Игру создал в 80-х Алексей Пажитнов. Математик работал в вычислительном центре Академии наук СССР: изучал ИИ и одновременно увлекался головоломками.
Идея тетриса родилась благодаря настольной игре «Пентамино» — Пажитнов решил создать версию настолки для ЭВМ с немного измененными элементами.
С практической точки зрения — это игра на быстроту реакции и концентрацию внимания, но математики на это смотрят под другим углом. Вычислительная сложность алгоритма тетриса — NP-полная. И если маленькие задачи, как базовый тетрис, легко решить перебором, то когда переменных больше — решение может занять десятки и сотни лет.
Именно с NP-задачами с множеством переменных в будущем сможет быстро справиться квантовый компьютер. А пока предлагаем поиграть: в 2021 IBM выпустил квантовый тетрис, который, по словам создателей, визуализирует настоящую случайность, генерируемую квантовым компьютером.
@xor_journal
Канал для аналитиков уже в Telegram!
Его ведет Влад Князев, аналитик из финтеха, который ярко и с юмором пишет заметки и проводит эфиры о том, как выйти на новый уровень в карьере в IT.
Начинай прокачивать насмотренность системно уже сейчас👇
Подпишись на @godnolytika
⚡️ AMD запустила программу Bug Bounty с вознаграждением до $30 тысяч за обнаружение ошибок. Размер награды будет зависеть от серьезности найденного бага.
Правда участвовать смогут не все. Среди обязательных критериев:
— вам есть 18
— вы не являетесь резидентом или гражданином страны, находящейся под санкциями или эмбарго правительства США. Так что россияне, видимо, участвовать не будут.
@xor_journal
⚡️Федеральная торговая комиссия и Минюст США собираются начать антимонопольное расследование против Microsoft, OpenAI и Nvidia.
Миюст проверит Nvidia, так как в правительстве обеспокоены доминированием компании на рынке. ФТС же изучит партнерство OpenAI с Microsoft, а также покупку корпорацией лицензий на $650 млн у стартапа Inflection AI и найм их ключевых сотрудников, включая соучередителей.
@xor_journal
⚡️ На ПМЭФ замминистр здравоохранения Евгений Камкин поделился удивительной статистикой: ежегодно российские работодатели теряют 443 млрд рублей из-за перекуров сотрудников и последствий курения для здоровья.
@xor_journal
⚡️Выпускники МФТИ лидируют по заработку в IT среди выпускников вузов. Их средние зарплаты 300 тыс. руб. в месяц. Рейтинг опубликовал Superjob.
Университет ИТМО занял второе место с зп выпускников в 260 тыс. А МГУ скатился аж до третьего места, где теперь находится вместе с Бауманкой, МИФИ и ВШЭ. Студенты, закончившие эти вузы, могут расчитывать на 250 тыс.
При этом это уровень зарплат молодых специалистов, окончивших учебные заведения с 2018 по 2024 год. Джуны, получается.
@xor_journal
⚡️ Дуров рассказал, что уже два года пользуется телефоном Samsung за $180, так как это самое популярное устройство среди пользователей Telegram. Дело в том, что основатель мессенджера хочет понимать юзабилити. Интересно, а десктоп версию он с Lenovo проверяет?
@xor_journal
У Алисы есть 5 братьев и 3 сестры. Сколько сестер у брата Алисы? Если вы решили загадку (ответ 4, так как 3 сестры плюс сама Алиса), то поздравляю! Вы все еще умнее ИИ.
Эту задачу давали GPT-4, Claude, LLaMA, Mistral и Gemini и почти всегда получали неверный ответ. Мы проверили это в чат-ботах: это правда, задача в такой формулировке сейчас для GPT сложна. Поэтому наслаждаемся воскресеньем — ИИ пока нас не захватит.
@xor_journal
⚡️ На ПМЭФ-2024 заявили, что средний возраст «стартапера» в России — 37 лет. При этом открытие своего бизнеса чаще планируют молодые специалисты в возрасте 18 — 24 лет (19%) и 25 — 34 лет (13%).
@xor_journal
Что, если бы известные богачи решили оформить свою страничку по всем инфоцыганским канонам?
Актуальные сторис...
⚡️ Университет Мичигана проводит исследование «Накуренный во время программирования», где участникам платят $80. Дело в том, что ученые хотят выяснить, как марихуана влияет на эффективность работы программистов. Условия участия просты: нужно быть старше 21 года и знать Python.
Пик Балмера пошел дальше.
@xor_journal
⚡️ Компания Shopify приобрела Threads.com, альтернативу Slack. Условия сделки не разглашают.
Threads.com был запущен в 2019 году, но привлек внимание после запуска социальной сети Meta с похожим названием.
Раньше компания не рассматривала продажу своих доменов, но в этом году что-то пошло не так: теперь их ждет ребрендинг и Шопифай.
@xor_journal
В 2024 году россияне стали чаще самостоятельно собирать электронику, включая компьютеры. С января по апрель только на одном из интернет-магазинов было продано около миллиона комплектующих для ПК. Это на 324% больше, чем в 2023 году.
Интересно, что на эти комплектующие было потрачено практически столько же, сколько на новые ноутбуки — 10,2 млрд рублей по сравнению с 10,5 млрд.
@xor_journal
⚡️ Отечественный аналог YouTube будет полностью копировать оригинал, его представят уже в конце июня, заявил депутат Горелкин. «Разработчики копирнули интерфейс, и это хорошо. Я в ИТ и в культуре выступаю за взаимное проникновение, косплей», — заявил он. @xor_journal
Читать полностью…⚡️ Павел Дуров объявил о запуске Telegram Stars. Их можно купить за реальные деньги и обменять на различные цифровые продукты, предлагаемые ботами.
🟢 Общая наценка на покупку звезд в Сторах в районе 43% (30 стору и 13 Телеграм)
🟢 Полный отказ от ответственности со стороны Телеграм за нарушение любых местных законов —например, за вывод крипты
🟢 Если забанят аккаунт, то звезды тоже пропадут
🟢 Вывод не раньше, чем через 21 день после поступления звезд
🟢 При этом выводить звезды можно только через Toncoin.
Ранее владельцам крупных ботов пришло предупреждение, что с 12 июня все платежи должны проходить через Telegram Stars.
@xor_journal
Бывший сотрудник продвинутого ИИ-софта для бухгалтеров QuikBook рассказал, как на самом деле работала компания 7-10 лет назад.
QuickBooks позволял пользователям загружать квитанции, а затем «ИИ» автоматически определял сумму и категорию расходов. Иногда это работало быстро, а иногда это занимало часы.
На самом деле на Филиппинах были просто рабочие, и иногда это занимало некоторое время, потому что они спали.
Исследование показало, что в российских IT-компаниях часто врут в резюме. Из 1200 опрошенных руководителей — 46% сталкивались с ситуацией, когда кандидаты намеренно завышают свой профессиональный уровень.
Еще из интересного:
🟢Наиболее востребованы, по мнению руководителей IT компаний, сейчас системные аналитики, инженеры по тестированию ПО, администраторы баз данных и инженеры по безопасности.
🟢Существует дефицит разработчиков, работающих с Python, Java, а также JavaScript- и SQL-программистов.
🟢Многим соискателям на должность senior-разработчика не хватает знаний Git. Более 30% руководителей также пожаловались на недостаточный опыт работы кандидатов с библиотеками тестирования (enzyme/jest).
🟢Требования к кандидатам становятся жестче, так как многие компании сталкиваются с фейковыми сеньорами. Ну, среди нас таких точно нет.
@xor_journal
⚡️ Nvidia достигла капитализации в $3 триллиона, обогнала Apple и стала второй самой дорогой компанией в мире. @xor_journal
Читать полностью…Еще один бывший сотрудник из OpenAI, Даниэль Кокотайло, сегодня высказал опасения по поводу AGI и принципах компании.
🟢Кокотайло упомянул, что при уходе ему предложили подписать соглашение о неразглашении под угрозой потери акций. Он отказался, но тактика запугивания компанией сотрудников его тревожит.
🟢Бывшие сотрудники OpenAI создали инициативу Right to Warn, чтобы потребовать большей прозрачности, так как ИИ без должного надзора может быть опасным. Интересно, что ее подписали и нынешние сотрудники компании, но анонимно.
@xor_journal
Вундеркинда Леопольда Ашенбреннера два месяца назад уволили из OpenAi за предполагаемую утечку информации. А сегодня он опубликовал документ на целых 165 страниц с инсайтами о будущем ИИ на ближайшие 10 лет.
Ключевые моменты:
🟢По его прогнозам, доходы от ИИ у Google и Microsoft достигнут $1000 млрд к 2026, что приведет к огромным инвестициям в графические процессоры и центры обработки данных.
🟢Мы приближаемся к созданию кластеров, потребляемая мощность которых составит более 20% от производства всей электроэнергии в США.
🟢У нас заканчиваются данные из интернета. И скоро подход к обучению более крупных языковых моделей просто на большем количестве данных может не сработать.
🟢Он считает, что благие намерения правительства и крупных компаний (Google, Amazon) по созданию зеленых ЦОД — палки себе же в колеса.
🟢AGI станет самым мощным оружием. И Леопольда беспокоит поверхностное отношение лабораторий, которые занимаются AGI, к безопасности и утечке.
🟢И оптимистичное: Леопольд предвидит миллиарды сверхчеловеческих агентов ИИ, способных на сложное и творческое поведение. Мы при этом будем первоклассниками, которые пытаются контролировать нескольких докторов наук.
@xor_journal