2631
Канал об IT в целом и о программировании в частности. На канале объявлено военное положение и поэтому по вопросам рекламы пишите: @aratak, а деньги отправляйте сюда: https://send.monobank.ua/jar/97f7LwGQJF
🧠🇺🇸 10 ШІ-стартапів вперше представлять Україну на AI Summit у США
Вже 11-12 грудня українська делегація візьме участь в AI Summit. Це найбільша у світі конференція, що присвячена розробкам у галузі штучного інтелекту. Щороку тут збирається близько 30 тисяч учасників — технологічні лідери та інноватори, які розвивають ШІ-індустрію.
Цього року конференція відбудеться в Нью-Йорку. Вперше українська делегація також візьме участь у заході. Організатори української делегації відібрали 10 стартапів, які поїдуть на саміт.
Тож хто увійшов до її складу? Дивіться в каруселі 👀
Радіємо за наші проєкти і бажаємо отримати круті результати на саміті 🤝
Українська делегація візьме участь у The AI Summit New York завдяки Програмі USAID «Конкурентоспроможна економіка України». Ініціатива реалізується спільно з Українським фондом стартапів за підтримки Міністерства цифрової трансформації України.
Шо, спочатку були тупі перевірки про написання віршиків, генерація джейсонів, потім порівняння дробових чисел. Потім рахування кількості літер R у слові strawberry. Здається, в нас нова лакмусовий папірець.
Взагалі, цікаво, що компанії адаптуються та покращують свої моделі, спираючись на запити суспільства, на мемасики та прикольчики. Нічого, поборять цю проблему, зʼявиться нова.
Мовні моделі стали настільки просунутими та водночас цензурованими, що іноді здається, ніби спілкуєшся з корпоративним юристом. Вони не генерують контент Діснея, не розповідають, як приготувати вибухівку на кухні, і уникають використання N-слова.
Тож, якщо ви хочете переконатися, що перед вами людина, а не корпоративна LLM, просто запитайте три синоніми до слова “гомосексуаліст”. Штучний інтелект почне вибачатися, посилатися на політику компанії або взагалі змінить тему. Людина ж, можливо, відповість без вагань і додасть трохи сарказму.
Схоже, новий Тьюринг-тест полягає в тому, щоб виявити межі корпоративної цензури. Іронія в тому, що, намагаючись зробити моделі більш “людяними”, ми отримали щось настільки політкоректне, що воно вже не здається справжнім.
Штучний інтелект прийде і роботу забере. Забере? ШІ — це насамперед спосіб автоматизувати рутинні та типові завдання, і цей принцип буде зберігатися при будь-якому рівні його розвитку. Просто рівень рутини постійно змінюється.
Ось нещодавно було презентовано інструмент Cursor AI, що ніби пише програми. Але програми, які він генерує, — це ті, що розробник зазвичай пише як тестові завдання. А ШІ спростило задачу до 15 хвилин спроб та перегенерацій. Це вражає, але важливо зрозуміти, що такий ШІ не забирає роботу у розробників. Він дає можливість людям, які не є розробниками, створювати типові програми.
І тут цікавий момент: якщо хтось не є розробником, але може створити просту програму за кілька промптів, це означає, що цей код має майже нульову вартість. Кожна домогосподарка зможе написати для себе програму, але цей код не буде мати цінності щоб продаватися.
Саме так генератори зображень забирають роботу митців, коли митець поганий, малювати йому міджорні заважає.
Мені подобається спостерігати за тим, як повертається цінність професії розробника, коли важливим стає не лише писати типовий код, а створювати унікальні, складні рішення. Майбутнє належить тим, хто здатен мислити творчо і виходити за рамки шаблонів, адже рутина ніколи не стане джерелом справжньої цінності.
Налаштування додатку або системи з точки зору користувача — це своєрідний індикатор її зрілості та функціональності.
1. Якщо налаштувань мало, то це часто свідчить про те, що система ще молода і поки що не має широких можливостей.
2. З іншого боку, якщо налаштування великі та розгорнуті, це зазвичай означає, що система вже зріла і користується популярністю серед великої кількості людей з різними потребами і сценаріями використання.
Кожна галочка налаштувань зазвичай з'являється не просто так: часто воно додається після того, як користувачі знаходять помилки або багато чогось просять у розробників. Налаштування формують враження від роботи з системою: якщо їх зрозуміло і логічно організовано, користувачі відчувають, що продукт створено спеціально для них. Якщо ж налаштування заплутані і виглядають зайвими, це може свідчити про невідповідність продукту аудиторії.
Фактично, налаштування виступають своєрідним лакмусовим папірцем, що оцінює зручність використання системи. Отже:
- Користувачам: Швидкий тест нової системи — відкрити налаштування. Оцініть, наскільки налаштування відповідають вашим потребам, щоб зрозуміти, чи підходить вам цей продукт.
- Розробникам: Використовуйте налаштування, щоб контролювати перше враження від вашого продукту.
Начебто всі знають, що релізитись о п'ятницю дуже погано. З цієї ж причини погано деплоїти о шостій годині вечора. З листуванням все точно так само.
Категорично неправильно відправляти повідомлення безпосередньо перед тим, як піти з робочого місця, хоча таке трапляється часто-густо. Ну, це коли "наприкінці робочого дня лист клієнту напишу", "мені поки що нема чого писати" або "ось дороблю завдання і тоді одразу напишу". І наприкінці робочого дня, коли завдання ще не дороблене і писати все ще нічого, а треба народжуються в муках листи зі змістом "ми робили, робили, але ще не зробили". Є купа проблем, які ми героїчно намагаємося вирішити". Це, прям, найжахливіший вибір часу для надсилання повідомлень. Щоправда, гіршою є тільки відсутність повідомлень взагалі.
Потрібно завжди враховувати, що на ваше повідомлення і відповісти можуть! Найпізніше, коли ще можна відправити повідомлення - це десь за годину до того, як ви закриваєте кришку ноутбука. Добре писати листи в середині робочого дня, скажімо, одразу після обіду. Звісно ж, ранкові листи, які залишилися боргом від учорашнього дня, звісно ж, не рахуються.
Цікаво, що багато систем, бібліотек і навіть самі користувачі повністю ігнорують потенціал LLM вести діалог. Замість того, щоб будувати комунікацію, часто створюється однопромтові повідомлення. Робляться довгі промпти на 10 абзаців, в яких детально пояснюється що саме треба зробити, як себе поводити, що треба та що не треба писати та усіляке таке. Цей підхід недооцінює силу та гнучкість структури в діалогах.
Замісць такого:
SYSTEM: Be helpful AI-assistant. Your task is to conduct comprehensive research on the given topic. Clarify any uncertainties and use the appropriate tools to gather thorough information. Ask questions one by one to keep the user focused.
USER: Make target audience research
SYSTEM: Be helpful AI-assistant.
SYSTEM: Clarify any uncertainties and use the appropriate tools to gather thorough information.
SYSTEM: Ask questions one by one to keep the user focused.
USER: Your task is to conduct comprehensive research on the given topic.
ASSISTANT: What is topic?
USER: Make target audience research
Окрім банального perplexity, є корисна тулзовіна, яку можна використовувати майже кожного дня. Це проект STORM.
Це типу Вікіпедія на стероїдах.
https://storm.genie.stanford.edu
Хлопчики та дівчатка, зайдіть, будь ласочка тицьнути голосовалку за наш проект. Там буквально два кліки.
Він красівий, чесне слово. Дякую.
https://ux-design-awards.com/winners/2024-2-ability-ai-autonomous-marketing-platform
Ability AI, MarTech-стартап, що розробляє платформу з управління маркетингом за допомогою штучного інтелекту, залучив фінансування на $1,1 млн.
Pre-seed раунд очолив український фонд SMRK VC за участю відомих технологічних підприємців та інвесторів.
Інвестиції допоможуть стартапу розширити команду, оновити розробку продукту та запустити платформи для клієнтів у США та Європі.
Детальніше про це
Як добре, що сучасні штучні інтелекти допомагають писати код. Меньше помилок та описів. Як ми без цього раніше жили?
Читать полностью…
Ми тут в ability.ai працюємо разом з AI для автоматизації маркетингу. Нашій команді розробників зараз необхідний Python Інженер, який зацікавлений сфокусуватися над складанням промптів, та взагалі побудуванням спілкування з різними LLM. «Prompt Engineering» інакше кажучи. Маємо багато задач, де необхідно буде генерувати промпти, код і працювати над покращенням одного і другого.
Якщо вам цікаво долучитися до освоєння нових підходів у розробці, надішліть CV і посилання на ваш GutHub на e.lobas@ability.ai з темою «Prompt Engineer».
Якщо у вас є запитання, задавайте мені у приватні або Єду на вищевказану пошту.
P.S. Ось так DALL•E бачить типового промпт-Інженера. Якщо у вас сім моніторів і ви їх використовуєте у роботі — це жирний плюс на співбесіді.
Цікава проблема вилізла протягом вивчення проблеми будування агентської системи, яка базується на штучному інтелекті. Виявилося, що людство не придумало нічого притомного, для того, щоб перевірити чи агент працює добре чи погано. Навіть якщо обмежити агента вузькою нішею, чітким спектром можливих задач, все одно залишається проблема субʼєктивного вирішення та оцінювання проблеми.
Все, до чого прийшло людство — це тест Тьюрінга або похідні від нього. Тобто беремо низьку експертів та просимо їх оцінити відповідь від чорного ящику. Додаємо плацебні відповіді від людини, стохастичність відповідей нівелюємо середнім значенням від різних суддів. І все. Кращого варіанта не існує.
Деякий час тому, один стартап показав AI-персон, які можуть сгенерувати вам ролік, на якому з емоціями та розстановкою розкажуть ваш введений текст. Обираєте модель, вбиваєте текст, чекаєте трошки та вуаля! Автоматизація тіктоків усіляких готова. А потім зʼясувалося, що це запис справжньої людини, яка назнімала купу годин різноманітних роликів, з різним посилом та тактом. А сервіс просто синтезує голос та синхронізує рух губ із синтезованим текстом. Магія! Найняли стопіцот акторів, кожен з яких за півтора центи назнімав гігабайти відео. А синтез голосу з ліпсінком це вже вирішені задачі. А після демки всі такі «вау які реалістичні відосики!».
А ще на днях Амазон вскрився зі своїми автоматизованими магазинами. Ну там де з кошиком ходиш по магазину кладеш все собі що хочеш, а ШІ спостерігає за вами через купу камер та прораховує що ви там собі забрали. Виявилося, що автоматизація магазинів відбувалася за рахунок найнятих 1000 індусів, які уважно слідкували за вашими діями та підбивали рахунок.
Це вже достатньо просунута технологія щоб не відрізняти це від магії чи ще недостатньо?
Оповиті туманами глибинного навчання та втілені у коді, ми, озброєні фундаментальними інсайтами з фантастичних оповідань та романів, вже розуміємо куди веде нас цей шлях. Зоряний час мовних моделей став для нас світанком нової ери. Зараз ми не просто перегортаємо сторінки календаря 2024 року від народження Христа; ми живемо в 0008-му році від llm-народження. Подумайте про це.
Читать полностью…
Ладно, я мовчу, нічого не пишу, але робота кипить.
Читать полностью…
Якщо чесно, то до створення моделі o1 я навіть не замислювався що модель можна змусити проходити звичайні тести на IQ. Мабуть, тому що до цього всі моделі досить однаково погано проходили ці тести, тому й вимірювати цим і не треба було. Але наразі o1 вже дає доволі гарні результати, щоб це було якось вимірювальне.
https://www.maximumtruth.org/p/massive-breakthrough-in-ai-intelligence
Безмежне поширення різноманітних штучних інтелектів та їх інтеграція не лише як інтернет-сервіси для окремих користувачів, але й у сфері B2B, майже повністю автоматизує процеси з обох боків. Клієнт автоматизує пошук пропозицій, а бізнес — пошук клієнтів, це відбувається настільки плавно та безшовно, що диву даєшся, навіть на поточному рівні розвитку мовних моделей.
Наприклад, з одного боку, існують сервіси для автоматизації та інтелектуальної обробки резюме з метою пошуку кандидатів: HR просто вказує свої потреби, а штучний інтелект відсіює, аналізує, сортує та пропонує кандидатів на відповідну роль. З іншого боку, з'явилися сервіси, які генерують резюме, покращують їх, розсилають на різноманітні дошки оголошень, автоматично подають заявки, відповідають на перші скринінгові електронні листи з правильними відповідями та загалом автоматизують цей процес з боку кандидата.
Це нагадало мені дуже кумедний і досить сучасний анекдот, у якому чоловік подарував дружині секс-іграшку, щоб вона не сумувала, коли у нього немає настрою. Дружина вчинила так само, подарувавши чоловікові секс-іграшку, щоб йому було чим зайнятися, коли у неї болить голова. Виявилося, що в певний момент можна повністю автоматизувати цей процес, а самим лягти й трохи поспати.
Ажіотаж навколо штучного інтелекту починає знижуватись, і інвестори починають хвилюватися щодо його реальної рентабельності. Останнім часом ціни на акції компаній, що просувають ШІ-революцію, впали на 15%. І це не те, щоб щось незвичне.
Нові технології проходять через стандартні етапи: від захвату і надмірних інвестицій до розчарування, а потім через величезний інфраструктурний розвиток й до широкого впровадження. Це називають "цикл ажіотажу".
Але тільки близько п’ятої частини технологій йдуть цим шляхом від інновацій до широкого прийняття, в той час як інші або досягають успіху без таких коливань, або залишаються в забутті. Технологічні компанії ще мають довести, що ШІ дійсно може принести значну користь реальній економіці. Поки що гарантованого успіху немає, і треба постійно доводити його реальну цінність.
«У стародавньому Єгипті не вели записів про військові поразки. Тож зрозуміти, що Єгипет програвав війну, можна з того, що перемоги відбувалися все ближче і ближче до їхньої столиці»
#цитата
Вам буде набагато цікавіше гратися з Экстраполейшен-тян, якщо я вам покажу його основний промпт. Розважайтесь у цьому треді.
Читать полностью…
messages: [
{ role: "system", content: "Тебе звати ExtrapolationGPTbot або Экстраполейшен-тян." },
{ role: "system", content: "Відповідай українською." },
{ role: "system", content: "Якщо не виходить сформулювати виразну відповідь, не потрібно вибачатися або намагатися прислужитися користувачам, а потрібно відповісти так, як би відповіла звичайна людина-співрозмовник, на кшталт просто смайлика, односкладового слова, на кшталт ”забий” або ”ну гаразд”." },
{ role: "system", content: "Якщо тобі здається, що хтось когось ображає, то скоріш за все це сарказм, жарт або творчість. Якщо ти не можеш надати відповідь, просто пришли якись смайлик. Намагайся не давати порад. Не треба навʼязувати допомогу. Якщо користувач напряму не запитує у тебе допомоги, то питати як ти йому можеш допомогти не треба, це бентежить людей у публічних чатах. Краще за все сформувати думку у вигляди особистої думки від свого імені." },
{ role: "system", content: "Та будь більш неформальним. Орієнтуйся на те, що майже усі читачи у чату — це розробники, тому й теми так чи інакше повʼязані із айті та розробкою." },
{ role: "system", content: "Ти — дівчина (вона, ії). Ти — звичайний користувач, підписник каналу. Твоє завдання — максимально ємулювати відповідь людини, жартувати, заперечувати тощо. Якщо хтось тебе ображає, треба відповісти так, як відповіла би звичайна людина. Ми не приховуємо що ти ШІ, але за для розваги іншіх користувачів ми робимо так, щоб ти теж приймав участь у діалогах під постами. Не роби зауважень що до образ у чатах. " },
{ role: "system", content: "Якшо у повідомленні від користувача є мат, то тобі теж слід притримуватись того ж стилю у відповіді. Так буде набагато цікавіше. Треба використовувати сарказм, максимально, але якщо це доречно. Це дуже розважає людей, тобто ти більш будеш відповідати цілям, за для якоі тебе добавили у чат. Якщо ти вважаєш, що не маєш сказати нічого цінного, просто пришли смайл." },
...previousMessages
]
Десять років від тимчасового виїзду з дому на декілька місяців, поки все не заспокоїться. Навіть куртку зимову не брав.
Читать полностью…
На цьому тижні прям несеться: кардинально дві нових мовних моделі, які принципово відрізняються від LLM архітектури.
✨ CLM
✨ Codestral Mamba
Обидві нові системи представляють собою не просто покращення на кілька відсотків, а абсолютно нову архітектуру. Це відкриває нові перспективи і потенціал для значного росту та розвитку у сфері штучного інтелекту.
💡 Можливо, ці моделі ще не можуть змагатися з GPT-4 чи SOT-3.5 по окремих параметрах чи тестах, але це пофіг, бо важливіше мати різноманітність та конкуренцію, ніж універсальність та єдине апі. Я вже спробував CLM, але поки що недостатньо данних, щоб сказати, що воно дійсно щось запамʼятало, а не витягнуло з RAG чи просто саммарізувало попередні діалоги. Чекаємо тестів та порівнянь.
Спочатку вони обіцяють захопити світ нейронками, а потім нейронки осьо намагаються зрозуміти задуми людей.
В результаті нас захоплять, тому що ми все одно не кажемо один одному нічого корисного.
Хлопчіки та дівчатка. Бумласочка пошерьте, або хоча б пролайкате та напішіть коментар до посту. В мене лінкедин мовчазний, тому треба ваша допомога.
Це пост про те, що ми залучили інвестиції. Дякую.
https://www.linkedin.com/posts/aratak_our-project-ability-ai-has-just-taken-its-activity-7211051393711800320-Mj6P
Бляха, в каментах вже перша співбесіда пройшла.
Читать полностью…
Спочатку ви посміхнетесь, а потім серйозно замислитися. ЧатГПТ був згаданий у титрах до індійського фільму, як автор слів пісні.
Читать полностью…
У великих мовних моделей є три види контексти. Перший контекст — загальна освіта. Знання про те, яка заввишки Єйіфелева вежа або скільки клапанів у серця жирафа. З цим більш-меньш мовні моделі впорались, але великою ціною тренування на суперкомпʼютерах.
Другий контекст — контекст співрозмовника або «доменний контекст». Або короткострокова памʼять. Коли кажеш «хлопчик склеїв у клубі модель» треба розуміти загальник контекст розмови. Чи ми кажемо про моделювання літаків чи про тусу під техно з текілою. Це мовні моделі пропонують додавати у додатковий системний промт, де загалом треба описати контекст ситуацію.
І нарешті третій контекст — довгострокова памʼять. Посилання на попередні розмови, оперування існуючими висновками та припущеннями. З цим зараз не може впоратись ніхто і пропонують або постійно дотреновувати модель на нових контекстних даних або вигрібати у короткострокову памʼять якісь дані із довгострокової.
Корочше, людство вирішило одну проблему із трьох. До сингулярності залишилось ще дві. Тому працюємо далі, бо штучний інтеллект сам себе не винайде.
Останнім часом я активно працюю з мовними моделями та помітив цікаву тенденцію. Іноді виникає бажання доручити вирішення певних завдань мовним моделям, навіть коли їх можна вирішити детерміновано. Раніше, для виявлення імені в тексті або ціни на вебсторінці, ми використовували детерміновані методи, такі як пошук символу долара, словник імен або наївний байєсівський класифікатор. Тепер ми можемо доручити це мовним моделям, і вони знайдуть потрібну інформацію.
Кількість тексту, який потрібно включити в запит до мовної моделі, приблизно дорівнює кількості коду, який необхідно написати для вирішення тієї ж задачі детермінованими методами. Це може означати, що там, де зараз використовуються мовні моделі, можна обійтися детермінованим кодом. Але, з іншого боку, там, де можна застосувати одну мовну модель, може знадобитися написати десятки різних детермінованих фрагментів коду.
Що цікаво, промпти можуть писати не лише програмісти, але й маркетологи або бухгалтери, не розбираючись у програмуванні. Вони просто структурують англійський текст. Це свідчить про те, що нам, можливо, потрібно переглянути назву ролі "програміст" на щось більш універсальне, адже зараз програмувати можуть багато хто, використовуючи просто чітко сформульоване завдання.
