5916
Сообщество разработчиков Java Scala Kotlin Groovy Clojure Чат для нач-их: @javastart Наш канал: @proJVM Вакансии: @jvmjobs @jvmjobschat ⚠️ Оффтоп -> @flood ❌Переход на личности ❌Троллинг ❌Реклама ❌HH (вакансии) ❌Варез
даже лучше 5090 (которая лучше для генеративного ИИ типо видео/картинок/звука)
Читать полностью…
и может так получится, что студия станет номер 1 сетапом для локальных ллмок
Читать полностью…
мини на м4 про уже есть, стоит недорого и крутые результаты показывает
Читать полностью…
да, но я хочу дождаться тестов 5090 и ценника на нашем рынке
Читать полностью…
структурно любой код это:
- дерево идентификаторов;
- несколько графов (зависимостей, управления потоком, наследования)
но эти факты никому ничего не дадут сами по себе, да и в контексте «умеем перемеожать матрицы, много и быстро» тоже
проблема в том, что llm это про статистику и перемножение матричек
я бы сказал, что отчасти это и есть проблема, мы как вид не очень понимаем что так а что не так с языками (хомского не предлагать)
железо растет в мощности, локальные ИИ - наше настоящее и будущее
Читать полностью…
не, тема очень интересная. я сильно сомневаюсь что ближайшее время будет массовое использование локальных LLM на своих рабочих машинах, а вот корпорации будут поднимать и код-асистентов и умных помощников, обученных на локальной базе знаний. в пайплайны для ревью будут встраивать и тд.
Читать полностью…
@ivandasch годный доклад от тинька вчера был про векторную базу
Читать полностью…
там будут макс/ультра и оперативы могут сотни гигабайт сделать
Читать полностью…
миник или дождаться прохи?
в смысле не ноутом, а в непортативном исполнении оно дешевле будет
за 700к можно системник праймовый собрать и никто не мешает инференс делать в своей локальной сети
Читать полностью…
просто по сути в таком случае таким языком является естественный язык
Читать полностью…
прошло всего 2 года с публичного релиза гпт 3 от опен ии и посмотри где мы сейчас
Читать полностью…
правда для этого крутое железо нужно, поэтому макбуки и проект exolabs сейчас на хайпе
Читать полностью…