jvmchat | Unsorted

Telegram-канал jvmchat - pro.jvm

5916

Сообщество разработчиков Java Scala Kotlin Groovy Clojure Чат для нач-их: @javastart Наш канал: @proJVM Вакансии: @jvmjobs @jvmjobschat ⚠️ Оффтоп -> @flood ❌Переход на личности ❌Троллинг ❌Реклама ❌HH (вакансии) ❌Варез

Subscribe to a channel

pro.jvm

есть опенсорсные модели на уровне 4.5, кажется

Читать полностью…

pro.jvm

и он не уступает Chat GPT 4

Читать полностью…

pro.jvm

но все приватно и бесплатно (кроме электричества)

Читать полностью…

pro.jvm

смысл в том, что вышли такие модели, которые не уступают облачным

Читать полностью…

pro.jvm

хобби, потом к работе применять стал

Читать полностью…

pro.jvm

это у тебя хобби или по работе начинал?

Читать полностью…

pro.jvm

для ии наверно да. Но я не питонист, чтобы иишкой баловаться)

Читать полностью…

pro.jvm

что позволяет очень жирные модели запускать

Читать полностью…

pro.jvm

новый м4 макс на уровне десктопной 4080

Читать полностью…

pro.jvm

суть то в том, что тебе не надо ифчики писать

Читать полностью…

pro.jvm

я почти пробил 2тб на десктопе (

Читать полностью…

pro.jvm

побурчу что так могли описывать свою работу даже в 70е (между 1 и 2 зимами, «агенты» уже тогда были)

налячкать быстро можно давно, поиск и ответы на вопросы «а как тут надо» при каком-то скилле не вот прям болят

ты уже попользовался - расскажи в чем бенефит прикладной?

Читать полностью…

pro.jvm

и пару моделей тяжелых хранить на диске

Читать полностью…

pro.jvm

с которых свою маржу имеют

Читать полностью…

pro.jvm

ага, нашел... Ну хотя норм, на сдеке всего 600к стоит 128/1

Читать полностью…

pro.jvm

да, это не o1, но для такого есть Qwen 2.5 72B

Читать полностью…

pro.jvm

я запускаю qwen coder 14B с нормальным токен респонсом на 32GB + M2max

Читать полностью…

pro.jvm

вполне шустро картинки генерит

Читать полностью…

pro.jvm

ну я у себя на ноуте запускал LLM

Читать полностью…

pro.jvm

а зачем локально LLM гонять ? даже самые жирные локальные модели будут хуже облачных. имеет смысл только если (до)обучаешь на локальной кодовой базе и документации.

Читать полностью…

pro.jvm

речь про инференс LLM

Читать полностью…

pro.jvm

вы пока не погрузитесь в мир опен сорс моделей, не поймете о чем я

Читать полностью…

pro.jvm

но с куда более широкой пропускной способностью

Читать полностью…

pro.jvm

и он будет хуже для ИИ

Читать полностью…

pro.jvm

но лично я выберу себе что-нить подешевле и на линуксе :)

Читать полностью…

pro.jvm

автоматизация рутины через естественный язык

Читать полностью…

pro.jvm

ну это я изначально смотрел во всяких ру/ре сторах

Читать полностью…

pro.jvm

я думаю терабайта за глаза хватит программисту

Читать полностью…

pro.jvm

цена выше, потому что обычно барыги возят определенные конфиги

Читать полностью…

pro.jvm

это уже сейчас есть и вполне себе работает, но пока нет единых стандартов/гайдов и тд и тп

Читать полностью…
Subscribe to a channel