pro.jvm

04 Dec 2024 14:02

самый топовый м4 макс, 4тб ссд и максимум оперативы

pro.jvm

04 Dec 2024 14:02

Уже достаточно много. Автодополнение, код ревью, генерация кода(например опенапи ямликов) , подсказки(в режиме чата) как минимум.

pro.jvm

04 Dec 2024 14:02

128гб малыш способен с терпимым токен респонсом поднимать LLama 405b

pro.jvm

04 Dec 2024 14:01

маки в этом плане охуительные: один SoC и трахают 4090 по шине

pro.jvm

04 Dec 2024 14:01

локальный инференс требует: много оперативы, много ГПУ ядер и памяти и сносный процессор + пропускую способность высокую шины между этими тремя компонентами

pro.jvm

04 Dec 2024 14:00

в самой акке в контексте только пул потоков для футурок да корень акторсистемы

а вот лифт мог (те же мысли что и про кодеки и про автопересборку всего на имплиситах)

pro.jvm

04 Dec 2024 13:59

+ появился смысл купить макбук со 128гб оперативы

pro.jvm

04 Dec 2024 13:59

любой ассистент заюзай

pro.jvm

04 Dec 2024 13:59

поставь себе любой ассистент, да узнай

pro.jvm

04 Dec 2024 13:58

есть статейки с примерами?

pro.jvm

04 Dec 2024 13:58

Единственное, что может мне дать «ии» - строчки с вызовом setLongitude после вызова setLatitude, потому что разрабф библиотеки не догадались запихнуть их в один метод.

pro.jvm

04 Dec 2024 13:57

зависит, ты его придумал или нет

pro.jvm

04 Dec 2024 13:57

хотел бы я быть таким же безработным, как разработчики хаскеля

pro.jvm

04 Dec 2024 13:55

завидую, хотя возможно нет

куда ни приходил - везде спарк+велосипеды, после пары сломанных рук и черепов становится сильно лучше, а бесконечные потроха куда-то уходят

хз, могу быть предвзят, натягивать личный опыт на индустрию точно не собираюсь)

pro.jvm

04 Dec 2024 13:55

ну наверно они не были бы безработными и смогли кормить свои семьи?

pro.jvm

04 Dec 2024 14:02

но мне такое не надо, Qwen Coder 32B и можно отменять подписки

pro.jvm

04 Dec 2024 14:02

если m4 такой и 128 то еще ничо

pro.jvm

04 Dec 2024 14:01

возят, я узнавал цену, за 700к обещали привезти

pro.jvm

04 Dec 2024 14:01

их не вот прям много возят

48 обычных терминальных уже не хватает?)

pro.jvm

04 Dec 2024 14:00

LLM, Open AI ChatGPT, Claude Projects, Claude Sonnet 2.5, RAG, OLLAMA, LM Studio, Continue, Cursor

pro.jvm

04 Dec 2024 14:00

идее теперь не хватает 100гб?

pro.jvm

04 Dec 2024 13:59

я потом пост сделаю, как свой сетап настроил

pro.jvm

04 Dec 2024 13:59

это быстрее, чем статейки читать

pro.jvm

04 Dec 2024 13:59

или базворды какие погуглить

pro.jvm

04 Dec 2024 13:58

она может, да

но это обычно не когда контексты, а когда чертова магия переборов на этих самых имплиситах, например кодеки (хаха, spray какойнибудь) или там grpc

сам так не делаю

pro.jvm

04 Dec 2024 13:58

это была акка, лифт и т.д.

pro.jvm

04 Dec 2024 13:57

не надо портить его грязными деньгами

pro.jvm

04 Dec 2024 13:56

их слишком много, но если суммировать кратко в 1 предложение: представь, что ты можешь вести диалог со своей кодовой базой, получать аналитику, предложения по улучшению и сократить рутину (кодген/комменты/тесты)

pro.jvm

04 Dec 2024 13:55

а есть статья обзорная что дает при разработке ИИ?

pro.jvm

04 Dec 2024 13:54

кого вы обманываете? у нас есть json и мы его из базы в формочку перекладвываем