4257
❤️☠️🤗 идейная миграция небытия
LLAMA в 4bit заказывали?
тут обернули llamu в 4бит и теперь она кушает 4гб на инференс для 7B модели, и 32гб для 65б модели, а теперь еще и нативно на макnpx dalai alpaca install 7Bsite