На HuggingFace появилась фича Use this model для запуска LLM и Text-2-Image моделей у себя локально через желаемый софт....
На HuggingFace появилась фича Use this model для запуска LLM и Text-2-Image моделей у себя локально через желаемый софт.
В настройках хаггинг аккаунта заходим в раздел Local Apps and Hardware. Можно здесь задать своё железо, но на фильтрацию AI-приложений похоже это не влияет. Я с ноута, где стоит двухгиговая 1050 запустил ламу 3 в Jan, всё ок.
Ставим галочки на софте, который вы используете для того, чтобы гонять модели локально. Для работы с текстом поддерживаются , LM Studio, Jan, Backyard AI. С картинками пока только Draw Things и, скоро, DiffusionBee, но они обе только на мак.
Нажимаем Browse Compatible Models —> выбираем приглянувшуюся нейронку —> кликаем Use this model в правом верхнем углу —> выбираем в каком софте запустить, и через диплинк в нём откроется окно для загрузки модели. Можно и просто исследуя хаггинг открыть понравившуюся нейронку нажав Use this model .
Доступны, в основном, квантизированные GGUF версии, которые можно скачать либо целиком, либо они состоят из нескольких частей и для работы понадобится скачать их все как архив из множества кусков (они обычно подписаны part_N). Чтобы понять какую модель грузить, можно глянуть страницу с описанием на хаггинге, если там про это есть. В противном случае качайте, то что как вам кажется нормально запуститься в памяти вашей видюхи. Как только модель загружена — можно генерить.
Если вы пилите своё приложение для запуска локальных моделей, то нажав Suggest a new local app вы можете предложить добавить его в список.
7 views
278
77
2 weeks ago 00:00:30 1
Заголовок видео
2 weeks ago 04:01:25 4
[Andrej Karpathy] Let’s reproduce GPT-2 (124M)
2 weeks ago 00:00:22 20
Вышла лучшая нейронка для генерации 3D-моделей — Unique3D
2 weeks ago 00:03:07 1
Lookism – Fly UP! (with Full English Lyric Translation)
2 weeks ago 00:00:31 3
🎨 Инструмент для тех, кто мечтал быть художником.
2 weeks ago 00:00:25 1
Real-time in-browser speech recognition Распознавание речи в браузере в режиме реального времени с помощью OpenAI Whisper
2 weeks ago 00:06:50 1
гайд на войсченджер от братишкина (realtime voice changer)
2 weeks ago 00:23:31 5
IC-LIGHT - НЕЙРОНКА ДЛЯ УПРАВЛЕНИЯ ОСВЕЩЕНИЕМ ИЗОБРАЖЕНИЙ ОТ СОЗДАТЕЛЯ FOOOCUS, СONTROL NET, FORGE.
2 weeks ago 00:00:34 1
Мультиплеер Stable Audio, который можно запустить на Hugging Face Генерируйте аудио из текстового описания, делитесь и учитесь у
2 weeks ago 00:06:29 1
ЛОКАЛЬНЫЙ Kandinsky 2.1 на Вашем ПК | Установка и тест | Neura Integra
2 weeks ago 00:30:40 1
InstantID — генерация с вашим лицом. Полное руководство Huggingface, Colab, Portable, Automatic 1111
2 weeks ago 00:13:23 1
ЭТО СЛУЧИЛОСЬ! НЕЙРОСЕТЬ ГЕНЕРИРУЕТ 3D МОДЕЛИ. ТЕСТИМ!
3 weeks ago 00:00:21 2
Mubert (https://huggingface.
3 weeks ago 00:00:04 1
V-Express — метод анимирования статичной фотографии лица с учётом позы
3 weeks ago 00:10:18 1
Улучшенный локальный RVC: клонируем свой голос за 5 минут | Видеоурок по установке | RVC rmvpe
3 weeks ago 00:00:30 4
️ Flash версия Scribble SDXL Это быстрая версия Scribble SDXL, о которой мы недавно писали
3 weeks ago 00:14:57 1
Я сделал ИИ для CS2 и она его уничтожила 3
3 weeks ago 00:00:32 2
️ Scribble SDXL — позволяет превратить каракули в шедевр Scribble SDXL создан на основе SDXL ControlNet и его можно без проб...
3 weeks ago 00:00:01 111
Понятно, что на тяночках AnimateAnyone работает хорошо, ибо приучен. А я присунул в соломорезку сурового поморского мужука...
4 weeks ago 00:01:45 1
Hugging Face подрубили в фичу Tools , которая расширяет функционал опенсорсных языковых моделей,...
4 weeks ago 00:00:27 1
Продолжаем за 3Д. Rodin Gen-1 атакует меня письмами. Тизерят новую модель, а пока предлагают поигра...
4 weeks ago 00:08:15 1
Fooocus v. 2 4 0. Новая функция ускорения генераций (Stable Diffusion)
4 weeks ago 00:21:37 1
10 Новых Нейросетей которые Вы должны Знать
4 weeks ago 00:01:10 10
На HuggingFace появилась фича Use this model для запуска LLM и Text-2-Image моделей у себя локально через желаемый софт....