Как запустить RAG-файл на Llama 3.1 с помощью LM Studio локально на своем ПК? (2024)
В этом видео мы поговорим, как установить локально нейросеть Llama 3.1 8b, чтобы пользоваться ей бесплатно кастомизировать эту нейросеть через Anything LLM. Так же рассмотрим, как использовать RAG-файл через LM Studio и Anything LLM
Детально разберем, как установить локально себе на ПК бесплатную нейросеть LLama 3.1 8b на 8 миллиардов параметров, чтобы можно было ей пользоваться без интернета, безлимитно и абсолютно приватно.
А так же сделаем тюнинг и развернем ее через привычный нам интерфейс ЧатаGPT.
=========================================
Полезные ссылки:
1. Установка приложения LM Studio:
2. Установка приложения Anything LLM:
=========================================
Ссылка на видео о том • ТОП 9 способов использования ChatGPT -
=========================================
👉🏻 Подписывайтесь на мой канал и ставьте лайки, если вам интересна тема Нейросетей, Llama 3.1, чата GPT-4o c canvas, Midjourney, Flux, Heygen, и Искусственного Интеллекта.
ВОПРОСЫ:
Хотите узнать больше про другие Нейросети или больше про возможности ЧатаGPT?
👉🏻 Пишите ваши вопросы и предложения в комментариях!
О чем это видео:
Это видео о том, как легко прокачаться свою персональную нейросеть Llama 3.1 8b и прикрутить к ней RAG-файл. Как сделать более кастомную версию через Anything LLM и как сделать проще через LM Studio.
Таймкоды:
0:00 Интро
0:53 Андрей Бурдин
1:13 Установка LM Studio
2:02 Запускаем Llama 3.1 8b
3:21 Установка Anything LLM
4:15 Связка LM Studio с Anything LLM
5:00 Создание сервера в LM Studio
5:57 Связка Anything LLM с LM Studio через локальный сервер
8:36 Тестируем RAG-файл
10:10 Способ №2 RAG-файл сразу в LM Studio
11:00 Кому подходит LM Studio, а кому Anything LLM
12:00 Топ-9 Способов использования Нового Голосового Ассистента ЧатGPT
#llama 1 #Llama3 #лама3
9 views
1830
643
5 days ago 00:01:14 1
Как исправить проблемы с запуском Call of Duty: Black Ops 6
2 weeks ago 00:25:19 1
Существа в открытом космосе возможны? / Большой Взрыв наоборот / Астрообзор #169
2 weeks ago 00:00:22 1
Настройка на открытие пульт Starline A9
2 weeks ago 00:12:27 1
ПОСЛЕ 112 ЛЕТ ЖИЗНИ Луиза Леви ОТКРЫЛА Секрет долголетия, который поможет изменить вашу жизнь!
2 weeks ago 00:00:41 1
Как в BIOS включить одновременную работу встроенной и дискретной видеокарты. Материнская плата ASUS
2 weeks ago 00:15:35 1
Запуск нового проекта на 250 стран мира!🌎
3 weeks ago 00:51:09 1
Земля | Растительность | Серия 3/5 | Документальный фильм Би-би-си
3 weeks ago 02:40:58 1
MZLFF - из майнкрафта в батлы, сравнения с Pyrokinesis, вклад Братишкина, твич и новый альбом #vsrap
3 weeks ago 03:12:00 1
444 Гц Запусти механизм исцеления и тело само начнет себя лечить | Исцеляющая медитация
3 weeks ago 00:02:54 1
В Ярославле открылась выставка Елены Мухиной
4 weeks ago 00:04:41 1
ДВА БРАТА И КАБАК. ИСПОЛНЯЕТ GALA STYLE. (КАВЕР-ВЕРСИЯ). АВТОРЫ МУЗЫКИ “СНЕЖНЫЕ ВОЛКИ“. СЛ.Ю.СОБОЛЯ
4 weeks ago 00:11:40 1
Вот почему никто не может открыть эту дверь!
4 weeks ago 00:10:20 1
Кодинг стал ИЗИ после этого открытия! Вот как я это сделал!
4 weeks ago 00:51:36 1
Осин, Батов: Как не допустить контрреволюции | Автоматизация производства | Авторское право
4 weeks ago 00:20:00 1
Как деревенский мужик Василий съездил в Нью-Йорк
4 weeks ago 02:20:28 1
28 Октября! Запуск Акции + Заработок в интернете! Доходы от 1000$ в месяц! Начало в 17:10 Москвы!
4 weeks ago 00:15:34 1
🚀Запуск нового проекта на 250 стран мира! Эксклюзив от Президента! 💸Доход №1 в мире до 1 000 000$
4 weeks ago 00:06:18 2
Открылся Музей истории Крыма. Частный музей в городе Судак. Лето 2023
4 weeks ago 00:05:40 1
Лукашенко: Ушли – спасибо! Пусть уходят! // Про авто, самолёт “Освей“ и другие проекты с Россией
4 weeks ago 00:36:39 1
Город-призрак Цевло. Сотни пустующих квартир, брошенные машины и бесконечные болота
4 weeks ago 02:30:01 1
Чё Происходит #244 | Лукашенко против «квадроциклов», выборы в Грузии и Молдове, ФБК* ответили Кацу
4 weeks ago 00:23:35 1
Советская Игра Престолов. Новодевичий монастырь против Гитлера!
4 weeks ago 00:10:27 1
Василий Ключарев на сессии Форума “Открытые инновации“ на Startup Village
4 weeks ago 00:06:08 1
Nirvana - Smells Like Teen Spirit (Cover на русском | RADIO TAPOK)