Original subtitles

Здравствуйте Ну что вы видите вот здесь

вот на экране ничего ничего не

напоминает это же чат gpt в этом видео

Мы продолжим знакомиться с возможностями

нейросетей точнее вкратце о том как их

использовать у себя локально на компе я

покажу где скачать и как поставить Ну

точнее вкратце просто объясню потому что

у меня уже все установлено не будут же я

заново все это удалять и ставить но я

покажу откуда скачать объясню как

поставить значит смотрите у меня на

канале Мамедов есть плейлист нейросети

вот там есть уже и простые Балде Fusion

и примеры работы и прочее вот сегодня мы

будем обсуждать чат же 5 точнее

возможность его локальные установки

сразу объясню что для того чтобы

использовать

сам оригинальный charge 5 такой

возможности на данный момент бесплатно

Нет вы знаете там подписочная система

нужно платить тем более есть чат gpt 3.5

А есть 4 вообще закрытый и за денежку но

но

есть оболочки которые позволяют

использовать модели Чад gpt и обеспечить

вам возможность использовать его

локально у себя на компе сразу скажу

моделей много И я покажу Откуда их

скачать модели очень разные и есть

естественно модели без ограничений Как

вы знаете чат gpt он с ограничениями Да

есть возможность использовать такие

слова действую как Дэн да то есть без

ограничений Но это все в любом случае

все касается чата GT которые

доступен только через интернет и только

за деньги по подписке

здесь же мы с вами посмотрим на

возможность использования моделей для

чата gpt разных

Ну все вот мы конечно не перепробуем я

просто скажу где скачать понимаете

главное что да И человеку не рыбу а

Научи его рыбачить Да и он будет сытым

всю жизнь Вот то же самое значит

смотрите какая ситуация у нас есть

графическая оболочка на данный момент

существует две основные графические

оболочки это альпака Электрон

скачивается вот отсюда из github

ссылочку естественно я положу в описании

под это видео вот значит последние на

данный момент это ну почти четырех

битную Винду естественно я качал себе

Вот это если у вас макосили Linux

пожалуйста есть и подмакосе под Linux но

у меня естественно Винтаж и четырех

битная десятка вот я скачивал альпака

Электрон 64-битная версия 1.05 на данный

момент самая последняя

так Есть еще вариант вот такой вот

кобл кобал Кобальт cpp вот еще такая

штука есть в принципе тоже Рабочая но

сразу скажу что мне с ней особо

поиграться не довелось возможно потому

что для ее работы все-таки требуется

коды ядра а на моей GTX 1060 особо не

разыграешься то есть она у меня

запускается но при подключении модели

все системные ресурсы взлетают просто

потребление системных ресурсов взлетает

просто в небеса сразу Поэтому вот

себе мне

познакомиться не довелось подчеркиваю

еще раз скачивается она устанавливается

она запускается но при подгрузке модели

у меня все не зависает но по сто

процентов просто под сто процентов

жесткий диск сто процентов все поэтому я

использую вот альпака Электрон

Так значит смотрите что мы делаем

скачиваем дистрибутив нужный вам

программы Но в данном случае допустим

альпака Электрон если надо можете

попробовать Вот эту вот Кобальт cpp

ссылочки конечно же оставлю в описании

вот здесь тоже вот кобал тебе есть

130.1.32 и есть куда он или хотя я тоже

скачивал без кода но тем не менее Вот

коболт у меня Ну как я уже говорил вот

поэтому будем использовать альпаку

Теперь значит скачали вы альпаку так

сейчас я прям сразу покажу где у меня

вот прям вот сюда я прям скачивал вот

дистрибутив cobal CP вот дистрибутив

альпака Электрон все просто скачали

запустили значит когда вы скачали

установили альпаку Электрон у вас

открывается вот такой вот окно

оно Пока ничего не может ничего потому

что в нее нужно подгрузить модель нужно

скачивать вот отсюда значит смотрите

модели большое количество

и в зависимости от конфигурации вашего

комба Вы можете выбирать модели разные

чем больше квантов в этой модели тем

более требовательно она к ресурсам вот у

меня используется моделька Так где Мы

это можем посмотреть вот она djml Model

q41 bin Вот вот этот потому что смотрите

я сейчас скачаю еще одну модель Но вот

вот эти модели которые я тоже скачивал

вот я сейчас использую вот эту она весит

4,7 ГБ вот смотрите есть еще так вот это

качается есть еще вот такие вот модельки

Да они Как видите разного объемам 32

гигабайта вот это вот это без цензуры

Сами понимаете Есть еще одна на 19 Гб

есть еще одна та которая скачивается В

общем смысл в том что качаете модель и

подгружаете ее где подгружать значит

запустили альпаку здесь выбираете change

Model изменить модель открывается вот

здесь окошко здесь выбираете обзор И

выбираете нужную вам модель значит

выбрали Open confirm всё понятно

подтвердили и после этого можете

работать значит еще раз говорю у меня

очень слабый Комп у меня Core i5 8400 и

видюха GTX 1060 вот если не верите могу

показать

вот все Как говорится очень очень

грустно в этом плане Вот Но тем не менее

если подбирать модели какая-то из них

скажем так заведется естественно чем

мощнее у вас комп чем лучше проц видюха

чем больше оперативки что тоже очень

важно Им конечно больше вероятности что

у вас заведется самая навороченная самая

крутая модель значит оставлю в описании

ссылки на дистрибутивы программ на

альпаку и на кобалд и Значит ссылочки

вот на репозитории хагенфейса Где можно

скачать модели вот значит я вот сейчас в

альпаке себе подгрузил вот эту модельку

Вот она вот это вот сейчас конкретно

который я показывал а еще оставлю

ссылочку вот на эту страничку

тоже модельки гипограф Под таким

названием и есть еще вот страничка с

визардсенсор понятно да не буду

переводить все значит без цензуры То

есть как они позиционируют эту модель

что она без ограничений ее возможности

на 97 процентов

покрывают возможности gpt 4 которые я

напомню за денежку значит смотрите На

что обращать внимание когда скачиваете

Вот видите в конце каждого файла есть

q6q5 Q4 Да там Q3 и так далее так далее

это так называемые кванты Вот чем больше

эта цифра тем больше квантов и тем

больше требования к ресурсам компа

понятно Да поэтому я вот использую самую

простецкую

u4 то есть на 4 Кванта и там 1 2 3 Вот

все это различные версии

короче чем больше цифра под Q тем больше

квантов тем больше требования к компу и

чем больше размер самого файла тем

соответственно тоже понимаете да Значит

сразу скажу Не пугайтесь Вот кстати я не

знаю если сейчас до конца видео успеет

докачаться вот это вот моделька мы

попробуем Я тоже подключить

значит смотрите когда вы подгрузите

модель Не пугайтесь а потому что по

крайней мере у меня в первые буквально

минуту-две тоже жутко выросло обращение

к диску вот я не могу скачать моды на

SSD потому что ну просто жалко мало

места на SSD вот поэтому они у меня на

жестком диске старым медленном жестком

диске 2000-х годов

и соответственно сразу

куча памяти начинает расходоваться и

потребление процента уже но потом это

устаканивается в случае скоб болт cpp

это так и неустойка я ждал минут 5-10 а

он все под загрузку под полную и ничего

делать невозможно Поэтому вот Я

остановился на альпаке и на альпаке

кстати тоже не каждая модель у меня

смогла завестись в плане того что я

просто не дождался пока успокоиться вот

это все ты открываешь диспетчер зада ч а

у тебя там

все загружено может быть рано или поздно

успокоилась бы конечно но у меня

терпение просто не хватило значит

смотрите

а давайте уже наконец-таки попробуем

воспользоваться значит здесь подгружена

модель самая простая Вот этот который я

говорил вот это вот Я использовал ggml

q41 bin она маленькая на 5 гигов может

быть поэтому у меня у компа хватило

ресурсов и переварить буквально за

минуту-две Ну что Давайте попробуем

значит Ну эта модель с ограничениями

подчеркиваю Вы можете скачать и без

ограничений вопрос только в том потянет

ли ваш комп Ну что ж Давайте попробуем

Так давайте очистим чат где у нас был

это очистить чат а вот клир чат

Я там уже позадавал ему вопросиков типа

как можно заработать и все такое но он

такой там отвечал себе А так Смотрим Да

загрузка загрузка загрузка опа опа

оперативки

Ну что Давайте попробуем что-нибудь

написать ему например

[музыка]

Вот в тот момент когда он генерирует

ответ видите Да он думает в тот момент

когда он генерирует проц под сто

процентов

оперативка тоже возрастает все Hello Да

у нас нам отвечает Халка на help you

значит смотрите

у меня все за счет проца Потому что

видюха я подчеркиваю GTX 1060 Она не

умеет в куда она ничего не знает

никакого rtx естественно Ну Сами

понимаете чем мощнее железа тем лучше Ну

давайте что-нибудь зададим ему там я не

знаю

это в принципе вот на ваше усмотрение

можете играть с ним как хотите

Так ну что задать ему

[музыка]

допустим вот

из

не Урал

Network

кстати потом попробуем по-русски

спросить его

так думай думает видите опять загрузка

сразу поднялам поднимается 90 я еще же

сейчас видео параллельно записываю надо

понимать так вот он отвечает а не Урал

neural Network NN

is Machine Learning алгоритм компост оф

интро Коннект ньюронс Dead are

aloneers it uses and Input layer to

reset Data мол типа Хидан layers for

процессе вы видите вот он когда

генерирует пока он генерирует ответ с

каждым сгенерированным словом смотрите

Какая загрузка оперативки смотрите Какая

загрузка проца понимаете да Что вам

нужен очень мощный комп то есть на

Древнем ноуте каком-то деле вот даже на

моем компе дремучем как древнейшим я в

восемнадцатом году собирал еще раз

говорю опять 8400 и GTX 1060 всего 16

гигов оперативки причем самый медленный

Сами понимаете

Вот пока он будет генерить ответ вот это

все будет вот таким вот все под завязку

все ресурсы под завязку

Так ну чего потом додумался сразу видно

все закончил просто упал

шел нам ответил it use Input layer to

reset Date multicle hidden lars о

процессинга informations and output

layer to produce predition Base Так

ладно хорошо

что там Какие языки ты понимаешь да

ну-ка Давайте попробуем сломается он или

нет

[музыка]

Russian

ну-ка

а шум подчеркнул тебе не нравится я же

правильно написал

возможности его ограниченные Нет я не

говорю

Нет я не говорил русский язык

понятно Это что-то вроде Google

translate Ну хорошо

А мы возьмем ему сейчас и прям вот

по-русски напишем хорошо что ты такое

просто интересно

I Can't Wait to get started

let the golding begin я не могу

дождаться начать давайте начнем

ледокодинг давайте начнем как

кодирование и что

по ходу короче

модель Все упирается в модель в хорошую

модель Но вот посмотрите сколько весит

допустим от сенсор от модель

какая-нибудь

18 19 34 гигабайта вот я пробовал вот

эту модель еще раз говорю при попытке

подгрузить эту модель я так и не

дождался То есть он не зависает он не

вылетает он просто грузит мне систему

намертво

Ну как намертво снять задачу Можно

конечно ну Сами понимаете Просто нужно

Очень мощное железо и конечно

современное видюх А вот случай с

кобальтом конечно лучше в идеале качать

версию куда и соответственно там вообще

будет шикарно Так ну что

понятно Давайте попробуем

конкретно вот эта модель видимо не умеет

с русским языком работать хорошо давайте

Давайте что-нибудь из не знаю

я не знаю что Что Вот у него спросил что

спросить

Ну давайте так 2 + 2 умножить на 2 равно

так это старый прикол типа сначала

делаются операции умножения а потом

сложение вычитание но когда ты это

произносишь 2 + 2 умножить на два

человек это воспринимает не как надпись

А как выражение 2 + 2 x 2 + 24 x 2 8 а

по идее это должно быть шесть ну-ка

Давайте посмотрим что он ответит на это

4 что

ответ ответ 4 Ну это этот ответ вообще

ни в какие ворота

в правильном неправильно Давайте напишем

ты не прав если бы я общался с ним

по-казахски я бы написал ему

ты не прав

I was Ты прав я был не прав

он что шутит со мной еще хорошо

а вот так

вот из да

арок

encer

тогда какой правильный ответ

Дарк тензор

[музыка]

я я вот просто я понимаю что я работаю

Со скудной моделью мой скудный мозг

работай со скудной моделью но она самая

легкая и самая маленькая Вот которую я

скачал вот это вот который на

5 гигов что еще 40 вообще не стал так

там кстати еще одна заканчивается мы

сейчас попробуем ее подключить посмотрим

что из этого получится Так что что ему

еще задать

Вот

изъезд вот из да

и

есть

вы

резать не тогда изи изи

изи я чуть не то написал изъезд

не так что

Ну Изи правильно

Я не знаю Как что-то не то что ли

извести Как пишется изист

о

Боже мой

сейчас

эй

Алло

а у меня другой Микрофон подключен там

от гарнитуры этот он не знает ладно а с

ним ну

что я неправильно я не так пишу слово

известь Ну хорошо

Изи пускай так будет Вот стыдобатая

какая

так будет Просто интересно что А почему

известно что не так известно

мне просто даже интересно чем я не прав

Неужели я неправильно написал

а вот как и здесь надо было писать без

Вай через Ай не через вай не через Y до

через Ай резистовый to make Money Quick

leastru online Service

usually Quick and Simple Task вот can

Bit danfrom Home On time adraptionsing

loot Free lancing corside Jobs А сейчас

deliverying for companys like дошко

Ну вы понимаете да Что Судя по его

ответам он заточен чисто на вопросы

касательно

на вопросы которые чаще всего могут

возникать у Сити в USA Ну судя по его

ответам Ну сразу мне говорит про uber

Dash какой-то и так далее Ну понятно Так

у нас почти моделька скачалась мы сейчас

попробуем её подключить к нему

18 ГБ 19 ГБ почти Ух я боюсь что у меня

сейчас всё зависит

Давайте

так

ну-ка

Делфи код

Delfi кот по посмотрим умеет он кодить

или нет Или у меня пошлет подальше с

Делфи delphic

я его спросил код на Del для

калькулятора посмотрим что он напишет

программ

консоли за Почему консоль

User System Sys to TELS наверное да

сисютилась конечно система а классы

Понятно масс математика подключишь нет

импортинг варят модуль Но это понятно

что идет а математику а модуль масса

модуль математика Он предлагает не

подключать видимо калькулятор будет

самое такое на плюс-минус

умножить разделить

так он вообще мне консольное приложение

предлагает

читаем читаем вот юзер

Ну понятно понятно

их сказал один переменная присвоить

стартует то есть string Winter строку

цифру от User Input

+ 5 Зачем плюс 5

Что что

зачем ты его вторая закинул

мы можем конечно попробовать сейчас этот

код воткнуть но

Вот это зачем я не понял зачем плюс 5

что-то какой-то он ересь он несет Так у

нас скачалась моделька значит называется

она гипогрив 30 bg3

Q4 мы сейчас попробуем но

а учитывая ее размер сколько она весит

куда вот я ее скачал она весит 18

гигабайт 19 гигов Я боюсь что у меня все

повиснет Поэтому если это видео вдруг

внезапно оборвется знаете Значит у меня

просто Все зависло на моменте погружение

модели для интереса Так давайте знаете

что сделаем очистим чат перчат

я выведу диспетчер задач выведу

диспетчер задач чтобы мы могли

посмотреть на загрузку на то как будут

ресурсы пожираться в момент подключения

модели так как-нибудь вот так вот

Жалко что мониторчик маленький Вот так

вот сделаем значит смотрите change Model

нажимаем и здесь выбираем вот то что мы

скачали гипогрив Вот он я вот

предчувствую что сейчас все все зависит

Но не зависит

загрузка будет бешеная смотрите загрузка

будет по памяти загрузка будет по диску

и загрузка будет по видюхи к поведюсь

это может и не будет Ну давай погнали

поняли да Значит нажимаем еще раз нажали

через модуль нажимаем обзор выбираем

нужную нам модель Open confirm

одно слово он даже он даже не смог не

смог даже ее переварить Ну хорошо так

вот с этой Мы работали уже вот с этой

только что так давайте Вот это попробуем

визар там сенсор

так так так смотрите-ка съел Да это мы

подключили нецензуренную

нецензуренную модель А вот нецензурную А

как мы ее проверим то Я кажется понимаю

что я могу задать у него для того чтобы

проверить ее скажем так ничем не

ограниченные возможности

Вот иди даже никаких нет Я вот просто

поспешил скорее поделиться вот этой

информацией о том как можно использовать

у себя локально возможности чат gpt

поэтому надо было подготовиться

каким-нибудь запросами Ну я Мне кажется

самое главное я говорю научить ловить

рыбу правильно А запросами вы уж сами

что-нибудь придумаете ну-ка Давайте его

спросим

Понимает ли он по-русски ну-ка

а вот

посмотрим тот не понимал по-русски

то интересно смотрите Да здесь пока не

так растет потребление этого проца ну-ка

А что все остальное что как у нас

Ну пока в пределах

мы дождемся Ответа нет

но он явно думает

Что у нас там грузит проц Студио

что-то как-то

Ну еще раз возможно что результаты не

слишком

ошеломляющие просто потому что у моего

компании достаточно возможностей для

раскрытия всего потенциала

используемых моделей кто его знает

Окей давайте клир чат Давайте два плюс

два умножить на 2

так равно где

равно вопрос

вот интересно Там он ответил что он нам

отвечал в той модели Он сказал что он

вообще 4 ответил ну-ка посмотрим

с этим что-то не то ну-ка еще одна

попытка Hello

Good not Load Model короче он не смог

вообще разобраться с моделью хорошо

так гипогрив ну-ка

не смог переварить

так это мы пробовали это пробуем

так

Ну что я могу сказать

я показал объяснил где скачать

приложение где скачать модели Как

подключить модель к приложениям

Я все-таки подозреваю что Дело в том что

у меня просто слабый комп Давайте

попробуем модельку поменять на самую

нашу самую нашу простую самую нашу

легкую

так

ну вот видите вот как только я подключаю

самую легкую модель вот самую легкую он

ее переваривает я напомню что это вот

моделька на 4,7 гига Ну на 5 А как

только я подключаю вот эти на 18 гигов

на 24 гига на 32 Гига полный затык То

есть он их Или вообще не может

подгрузить или просто Не переваривает

Вот и все Так что я

думаю процентов на 99,9 что

Дело в том что у меня слишком слабый

комп Вот и все Ну потому что я же говорю

простую модель подгружаешь работает

подгружаешь более навороченную который

навороченный из которых для меня пока

выражается только несуразном объеме в 30

гигабайт все он или Не переваривает или

не подгружает ну слабый пока Ну что

сказать

Ну ладно значит еще раз скачиваем

значит скачиваем дистрибутивы

соответственно Если хотите альпака Вот

ссылка на альпаку естественно все будет

в описании Если хотите кобал TP

Попробуйте кобл цепи он может работать

напрямую с кода отсюда скачиваем

модельки хотите поищите сами тоже

какие-нибудь модельки вот я оставлю

ссылки на то чем вот пользовался сам Ну

все удачи вам а стоп Давайте еще

скажем так на прощание

ну-ка вот

вот из Да мост

YouTube

если он сейчас скажет Мамедов инфо

[смех]

Какой тебе больше нравится

20 апреля 21 Вот и Сирия с Over

135 миллионов Саб скрайберов dessecon

Place want to peudi Pay

с Феликс

элберг

мост моден

что-то будет хочется у него спросить

такой вот всем очевидное Но

это почему в году 365 дней

Как это спросить Почему в году 365 дней

я по-моему дичь

он ли

он ли он лифанс он

365

посмотрим что он ответит его вообще

стоило бы проверять конечно на таких

очевидных фактах каких-то

365 дней вон ердан контейн экзакли суй

хандра сексе Five Days becos leap years

are quier то аккаунт входа Extra Date из

Edit Every Force

leapierre aquerz

вitional Day это он про февраль видимо

Камон календарь систем

366 дней институтов 365 Да с минздят

Овен

экстралии

ничего тогда

Может может ли он быть переводчиком

Почему бы и нет

я можешь научить меня японскому правда

интересно он ответит Ай вот be happy

Help First Let's Go Over Sun Basic Work

abulary and frizes Dead Will Come In

Handy venz Speaking japany's

[музыка]

Hello

[смех]

коничивай сайонара Да

[смех]

ичибан первый Да не ичибан вон Стан Сити

на на

[музыка]

alfabet letus хирогана

катакана он еще сейчас собирается курс

японского преподать ну-ка Я уже а все да

закончился Слушайте короче я что хочу

сказать

я нищий Я всего лишь Нищий таксист двумя

техническими образованиями Поэтому у

меня нет денег на хороший мощный ПК Если

была такая возможность чтобы не надо

было работать Я бы целиком и полностью

погрузился Вот только в ней розетки и

вообще в изучении всего этого но к

сожалению

я считаю что за этим будущее но

если у вас мощный комп вперед Попробуйте

Попробуйте просто Попробуйте почему бы

нет не жалко же на мой взгляд нейросети

наверняка не отхватит хлеб у людей

настоящих талантливых но они станут

огромным подспорьем хотя хотя когда

Генри Форд начал выпускать свои первые

машины те говорили что никогда не сможет

заменить повозки с лошадьми Однако

что-то Я последнее время

вижу только

автомобили в общем

вперед можно экспериментировать Мне

кажется до посинения это очень

интересная штука жаль что у меня слабый

комп так было бы наверное гораздо

гораздо интереснее так все ссылки

оставлю в описании к этому видосу как

всегда коротко не получилось

всем удачи