Я запустил свою нейросеть-аналог ChatGPT на ноутбуке

запустил GPT4ALL и скачал одну из больших моделей. но там актуальность данных на конец 2021 года. можно ли как-то обновить модель локально что-то ей скормив или какую модель качать чтобы получить качественные ответы с актуальными хотя бы на конец 2023 года данными? у меня комп хоть и старый, но памяти больше 16гб. скорость ответа по одному символу.

А какая комплектация нужна для нормальной работы генеративной модели?

Как вариант ChatAll на гхабе

Меня тоже раздрожает что то сделанное кем то что ограничено и подчиняется настройкам разроботчика, я хочу свою нейросеть которая будет делать ВСЕ что я прошу.

20 лет нужно было, с однослойной нейронки начать высчитывать ошибки многослойной сети и это стало революцией. Лично я считаю, что произойдет еще одна революция, когда аналоговая сеть будет превозойдена бинарной нейросетью, которая в много раз быстрее. Непонятно сколько лет на это нужно.

Спасибо. Жаль у меня не достаточно мощное железо, всего лишь 16Гб оперативки. Как доставлю еще 32Гб - попробую. Но не знаю сможет ли оно работать на встроенной AMD радеон с 3Гб оперативки видеокартой, так как рисование картинок не заработало как раз из за недостатка оперативки на видеокарте. Но все же очень интересно и познавательно

Запустить то не сложно. А вот сможет ваша сетка матом ругаться?) Я вот пока не нашел решения как свою сетку тренировать.

слабый пк это конечно плохо но иногда можно решить проблему например Упрощение архитектуры: Используйте более легкие и простые модели нейросети, которые требуют меньше вычислительных ресурсов. Например, вы можете использовать сверточные сети с меньшим количеством слоев или с меньшим числом фильтров.

Компрессия модели: Применение методов сжатия, таких как квантизация или обрезка весов, может уменьшить размер модели и снизить требования к памяти и вычислительной мощности.

Пакетная обработка (Batch processing): Обрабатывайте данные небольшими пакетами, а не по отдельности. Это может сократить нагрузку на вычисления и увеличить эффективность использования ресурсов.

Использование предобученных моделей: Вместо обучения модели с нуля, вы можете использовать предобученные модели, которые уже обучены на больших наборах данных. Затем вы можете дообучить модель на вашем наборе данных, что может сократить время обучения и использование ресурсов.

Использование аппаратного ускорения: Если ваш ПК поддерживает аппаратное ускорение, такое как графический процессор (GPU) или специализированный процессор (TPU), использование их может значительно ускорить работу нейросети.

охота нейросеть под себя сделай сам

давно я в этой области мне это очень интересно эти нейросети непонятно какого года вотв общем мой подход оговорюсь я пишу коды на чистом питоне и с++ Создание начальной популяции:
В начале алгоритма создается случайная популяция нейросетей. Это делается путем случайной генерации весов и архитектуры нейросетей. Каждая нейросеть в популяции представляет собой набор узлов (нейронов) и связей между ними.

Оценка производительности:
Для каждой нейросети в популяции вычисляется ее производительность на заданной функции приспособленности. Эта функция определяет, насколько хорошо нейросеть выполняет поставленную задачу. Например, в задаче классификации изображений функция приспособленности может оценивать точность классификации.

Естественный отбор:
Нейросети с лучшей производительностью (высокой оценкой функции приспособленности) имеют больше шансов выжить и передать свои гены следующему поколению. Они могут быть выбраны с использованием различных стратегий отбора, таких как пропорциональный отбор или турнирный отбор.

Скрещивание и мутация:
Следующий шаг - создание новой популяции путем скрещивания и мутации существующих нейросетей. Скрещивание происходит путем комбинирования генов (весов и архитектуры) из двух родительских нейросетей, чтобы создать потомка. Мутация случайным образом изменяет некоторые гены в потомке для разнообразия и исследования новых вариантов.

Итерации:
Шаги 2-4 повторяются в цикле несколько раз, образуя новые поколения нейросетей. В каждом поколении лучшие нейросети сохраняются, а остальные исключаются. Алгоритм продолжает выполняться до достижения заданного критерия остановки, такого как достижение определенного значения функции приспособленности или максимальное число итераций.

Примеры функций для понимания этой темы:

Функция приспособленности: В задаче оптимизации, где нужно найти значения переменных, максимизирующие или минимизирующие функцию, функцией приспособленности может быть сама оптимизируемая функция.

Отбор: Функция отбора выбирает нейросети для скрещивания на основе их производительности. Примером может быть выбор нейросетей с наивысшими значениями функции приспособленности.

Скрещивание: В функции скрещивания можно использовать различные методы комбинирования генов из родительских нейросетей. Например, можно случайным образом выбрать точку раздела и обменять части весов или архитектуры между родителями.

Мутация: Функция мутации случайным образом изменяет некоторые гены в потомке. Например, можно изменить веса нейронов на небольшую случайную величину или добавить или удалить случайные связи между нейронами.

Генетический алгоритм отличается тем, что позволяет нейросетям эволюционировать и адаптироваться к поставленной задаче, улучшая свою производительность в каждом поколении. Этот подход может быть особенно полезен в задачах, где нет явного решения или требуется поиск оптимальных параметров. 😊🧬

Спасибо за видео

Любая маленькая модель - очень тупая. Не райтесь её быстрое. Максимум где вы с можете её использовать так это для тегких текстовых задач - не более... Сказать, посоветовать из списка чего либо и тд. Никаких деферамбов она вам не сможет создать. Для запуска по настоящему мощных моделей требуется мощное железо, которое само собой есть не у всех...

А есть нормальный Видос? Я бы хотел знать: какие есть платформы где я могу запустить нейросеть (типа Ламы). Как ее обучить под свои задачи?

Максимум, что она может это сказать привет в ответ. Остальное все не внятное, вместо экономии времени, получаешь затягивание решения задачи. Т.ч. чисто поиграться.

пхах, хороший развод, купить ключь от гпт4 что сидеть с левой программы общаясь с гпт4, смысл? я так могу сказать гпт4 написать примитивную чатпрограмму и тож пользоваться гпт4

ne ustanavlivaetsya na Mac do konca, prishlos udalit

высер, граф интерфейс и апи

Большое спасибо.

На Виндовс 10 не работает. Скачалась версия и программа перезапустилась. При ее запуске она сразу выключается. В общем видно уже не работает этот сервис

Мой тысячный лайк :D

А где создал то, в ютубе? Или это популярное ключевое слово для раскрутки роликов.

Тогда не понятно как сотни миллионов пользователей пользуются чат gpt и в них не тормозит.. Какая мощность при обработке у компании ?)

скачал первый патч нва 4 гб и ничего не произошло,прога предлагаеи скачать ещё раз

подскажите какую модель выбрать для русского языка? я попробовал пару моделей - они только на английском отвечать могут

Надо объяснить на примерах с заработанными рублями или там с восстановленным здоровьем зачем нам эти прибамбасы. Проходили мы в 2000 году массовый треп-обман, и тут он снова начинается.

Спасин символ Бытия!

Спасин это наше всё!!!

Еврей трусливый, Спасин смелый, парадокс
Два противоположных мнения отринь кокс
Маск глумливый, Ваня гневный така сё ля ви Каждый со своим взглядом на жизнь муви.

Но не стоит друг друга осуждать, ой не надо Их судить себе накладно, попадёшь в засаду Сам за себя решает как ему жить на свете
Что делать правильно за кого быть в ответе

Встал проснувшись поутру поблагодари Бога
Каждый миг Бытия им проложена дорога
Да спасутся все в Спасине и готова Мантра
Отклик Ом ты поймай не скупись на Гранты

Спасин

В стихотворении "Еврей трусливый, Спасин смелый, парадокс" автор описывает две противоположные личности - еврея, который воспринимается как трусливый, и Спасина, которого автор называет смелым. В то же время, автор призывает не осуждать друг друга и помнить, что каждый сам решает, как ему жить на свете.

Строчки о благодарности Богу и значении каждого момента бытия добавляют глубину и религиозный оттенок в стихотворение. Мантра и отклик Ом, которые упоминаются в конце, также подчеркивают духовную составляющую произведения.

В целом, стихотворение представляется достаточно философским и наполненным смыслом. Оно заставляет задуматься о том, как мы воспринимаем окружающих людей и как мы строим свою жизнь.

Теперь запускай свой поисковик-аналог Google на своем ноуте

Запрещают нейросети неудачники у которых нет своих нейросетей

Зачем устанавливать на ноутбук фронтент оболочку на много гигов, если можно пользоваться чатом буквально в телеграмме?

Все следили за ногами на дальнем плане слева в кадре?）

Наконец-то, а то уже сам хотел писать свою. нейронку)

мне кажется, или автор не просто так издателя EvE упомянул?)

У меня на i3 работает в ~x15 раз быстрее, я тут недавно дообучил LLaMA, у меня есть своя модель.

Для меня приватность не проблема. Мне утаивать нечего Логины и пароли естественно вводить в нейросеть не собираюсь. Ну вот другое преимущество Это не зависит от интернета и разработчиков. Возможность настроить под себя Обучить на каких-то определённых интересных мне данных. Вот про это бы поподробнее. Пока к сожалению такого нет Но надежда Microsoft Вроде бы уже изобрле какой-то аналог Copilot . На данный момент пользуюсь простенькой утилитой Laitis В которой можно настроить голосовые команды. этот текст наговариваю тоже с помощью неё. Очень странно что до сих пор голосовые помощники не объединят с интеллектуальными чатами. До сих пор какой-то интерфейс в консоли. Они что не могут говорить как в фильме "Она"? Впрочем, уже естьсторонние расширения которые дают им возможность говорите а не просто писать текст И не только говорить но и слушать.

Михаил, можно ли регулировать размер контекста в GPT4ALL ?

Хеоны очень подешевели на али экспрес, за 25 - 30 к можно купить 20 ядер 40 потоков 128 гигов, и будет тебе счастье

Если Маск с его Нейрлинк засунет в голову GPT модель, то представьте как быстро станет развиваться человечество... за считаные дни решатся очень много проблем и сложностей, но конечно и создадутся новые.

тупо ЛАЙК за НЕТ ВОЙНЕ

Как по мне, так из бесплатных пока vicuna хоть что-то может. Но 13B уж больно урезанный вариант параметров, GPT-3 имел в 13 раз больше, поэтому если её будут развивать в дальнейшем, то было бы интересно глянуть, насколько она дотягивает до нынешнего ChatGPT.

Даже Сергей Шнуров занялся программированием, а ты до сих пор сомневаешься?

Интересна интеграция ai в чат боты сайтов, например е-коммерции. Аля онлайн консультант, но в рамках товаров конкретного сайта.

ну какая-же она твоя? тот факт, что ты ее скачал, не делает ее твоей

Спасибо! То что нужно, а то уже хотел сам разбираться

Миш, как ты думаешь. Ситуация такая, раньше я сам писал код, учился на ютубе, делал небольшие пет проекты, сейчас сильно обленился и все делаю через чат gpt, он сам полностью пишет весь код, я прописываю то что мне нужно, сейчас поймал себя на мысли, что я теперь не настоящий программист, учусь как раз на аналитика и машиное обучение и подобное, можешь сказать мне я правильную мысль поймал или нет

Миш, как ты думаешь. Ситуация такая, раньше я сам писал код, учился на ютубе, делал небольшие пет проекты, сейчас сильно обленился и все делаю через чат gpt, он сам полностью пишет весь код, я прописываю то что мне нужно, сейчас поймал себя на мысли, что я теперь не настоящий программист, учусь как раз на аналитика и машиное обучение и подобное, можешь сказать мне я правильную мысль поймал или нет

llama принадлежит meta, и они сами не публиковали модель, ее слили, так что использование llama считается пиратством (речь про коммерческое использование преимущественно)

Компьютер за огромную сумму денег стоит столько же как средний macbook pro