Найдите ответ у ChatGPT - page 5.

jokers10

legendary

Activity: 1974

Merit: 3049

Quote from: light_warrior on April 21, 2023, 09:58:58 AM

...
И откуда такое заявление что это официальный бот? Что, было подтверждение от теймоса? И очень интересно что скажут об этой фигне модераторы?

Я имел в виду, что это будет официально подтверждённый бот, а не в смысле, что официальный от администрации. Т.е. не тайный ботовод, вводящий всех в заблуждение, а заранее официально объявленый. Пока идут обсуждения, так что не гарантировано, что бот запустится, а там посмотрим. Grin

light_warrior

copper member

Activity: 588

Merit: 926

Quote from: jokers10 on April 21, 2023, 09:43:32 AM

Как известно, не можешь победить — возглавь! NotATether решил запустить на форуме официального бота, который будет брать ответы из ChatGPT, чтобы отправлять их в повторяющиеся и малозначимые топики. Пока не запустил (у J.A.R.V.I.S всего 2 поста общего характера), пока только готовится, но уже вовсю идёт обсуждение как технической, так и этической точек зрения. В локалы бот заходить не планирует, так что если мы его и увидим, то только в англоразделах. Потенциально забавный эксперимент. Интересно, чем закончится. Grin

Бред какой то. Уже чем заняться не знают. Как говорится, когда собаке делать не хер. И откуда такое заявление что это официальный бот? Что, было подтверждение от теймоса? И очень интересно что скажут об этой фигне модераторы?

jokers10

legendary

Activity: 1974

Merit: 3049

Как известно, не можешь победить — возглавь! NotATether решил запустить на форуме официального бота, который будет брать ответы из ChatGPT, чтобы отправлять их в повторяющиеся и малозначимые топики. Пока не запустил (у J.A.R.V.I.S всего 2 поста общего характера), пока только готовится, но уже вовсю идёт обсуждение как технической, так и этической точек зрения. В локалы бот заходить не планирует, так что если мы его и увидим, то только в англоразделах. Потенциально забавный эксперимент. Интересно, чем закончится. Grin

satscraper

hero member

Activity: 714

Merit: 1298

Quote from: xandry on April 20, 2023, 04:14:47 PM

Quote from: satscraper on April 20, 2023, 01:14:26 PM

Для Windows и Linux требуется СРU с поддержкой хотя бы AVX2 инструкций.

Локально возможности модели ограничены.

Ух как написано тревожно, хотя поддержка AVX2 есть у процессоров 2013-го года выпуска даже.

Микропроцессоры с AVX2
Intel Haswell
Intel Broadwell
Intel Skylake
Intel Kaby Lake
Intel Coffee Lake
Intel Comet Lake
Intel Rocket Lake
Intel Alder Lake
AMD Excavator
AMD Zen (AMD Ryzen)
AMD Zen 2 (AMD Ryzen)
AMD Zen 3 (AMD Ryzen)
https://ru.wikipedia.org/wiki/AVX

Моя ошибка, что я не закончил свою мысль и не уточнил по сравнению с чем ограничены возможности локальных моделей.

Буду исправляться.

Они ограничены локально за счёт того, что серверная часть ( "мозг модели"), предлагаемых дистрибутивов устанавливается локально, а не на внешних серверах, вычислительная мощность которых намного превосходят вычислительные мощности любого локального компьютера.

Такие внешние сервера базируются на специализированных CPU, подобных NVIDIA A100 Tensor Core или на худой конец Intel Xenon Scalable или AMD EPYC .

ИИ сервера обычно содержат несколько таких процессоров, которые работают в параллель. Кроме того они содержат множество GPU или TPU позволяющих ускорить требуемые операции.

Я уже не говорю о такой далеко не мелочи как RAM.

За счет всего этого возможности таких серверов неидут ни в какое сравнение с возможностями локальных компьютеров.

xandry

staff

Activity: 3472

Merit: 4111

Crypto Swap Exchange

Quote from: satscraper on April 20, 2023, 01:14:26 PM

Для Windows и Linux требуется СРU с поддержкой хотя бы AVX2 инструкций.

Локально возможности модели ограничены.

Ух как написано тревожно, хотя поддержка AVX2 есть у процессоров 2013-го года выпуска даже.

Микропроцессоры с AVX2
Intel Haswell
Intel Broadwell
Intel Skylake
Intel Kaby Lake
Intel Coffee Lake
Intel Comet Lake
Intel Rocket Lake
Intel Alder Lake
AMD Excavator
AMD Zen (AMD Ryzen)
AMD Zen 2 (AMD Ryzen)
AMD Zen 3 (AMD Ryzen)
https://ru.wikipedia.org/wiki/AVX

viljy

hero member

Activity: 1736

Merit: 857

Ну может у Nomic-AI надо хотя бы avx2, а у Герганова достаточно avx. В чем легко убедиться, посетив https://github.com/ggerganov/llama.cpp где перечислены поддерживаемые модели, затем в релизах скачать бинарники для avx или самому собрать.
Затем, koboldcpp основан, в том числе, на llama.cpp стало быть запустится без avx2 вот так: --noavx2
Кроме того, это самый простой однокнопочный вариант запустить сетку без всякого усилия. И также, обратно совместим со всеми старыми форматами моделей, которые были, а было их уже немало, список поддерживаемых моделей внизу страницы: https://github.com/LostRuins/koboldcpp
Конечно если не хочется легких путей, тогда надо читать инструкции по развертыванию и прочее... А нахрена тогда Герганов и другие есть? Проявите уважение к кодерам, которые делает для людей, использовав результаты их работы и поставьте звезду))
И почему надо запускать именно gpt4all? Потому что там магические буквы джи-пи-ти-4? И что там есть от GPT-4 кроме букв - ничего. Уже есть модели лучше gpt4all, например, от OpenAssistant

satscraper

hero member

Activity: 714

Merit: 1298

Quote from: viljy on April 20, 2023, 12:03:25 PM

gpt4all - это не GPT-4. Это одна из модификаций llama от фейсбука.
Чтобы все заработало даже на CPU, скачиваете koboldcpp с гитхаба и модель c hugging face, для чего набираете в поиске ggml и скачиваете ту модель, которая полностью войдет в вашу оперативку на ноуте.
Модели, на основе llama, подобные gpt4all и их разные гибриды: alpaca, vicuna, koala, baize и т.п. если 3.5 гиг у 7B-4bit модели это много, скачивайте квантованные не до 4 бит, а до 3-х или 2-х. Хотя конечно двухбитная даже 65B это дно. Еще неплохая модель dolly (основа GPT-J)
6 гигов оперативки хватит для 4 бит 7B. Если угодно, можно запустить на телефоне без рута через termux, если там есть 6 гигов оперативки.
А лучше запустить вообще новую модель stablelm от stabilityai (разработчики Stable Diffusion), тем более, что есть версия 3B, ищите квантованную. Это основано на GPT-NeoX, но контекст в два раза больше и датасет в три раза. Да хули там если у нее 3B-f32 больше в размере чем такой же 6B-f32 GPT-J, уже говорит само за себя.
За последний месяц уже появилась куча моделей, сравнимых с GPT-4, но с меньшим количеством параметров. И никакой цензуры и анальных впн - нейронки локально работают.

gpt4all это модель основаная на GPT-J и LLaMa, которая разрабатывается Nomic-AI.

Клиент gpt4all кроссплатформенный.

Подробные инструкции по развёртыванию модели на разных операционках и её трейнингу можно найти на гитхабе Nomic-AI.

Для Windows и Linux требуется СРU с поддержкой хотя бы AVX2 инструкций.

Локально возможности модели ограничены.

viljy

hero member

Activity: 1736

Merit: 857

gpt4all - это не GPT-4. Это одна из модификаций llama от фейсбука.
Чтобы все заработало даже на CPU, скачиваете koboldcpp с гитхаба и модель c hugging face, для чего набираете в поиске ggml и скачиваете ту модель, которая полностью войдет в вашу оперативку на ноуте.
Модели, на основе llama, подобные gpt4all и их разные гибриды: alpaca, vicuna, koala, baize и т.п. если 3.5 гиг у 7B-4bit модели это много, скачивайте квантованные не до 4 бит, а до 3-х или 2-х. Хотя конечно двухбитная даже 65B это дно. Еще неплохая модель dolly (основа GPT-J)
6 гигов оперативки хватит для 4 бит 7B. Если угодно, можно запустить на телефоне без рута через termux, если там есть 6 гигов оперативки.
А лучше запустить вообще новую модель stablelm от stabilityai (разработчики Stable Diffusion), тем более, что есть версия 3B, ищите квантованную. Это основано на GPT-NeoX, но контекст в два раза больше и датасет в три раза. Да хули там если у нее 3B-f32 больше в размере чем такой же 6B-f32 GPT-J, уже говорит само за себя.
За последний месяц уже появилась куча моделей, сравнимых с GPT-4, но с меньшим количеством параметров. И никакой цензуры и анальных впн - нейронки локально работают.

light_warrior

copper member

Activity: 588

Merit: 926

Так это и есть четвертый chatGPT. В общем я установил эту игрушку но запуститься она не захотела. Не знаю почему, установка прошла успешно а вот работать она отказалась Sad

Пришлось удалить, а хотелось глянуть. Может у кого то заработает.

Smartprofit

legendary

Activity: 2338

Merit: 1775

Catalog Websites

Quote from: light_warrior on April 20, 2023, 09:27:24 AM

Прогресс не стоит на месте. Уже слепили приложение для компа. Теперь можно установить этот ChatGPT куда угодно. Есть версии для винды, мака и линуха. Можно пользовать бесплатно и без использования ВПН.

Здесь анонс https://twitter.com/BrianRoemmele/status/1646714552602460160

Для Мака https://gpt4all.io/installers/gpt4all-0.1.0-Darwin.dmg

Для Винды https://gpt4all.io/installers/gpt4all-0.1.0-win64.exe

Для Линуха https://gpt4all.io/installers/gpt4all-0.1.0-Linux.run

Да, забыл сказать что архивы здоровые. Для винды архив занимает примерно 3 гига.

3 гига это немаленькие объемы. У меня очень слабый ноутбук и памяти мало. Есть правда жёсткий диск и наверно на нем 3 гига можно будет легко найти. А по оперативки наверно тоже ограничения есть?

ChatGPT, конечно отличная тема, но сейчас же уже появился GPT - 4. И там насколько я понял, прогресс колоссальный. Хочется самых новых инструментов конечно.

Интересная вообщем информация. Надо будет поюзать, я пока только нейросети для рисования тестировал, вроде midjourney.

light_warrior

copper member

Activity: 588

Merit: 926

Прогресс не стоит на месте. Уже слепили приложение для компа. Теперь можно установить этот ChatGPT куда угодно. Есть версии для винды, мака и линуха. Можно пользовать бесплатно и без использования ВПН.

Здесь анонс https://twitter.com/BrianRoemmele/status/1646714552602460160

Для Мака https://gpt4all.io/installers/gpt4all-0.1.0-Darwin.dmg

Для Винды https://gpt4all.io/installers/gpt4all-0.1.0-win64.exe

Для Линуха https://gpt4all.io/installers/gpt4all-0.1.0-Linux.run

Да, забыл сказать что архивы здоровые. Для винды архив занимает примерно 3 гига.

Smartprofit

legendary

Activity: 2338

Merit: 1775

Catalog Websites

fruktik

hero member

Activity: 1204

Merit: 580

~DefaultTrust

copper member

Activity: 1554

Merit: 489

Stop the war!

Smartprofit

legendary

Activity: 2338

Merit: 1775

Catalog Websites

Quote from: xandry on April 17, 2023, 07:18:43 AM

Quote from: Smartprofit on April 16, 2023, 11:25:59 AM

Так ведь и от форума Bitcointalk можно отказаться только из-за того, что Роскомнадзор против.

Так ~DefaultTrust пишет про то, что сам сервис ограничивает пользователей по национальному признаку, а логика у вас совсем обратная. Bitcointalk никогда подобным образом не ограничивает, а Роскомнадзор, это, конечно, проблема, для всех, но источником ограничений служит он, а вовсе не Bitcointalk. В общем, в данном случае обижаться на Bitcointalk не за что.

Да, это понятно, конечно .... Логика тут в том, что лет 15 назад мир был гораздо более свободный, мирный и благоприятный для людей. Сейчас времена гораздо суровее.

Отказываться от прогресса ради принципа грозит тем, что придется фигурально выражаясь на пальмы залезть.

Ну и что, с того, что сервис ограничивает людей по национальному принципу - это же оголтелый можно сказать национализм и расизм, и это нужно обходить с помощью VPN и других технических средств, самым жёстким способом!

Сейчас, на мой взгляд, нужно прилагать огромное количество усилий, оставаясь по прежнему свободным, культурным и технологичным человеком. И доступ к технологиям тоже приходится добывать, используя при этом разные ухищрения. Так просто как раньше уже скорее всего не будет.

Потому что нас окружают стальными стенами. И чтобы пробить эти стены требуются VPN и другие всевозможные инструменты. И всегда терпение.

Нейросети это же по сути очень интересные инструменты. А человек как примат, не может осваивать окружающую среду без использования самых современных инструментов.

Нельзя на мой взгляд добровольно отказываться от прогресса.

xandry

staff

Activity: 3472

Merit: 4111

Crypto Swap Exchange

Quote from: Smartprofit on April 16, 2023, 11:25:59 AM

Так ведь и от форума Bitcointalk можно отказаться только из-за того, что Роскомнадзор против.

Так ~DefaultTrust пишет про то, что сам сервис ограничивает пользователей по национальному признаку, а логика у вас совсем обратная. Bitcointalk никогда подобным образом не ограничивает, а Роскомнадзор, это, конечно, проблема, для всех, но источником ограничений служит он, а вовсе не Bitcointalk. В общем, в данном случае обижаться на Bitcointalk не за что.

Smartprofit

legendary

Activity: 2338

Merit: 1775

Catalog Websites

Quote from: ~DefaultTrust on April 16, 2023, 09:42:46 AM

Мой аккаунт кстати там забанили суки. Всё время через штатовский впн заходил, но видно просекли, что на одноразовый номер регался.

Можно ещё раз зарегаться в принципе, цена вопроса 50р, но что-то уже из принципа не хочется. Раз считают русских недостойными их чуда техники, то и хуй на них. Переживем и это.

Мне кажется, что всё-таки это не вопрос принципов))). Так теперь устроен мир, что простые способы не работают больше. Придется исхитриться постоянно, чтобы поддерживать свой образ жизни на прежнем уровне. При этом давление идёт и внешнее, и внутреннее, одновременно. И это будет только нарастать.

Искусственный интеллект и нейросети это очень интересная и удивительная вещь. Отказывается от нее из-за технических ограничений, на мой взгляд, не стоит.

Так ведь и от форума Bitcointalk можно отказаться только из-за того, что Роскомнадзор против.

Я вот недавно читал инструкцию чела - он рисовал в Midjourney, используя словесные описания, генерируемые GPT-4.

То есть он вначале обучал GPT - 4, а затем использовал обученную нейросеть для управления уже второй нейросетью. Интересный и остроумный подход!

Вообщем это все увлекательно и интересно, а запреты и ограничения - ну это наш новый мир. Можно воспринимать, как челлендж!

satscraper

hero member

Activity: 714

Merit: 1298

Quote from: light_warrior on April 16, 2023, 10:17:54 AM

Странно я спокойно только что проверил и залогинился с штатовского впн, попробовал со швейцарского и без проблем все пропустили. С русского правда не попробовал, не хочу палится Wink

У меня впн с двумя прыжками., может быть из-за этого. Попробую выбрать другие сервера, хотя для меня не принциально как заходить.

Кстати пока ведутся дебаты о том, достоены ли ответы ChatGPT того, чтобы быть представлены на форуме, Elsevier опубликовала статью, соавтором которой является ChatGPT. Wink

Quote from: https://www.sciencedirect.com/science/article/abs/pii/S1471595322002517

light_warrior

copper member

Activity: 588

Merit: 926

Quote from: satscraper on April 16, 2023, 10:05:36 AM

Через випиэны с вчерашнего дня не зайдёшь.

Я тоже всё время заходил через впн по старой привычке работать в интернете только через него независимо от того, куда направляешься.

Теперь приходится общаться с ChatGPT используя свой реальный европейский ИП.

Жду не дождусь обещанного чуда ChatGPT-5.

Странно я спокойно только что проверил и залогинился с штатовского впн, попробовал со швейцарского и без проблем все пропустили. С русского правда не попробовал, не хочу палится Wink

А по поводу обещанного чуда наш дружок ответил Grin

Quote

К сожалению, я не могу ничего сказать о ChatGPT-5, поскольку являюсь искусственным интеллектом, созданным для общения с людьми и предоставления информации по запросу. Лучше всего обратиться к разработчикам ChatGPT для получения информации о будущем развитии этого проекта.

satscraper

hero member

Activity: 714

Merit: 1298

Quote from: ~DefaultTrust on April 16, 2023, 09:42:46 AM

Мой аккаунт кстати там забанили суки. Всё время через штатовский впн заходил, но видно просекли, что на одноразовый номер регался.

Можно ещё раз зарегаться в принципе, цена вопроса 50р, но что-то уже из принципа не хочется. Раз считают русских недостойными их чуда техники, то и хуй на них. Переживем и это.

Через випиэны с вчерашнего дня не зайдёшь.

Я тоже всё время заходил через впн по старой привычке работать в интернете только через него независимо от того, куда направляешься.

Теперь приходится общаться с ChatGPT используя свой реальный европейский ИП.

Жду не дождусь обещанного чуда ChatGPT-5.

Подписался ещё на разные плагины от опенаи. Обещали подключить. Хвалебные плагины от третьих разработчиков мне что-то не понравились и я их все поотключал.

Topic: Найдите ответ у ChatGPT - page 5. (Read 1671 times)