Здравствуйте. Спасибо за мод, у меня всё работает! Я до этого находила здесь похожий мод но там нужен был ключ и там сервер долго отвечал, а здесь для меня удобнее что можно запускать через Кобольд. Мне нравится. ☺️ Я немного побольше расписала характеры персонажей и добавила других персонажей. Но вот я не могу пока найти хорошую модель. Я попробовала несколько своих моделей и все они немного делают грамматические ошибки. Но а так интересно. ☺️
Добрый день! Рад что Вам понравился мод! У меня в статье есть рекомендованная модель (Я думаю вы её видели), которая работает на видеокарте с 8 GB VRAM, и имеет хорошее качество относительно скорости генерации.
Также, если у Вас мощный ПК и видеокарта с VRAM 16GB и более, могу посоветовать использовать модели с большим числом параметров (B) К примеру: https://huggingface.co/ai-sage/GigaChat-20B-A3B-instruct-GGUF Но я её не тестировал, поэтому не знаю насколько она качественная и быстрая! К тому же у неё нереально гигантский вес :/
Спасибо огромное за отзыв!
P.S Ещё кое что! Попробуйте скачать модель с повышенным числом квантования (Q), к примеру я в статье советовал модель с числом Q6, но думаю, что идентичная модель с числом Q8 даст улучшенное качество генерации. (Аккуратнее, требуется больше VRAM)
Спасибо за предложение модели, но, к сожалению, у меня видеокарта GPU NVIDIA RTX 3060 12GB и оперативная память всего 32,0 ГБ, и я скачиваю размер модели не больше Q5, я пробовала выше Q6, и ответ приходит долго. :) Я уже давно просто общаюсь с ботами через Silly Tavern, и у меня уже были некоторые модели, и я попробовала их с вашим модом: MN-12B-Mag-Mell-R1.Q5_K_M, MN-Violet-Lotus-12B.Q5_K_M, NemoMix-Unleashed-12B-Q5_K_M, L3-8B-Stheno-v3.2-Q8_0-imat. Вот, если вам интересно.)) И все эти модельки бывают всё равно пишут на английском или с ошибками, может быть, они не очень подходят именно для «Стардью Велли». :)
Спасибо, за предоставленные модели! Насчёт ошибок в тексте, а также английского языка: могу посоветовать использовать модели, которые обучали на Русском тексте, к примеру https://huggingface.co/IlyaGusev/saiga_gemma3_12b_gguf, используйте версию Q6, даже на моей видеокарте она работает хорошо. Мне кажется это пока лучшая Русская модель от Ильи Гусева! Также полно и других моделей, которые обучались на Русском тексте, но я тестил модели только от автора выше!
P.S Если модели грешат писать не нужные слова в генерации, к примеру какие-то действия или "кодовые слова", в файле config.json, вы можете добавить стоп слова, которые будут останавливать генерацию при обнаружении данных слов, текст станет лучше. Я добавил эту функцию специально, т.к некоторые модели могут быть хорошими, но вести себя странно.
Спасибо за предоставленный лог, я уже изучаю проблему. Скажите пожалуйста, вы используете моды, которые как-то связанны с сезонами? Или к примеру, может у вас есть модифицированные события? Ещё я буду вам сильно благодарен, если б узнал, после каких событий появилась ошибка. Я сейчас исправлю пару строк и загружу новую версию мода, проверьте пожалуйста на ней, исправилась ли ошибка, я допишу этот пост, как закончу работу над новой версией
У меня много модов, я даже не знаю. :) Я просто увидела что вы обновили мод и тоже обновила его и теперь он выдает ошибку к сожалению и я не понимаю это из-за каких-то моих модов или что-то другое. :( Вот мой журнал SMAPI: https://smapi.io/log/5079410df49b4ca29ce02965ee2f095e
Обновление 1.2.0: Добавлены динамические отношения с жителями, теперь уровень дружбы будет меняться, функция включается в настройках, проведён баланс, "заабузить" функцию ради выгоды у вас скорее всего не выйдет (то, насколько сильно меняются очки можно настроить в конфиг меню), но ради иммерсивности попробовать стоит!
Друзья! Я заметил, что на фестивалях и событиях мод не может обнаружить NPC. Я пока не знаю как это фиксить, если вы знаете методы как с этим бороться, буду рад выслушать! -------------------------------------------------------------------------------------------------------------------- Friends! I've noticed that at festivals and events, the mod can't detect NPCs. I don't know how to fix it yet, if you know how to deal with it, I'll be glad to listen!
Is there a way for you to add English support? Currently, I'm unable to read the ColboldAIValley mod config menu in-game because it displays a series of asterisks. DeepL could be helpful for machine translation, as you would likely need to modify the .dll file. Perhaps you could add a feature that allows us to select a language file through the mod config menu in-game and enable users to add their own translations using a template or something similar? This way you would not need to create your own translations if it follows a template where we can add our own translations. Please consider this.
блин, очень хочу поиграть с иишкой но почему-то когда загружаю настройки в кобольд, он просто закрывается и все. может это просто я глупая а не мод? :(
Точно, забыл сказать что нужно запускать coboldcpp от имени администратора!
Если не помогло попробуй вручную указать ему параметры: Меняем вручную: GPU Layers: 43 Выбрать свою языковую модель: (Browse и устанавливаем скачанную модель) Вкладка tokens: Установить context Size: 2048 Вкладка Network: Host: localhost
(Я дополнил статью, там подробнее про настройку рассказано)
После чего сохраняй конфиг и запускай, он должен прогрузится (первый запуск будет долгим) Если всё будет успешно, советую перекачать мод, он стал стабильнее
22 comments
Буду рад услышать обратную связь, если возникнут проблемы, пишите, постараюсь помочь!
Рад что Вам понравился мод!
У меня в статье есть рекомендованная модель (Я думаю вы её видели), которая работает на видеокарте с 8 GB VRAM, и имеет хорошее качество относительно скорости генерации.
Также, если у Вас мощный ПК и видеокарта с VRAM 16GB и более, могу посоветовать использовать модели с большим числом параметров (B)
К примеру: https://huggingface.co/ai-sage/GigaChat-20B-A3B-instruct-GGUF
Но я её не тестировал, поэтому не знаю насколько она качественная и быстрая! К тому же у неё нереально гигантский вес :/
Спасибо огромное за отзыв!
P.S Ещё кое что!
Попробуйте скачать модель с повышенным числом квантования (Q), к примеру я в статье советовал модель с числом Q6,
но думаю, что идентичная модель с числом Q8 даст улучшенное качество генерации. (Аккуратнее, требуется больше VRAM)
Также полно и других моделей, которые обучались на Русском тексте, но я тестил модели только от автора выше!
P.S
Если модели грешат писать не нужные слова в генерации, к примеру какие-то действия или "кодовые слова", в файле config.json, вы можете добавить стоп слова, которые будут останавливать генерацию при обнаружении данных слов, текст станет лучше. Я добавил эту функцию специально, т.к некоторые модели могут быть хорошими, но вести себя странно.
У меня почему-то перестал работать мод, SMAPI пишет следующее, когда я пытаюсь поговорить с персонажами:
[CoboldAIValley] Memory cleared for new day
[CoboldAIValley] Open chat with FC.Maverick
[CoboldAIValley] Processing message: Привет!
[CoboldAIValley] Dialogue error: System.ArgumentException: Requested value 'summer' was not found.
at System.Enum.TryParseByName(RuntimeType enumType, ReadOnlySpan`1 value, Boolean ignoreCase, Boolean throwOnFailure, UInt64& result)
at System.Enum.TryParseInt32Enum(RuntimeType enumType, ReadOnlySpan`1 value, Int32 minInclusive, Int32 maxInclusive, Boolean ignoreCase, Boolean throwOnFailure, TypeCode type, Int32& result)
at System.Enum.TryParse(Type enumType, ReadOnlySpan`1 value, Boolean ignoreCase, Boolean throwOnFailure, Object& result)
at System.Enum.Parse(Type enumType, String value)
at CoboldAIValley.ModEntry.BuildPrompt(NPC npc, String playerMessage)
at CoboldAIValley.ModEntry.GenerateAIResponse(NPC npc, String message)
at CoboldAIValley.ModEntry.ProcessNPCDialogueAsync()
[CoboldAIValley] Chat closed, game state reset
Я сейчас исправлю пару строк и загружу новую версию мода, проверьте пожалуйста на ней, исправилась ли ошибка, я допишу этот пост, как закончу работу над новой версией
P.S Загрузил новую версию мода
Вот мой журнал SMAPI: https://smapi.io/log/5079410df49b4ca29ce02965ee2f095e
Я попытался исправить проблемное место и залил новый файл: CoboldAIValley 1.3.2
Исправил баг, при котором ИИ не получал описание праздников, упростил шаблоны в events.json, в промт добавлен пол персонажа
Ура! Теперь мы можем общаться с жителями прекрасной долины на фестивалях и событиях!
(Теперь мод правильно определяет NPC на ивент локациях)
Доработал систему памяти и связал её с ванильными репликами NPC
Добавлены динамические отношения с жителями, теперь уровень дружбы будет меняться, функция включается в настройках, проведён баланс, "заабузить" функцию ради выгоды у вас скорее всего не выйдет (то, насколько сильно меняются очки можно настроить в конфиг меню), но ради иммерсивности попробовать стоит!
Друзья! Я заметил, что на фестивалях и событиях мод не может обнаружить NPC. Я пока не знаю как это фиксить, если вы знаете методы как с этим бороться, буду рад выслушать!--------------------------------------------------------------------------------------------------------------------
Friends! I've noticed that at festivals and events, the mod can't detect NPCs. I don't know how to fix it yet, if you know how to deal with it, I'll be glad to listen!
DeepL could be helpful for machine translation, as you would likely need to modify the .dll file. Perhaps you could add a feature that allows us to select a language file through the mod config menu in-game and enable users to add their own translations using a template or something similar? This way you would not need to create your own translations if it follows a template where we can add our own translations. Please consider this.
I have plans to add localization, I think I will upload the update soon.
Если не помогло попробуй вручную указать ему параметры:
Меняем вручную:
GPU Layers: 43
Выбрать свою языковую модель: (Browse и устанавливаем скачанную модель)
Вкладка tokens:
Установить context Size: 2048
Вкладка Network:
Host: localhost
(Я дополнил статью, там подробнее про настройку рассказано)
После чего сохраняй конфиг и запускай, он должен прогрузится (первый запуск будет долгим)
Если всё будет успешно, советую перекачать мод, он стал стабильнее
Скидывай сюда!