И как теперь устанавливать Stable Diffusion на линуксе?

[Сквозняк]

модели под 20gb это вы богато живете... у меня видео памяти 4gb на GPU

Так всего 1 был - на легендарной игровой карте GT 730! Потом ажно 16, но на встройке, которая в 2 раза быстрее предыдущей топовой карты, то есть GT 730. И стало ясно, что брать нужно, как алкоголику пузырь тройного - на все копейки максимум ВРАМ. То есть 5060 ти 16гб. Простую 5070, версии огрызок, пусть берут фэпээсные наркоманы - у неё мощность как у 5090 мобильной, а ОЗУ вдвое меньше, развод Куртки.

>5 "Цензурные" модели от "без цензурных" обычно отличаются только "стартовым промтом"(исключения есть но их немного)

В области матерных стишков они значительно отличаются!

[Alex2013]

Так всего 1 был - на легендарной игровой карте GT 730! Потом ажно 16, но на встройке, которая в 2 раза быстрее предыдущей топовой карты, то есть GT 730. И стало ясно, что брать нужно, как алкоголику пузырь тройного - на все копейки максимум ВРАМ. То есть 5060 ти 16гб. Простую 5070, версии огрызок, пусть берут фэпээсные наркоманы - у неё мощность как у 5090 мобильной, а ОЗУ вдвое меньше, развод Куртки.

Ну я давно пошел по "ноутбучной линейке с внешним монитором" (и не жалею об этом), а на момент покупки 2019-том текущего аппарата "машинного доения" ничего не предвещало "ИИ бума" и самым прожорливым развлечением и технологий была VR (запустить на GTX1650 можно все (по сути это "младший RTX" ) а большего мне не надо я не игроман ). А ноутбуки часто не меняют (хотя думаю что на следующий год уже стоит подумать о обновлении ) Но требования к железу GPU для запуска нейросетей разумеется не радуют.

Кстати в Кобольде есть интересная штука встроенное "квантование" для SD .

[Alex2013]

"В копилку знаний" вчера "в муках творчества" собрал вот такой скрипт для генерации картинок в Кобольде

K_Gen_image.bat

Код: Выделить всё

@echo off
:chcp 65001 >nul 
:(необязательно "консоль в UTF8" )
setlocal

REM --- НАСТРОЙКИ ---
set "PROMPT=%~1"
if "%PROMPT%"=="" (
    echo Usage: %~nx0 "your prompt here"
    exit /b 1
)

set "PROMPT_N=%~2"

set PROMPT_TEXT=%PROMPT%
set PROMPT_N_TEXT=%PROMPT_N%
set WIDTH=1024
set HEIGHT=1024
set STEPS=20
set CFG=7
set PORT=5001
set JSON_FILE=kobold_response.json
set PNG_FILE=result.png

echo [*] Запрос к KoboldCPP (порт %PORT%)...
curl -s -X POST http://localhost:%PORT%/sdapi/v1/txt2img ^
  -H "Content-Type: application/json" ^
  -d "{\"prompt\":\"%PROMPT_TEXT%\",\"negative_prompt\":\"%PROMPT_N_TEXT%\",\"width\":%WIDTH%,\"height\":%HEIGHT%,\"steps\":%STEPS%,\"cfg_scale\":%CFG%,\"sampler_name\":\"Euler\",\"seed\":-1}" ^
  > "%JSON_FILE%"

if %errorlevel% neq 0 (
  echo [ERROR] curl вернул ошибку %errorlevel%. Проверьте, запущен ли KoboldCPP.
  pause
  exit /b
)

echo [*] Парсим JSON и сохраняем картинку...
powershell -Command "$j=Get-Content '%JSON_FILE%' -Raw|ConvertFrom-Json;$b=$j.images[0];if($b){[IO.File]::WriteAllBytes('%PNG_FILE%',[Convert]::FromBase64String($b));'[OK] %PNG_FILE% создан'}else{'[ERROR] images[0] = null - картинки нет в ответе'}"

endlocal
pause

Слеплено слегка криво но работает
K_Gen_image.bat "the night city and the rain" "canvas frame, cartoon, 3d,((bad art)), ((deformed)),((b&w))"
Результат в result.png (по хорошему нужно добавить нумерацию что бы было result_ХХ.png)

[Сквозняк]

Но требования к железу GPU для запуска нейросетей разумеется не радуют.

16Гб видеопамяти, это просто погулять выйти. Хватает на картинку в разрешении 896x1088 на stable-diffusion.cpp с кудой + sd.cpp-webui и моделью juggernautXL_ragnarok.safetensors с настройками по умолчанию. Как разрешение выжирает всю ВРАМ, летит ошибка. Надо собрать сборку чтобы считала только на процессоре, обычной ОЗУ ведь больше. Эх, было бы 192Гб ОЗУ.... Вот о чём жаль. На обычном ПК как врубишь компиляцию в 12 потоков, так температура за 80 градусов и в системном мониторе кривые загрузки процессора рисуют серое марево с рваными нитками. Ноутбук так гонять можно недолго или это очень дорогой ноутбук.

Что бы ещё такое рисовальное скомпилять, чтобы больше моделей работало.

[Alex2013]

1 В принципе с этм маки (макинтоши) не плохо выкрутились у них (в процессорах точнее SOC серии M-XX ) нет разделения на видео память и "обычное ОЗУ" (еще бы сами SOC были бы помощнее)

2 "Хватает на картинку в разрешении 896x1088 на stable-diffusion.cpp " Хм! Есть ведь ultimate-upscale (шахматным пересчетом) и прочее "по вкусу" + openOutpaint (там можно с удобством строить изображение практически любого разрешения по частям и слоям) и т.д.

3 "Нехватка видеопамяти" на GPU это вообще не про разрешение, а про скорость генерации и удобство .

4 "Считать на процессе" мука . У меня на CPU 14 GFOPS (и это при "хорошей погоде" на 3ГГц+ и 8-ми протоках), а на GPU ~3 TFLOPS (814 CUDO ядер ) да что там даже "встройка" iGPU Radeon Vega 8 и то 1.13 TFLOPS. Ну будет на более мощном CPU 100-300 GFOPS все равно "не в тему"

5 Основная идея в преодоление "терафлопсового барьера" дальше действительно все в основном от количества и скорости работы VRAM зависит.
Зы
Разрешение - еруда!



(Крайний BW "Портрет" пересчитан с дичайшим разрешением 6144х6144 особой разницы по сравнению с 1024х1024 не наблюдается но можно и так причем даже на моем чахлом "железе" )

[Сквозняк]

Просто эта нейросеть не умеет фрагментами рендерить, как блендер, или не нашёл как это включать. И потому для большего разрешения нужно больше видеопамяти.

Ещё одна проблема там нарисовалась. Нейросеть потребляет память куды, а когда её выключаешь, часть памяти протекает. И так, пока её совсем мало не станет и уже невозможно будет запустить. И хз как видеопамять видухи сбросить, если она одна в системе.

А где-то можно посмотреть тесты пользовательских видеокарт, где не фпс, а флопсы? Чтобы в них не плавать.

[Alex2013]

А где-то можно посмотреть тесты пользовательских видеокарт, где не фпс, а флопсы? Чтобы в них не плавать.

Действительно важный момент !
Посмотреть можно например тут https://technical.city/en (только смотреть нужно внимательно) или спросить например у Алисы
(Получить сведенья о GPU не проблема (основные параметры количество "куда ядер"(Pipelines / CUDA cores) пропускная способность память(Maximum RAM amount) и то самое Floating-point processing power ))

Гораздо забавнее то что "обычные" CPU сейчас настолько "хитро вывернутые" что получить их максимальный Floating-point processing power почти нереально. ("форсаж" врубается редко и на отдельные ядра и потки, да и сама "многоядерная производительность" та еще химера )

[Alex2013]

Просто эта нейросеть не умеет фрагментами рендерить, как блендер,

Умеет, но есть нюансы... (Примерно те же, что и с adetailer-ом, который потенциально решает почти все проблемы с низкой детализацией и наиболее типовыми галлюцинациями, но «тонкая настройка» у него довольно замороченная и есть заметные ограничения.)
См ultimate-upscale-for-automatic1111
https://pikabu.ru/story/uvelichivaem_i_ ... 11_9994105
Основная идея: сначала считаешь «рефренс», а потом кидаешь его в «нейроапскалер», и вот там как раз есть «шахматный режим» (который, кстати, возможно, на RTX 5060 не понадобится), главная фишка — подобрать Denoising strength (10–30)+ не слишком зарывается с разрешением исходного «рефренса» и «upscaler», рекомендую «расширение к расширению» 4x-UltraSharp. https://gptml.ru/story/4177-chto-takoe- ... ispolzuyut

Но вообще при наличии достаточно мощного GPU можно с удобством юзать "холст художника " расширение "автоматики" OpenOutPaint

(На скрине виндно "дорисовку" нижней части картинки)
https://youtu.be/J9NZRM7cFzE (см мой комментарий к видео "квадратомания" автора ролика это нечто! )

или продвинутую оболочку InvokeAI https://github.com/invoke-ai/InvokeAI

[Alex2013]

Ещё одна проблема там нарисовалась. Нейросеть потребляет память куды, а когда её выключаешь, часть памяти протекает. И так, пока её совсем мало не станет и уже невозможно будет запустить. И хз как видеопамять видухи сбросить, если она одна в системе.

«Видеопамять» заметно менее защищена и, по идее, сбрасывается перезапуском драйверов видеокарты.
В Windows Win + Ctrl + Shift + B или через «Диспетчер устройств» (выкл./вкл. драйвер видеокарты, экран обычно не гаснет, просто врубается древний «стандартный драйвер» или переходит на «встроенное видео», что в ноутбуке совершенно безболезненно).
В Ubuntu, Linux Mint и других дистрибутивах на базе Debian/Ubuntu может помочь (в «нижней» консоли Ctrl+Alt+FXX): sudo service lightdm restart или sudo systemctl restart lightdm. Да и вообще, по идее, сам переход в «нижнюю консоль» и возвращение «в Иксы» перезапускает драйвер и сервер Иксов.
Зы
Извиняюсь если загрузил ( "Остапа" как водится "несет" ... )

[Сквозняк]

или продвинутую оболочку

Продвиную уже поставил - питонорассыпуху ComfyUI. С ней было две проблемы. Первая, это как обычно в линуксе, глобальная версия питона не та. Пришлось перед установкой делать конфигере, маке, маке инсталл нужной версии, а после также делать с другой, чтобы работала другая нейросеть. Хз как правильно обойти проблему не той глобальной версии - что-нибудь да запустится не с той и звиздец. А вторая проблема - в поваренной книге по установке так расписано, чтобы пользователь первым делом накачал максимальные версии питонодряни для куды. А потом оказывается, что для аудио питонодряни в наличии той версии нет, а понижать версию видеодряни после установки не дают. Сноси всё и качай гигабайты заново при каждой попытке установки. Но поставилось, когда проскочил ловушку и сразу поставил аудио и видео одной версии.
Вот что нагенерировалось - https://disk.yandex.ru/d/uDRudOb9XDRmVA
Большие картинки там тоже просчитываются, сразу на видухе.

[Alex2013]

ComfyUI (у меня она тоже установлена) — это действительно продвинутая оболочка, но, как бы это сказать, «продвинутая с другой стороны» (не в сторону реально удобного интерфейса в стиле [«холст художника»], а в сторону иллюзии (потому что «ноды» и «узлы» всё равно «черный ящик») полного контроля над процессом генерации).

Что такое «холст художника» применительно к генерации изображений, можно немного посмотреть у Кандинского: https://youtu.be/WTJohL6DG8g (гайд слегка тупой, но основные идеи показывает четко).

Суть в том, что «холст художника» поворачивает процесс генерации в сторону удобства создания изображений и полностью снимает ограничения по разрешению результирующей картинки. Плюс есть слои и можно генерировать фрагменты разного разрешения.

А баланс идей контроля, функциональности и удобства доступен (ИМХО) в «автоматике 1111» и её форках и расширениях.
Например, там есть очень мощный растровый редактор Photopea (сравнимый с современными версиями фотошопа), встроенный в автоматику как расширение. Есть простой, но небесполезный ЗД-редактор и тот же Open-out-paint и вообще почти все что можно вообразить ... В принципе, повозившись, в «автоматику 1111» можно даже «ноды» от ComfyUI встроить можно. (Но это уже (имхо) перебор.)