Как ускорить генерации в Stable Diffusion Automatic 1111 webui на ПК | xFormers | 4 лайфхака

Поділитися
Вставка
  • Опубліковано 14 лис 2024

КОМЕНТАРІ • 93

  • @TechnoMagix
    @TechnoMagix  Рік тому

    Мои контакты:
    🔥 Канал о нейросетях: авторские обзоры, новости, мемы - t.me/alchemist_tm
    🔥 Курс по Stable Diffusion - sponsr.ru/technomagix/54859/Navigaciya_pokursu_Stable_Diffusion
    🔥 Чат поддержки - t.me/+EOhMG42mlywxNWMy
    🔥 Поддержать автора - sponsr.ru/technomagix/
    Плейлист с видео по нейросетям:
    ua-cam.com/play/PLiNFDOo-cka29iSJb1IPd8gwn23AiBkJt.html

  • @guziyk
    @guziyk Рік тому +16

    Спасибо за фишки ускорения, надо будет затестить! Подскажите, а вы выпустите видео о том, как обучить нейросеть на своих фото в этом интерфейсе (automatic1111)? В прошлом ролике в комментариях просили (самый залайканный комментарий), я тоже плюсую эту идею, очень хочется разобраться в этом :)

  • @masterskayavkusadenisa
    @masterskayavkusadenisa 2 місяці тому

    Спасибо! Реально помогло, особенно с этим xformer

  • @Igrom_Gamedev
    @Igrom_Gamedev 2 роки тому +5

    Круто, еще бы в описании все команды, чтобы копипастом сделать )

  • @ShrekForeverovich
    @ShrekForeverovich 3 місяці тому

    Благодарю, очень неплохо увеличилась скорость, минимум на процентов 30-45% (RTX 2060 MAX-Q).
    p.s Я ещё добавлял в файл несколько команд с гитхаба автоматика

  • @Vadim-Ka
    @Vadim-Ka Рік тому +1

    Вот спасибо, хороший человек! Помог.

  • @Юрий-ф5я4м
    @Юрий-ф5я4м Рік тому +5

    RTX 3060 12 GB
    Steps 20
    Batch size 8
    512x512
    24 секунды.
    То же самое с xFormers, 16 секунд.
    Спасибо!

    • @vermillion2294
      @vermillion2294 Рік тому

      а зачем тебе нацистская власовская лента на аватарке? Ещё и в форме фашистской символики волчьего крюка?

    • @genarek
      @genarek 6 місяців тому

      Добрый день , взял себе такую же карту, хочу профиксить интерфес по этому видео, в итоге вы давльны как работает программа , есть ли на важ взгляд какие то нюсансы?

  • @denisplay8258
    @denisplay8258 Рік тому +2

    Результат сразу на глаз. Про скорость ничего не скажу, так как не особо заметно, но пожирание памяти значительно уменьшилось. Раньше 512х768 арты были впритык для моей 1660, сейчас же спокойно генерирую 1024х1024 с 0.5ГБ в запасе

    • @denisplay8258
      @denisplay8258 Рік тому

      Ошибочка, не 1024х1024, а 1024х768, но щас и 1024х1024 проверю и отпишу

    • @denisplay8258
      @denisplay8258 Рік тому +1

      1024х1024 так же работает, в целом и в общем xformers лучший дар для тех, кто не хочет покупать 30ый серии или 4090

    • @Strangers-n8k
      @Strangers-n8k Рік тому

      А сколько времени у вас в целом занимает генерация?

    • @denisplay8258
      @denisplay8258 Рік тому +1

      @@Strangers-n8k на 1660 512х512 или 512х768 30-50 секунд. 1024х768 минуты 2-3, 1920х1080 минут 20. Но там нет смысла делать высокое разрешение. Я обычно делаю 768х512, а затем вторичную обработку, которая занимает минут 5, но приводит 768х512 в 1024х768

  • @expiketz
    @expiketz Рік тому +1

    2060s на старте было за 50steps 11с. после обнов у автоматика стало около 9. с xformers 8.1. но очень смущает отличие картинок с одинкаовыми настройками. в одно время были косяки у автоматика что с одинаковыми настройками выходил разный результат при использовании embeddings.

  • @Andrew-and-Tanya
    @Andrew-and-Tanya Рік тому +2

    Здравствуйте! 512x512 рендерится 1.5 часа! Это ужас xformers поставил, ну что-то что с ним что без него. Видео карта nvidia geforce mx250 (16гб) Уже третий день пытаюсь тестировать Stable Diffusion, но с такой скоростью очень сложно раскрыть потенциал этой проги. Подскажите пожалуйста может есть решения данной проблемы? Уже все перепробовал, даже через stablу horde! Но он то работает то нет.

  • @danil907
    @danil907 Рік тому +1

    на 1050ti Выигрыш в 5-10 секунд нивелируется снижением качества, иногда sd просто начинает генерировать месиво из пятен, пока не перезагрузишь. удалил нафиг

  • @evilden2653
    @evilden2653 Рік тому +2

    а для AMD RX580 как настроить оптимально?

  • @alexeybolo282
    @alexeybolo282 Рік тому +1

    Большое спасибо за ваши детальные обзоры функционала и тонкости настройки. Я с удовольствием погрузился в мир нейросетей для рисования. Скажите кто вы по профессии, что оказались на передовой этой технологии? ...и есть ли в России команды которые занимаются обучением художественных нейросетей?

    • @TechnoMagix
      @TechnoMagix  Рік тому +2

      Я инженер-конструктор, а нейросети - хобби)
      В России есть команда от сбера, они сделали первую мультиязычную нейросеть Кандинский 2.0 для генерации изображений. Есть команда делающая интересный продукт phygital plus, там разные нейросети совмещены в одну программу. Есть и другие)

  • @padrinodeatlas8843
    @padrinodeatlas8843 Рік тому

    Thank you very much the only tutorial that helped me for xFormers in all youtube.

  • @cored3238
    @cored3238 8 місяців тому

    СПАСИБО ДРУЖИЩЕ

  • @1wewedf
    @1wewedf Рік тому +1

    осталось разобраться как ускорить на амд )))

  • @glkglk317
    @glkglk317 Рік тому +5

    Ребят. Прошу помогите пожалуйста. Дело в том что у меня версия Python 3.8.10. Установил её т.к Новую версию на Windows 7 она не поддерживает и не устанавливает.
    Проблема в том, что Xformers из за этого не скачивается и в командной строке пишет : Installation of xformers is not supported in this version of Python.
    Что делать и как быть? кроме установки windows 10 и нового Python есть другие способы обойти эту проблему? напишите кто знает! буду очень благодарен

    • @TechnoMagix
      @TechnoMagix  Рік тому +1

      Вижу три решения:
      1. Зпустите SD на мощной видеокарте через сервис RunPod
      2. Используйте гугл колаб (есть ограничение на 2-3 часа работы в сутки на бесплатном аккаунте)
      3. Обновите виндовс 7 до win10. Установленные файлы и программы при этом не удаляются (за исключением редких случаев)

    • @glkglk317
      @glkglk317 Рік тому

      @@TechnoMagix Понял,Спасибо за ответ!
      1. Не очень мощная. 4гб
      2. У меня SD норм работает, не вижу смысла с колаба пользоваться.
      Хотел просто установить Xformers что бы ускорить генерацию, ну видимо не судьба. Придется пока без него, в будущем возможно переустановлю на windows 10 систему

    • @glkglk317
      @glkglk317 Рік тому

      Хотя.. попробую реально обновится до 10

  • @hermit1365
    @hermit1365 Рік тому

    Очень круто раскатываешь, большое способно за контент) А можешь рассказать по подробнее как создать свою модель ? Понимаю что видео уже было но может шас есть способы не через гугол калабу делать, у меня железо нормальное а интернет так себе)))

  • @Berlioz1991
    @Berlioz1991 Рік тому

    а сделаешь туториал по установке InvokeAI?

  • @hihoho1578
    @hihoho1578 Рік тому +1

    спасибо, расскажите про img2img пожалуйста

  • @VnukElkina
    @VnukElkina Рік тому +1

    как сделать чтобы работало stable diffusion 2.0 ?

  • @Slavius84
    @Slavius84 4 місяці тому

    У меня rx570 как ускорить? Регенерация по полчаса

  • @viktorbezuhov5867
    @viktorbezuhov5867 Рік тому

    Я не понял как установить xformers. У меня пишет No module 'xformers'

  • @andrruta868
    @andrruta868 2 роки тому +1

    Спасибо, буду пробовать. Еще такие вопросы:
    1.Я заметил, что в Automatic 1111 результат менее качественный, чем непосредственно в колабе. Обученная модель одна и таже, сохраненная без сжатия (прибл. 4 ГБ), запросы и размеры идентичны. По сравнению с колабом картинки выходять какие-то недоработанные и, главное, теряют сходство с образцами (стиль, портретное сходство). В каком направлении двигаться, чтобы добиться улучшения?
    2. Как повторно использовать собственную модель в колабе (без перехода в Automatic 1111) , которая сохранена на гугл-диске, минуя этап нового обучения?

    • @danipulok
      @danipulok Рік тому

      Доброго. Понял в чём проблема?

    • @andrruta868
      @andrruta868 Рік тому

      @@danipulok нет

    • @danipulok
      @danipulok Рік тому

      @@andrruta868 проверь настройки все остальные. Там же много различных для гена используются. Для тестов юзай один и тот же seed и смотри какие настройки в коллабе и перенеси их в вебюи

  • @iwanawdeew3032
    @iwanawdeew3032 10 місяців тому

    Моя GTX 1650 что с xformers что без не генерит вообще ничего, пыжится 8 минут и выдаёт серую картинку...

  • @Tupical1
    @Tupical1 Рік тому

    Копировать адрес не надо из консоли, зажимаешь ctrl и кликаешь, открывается страница

  • @mint7924
    @mint7924 Рік тому

    Какая карта нужна для работы с Stable Diffusion :
    - минимальная конфигурация - какие основные параметры нужны
    - оптимальная цена/качество ?

    • @maxon2980
      @maxon2980 Рік тому

      На 750 ti за минуту генерит. Правда апскейл не работает, да и ладно

  • @MrDenis540
    @MrDenis540 Рік тому

    Mac m1 кто пробовал на нем ставить? Работать? Или не стоит пробовать?

  • @dr.gadget9474
    @dr.gadget9474 Рік тому

    че то с иксформером и автозапуском не вышло

  • @Aristant_
    @Aristant_ Рік тому

    подскажи как сохранить в настройках негатив пронт чтоб всегда загружался тот что нужен?

  • @Shisgara77
    @Shisgara77 Рік тому

    Подскажите, пжл - а для macbook air m1 имеет ли смысл устанавливать xFormers и как вообще это сделать? 🙈

    • @TechnoMagix
      @TechnoMagix  Рік тому

      Насколько мне известно, для макбуков Xformers не работает

  • @fluck8086
    @fluck8086 Рік тому

    Привет, спасибо за видео но есть один вопрос. Зачем некоторые слова беруться в скобки ? например (слово) или в двойные скобки ((слово)) ?

    • @Инглия
      @Инглия Рік тому +1

      Увеличивает важность слова. И как не странно чем больше скобок тем больше важность. Типа пива нет, пива совсем нет.

  • @sktglt
    @sktglt Рік тому

    а как сделать три колонки настроек на странице сетинга?

  • @airmagedon-ua
    @airmagedon-ua 10 місяців тому

    что тако Automatic 1111 ?

  • @АнатолийСеребряков-о8я

    Салют! Спасибо большое за контент! подскажите пожалуйста загрузив изображения игры в теннис,
    Можно попросить нейросеть не изменять положения тела спортсмена и мяча, а просто изменить стиль ?

    • @ViNameTube
      @ViNameTube Рік тому

      Есть раздел inpoint, там можно с помощью маски (кистью) выделить область, которую будет затрагивать генерация

  • @rusbaiker8921
    @rusbaiker8921 Рік тому

    С такой картой 1030 сколько генерация длится? И на такой карте обучение наверно вечность продлится?

    • @denisplay8258
      @denisplay8258 Рік тому

      Для нормальной генерации нужно 6гб видеопамяти, для обучения на нормальном разрешении, где-то 1024х768, требуется 8гб. А так, чтобы вообще хоть что-то сделать нужно 4гб минимум, а на 1030 всего 2гб, так что даже базовую картинку не получится в 512х512 сделать

  • @UniqAlexandr
    @UniqAlexandr Рік тому

    Что лучше будет, 3060 с 12 гигами памяти или 3060ti с 8 гигами ? Если большие картинки генерировать, + дефорум

    • @TechnoMagix
      @TechnoMagix  Рік тому

      12гб при прочих равных всегда будет лучше.
      В нашем чате в телеграме недавно обсуждали вопрос выбора видеокарт и скидывали сравнительные таблицы. Ссылка на чат есть в описании. Заходите

    • @UniqAlexandr
      @UniqAlexandr Рік тому

      @@TechnoMagix благодарю

    • @denisplay8258
      @denisplay8258 Рік тому

      Для нейросети лучше видеопамять, так 12гб будет намного лучше

  • @howlam2046
    @howlam2046 Рік тому

    я так полагаю, что обладатели видюх от амд в пролете с xformers?

    • @TechnoMagix
      @TechnoMagix  Рік тому +1

      Мне не удалось найти информации о совместимости видеокарт с Xformers. Вопрос остаётся открытым. Буду благодарен если кто-то проведёт эксперимент.

    • @howlam2046
      @howlam2046 Рік тому

      @@TechnoMagix принято
      Отправляюсь проводить эксперимент

    • @howlam2046
      @howlam2046 Рік тому +1

      @@TechnoMagix установился без проблем, а вот запуск....
      Куча ошибок и вылет. Убрал xformers и все сразу запустило, так что проблема была явно в нем, увы

  • @МаксКекс-о9х
    @МаксКекс-о9х Рік тому

    Приветствую всех. Как поменять светлую тему интерфейса на тёмную, как у вас, с синими ползунками и оранжевой кнопкой? Заранее благодарю за ответ

    • @danipulok
      @danipulok Рік тому +1

      Chrome dark reader

    • @Taquro
      @Taquro Рік тому

      Привет, если еще не нашел способ, то просто открой файл которым ты запускаешь консоль с помощью блокнота например и в строку COMMANDLINE_ARGS=, напиши --theme dark. должно получится так - COMMANDLINE_ARGS= --theme dark

  • @Kewnstantin
    @Kewnstantin Рік тому

    привет. что насчёт InvokeAI? не нахожу инфы на русском.. попробуем?

    • @MitrichDX
      @MitrichDX Рік тому

      он теперь сам по себе на русском)) обновляйтесь))

  • @dimmack6212
    @dimmack6212 2 роки тому

    Есть мысли, почему не могу заставить работать свою видеокарту. GF 880M 8GB.
    Warning: caught exception 'CUDA driver initialization failed, you might not have a CUDA gpu.', memory monitor disabled.
    CUDA драйвера все стоят. Работает только процессор, который генерирует естественно крайне долго.

    • @ilyaginsburg1888
      @ilyaginsburg1888 Рік тому

      Точно прописал путь к драйверу в PATH? Должен находиться не только CUDA, но и CUDNN.

  • @igrotren4ik30
    @igrotren4ik30 Рік тому

    А если не ампер а Паскаль стоит тоже подойдет? в архитектуре

    • @TechnoMagix
      @TechnoMagix  Рік тому

      На сегодня поддерживаются архитектуры Pascal, Turing, Ampere, Lovelace, Hopper

  • @peygur_
    @peygur_ Рік тому

    Привет, подскажи что делать в таком случае ? Всё установил правильно. Несколько раз. И после генерации чёрный квадрат

    • @TechnoMagix
      @TechnoMagix  Рік тому

      Скорее всего ваша видеокарта 16xx серии.
      Через блокнот в строке параметров добавьте три следующих параметра:
      --precision full --no-half --medvram

    • @peygur_
      @peygur_ Рік тому

      @@TechnoMagix помогло, огромное спасибо !!! нигде не мог найти ответ:)

  • @ivanlebed
    @ivanlebed Рік тому +3

    RTX2070 8gb
    Euler 50 steps
    512x512 = 6.6it/s
    1024x1024 = 1.01it/s
    xFormers
    512x512 = 8.1it/s прирост 22%
    1024x1024 = 1.55it/s прирост 53%

    • @TechnoMagix
      @TechnoMagix  Рік тому +1

      Мощный результат 💪

    • @MitrichDX
      @MitrichDX Рік тому

      @@TechnoMagix это вы ещё VoltaML не пробовали)))

    • @smokedatmusic5106
      @smokedatmusic5106 Рік тому

      В списке RTX2070 не было, у меня RTX2070 Max-Q, есть ли смысл делать?

  • @Инглия
    @Инглия Рік тому

    На Радеоне работает?...

    • @MitrichDX
      @MitrichDX Рік тому

      для радеона NKMD ну и вроде как InvokeAI

    • @Инглия
      @Инглия Рік тому

      @@MitrichDX спасибо, никак не могу установить эту хрень... InvokeAI попытался не получилось...

    • @MitrichDX
      @MitrichDX Рік тому

      @@Инглия invokeAI я прям уверен упёрся в антивири)))) пока они включены, он там наваливает ошибок как не в себя, КАСПЕРСКОГО на время установки вырубаем к чертям и проблема исчезает сама собой)) а так NKMD в принципе более автоматично устанавливаемый)

    • @Инглия
      @Инглия Рік тому

      @@MitrichDX антивируса нет, InvokeAI установил, тоже с радеоном не дружит. Остался NKMD

  • @bioxoid
    @bioxoid Рік тому

    после установки xformers перестало работать. ошибка такая:
    ValueError: Query/Key/Value should all have the same dtype
    query.dtype: torch.float32
    key.dtype : torch.float32
    value.dtype: torch.float16
    смотрю на форумах у народа также после обновления те же проблемы
    upd: чтобы решить проблему, нужно снять галочку с Upcast cross attention layer to float32 в настройках

  • @bassaliga
    @bassaliga Рік тому

    мне больше эта версия понравилась Stable Diffusion UI v2.4.15.

    • @Vendium7
      @Vendium7 Рік тому

      Как узнать версию своего Web UI? Я устанавливал где-то полтора месяца назад. И как проапдейтить его? Через командную строку или все снести и новую версию с сайта скачать?

    • @bassaliga
      @bassaliga Рік тому

      @@Vendium7 их много версий, у тебя значит другая, шукай)

  • @paganorth
    @paganorth 2 роки тому

    программа платная ?

    • @xyi_pizda_skovoroda
      @xyi_pizda_skovoroda 2 роки тому

      нет
      все бесплатно качается

    • @TechnoMagix
      @TechnoMagix  Рік тому +3

      Всё полностью бесплатно. Об установке нейросети на свой ПК смотрите предыдущее видео на этом канале

  • @АлександрИгнатов-ю9з
    @АлександрИгнатов-ю9з 8 місяців тому

    4096х4096 генерация параллельно 8 изображений. время генерации на 50 шагов и длине промта в 250 - 0,27сек.4xH100-384GB + ram8TB

    • @genarek
      @genarek 6 місяців тому

      фига себе можно посмотреть результаты ваши с таким разрешением.