- 23
- 135 242
КрасноТех
Приєднався 26 жов 2022
Пишем программы и обучаем нейронки
Полное сравнение PyTorch с TensorFlow, что выбрать в 2025?
Tensorflow и Pytorch - два самых известных ml фреймворка.
Но какой из них лучше?
Сравним простоту установки, полный цикл обучения модели на обоих фреймворках, производительность на cpu и gpu, изучим применимость в различных задачах, инструменты каждого из фреймворков а также поддержку других языков программирования. Где взять обученные модели, совместимые с обоими библиотеками, какой быстрее развивается и какой более востребован.
00:00:00 но что такое фреймворк?
00:00:49 что мы ищем?
00:01:52 установка
00:04:37 производительность
00:08:14 процесс разработки
00:15:51 инструменты
00:16:25 распространенность
00:19:08 своевременное внедрение
00:20:34 исследование рыка труда
00:21:02 вывод
Но какой из них лучше?
Сравним простоту установки, полный цикл обучения модели на обоих фреймворках, производительность на cpu и gpu, изучим применимость в различных задачах, инструменты каждого из фреймворков а также поддержку других языков программирования. Где взять обученные модели, совместимые с обоими библиотеками, какой быстрее развивается и какой более востребован.
00:00:00 но что такое фреймворк?
00:00:49 что мы ищем?
00:01:52 установка
00:04:37 производительность
00:08:14 процесс разработки
00:15:51 инструменты
00:16:25 распространенность
00:19:08 своевременное внедрение
00:20:34 исследование рыка труда
00:21:02 вывод
Переглядів: 9 151
Відео
Как найти решение задачи по ее описанию? Градиентный спуск: Теория и Практика на Tensorflow
Переглядів 8453 місяці тому
Градиентный спуск - основа всех алгоритмов по обучению нейросетей. Рассмотрим, почему он работает именно так, как найти градиент, как понимать функцию ошибки и т.д.
Робот на защите от Сорняков! Огородник-2 - умный робот на 3D принтере с камерой и wifi
Переглядів 20 тис.5 місяців тому
Год назад был создан огородник-1, но пришло время разработать вторую версию, исправить недочеты и познакомиться с новыми методами разработки и конструирования... Репозиторий проекта: github.com/krasnoteh/O-2
Быстрый Object Detection. Разбор и реализация Faster RCNN на tensorflow
Переглядів 1,6 тис.Рік тому
Реализуем нейросеть архитектуры Faster RCNN, а также разбираем как она работает. GitHub: github.com/krasnoteh/AI-experiments/tree/main/object detection part 3 (Faster RCNN) Модели: drive.google.com/drive/folders/1YLSMzz8QSbzBkfJzPfKTxuieU-VTs-hy?usp=sharing (скоро будет и на hugging face) Статья: Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks Shaoqing Ren, Kaimin...
Сделал нейросеть Генератор картинок по тексту. Можете попробовать ее! Часть 2
Переглядів 1,5 тис.Рік тому
Модели: drive.google.com/drive/folders/14KW9gPeGhF7w4FClD9xhFskzhhqRpUYm?usp=sharing GitHub: github.com/krasnoteh/AI-experiments/tree/main/Text To Image part two Бот: t.me/krasnoteh_diffusion_bot
Увеличиваем картинки. Сделал Diffusion Super Resolution нейросеть в Tensorflow
Переглядів 816Рік тому
GitHub: github.com/krasnoteh/AI-experiments/tree/main/SuperResolution Модели: drive.google.com/drive/folders/1XKef8FoypyZPmyJ9VeN0gJ71WUYzYzG7?usp=sharing
Прокачал свой Vs code Российской Нейронкой) Работаем с языковыми моделями через API
Переглядів 1,4 тис.Рік тому
Многие простые процессы можно автоматизировать используя языковые модели. Тут я показываю, как работать с одной из них через Python, javascript и другие языки, в которых можно работать с HTTPS протоколом. GitHub: github.com/krasnoteh/vscode-ai Найти расширение в vs code: vs-code-ai #gigachat #llm #нейросеть #vscode
VQ-GAN: нейросеть, давшая начало всем Dalle и Stable Diffusion. Разбираем принцип и делаем сами.
Переглядів 965Рік тому
Код из видео: github.com/krasnoteh/AI-experiments/tree/main/Autoencoders part 2 (VQ-GAN) Большой vqgan: drive.google.com/drive/folders/1t_-Av8kwWTRJSvBRj98tJN7AOCje06vF?usp=sharing #нейросеть #vqgan #tensorflow
Реализовал Text to Image нейросеть с нуля на Tensorflow! Направленная дифузия.
Переглядів 1,2 тис.Рік тому
GitHub: github.com/krasnoteh/AI-experiments/tree/main/Text To Image Неросеть большевата для гитхаба, есть на гугл-драйве: drive.google.com/file/d/1sNmlcYDpdqPTVdl3k7y2f3Mq7tRkdAsi/view?usp=sharing drive.google.com/file/d/11qlooMS4LCfPLa6_1t2rC1MyL3MDPq8b/view?usp=sharing Почитать: keras.io/examples/generative/ddim/ keras.io/examples/generative/ddpm/ arxiv.org/pdf/2105.05233v4.pdf Бот: t.me/kras...
Нейросеть для сжатия данных. Автоэнкодеры: объяснение и реализация на tensorflow.
Переглядів 1,6 тис.Рік тому
В этом видео разберем архитектуру автоэнкодеров, реализуем три разных нейронки: Fully-connected autoencoder Autoencoder "local compressor" Res-net autoencoder Git hub с кодом из видео: github.com/krasnoteh/AI-experiments/tree/main/Autoencoders part 1
Сделал свой Stable Diffusion с нуля на Tensorflow. Это проще, чем кажется.
Переглядів 3,3 тис.Рік тому
В этом видео реализуем генеративную нейросеть, работающую на том же принципе, что и популярный Stable Diffusion на Tensorflow. GitHub: github.com/krasnoteh/AI-experiments/tree/main/Diffusion for images Статья от Keras, некоторые элементы кода брал оттуда: keras.io/examples/generative/ddim/ Upscaler: www.iloveimg.com/upscale-image
сделал Нейросеть, обращающую время вспять! Диффузионные модели на Tensorflow.
Переглядів 995Рік тому
Делаем модели прямой о обратной диффузии, погружаемся в теорию энтропии и вероятностей (чуть-чуть) и смотрим завораживающие анимации обратной диффузии, которые мы сделали своими руками. GitHub: github.com/krasnoteh/AI-experiments/tree/main/Diffusion for points
Я сделал Object Detection с нуля. Он работает. Tensorflow. часть 2
Переглядів 3,9 тис.Рік тому
GitHub: github.com/krasnoteh/AI-experiments/tree/main/object detection part two
Давайте реализуем Object Detection. С нуля, в коде, на своих данных,Tensorflow.
Переглядів 8 тис.Рік тому
Тут мы не будем дообучать предобученные модели, а сами сделаем простую keras нейросеть и реализуем object detection на tensorflow. GitHub: github.com/krasnoteh/AI-experiments
Гайд: Denoising нейросеть своими руками на Tensorflow. Работает с картинками ЛЮБОГО размера
Переглядів 683Рік тому
делаем Denoising unet нейросеть с нуля. github: github.com/krasnoteh/AI-experiments/blob/main/Denoising unet.ipynb
Сделал свою нейросеть для раскрашивания старых фильмов! Unet на Tensorflow
Переглядів 955Рік тому
Сделал свою нейросеть для раскрашивания старых фильмов! Unet на Tensorflow
Делаем Генератор изображений с нуля! Генеративно-состязательная нейросеть на Tensorflow
Переглядів 6 тис.Рік тому
Делаем Генератор изображений с нуля! Генеративно-состязательная нейросеть на Tensorflow
Нейросети для изображений на Tensorflow. Классификация, перенос обучения, fine-tunung.
Переглядів 2,6 тис.Рік тому
Нейросети для изображений на Tensorflow. Классификация, перенос обучения, fine-tunung.
Это база. Как создать простую нейросеть на Tensorflow и Keras
Переглядів 4,5 тис.Рік тому
Это база. Как создать простую нейросеть на Tensorflow и Keras
как установить Tensorflow для работы с GPU. jupyter notebook. conda.
Переглядів 7 тис.Рік тому
как установить Tensorflow для работы с GPU. jupyter notebook. conda.
Новый проект - Многофункциональный робот огородник. Часть 1: Корпус, моделирование, 3D печать.
Переглядів 5212 роки тому
Новый проект - Многофункциональный робот огородник. Часть 1: Корпус, моделирование, 3D печать.
Как обучить Object Detection Нейросеть на своем наборе данных. Гайд от начала и до конца.
Переглядів 57 тис.2 роки тому
Как обучить Object Detection Нейросеть на своем наборе данных. Гайд от начала и до конца.
Крутая Светодиодная лампа с датчиком движения Своими руками за 400 рублей
Переглядів 4862 роки тому
Крутая Светодиодная лампа с датчиком движения Своими руками за 400 рублей
Да уж спец. Все видно когда вы занимаетесь сложными и сеиьезными вещами. Pytorch - для исследования. Tensorflow - для прода и бизнеса. Не гоните если не знаете.
Здравствуйте 🤝 как можно вам написать ? Нужна ваша помощь в обучении … не получается а то
Здравствуйте, так как гайд старый, рекомендую изучить yolo от ultralytics. Если необходимо настроить именно tensorflow object detection, то напишите в тг @krasnoteh
Как обычно топ Контет. Спасибо. Мне повезло что сразу начинал с торча
4:35 Ви не згадали що , також, потрібно встановити cuda. Для деяких застосунків, наприклад yolov11, можна добу гратись, щоб все працювало коректно з відеокартою
Интересно сравнение... Но я против ооп. Кончиная система если чесно. Так что это минус как по мне для пайторча. Но буду пробовать сам тогда его. Может понравится.
Вообще-то "какая -то сторонняя библиотека numpy", которая "как бы не хорошо", входит как в tensorflow, так и в pytorch. Numpy - это основа работы с массивами в Python и чем она так "не угодила" автору, понять трудно. Особенно умилительно выглядит "исследование" востребованности навыков на рынке труда на последних минутах))) Открываю пять заранее приготовленных вакансий с pytorch и все! Выводы, как говорится, делайте сами!)))
Numpy работают только на cpu , а PyTorch больше ценится на рынке труда это факт.
Классный ролик, я хоть и не млщик, а разраб на js. Но теперь я буду выебываться, какой я весь умный. Спасибо!
с PyTorch тоже много много провозился для установки с GPU, там в зависимость нужен был MSBUILD или как там, подходящую версию которого мне пришлось на ощупь качать с сайта microsoft редактируя ссылку, потому что хотел с офф. сайта, но да ладно, мб это я гений.
Не используйте Питон для серьѣзнвх приложений из-за ошибок чисел с плавающей запя!й.
Советую ещё попробовать сравнить jax и pytorch так же можешь попробовать tinygrad
В 2к25 TF это лютый кринж: 90% статей на том же papers with code сопровождает код на PyTorch. Все популярные библиотеки, все самые последние навороты для повышения эффективности трейна - они на PyTorch. С помощью фреймворков типа Pytorch Lightning трейн код вообще можно написать пяткой за 20 минут и он будет прекрасно работать. Вышла новая архитектура/модель/etc? Можешь быть уверен что её через 2-3 дня имплементирует заряженный энергосами азиат, и реализация будет на PyTorch. В TF имеет смысл погрузиться только если ты уже работаешь над проектом, который включает в себя какой-нибудь допотопный TF код десятилетней давности, и на нём держится абсолютно всё.
0:10 википедия с вами не согласится
Молодец, так держать.
Для pytorch есть библиотечка torchinfo: from torchinfo import summary summary(model) Выводит подробные данные по модели и размерность и кол-во параметров на каждом слое. Также, если всё, что происходит в методе forward - это последовательный проход по слоям, можно не создавать класс, а просто поместить эти слои в nn.Sequential, созданный объект и будет моделью. TensorBoard поддержан для Pytorch и лежит в torch.utils.tensorboard
Я почему-то пытался заставить себя работать именно с тенсорфлоу, но не знаю почему, видимо лучше применить что-то реально более качественное
та не торч я!
Да, тоже помню как мучался с установкой tf, сначала вроде установил, смотрю, как то медленно обучается, а там gpu нет. И где то 2-3 дня потратил на то чтобы скачать этот tf для cuda,. Не понимаю, тех кто пользуются tf в 2025
Немного прибавить темпа видео, убавить ненужные паузы и будет супер, а так видео хорошее.
Мне кажется все дело в том на сколько быстро работает твой мозг, если ты привык впитывать тоны информации за короткий промежуток времени, такая подача может казаться медленной. Моё мнение такое: в его подаче темп самого видеоряда и речи идеален, он позволяет внимательно рассмотреть и что самое главное воспринять информацию во время пауз. Я бы не хотел чтобы подача менялась.
В 2025 говорить про tf это кринж. Мб сравнивать pytorch и jax?
tensorboard прекрасно работает с pytorch. Также есть много других логгеров совместимых и с тем и с другим фреймворком. Ещё важное преимущество torch'a: есть фреймворки поверх него значительно ускоряющие разработку и выведение моделей в прод, например lightning и catalyst, сейчас вся продакшн-разработка в топовых компаниях ведется с их использованием
У меня проблема с TF в утечке памяти и замедлении работы при каждой итерации. Например за 10 часов работы TF замедлился вдвое. Утечку я поборол, время от времени перезагружая модель. Никакие другие методы не срабатывали, а вот замедление хз как побороть. TF разочаровывает такими проблемами.
21 минута унижения tensorflow
3:35 начало видео ответил на поставленный вопрос. tf скип. Мне все говорили использовать pytorch gpu, но я решил все равно tf gpu, ну и как следствие минус 2 недели моей жизни. На мой взгляд, однозначно pytorch
Я не понимаю как можно быть такими криворукими, чтобы НЕДЕЛЕЮ или две ставить tf. Он реально ставится за час, если посмотреть зависимости сразу
@@sus4750 а вот и хрен там, во-первых 2.18 версия ни в какую не хочет работать с GPU, только 2.16, но пока ты их там перепробуешь и натрахаешься с дровами, я реально ставил дня 3 вообще не понимая что происходит по всем гайдам
@@sus4750 я человек который кучу времени (больше недели точно) потратил на установку PyTorch GPU, так что, я думаю это должно лишь заинтриговать тебя в твоём вопросе и непонимании))))))
Кто-нибудь ставил tf c gpu на wsl, норм работает? а производительность?
по-моему гиблая затея
У линукса и винды есть фундаментальное различие и это архитектура ядра и диспетчеризация процессов. Выражается это в том, что на линуксе матричные вычисления эффективнее по времени. А wsl это лишь надстройка на виндой, обертка так сказать, и вся логика работы с тензорами в всл такая же как и в Винде.
Без проблем работает
Долго ли ты этому учился?
Есть еще JAX)
Пока не смотрел его
4:44 `%timeit` - не только среднее но и стандартное отклонение посчитает.
4:21 может быть для установки pytorch (gpu) требуются такие же драйвера, что и для tensorflow (gpu)?
6:25 -- "Делал вычисления на видеокарте и учитывал только время самого вычисления" А по коду явно видно, что измерение времени включает время переноса данных на GPU
Делал и так, и так, может кусок кода не тот вставил, но суть та
Лучше onnx 😂 шутка. А вы pt lighting ом пользуетесь?
Пока не изучал
Трейнер классная идея, в остальном пт лайтнинг это усложненный мусор
Автору реально хочется верить что PyTorch лучше он все видео выпускал только по trnsorflow а сейчас понял как ошибался видимо
Спасибо топовое видео! Смог бы сделать гайд на тему как подключить нейросети к интернету ? Что бы заходил в интернет и собирал свежие данные по запросу. И дополнял готовую модель
Имеете ввиду ллм (gpt-подобные)? Ну там как будто концептуально не сложно и не тянет на отдельное видео, просто сделать команду ей типа /search_in_internet(запрос) и дообучить на таких ответах
@@КрасноТех Я из раков) по этому если бы сдеал - было бы топ. что бы модель получали свежие новости и тд для обработки
Учиться проще на TensorFlow. Но на Windows для ГПУ только старая версия, а в новых дикая утечка памяти. По всем остальным пунктам Торч - единственный выбор по сумме факторов ❤
Не прав. Это в винде перешел в wsl ubuntu
Братанчик иы либо молодо выглядишь либо вундеркинд)).Сколкьо тебе чувак?Не бросай канал и снимай побрльше видео с туторами).С меня подписка и +реп
Спасибо, я 2ой курс сейчас
@КрасноТех универ?Или техникум?Специальность с ml связано?
@@lev431 Универ, связанно косвенно
Через anaconda можно создать виртуальное окружение с tensorflow-gpu в пару команд: conda create --name tf-gpu tensorflow-gpu conda activate tf-gpu Все cuda-драйвера будут загружены автоматически.
У меня так не срослось. Нужно было подбирать версию Пайтона, Тензорфлоу, и библиотеки cuda. Там ещё нужно специфическую версию ставить библитек, которую нашёл в комментах на ютубе, другие версси не были найдены через установщик анаконды.
@ Тогда как рекомендуется в документации tensorflow: conda create --name tf python=3.9 conda activate tf conda install -c conda-forge cudatoolkit=11.2 cudnn=8.1.0 pip install --upgrade pip pip install "tensorflow<2.11" Где вместо указанных версий можно указывать свои. Все равно так проще, чем заморачиваться с загрузкой папок и перемещением файлов.
@@MsStreltsov Я таким образом устанавливал. Версии: - python 3.8.20 - cudatoolkit=11.2 - cudnn=8.1.0 - tensorflow==2.8.0 Установка: // создаём виртуальное окружение и активируем его conda create -n tf_env python=3.8 -y conda activate tf_env // устанавливаем Cuda Toolkit и cuDNN conda install -c conda-forge cudatoolkit=11.2 cudnn=8.1.0 // усстанавливаем TensorFlow pip install --upgrade pip pip install tensorflow==2.8 Проверка: Для *CUDA Toolkit* conda list | findstr cuda // должно выдать список установленных дров Lkz *cuDNN* conda list | findstr cudnn // должно выдать что-то вроде: cudnn 8.1.0.77 h3e0f4f4_0 conda-forge Для TensorFlow pip list | findstr tensorflow // должно выдать что-то вроде: tensorflow 2.8.0 tensorflow-estimator 2.8.0 tensorflow-io-gcs-filesystem 0.31.0 Проверка в Python: import tensorflow as tf print("TensorFlow version:", tf.__version__) print("Num GPUs Available:", len(tf.config.list_physical_devices('GPU'))) // должно выдать (для 1 гпу): Num GPUs Available: 1 TensorFlow version: 2.8.0
@@MsStreltsov Я таким образом утанавливал. Версии: - python 3.8.20 - cudatoolkit=11.2 - cudnn=8.1.0 - tensorflow==2.8.0 Установка: // создаём виртуальное окружение и активируем его conda create -n tf_env python=3.8 -y conda activate tf_env // устанавливаем Cuda Toolkit и cuDNN conda install -c conda-forge cudatoolkit=11.2 cudnn=8.1.0 // усстанавливаем TensorFlow pip install --upgrade pip pip install tensorflow==2.8 Проверка: Для *CUDA Toolkit* conda list | findstr cuda // должно выдать список установленных дров Для *cuDNN* conda list | findstr cudnn // должно выдать что-то вроде: cudnn 8.1.0.77 h3e0f4f4_0 conda-forge Для TensorFlow pip list | findstr tensorflow // должно выдать что-то вроде: tensorflow 2.8.0 tensorflow-estimator 2.8.0 tensorflow-io-gcs-filesystem 0.31.0 Проверка в Python: import tensorflow as tf print("TensorFlow version:", tf.__version__) print("Num GPUs Available:", len(tf.config.list_physical_devices('GPU'))) // должно выдать (для 1 гпу): Num GPUs Available: 1 TensorFlow version: 2.8.0
Я таким образом устанавливал. Версии: - python 3.8.20 - cudatoolkit=11.2 - cudnn=8.1.0 - tensorflow==2.8.0 Установка: // создаём виртуальное окружение и активируем его conda create -n tf_env python=3.8 -y conda activate tf_env // устанавливаем Cuda Toolkit и cuDNN conda install -c conda-forge cudatoolkit=11.2 cudnn=8.1.0 // усстанавливаем TensorFlow pip install --upgrade pip pip install tensorflow==2.8 Проверка: Для *CUDA Toolkit* conda list | findstr cuda // должно выдать список установленных дров Для *cuDNN* conda list | findstr cudnn // должно выдать что-то вроде: cudnn 8.1.0.77 h3e0f4f4_0 conda-forge Для TensorFlow pip list | findstr tensorflow // должно выдать что-то вроде: tensorflow 2.8.0 tensorflow-estimator 2.8.0 tensorflow-io-gcs-filesystem 0.31.0 Проверка в Python: import tensorflow as tf print("TensorFlow version:", tf.__version__) print("Num GPUs Available:", len(tf.config.list_physical_devices('GPU'))) // должно выдать (для 1 гпу): Num GPUs Available: 1 TensorFlow version: 2.8.0
а я наоборот, заметил что установка ТФ на >старых картах< менее проблематичный вот с торчем у меня много проблем было какието дополнительные куднн и подобные в итоге я отказался от их установки и юзал колаб для експериментов
На официальном сайте PyTorch достаточно просто выбрать команду для установленной версии cuda драйверов, скопировать команду в терминал, готово. Cudnn и прочие зависимости сами подтянутся во время установки. А вот с tensorflow боль в анусе гарантирована только если ты пытаешься поставить старую версию, или тем более новую, под windows. На wsl как раз таки мучения с cudnn и прочими подобными моментами с драйверами и библиотеками Nvidia, но в целом тоже делов особых не составит все поставить. Поднять Jupyter notebook и пользоваться либо в браузере, либо в ide по типу cursor или data spell.
Когда первый раз пытаешься скачать tf с подедржкой GPU, то могут навещать мысли, что ты кринж
Часок потрать на развертывание докер контейнера, и все проблем нет.
Будут видео по PyTprch? Думаю, вряд ли кто-то сможет понятнее объяснить
Далее все будет на pytorch, tensorflow если и будет, то для сравнения и очень мало
Очень годный контент
А зачем вообще рассматривать между тф и торч? Если тф уже давно не поддерживается и уже не будет апдейтиться ибо discontinued. Гугл вывел новый фреймворк JAX что очень перспективен и быстрее.
jax не изучал пока, если он действительно сильно более оптимизирован, то может для обучения больших моделей пригодится. Как основной фреймворк все-же выбираю самый популярный, но конечно для серьезных проектов их можно комбинировать.
нормальное видео, доступно и понятно. кстати почему вы перестали делать комиты в гитхаб?
Здравствуйте, мой гитхаб скорее помойка старых проектов) Сейчас занимаюсь более сложными проектами (на заказ), соответственно не для опен-сорса. Когда будет время, будут проекты конкретно на канал (реализации, разбор архитектур), они пойдут на гитхаб. Спасибо, что смотрите и ждете, работаем.
Ай блин больно в голове, но мне нравится
Давно пора и добро пожаловать)
Краснотех, а керас почему не рассматриваешь? Ведь на керасе также пишешь слои - в 10-ки раз лучше блевотного ТФ. Насколько я читал - Керас более современная вещь, чем пайторч. Судя по использованию - крайне простая вещь.
keras это только фронтенд, под ним всегда должно быть то, что производит сами вычисления. Его обычно используют с tensorflow, с pytorch тоже вроде как можно (никогда не видел, чтоб кто-то так делал), но зачем?
что за музыка на 2-и и на 18-й минутах?
На 2-й Asher Fulero - Glimpsing Infinity На 18-й Night Stalker by Wave Saver
Спасибо) На ваш канал подписан уже давно, но код из видео всегда казался... слишком странным и сложным, в пайторче действительно как-то всё немного логичнее сделано.
Ямы на дороге заставки прям чётко отсылают к городу изготовителю, а куда ты заныкал ещё 32гб оперативы, было 64гб ?
всегда 32 было)
@КрасноТех в каком то старом видосе видел 64, не свап, а именно оперативы
Спасибо за видео! Как всегда очень полезно) топ!
посмотрел, удаляй
Посмотрим!