Виталий Кулиев
Виталий Кулиев
  • 74
  • 298 645
ИИ в датацентре. Экскурсия в immers cloud. Обзор иммерсионного охлаждения.
Сегодня мы отправимся на экскурсию в передовой дата-центр immers cloud, где узнаем, как работает современное железо для обработки больших объемов данных и искусственного интеллекта. Вместе заглянем внутрь иммерсионных систем охлаждения, увидим мощные видеокарты и серверные платформы, а также узнаем, как эта инфраструктура обеспечивает работу облачных сервисов. Владислав поделится техническими деталями и расскажет о преимуществах иммерсионного охлаждения. Это уникальная возможность увидеть, как устроены дата-центры нового поколения.
Сайт immers cloud. По этой ссылке получите бонус 20% на первое пополнение:
immers.cloud/signup/r/20240522-6407208-835/
Мой телеграм канал:
t.me/vitaly_kuliev_it
В rutube дублирую видео. Подписывайтесь на случай закрытия ютуба:
rutube.ru/channel/23479346/
Таймстемпы:
00:00 - Обзор иммерсионного охлаждения
00:38 - Обзор серверов, видеокарт и стоек
01:28 - Иммерсионное охлаждение подробно
02:22 - Обзор процессоров и конфигураций
04:50 - Сколько железа и тепловыделение
06:25 - Сравнение с воздухом
10:30 - Другие стойки и используемые компоненты
17:10 - Ограничения и рынок
24:20 - Расходы и сравнения
28:05 - Статистика поломок и надежность
30:55 - Заработок и клиенты
35:03 - Рынок и перспективы
36:55 - Клиенты и задачи
41:00 - Будущее GPU
Реклама. ООО «ДТЛ». ИНН 9717073792. erid: LjN8JvwDx
Переглядів: 650

Відео

Современные подходы к матчингу товаров с использованием LLM. Виталий Кулиев, Highload 2024.
Переглядів 1,5 тис.16 годин тому
Это запись моего доклада на конференции Highload 2024. "Современные подходы к матчингу товаров с использованием LLM". Нейросети GPT-4, Llama 3, InternVL2, Qwen2.5, Qwen2-VL. Видеокарты: nvidia A100 80gb, A800, RTX 3090ti. Чаще пишу в телеграм канале: t.me/vitaly_kuliev_it Организатор конференции компания Онтико: ontico.ru/
Нейросеть + 1С. RAG системы для бизнеса
Переглядів 3,4 тис.Місяць тому
Retrieval augmented generation (RAG) используется для ответа на пользовательские запросы с учётом актуальной информации. RAG-системы позволяют генерировать более точные ответы, комбинируя запросы к большим языковым моделям (например, ChatGPT, Llama) и доступ к актуальным данным, таким как документация, векторные базы и API в проекте. RAG становится неотъемлемой частью поддержки пользователей и ...
Протестировал видеокарты nvidia 3090, 4090, A100 в задаче инференса нейросети Llama 70b.
Переглядів 3,8 тис.2 місяці тому
Сравнительный тест видеокарт для работы с нейросетями, на примере модели LLaMA 70B awq на 4 бита. Список видеокарт: 3090, 3090ti, 4090, A100 и H100. В тестировании участвуют личный сервер с 3090ti и арендованные серверы с остальными видеокартами. Видео будет полезно тем, кто занимается нейросетями и хочет узнать, какие видеокарты эффективнее использовать для инференса нейронных сетей. Скорость ...
Компьютер для нейросетей. 5x3090ti, 48cpu, 512gb ram.
Переглядів 8 тис.2 місяці тому
Последние нейросети требуют большого количества вычислений и для этой задачи я решил пересобрать свой сервер. Сейчас используется серверная материнская плата, процессор на 48 ядер, 512гб оперативной памяти и 5 видеокарт nvidia rtx 3090 ti. Сервер подходит для запуска нейросетей с количеством параметров около 100 миллиардов(Llama 70b, Mistral Large 2407, NVLM ...) GPU сервера immers.cloud. Испол...
Запуск Llama 405b на своем сервере. vLLM, docker.
Переглядів 16 тис.3 місяці тому
Детально показываю, как запустить самую мощную открытую нейросеть Llama 405b на своем сервере. Описание модели Llama 405b на сайте Meta* llama.meta.com/ Сервер покупал тут: immers.cloud/signup/r/20240522-6407208-835/ Прикладная конференция по Data Science AI conf 2024: aiconf.ru/2024 Описание модели Llama 3.5 405b instruct AWQ на huggingface: huggingface.co/hugging-quants/Meta-Llama-3.1-405B-In...
Llama 3.1 - лучшая открытая нейросеть. Обзор и сравнение с gpt4o.
Переглядів 17 тис.4 місяці тому
Нейросеть Llama 3.1 - лучшая открытая нейросеть на данный момент. В видео рассматривается обновление нейросети, сравнение ее метрик с предыдущей версией и другими популярными нейросетями, такими как gpt4o и claude 3.5 sonnet. Также демонстрируется работа нейросети на практических примерах, включая написание кода и ответы на вопросы. Модели на huggingface: huggingface.co/collections/meta-llama/l...
Топ советов по выбору видеокарты для машинного обучения и инференса нейросетей(LLM)?
Переглядів 3,2 тис.4 місяці тому
Обсуждение основных параметров видеокарт в задачах тренировки и инференса нейросетей. Практические советы по выбору видеокарт и других параметров компьютера. Аренда GPU серверов. В этом выпуске мне поможет Руслан, который расскажет о тренировке нейросетей, а я объясню, какие параметры важны для инференса LLM. Упоминание нейросетей: llama 3 8b/70b, gemma 2... Сравнение видеокарт nvidia: a100, h1...
Секреты сборки компьютера для инференса LLM. Нейросети запускаем локально.
Переглядів 3,2 тис.5 місяців тому
Делюсь своим опытом построения домашнего компьютера, специально предназначенного для запуска нейросетей. Основная нейросеть для запуска - Lama 3 70b instruct, качество которой сравнимо с ранними версиями GPT-4. В этой сборке используется 3 видеокарты 3090ti. GPU сервера immerse cloud: immers.cloud/signup/r/20240522-6407208-835/ Большой тест видеокарт: ua-cam.com/video/UB9KAYsYUQQ/v-deo.html Пол...
Большой тест видеокарт для инференса Llama 3 70b 8b. RTX 4090 3090 A100 H100...
Переглядів 4,1 тис.6 місяців тому
В этом видео массовое тестирование видеокарт для нейросетей. В тесте участвуют две нейросети: Llama 3 8b и Llama 3 70b. Тестируются игровые видеокарты разных поколений: Nvidia RTX 4090, RTX 3090, RTX 3090 ti, RTX 2080 ti. Среди серверных карт тестируются Nvidia A100, Nvidia H100. GPU сервера immerse cloud: immers.cloud/signup/r/20240522-6407208-835/ Бенчмарк из видео для тестирования: github.co...
rus-gpt.com сервис для инференса llama 3. Программируем с CodeGPT плагином в pycharm.
Переглядів 1,6 тис.7 місяців тому
rus-gpt.com сервис для инференса llama 3 и доступа по API. В видео даны инструкции как получить доступ к сервису и использовать API для программирования в pycharm. На данный момент сервис бесплатен для пользователей и его функционал расширяется. Пример на гитхаб: github.com/kulievvitaly/rus_gpt_demo Телеграм бот для получения ключей: t.me/rusgptcom_bot Сайт проекта: rus-gpt.com/ Мой телеграм ка...
Llama 3 - лучшая открытая нейросеть. Узнай как использовать эту модель.
Переглядів 15 тис.7 місяців тому
В этом видео мы рассмотрим новую нейросеть компании META, LLama 3, выпущенную в апреле 2024 года. LLama 3 - это открытая модель, доступная для коммерческого использования, которая показывает высокие результаты. Модель выпущена в двух вариантах с 8 и 70 млрд весов. Мы обсудим преимущества использования инструкт модели, сравним её с конкурентами и рассмотрим её отличительные особенности. Также мы...
Тестируем 5G интернет. Какая скорость?
Переглядів 1,4 тис.8 місяців тому
В этом видео тестируем скорость 5G интернета в Таиланде. Узнайте, насколько быстро работает 5G! Когда появится в России?
Dreame l20 ultra. Распаковка и первое включение.
Переглядів 14 тис.Рік тому
Распаковка и первое включение нового робота пылесоса dreamebot l20 ultra complete. Стоимость в России: около 100к рублей. Описание на сайте производителя: ru.dreametech.com/catalog/robot-pylesos-dreame-l20-ultra-white/ Телеграм бот Hour VPN: t.me/hour_vpn_bot?start=dreamebot Таймкоды: 0:00 Распаковка 2:09 Обход блокировок 3:06 Обзор робота 6:13 Обзор расходников 7:15 Обзор базовой станции 11:41...
Из голоса банка - в фильмы 18+
Переглядів 1,6 тис.Рік тому
Мое мнение о технологиях синтеза голоса и конфликте между Аленой Андроновой и банком Тиньков. Как устроено копирование голоса? Возможна ли идентификация человека по голосу? Какие профессии будут заменены роботами? Видео Алёны: ua-cam.com/video/xfhPMKpPQng/v-deo.html&ab_channel=HollyForve Таймкоды: 0:00 Алена Андронова 0:13 Обзор технологий 1:47 Юридические вопросы 3:07 Петиция о внесении правок...
Регистрируем ChatGPT в России. Краткая инструкция.
Переглядів 1,5 тис.Рік тому
Регистрируем ChatGPT в России. Краткая инструкция.
Обход блокировок VPN в России. Outline в телеграм боте Hour VPN
Переглядів 11 тис.Рік тому
Обход блокировок VPN в России. Outline в телеграм боте Hour VPN
Выбор видеокарты для ML: Nvidia compute capability
Переглядів 4,2 тис.Рік тому
Выбор видеокарты для ML: Nvidia compute capability
Новости ML. Nvidia VSR, генерация видео, языковые модели.
Переглядів 865Рік тому
Новости ML. Nvidia VSR, генерация видео, языковые модели.
Аналог chatGPT работает на ноутбуке! Выложили нейросети LLaMA и Alpaca. Инструкция по установке.
Переглядів 10 тис.Рік тому
Аналог chatGPT работает на ноутбуке! Выложили нейросети LLaMA и Alpaca. Инструкция по установке.
Метод Монте Карло в Data Science. Численно решаем вероятностные задачи.
Переглядів 996Рік тому
Метод Монте Карло в Data Science. Численно решаем вероятностные задачи.
Где арендовать VPS сервер в 2023 году?
Переглядів 25 тис.Рік тому
Где арендовать VPS сервер в 2023 году?
Не используйте асинхронный python!
Переглядів 1,4 тис.2 роки тому
Не используйте асинхронный python!
Видеокарты RTX 4090/4080 для тренировки нейросетей. Сравнение с конкурентами.
Переглядів 4,9 тис.2 роки тому
Видеокарты RTX 4090/4080 для тренировки нейросетей. Сравнение с конкурентами.
Тестируем быстродействие python 3.11
Переглядів 1,2 тис.2 роки тому
Тестируем быстродействие python 3.11
Новости ИИ октябрь 2022. Stable diffusion, nvidia RTX 4090, CPU AMD/intel, Ethereum POS.
Переглядів 5562 роки тому
Новости ИИ октябрь 2022. Stable diffusion, nvidia RTX 4090, CPU AMD/intel, Ethereum POS.
Основы работы с базами данных в python. Postgresql, Sqlalchemy, PgAdmin.
Переглядів 9 тис.2 роки тому
Основы работы с базами данных в python. Postgresql, Sqlalchemy, PgAdmin.
Модуль pexpect и pysftp.
Переглядів 3882 роки тому
Модуль pexpect и pysftp.
4 обязательные части любого ИИ проекта
Переглядів 9282 роки тому
4 обязательные части любого ИИ проекта
Code Royal 2022 - соревнование по созданию искуственного интеллекта. Russian AI cup 2022.
Переглядів 5022 роки тому
Code Royal 2022 - соревнование по созданию искуственного интеллекта. Russian AI cup 2022.

КОМЕНТАРІ

  • @Richard-k2k5n
    @Richard-k2k5n 35 хвилин тому

    Благодарю за ваши старания! Есть такой вопрос: На моем SafePal кошельке хранится USDT и у меня есть seed фраза. (alarm fetch churn bridge exercise tape speak race clerk couch crater letter). Как мне перевести их на Binance?

  • @АндрейАндреев-ю8э
    @АндрейАндреев-ю8э 2 години тому

    Если стойка с видеокартами, можно в гейминг зайти, есть реклама у мтс.

  • @АндрейАндреев-ю8э
    @АндрейАндреев-ю8э 2 години тому

    Очень интересно , но плохо, очень плохо слышно

  • @wadyn95
    @wadyn95 2 години тому

    Очень доступные цены у них, чуть выше чем vast ai, но конкурентов в СНГ нет точно. Надеюсь ребята не разорятся с такими ценами) Если бы не санкции, могли бы конкурировать на международном рынке

  • @АндрейБ-й4н
    @АндрейБ-й4н 6 годин тому

    Звононок в дверь открывайте полицыя вы не законно Майнете ответ я не Майну а произвожу вычисления ИИ😂😂.

  • @alimaskinav
    @alimaskinav 18 годин тому

    Может задействовать нейросети для "очистки" звука))

  • @rvs173
    @rvs173 18 годин тому

    Спасибо за видео! Разбираются ли видеокарты перед установкой в сервер? Снимаются вентиляторы или полностью охлад?

  • @cloud5612
    @cloud5612 19 годин тому

    Видео интересное, но с звуком беда

  • @НеОбычныйПользователь

    Спасибо, очень интересно. Есть у меня у них счёт, но должен сказать, что с точки зрения рядовых любителей поинференсить решения у них неудобные, под линуксоидов.

    • @kuliev.vitaly
      @kuliev.vitaly 19 годин тому

      Какое решение удобно было бы под твои задачи?

    • @НеОбычныйПользователь
      @НеОбычныйПользователь 18 годин тому

      @@kuliev.vitaly ну например как у runpod сделано. Я не линуксоид, так что в деталях могу ошибаться, но там как - докер-контейнер, несколько таких контейнеров на выбор с популярными решениями (кобольд, угабуга, флюкс и подобные) разворачиваются на заказанной конфигурации практически в один клик и выдаётся прокси от ранпода с https-ссылкой, по которой можно удалённо подключаться к API и интерфейсу в этом контейнере. Лучше и не надо, если бы не санкции на оплату - сидел бы там.

  • @andreykorobko
    @andreykorobko 19 годин тому

    🔥, но сломал уши😢

    • @kuliev.vitaly
      @kuliev.vitaly 19 годин тому

      Помещения для звукозаписи подходят плохо.

    • @Дмитрий_Кир
      @Дмитрий_Кир 12 годин тому

      @@kuliev.vitalyВ основном из-за микрофона. Если бы с каждого из вас звук снимался, таких проблем не было. Ещё аудио ты зря наложил, каши прибавил 😉. Голосовая дорожка, я бы сказал, не убитая. Попробуй её конвертнуть в моно и резануть на лево-право, моно выставить на передний план, желательно прогнав через фильтры, чтоб от помещения избавиться по-максимуму , а лево-право соответственно по каналам раскидать, с уменьшением громкости процентов так до пяти. Если для стереобазы не будет хватать, подкрутишь повыше. По идее должно помочь.

    • @kuliev.vitaly
      @kuliev.vitaly 3 години тому

      микрофон у каждого свой

  • @FeDroid74
    @FeDroid74 2 дні тому

    Есть ли способ запустить сервер более дешевый? Недавно вышла Llama 3.3 70b, для неё нужно меньше мощностей, скорее всего

    • @kuliev.vitaly
      @kuliev.vitaly 2 дні тому

      Да. У меня есть опыт запуска llama 3 70b awq на двух картах 3090ti. На четырех таких картах можно запустить с квантизацией 8бит или большим контекстом. Посмотрите видео про сборку сервера на 3090ti. Альтернативно можете использовать платные апи, например fireworks.

  • @ultrazSupporter
    @ultrazSupporter 2 дні тому

    Надо 96гб видеокарты чтоб нормально работала qwen 2.5? Для маленькой фирмы.

    • @kuliev.vitaly
      @kuliev.vitaly 2 дні тому

      qwen 2.5 72b с квантизацией awq запускается на одной карте A100 с 80gb памяти.

    • @ultrazSupporter
      @ultrazSupporter 2 дні тому

      @@kuliev.vitaly а на 4х картах по 24гб, к примеру 4090, не запустить?

  • @tirsntirsn4128
    @tirsntirsn4128 2 дні тому

    какой протокол использовать лучше всего для ютуба ? что бы был самый шустрый

    • @kuliev.vitaly
      @kuliev.vitaly 2 дні тому

      vless

    • @tirsntirsn4128
      @tirsntirsn4128 День тому

      @kuliev.vitaly спасибо что ответили , я вам в тг писал вчера ) 👍

  • @ultrazSupporter
    @ultrazSupporter 2 дні тому

    Почему интересно используете qwen, а не llama в продакшене?

    • @kuliev.vitaly
      @kuliev.vitaly 2 дні тому

      Qwen 2.5 метрики показывает выше.

  • @полдур
    @полдур 3 дні тому

    ЧТО ЗА ЧИСЛО?

  • @полдур
    @полдур 3 дні тому

    SENT : UNT? / 7+5 / 13 \18 TIP

  • @полдур
    @полдур 3 дні тому

    print это не кАЖДЫЙ ПОЙМЕТ

  • @полдур
    @полдур 3 дні тому

    JYV ОНИ М они мне туто поставили что-то , естественно я не понял

  • @vdhdgfhdfh
    @vdhdgfhdfh 6 днів тому

    слабенько же.. ну rag.. на лангчейне? квен через олламу? я на домашнем писи такое собрать могу..

  • @ЛехаСварщик
    @ЛехаСварщик 6 днів тому

    Тут всë просто: 4080/4090 остальные не стоит даже рассматривать

    • @kuliev.vitaly
      @kuliev.vitaly 6 днів тому

      3090/3090ti за свою цену хороши. Лучше 3090 взять из-за памяти, чем 4080.

  • @blackbigdeath
    @blackbigdeath 7 днів тому

    LLM ки конечно норм в этом деле

  • @Zzzap.
    @Zzzap. 7 днів тому

    топ-контент, спасибо 👍

  • @СергейФилькин-г4й

    Спасибо за доклад! Не думал в таком ключе про LLM в ecom'е

  • @vkbee
    @vkbee 7 днів тому

    Вижу Виталия, ставлю лайк! Спасибо!

  • @bbbbbb9193
    @bbbbbb9193 7 днів тому

    Ооо Топ видео. Спасибо интересно. С удовольствием посмотрим!!)

  • @vavag4810
    @vavag4810 9 днів тому

    А потом фильм Крикуны станет реальностью)

  • @loyscan
    @loyscan 9 днів тому

    А ключики для тестов больше не раздаёте?)

    • @kuliev.vitaly
      @kuliev.vitaly 8 днів тому

      Проект оказался маловостребован. Попробуйте fireworks - они дают тестовый доступ

    • @loyscan
      @loyscan 7 днів тому

      @@kuliev.vitaly спасибо, попробую!

  • @loyscan
    @loyscan 9 днів тому

    Виталий, добрый день! Вы можете сделать похожий тест с моделями для кодинга, такими как например deepseek coder v2 lite или codestral ?

    • @kuliev.vitaly
      @kuliev.vitaly 8 днів тому

      Тесты скорости сильно зависят от размера модели. Посмотрите тесты нейронок схожего размера. Возможно, в следующих видео протестирую другие нейронки.

  • @alexey_bn
    @alexey_bn 9 днів тому

    Как будто попал в каменный век. Я ремонтирую и собираю компьютеры уже 10 лет, а теперь к моему мнению. По ощущению, почти всё было прочитано где-то, а не лично проверено. Не тфлопс, а ТЕРАфлопс. Этот показатель всегда был необъективным параметром и не воспринимается никем. Видео не о чём, понятно что топовые игровые вкарты будут лучше всем. Или овердорогие специальные.

  • @Sergei6960
    @Sergei6960 11 днів тому

    А вот вы говорите если у вас в доме живет женщина или домашнее животное…. У меня завелась женщина но у нее голова босиком как и у вас, я так понял это же не проблема да?

  • @loyscan
    @loyscan 11 днів тому

    Вы в другом видео говорили что ограничили потребление карт до 350 ватт, интересно на серверах есть такое ограничение?

  • @Mcsollo
    @Mcsollo 12 днів тому

    У тебя есть видео про обход vpn, могут удалить канал за такое

    • @kuliev.vitaly
      @kuliev.vitaly 12 днів тому

      скрыл большинство видео

  • @Agrigati
    @Agrigati 12 днів тому

    Есть программа Jan с разными нейронками. Есть поддержка local api но я так ине разобрался как использовать. Работают на процессоре и используют оперативку но можно. использовать и видеокарту. На моем пк(xeon e5 2666 v3, 32gb, gtx 1080) работают довольно хорошо, получилось запустить 34 млрд разделами. В 27 млрд работает довольно хорошо. Есть и 70 млрд нейронки. Я хотел бы что бы ты и запустил😊

  • @ВасилийМудакович
    @ВасилийМудакович 13 днів тому

    хехе ~900 рублей в час, 40 минут ждать кокда скачаются модель😅

  • @The2427666
    @The2427666 16 днів тому

    Как можно использовать смр 50 в качестве ускормтелей нейросети?

  • @cloud5612
    @cloud5612 16 днів тому

    Не хватает web интерфейса

    • @kuliev.vitaly
      @kuliev.vitaly 15 днів тому

      Поищи опенсорсные проекты вебморды с интерфейсом openai.

  • @romanmed9035
    @romanmed9035 17 днів тому

    уже вышла 3.2. и это не на своем а арендованном сервер все же.

  • @megaz2814
    @megaz2814 18 днів тому

    Хочу собрать пк для ML, пересмотрел кучу роликов по поводу видеокарт(сам до этого писал код на ноуте, в мир пк не погружался, и теперь большая проблема собрать первый пк до 1000-1300$, полагаю бу компоненты) понимаю, сто есть выбор между бу 3080, 4070, и модет быть 3080 ti. Может кто посоветовать по ввбору видеокарты, предлагайте другие варианты. Проблема в том, что бюджет не большой, и я ещё в принципе не понимаю как выбирать: 4070 вроде потребляет меньше и производительность такая же, но слышал что cuda и тензорные ядра важны, а там их кратно меньше. Please help

    • @megaz2814
      @megaz2814 17 днів тому

      Или вообще взять 2 видюхи 2000 серии?

    • @kuliev.vitaly
      @kuliev.vitaly 15 днів тому

      Память очень важна. Попробуй 3090 взять в этом бюджете

  • @CrazyTVnet
    @CrazyTVnet 18 днів тому

    Ваш пайтон код есть в доступе? Интересно посмотреть

  • @voyauger
    @voyauger 18 днів тому

    А ви в своїй практиці тренування ai моделей не використовуєте NVIDIA TensorRT?

  • @bikeonoor4006
    @bikeonoor4006 18 днів тому

    Виталий, тогда еще вопрос. Мы увидели на тестах, что есть серьезная разница в производительности в случае использования нескольких карт на локальном компьютере. Возможно узкое место в скорости обмена данными между ними или алгоритмах распараллеливания. С одной картой всё ясно приоритет 4090 или 3090ti, но возможно для нескольких карт был бы оптимальным вариант с несколькими 4000 с 16 Гб (с учетом цены)? Есть ли у вас возможность взять на время такие карты и провести тесты на вашем 5 карточном серевере? Спс.

    • @kuliev.vitaly
      @kuliev.vitaly 18 днів тому

      В описании к видео есть ссылка на имерс клауд. Там можно взять разные видюхи с посекеундной оплатой и протестировать. 3090 имеет больше памяти - лучше ее взять

    • @bikeonoor4006
      @bikeonoor4006 16 днів тому

      ​@@kuliev.vitalyВиталий, вы меня не поняли. Я имелл виду тест на реальном железе. Вы же сами показали, какая огромная разница есть в производительности карт в сервисе и у вас на локальном компьютере.

  • @Япохожнакота
    @Япохожнакота 20 днів тому

    По цене 1 RTX4090 можно взять 4 RTX4060ti с 16 гб это будет 64 гб против 24. В топовых видюхах для нейронок нет смысла.

    • @kuliev.vitaly
      @kuliev.vitaly 18 днів тому

      Оверхед на синхронизацию данных будет между 4 видеокартами. В десктопную материнку не воткнешь 4 видеокарты, нужно на серверную переходить и это дороже. Лучше 2 3090 взять.

  • @bikeonoor4006
    @bikeonoor4006 21 день тому

    Приветствую. А есть возможность удешевить сборку, использую китайские Зеоны? Есть ли варианты с Зеонами и серверными МБ с 5+ слотами PCI-Express 3, 4? Спасибо.

    • @kuliev.vitaly
      @kuliev.vitaly 21 день тому

      Можно, только производительность ниже будет. У меня похоже в скорость процессора упирается - планирую улучшать.

    • @bikeonoor4006
      @bikeonoor4006 16 днів тому

      ​@@kuliev.vitalyого, даже так? Будете платформу менять. Напишите. Возьму для опытов. Спс.

  • @bikeonoor4006
    @bikeonoor4006 21 день тому

    Видел несколько тестов, где 3090ti опережала 4090 в задачах ИИ (к сожалению не смог найтииссылки). Что можете сказать о производительности вышеисследованных карт в варианте одной карты в компьютере?

    • @kuliev.vitaly
      @kuliev.vitaly 21 день тому

      4090 мощнее во всем. Скорее всего различие связано с другими комплектующими или версиями библиотек.

  • @ДмитрийПервушин-в9ш

    куча P106-100 (10xx серия) не пойдет? У них ФЛОПСЫ только в формате FP32 рабочие, FP16 уже на пару порядков меньше, а тензорных ядер вообще нет. эхх, такой халявный план сорвался) Кстати, виталий, а тензорные участвуют в работе? Как их количество и поколение влияет на обучение, или работе с LLM, и вообще снейронками (просто цифровыми, например)?

    • @kuliev.vitaly
      @kuliev.vitaly 21 день тому

      тензорные ядра участвуют в работе. старые теслы имеют малую производительность. еще они устаревают и часть софта их не поддерживает. Можете использовать если только нет возможности купить более новое железо. по этим причинам они такие дешевые.

  • @happyswing
    @happyswing 25 днів тому

    Что такое vps и зачем он нужен ? Мол vps + vpn wireguard и можно смотреть UA-cam без ограничений? А если использовать платный vpn, то могут заблокировать? Короче я вообще нифига не понимаю, помогите.

    • @kuliev.vitaly
      @kuliev.vitaly 24 дні тому

      @hour_vpn_bot вот мой телеграм бот с впн. В нем можно сделать ключи. vps - сервер, который арендуется и на нем можно поднять впн сервер. wireguard протокол часто блокируется, лучше другие протоколы использовать

  • @СтепанМинаев-е3д
    @СтепанМинаев-е3д 25 днів тому

    Super! Nice!