Делаю нейросеть с нуля
Вставка
- Опубліковано 1 кві 2020
- Код: github.com/ArtemOnigiri/SimpleNN
Датасет с цифрами: github.com/pjreddie/mnist-csv...
В этом видео я делаю простую нейросеть с нуля с обучением обратным распространением ошибки. - Наука та технологія
Паникёры: Боятся, что нейросети выйдут из под контроля и поработят человечество.
Нейросеть: Думает, что чёрный экран это 5
@Кот Шрёдингера ютюб
Не та нейросеть опасна, которая умная.
А та, которая притворяется тупой)
@@mykytamarkianov4870 умно
@@ignmihailplay760 Перефразированная цитата Тьюринга, если не ошибаюсь.
@@UCskuG319YlKsHYDdhYBGiBA да, где-то слышал, но уже не помню где.
Нейросеть Onigiri:
Может распознать правильно цифру по одной палке
Компьютер проверяющий листы на ОГЭ:
Не может разобрать печатный текст
@@user-id3fc8qs7y Все вроде ничего, но ты сказал: "комп проверяющий листы с ОГЭ - ему нужно ещё распознать пасту(а в некоторых магазах могут продавать палёную пасту, которая имеет другой состав и свойства, но только на первые взгляды ничем не отличаеться), сделать скан в нужном месте(а школьнички могут ещё и БАХНУТЬ текстом за рамки будь здоров, а потом всю вину на пк этот перекинуть)" А я писал, что не компьютер не может разобрать " печатный текст " , а ты в своем тексте говоришь про текст написанный от руки
@@riko__1337 а ты дохуя печатать ручкой умеешь текст?
А я думаю, что там просто идёт массовое сканирование через датчик, который со временем загрязняется + искусственно понижают качество сканирования, если время поджимает. В итоге выходит ч/б мессиво из соплей и текста)
@@kekar_bebric Я думаю, что ты каждый человек может писать печатные буквы, что я и написал
@@Rover4eg Это может быть правдой)
зачем я смотрю это в 2 часа ночи? так еще и с каким-то интересом
+1
Блин реально жиза!
3. 10
4.42
@@beavis8707 4:52
Я перед тем, как распознавать числа, делал обрезание со всех сторон пустого пространства, а затем маштабировал картинку до нужного размера.
Правда я не использовал нейросеть
foo52ru ну стоит изменить шрифт и твоя прога распознавания ломается, против нейросети не попрешь))
Можешь, пожалуйста, тоже поизучать ray marching?
@@user-bj2dv4cg7m сеть-сетью, но масштабирование до нужного размера, дабы исключить влияние центрирования и размера - очень правильная и грамотная идея. нужно и ввод и обучающий материал масштабировать.
и потом, для капчи, например, форумов phpbb нахрен не нужна никакая нейросеть)) палка, палка, огуречик))
@@Be3y4uuK0T на pixilang?
Ег Сир ну, да
Экран: *чёрный*.
Нейросеть: думает что это 5
лол
Мне это напомнило Games done quick - TASbot plays Brain Age
там короче челик бота для игры создал, и бот играл в игру "нарисуй ответ на примеры"
Он рисовал рандомные мемы и игра их считывала
@@dimakul2765 Насколько я помню, человек сам инпуты заранее ввёл, а потом воспроизвёл
@@rlklmrlklm825 естественно
Нейросеть это новый Эйнштейн,вы не шарите))
в любой непонятный момент показывай терминатору картинку с черным экраном
Это очень хорошо, что вы читаете наши комментарии. Под одним из предыдущих видео я спрашивал где проект можно открыть и вот, детально рассказали.
Спасибо большое!
Меня вообще бесят проекты, где нужно проводить танцы с бубном и консолью, что открыть его
@@Tezla0 ты о чем? Это как бы кнал по программированию, тут по другомы нельзя)
я тоже не понимаю... они не рассказывают ничего. "Вот я мол программу написал, меняем то получаем так вот. " а что как, где писать это... воообще не понятно
Я однажды попросил больше прогроммирования ... и им-же сейчас захлебываюсь
Алексей Р. ну так он не учит программированию, он показывает что у него получилось
Очень рад, что наткнулся на твой канал. Пожалуй один из наиболее качественных научно-популярных каналов, ориентированных на школьников. Сочетание доступности объяснений с их глубиной и лаконичностью. Многим учителям стоило бы у тебя поучиться. Ты большой молодец! Продолжай свое дело, оно приносит много пользы! Порекомендовал твой канал своим учащимся и не только своим )
Молодец парень, светлая голова. Удачи в развитии и в практическом применении знаний.
Сразу лайк и коммент. Меня просто поражает то, что такие люди до сих пор существуют. Которые искренне любят то, о чём они говорят и при этом говорят на такие многогранные и завораживающие темы. Это супер-контент, я желаю Артёму всегда оставаться таким огненным и интеллигентным человеком. Наткнулся на канал недавно и теперь с нетерпением жду каждое видео. Спасибо тебе!
Мне оч лень читать твой как понимаю БОЛЬШОЙ и очень искренний комментарий.. Но лайк поставлю
Сколько же на свете умных людей!! За 6 секунд объяснил, что я ниx** не мог понять вообще. Ну и пацан!...
@@user-yx4iy7nz5k крч если в кратце то он благодарит автора видеоролика
Онигири: если кто то ещё не знает что такое нейросеть, сейчас объясню
Я: а чо такое джава
Ох... Как ты сюда забрёл?)
@@user-ob9zc6po7m Да там цирвицек был, кхасииивый! Я на него - кляц, а там нейросети кокието. Уже пол года хрестик-выхода найти не могу...
Джава это такой чувачок в халате и с горящими глазами из звездных войн
Java - это такое кофе
Как можно не знать, это штука, которую нужно скачать, чтобы Майнкрафт работал
9:14 лучше напиши нейросеть для распознавания почерка врачей
Это будет возможно только через 100 лет.
И то вряд-ли мы дойдём до таких технологий
Это невозможно, квантовый компьютер скорее сгорит.
Мне друг врач говорил, что они специально так пишут, чтобы их потом к ответственности не привлекли.
@@user-lu4cq9gx8n Получаеться что уже привлекут с помощью нейросети)
Это шедевр!
Обучать распознаванию рукописных цифр нужно по-другому. Надо преобразовать каждую цифру в последовательность движений пера при письме (право/лево/верх/низ/поднять перо/опустить перо). И вот уже эту последовательность скармливать нейросети. В этом случае не будет привязки к координатам (в центре или не в центре нарисовано) и распознавание будет гораздо более точным, т.к. именно так распознаёт цифры наш мозг -- воссоздавая траекторию движения пера. Получается, сначала надо написать нейросеть, которая будет выполнять преобразование, а потом нейросеть, которая будет распознавать. Ну и естественно надо учесть, что есть несколько вариантов рисования одной цифры.
Ну чисто технически, мы можем воссоздать цифру из множества точек постоянно опуская/поднимая перо, и все это вообще неэффективно обучать имхо.
У тебя талант, объяснять сложные вещи понятно, так держать
Marsel Magnum у тебя проблемы с головой?
@@userhackermaster это он про себя
Не думаю. Есть люди, которые объясняют получше. Зато он умеет очень интересно рассказать :>
По факту, объяснения здесь мало! Но все равно молодец
@@userhackermaster крутой
Наконец-то новое видео. Спасибо за такой годный (12/10) контент, удачи и развития тебе
Молодец! Для своего возраста отлично разбираешься. Развивайся в том же темпе, и тебя ждет отличное будущее
Шикарный контент. Лайк однозначно + комментарий для продвижения в рекомендациях. Спасибо за видео и труд, что был вложен в создание ролика с настолько подробной информацией работы нейросетей. Было интересно.
Очень крутой контент! Научпоп, который не упрощает всё до безобразия, а рассказывает о вещах, как они есть. Такого почти нет :)
На будущее: код совсем не видно, лучше делать его покрупнее
так ссылка же на гит хаб есть, если код нужен
Не вижу смысла увеличивать код, так как в IDE он ровно так и выглядит. Если вы в полноэкранном режиме будете смотреть ролик, то будете видеть код, как его видит сам Артем)
@@totsamykotory а если я смотрю на телефоне?
@@totsamykotory мы не будем видеть код как он, т.к видео пережал youtube и может отображать это видео на экране с другим разрешением.
@@Tezla0 Аргумент, но тем не менее я сомневаюсь, что у Артема 4к экран и что мы многое теряем от того, что видит от если смотрим в нормальном качестве.
Спасибо большое! Бесценная информация. Довольно сложно найти подробное описание создание своей нейросеть с примерами кода. Все хотел написать и никак не мог найти нормальных примеров. Ещё раз спасибо !
Спасибо тебе! Не ожидала, что про нейросети можно так понятно рассказать. Подписка, лайк! и хочу еще, про код
Ты потрясающий! Тема про нейросети мне вообще зашла, продолжай! Нигде я ещё не видел столько понятных объяснения и ссылок на исходный код
Блин, чел. Этот канал - лучшее что я нашел. Ты очень интересно и доходчиво объясняешь, а самое главное, это все пригодится многим в будущем, включая меня.
Очень качественный контент! Жду каждый видос
теперь я тоже
Спасибо за видео! Сейчас учусь программированию и тебя интересно слушать - рассказываешь интересности)
Не останавливайся, очень интересные видео, как же приятно найти человека с похожим мышлением! Посоветуй литературу для изучения нейросетей, математики. Есть огромное желание тоже написать нейронку с нуля, буду рад если ответишь!
Ну как, начал изучать нейронки?
Очень хороший пример с нейроном смещения.
Линейная функция проходящая через начало координат:
y = kx
Не проходящая:
y = kx + b
Где B будет выступать нейроном смещения.
Который и сдвигает его центр относительно y.
Даже подходит - B, BIAS :)
придётся отложить суесыд на 17 минут
+++
Сударь, не играли ли Вы в DDLC?
@@thevortex6512 было дело. А зачем Вам данная информация?
мне самому после доки доки и бесконечного лета вскрыться захотелось (Вскрываемся!)
это видео дало мне силы жить дальше, суесыд отменяется!
@@cracker9320 это да... Я проходила также мод RainClouds (события игры от лица Сайори), это было ужасно грустно
Приятный, спокойный молодой человек! Желаю всяческих успехов!
Спасибо, за подробное объяснение, особенно понравилось то, что ты в конце подробно показал как запустить твой код 👍
Твой контент это именно то, что я искал на ютубе. я так же занимаюсь прогой, пишу сайты, но щас учусь в dlschool на базовом потоке, и твои видосы сильно расшираяют мой кругозор. спасибо тебе за контент, выпускай видосики почаще. (ну и в коде иногда оставляй комменты, для ускорения процесса(я просто некоторые на js/c++ переписываю)
dl school жиза
давай еще такие видосы я даже подписался , тематика самое то , изучаю нейросети ты очень поможешь
просто и доходчиво . Вы умеете обьяснять , это большое преимущество.
Спасибо большое! Отличная подача, очень хорошо подготовлен материал.
Хахахахах, классно, когда выходит такой качественный контент, причем материал пригодится в будущем
О, привет. Я твой подписчик. Когда видео??????
Y Play Приятно такое видеть, реально )
Я продолжу в начале мая. Кстати, можешь посмотреть закреп под последним видео, там подробнее.
чем пригодиться? начал объяснять теорию и быстро сдулся до тупого рисования
UP4 K не ну внатуре там все намного сложнее, типо принцип работы градиентного спуска если бы он объяснил, то было бы намного полезнее для тех кто планирует заниматься этим. А так это интересная штука для любой аудитории, что в рамках канала, наверное, выгоднее
мало где пишу коментарии, но ты создатель этого видео , нереальный молодец!!! подача, обучение знание предмета , тебе преподом надо идти , кароче миллион похвал продолжай в том же духе
Ты нейросеть?
Думаю нет
Ты на столько искренне просил подписаться, что я подписался)
Ты единственный кто смог наглядно показать как работает нейрон сдвига, спасибо)
Привет Онигири! Новое видео вышло 2 минуты назад, а значит нас ждёт что-то интересное
Приятно видеть людей, которые не ленятся учиться новым скиллам. Спасибо, что не делаешь это "втихаря" для себя, а стараешься в популяризацию!
Для остальных: запомните, для того, чтобы быстрее открывать для себя новые горизонты, важно учиться изучать их. Это мета-навык, и "мета" в обоих смыслах ;)
Отличное видеоб и супер хорогая подача материала! Я тоже всё собираюсь самостоятельно начать разбирать нейро сети как и ты- методом реализации алгоритмов.
Очень интересно рассказываешь. И доступно в понимании
Было бы интересно в следующем видео чтобы ты сделал свёрточную сеть и поэкспериментировал с ней и распознаванием изображений. Желательно опять на java и с репозиторием исходников)
ООООООООООООООООООЧЕНЬ интересно, сам программист, спасибо за видео!)
Красавец - очень понятно объясняешь. Это талант!
Просто божественные иллюстрации работы и обучения нейросети! Наконец-то я увидел, как это происходит в реальном времени!
Спасибо за видео!
Наконец-то! Нейросеть! Я два года ждал этого. В кои-то веки!
Надеюст, она сможет грабить корованы
Джва?
Я джва года ждал!
Очень круто! Побольше видео про нейросети плиз.
Очень понятное и доступное обьяснение!
Очень круто, спасибо за классное видео!) Впервые на канале, подписался👍
Онигири делал нейросети, до того, как это стало мейнстримом
Вот идея с интерфейсом классная. А иногда залипает нейросеть потому что сваливается в локальный минимум. Там надо отдельно проверять, если ошибка долгое время большая, но не падает - значит либо коэффициенты нейросети надо рандомить, либо шаг обучения сильно увеличивать. Там же целая наука... Но если вдруг возникнут такие непонятности - можешь обращаться за советом.
Спасибо огромное за наглядное объяснение принципов работы нейросети
Это было для меня самое понятное объяснение принципа работы нейросетей. Подписался
Ещё интересная идея сделать видео про теме "компьютерное зрение", распознавание видео и наложение модели/изображения. Дополненная реальность. Можно в юнити на основе openCv.
Ты молодец, просто и интересно. Успехов в твоих трудах
спасибо, было очень интересно покушать под это видео!
Какой позитивный человек, хорошая подача спасибо за работу пацан!!!
Канал, который не тянет кота за гладкие места и идет к сути!
Молодец красавчик) Заходят твои эксперименты, даже потом запускаю поиграться) Пжл пиши коменты в коде...
Комменты в коде говорят о низком качестве кода. Читай "самодокументируемый код", " чистый код ". Вот комменты к открытым функциям в виде документации - другое дело.
@@OOOJohnJ Некоторые вообще делают комментарии для галочки, комментируя даже "int Add(int a, int b)"
@@Tezla0 если это комментарий для автоматически формируемой документации к библиотеке, то это норм, а если просто в коде строки комментируются... ну я оцениваю это как вредную привычку с учёбы, где преподаватели требуют комментировать каждую строку, чтобы видеть, что ученик понимает для чего она, но в живом проекте это лишнее и с опытом такое должно уходить, на мой взгляд.
OOOJohnJ вот это новость) пока все спецы комментируют код, уже ходит слух, что наличие коментов свидетельствует о говнокоде)))
@@user-pf6xu7vl3g ну сами логически рассудите: если код требует дополнительных пояснений среди строк, значит без них он не понятен/сложночитаем, значит он не так уж и хорош. А если проект не свежий, а постоянно меняется, то всё чаще будут появляться ситуации, что комментарий писался к другому коду, который позже был изменён, а коммент остался старый. Что вносит путаницу для разработчиков, особенно недавно происоединившихся к проекту.
Автору успехов ✊🏻большой молодец
Комменты Огонь!!! Повеселили. Особенно про отложенный суисайд!
"для тех кто в 20м году все еще не знает как работает нейросеть, вот краткое описание", шел 23й год, я понятия не имею как работает нейросеть
Похоже что это новыюая восходящая звезда Ютуба
Если так дело пойдёт, у человечества будет два илона маска. Только один отправит лишних людей на Марс а второй в матрицу.
Ты про нейросеть?
А еще он сделает Терминатора ...
Очень круто и приятно смотреть такой контент
Бесспорно, очень интересно! Отличная подача! Не забывай представляться в самом начале, чтобы аудитория стала ближе. Максимально всё понятно, просмотрел даже повторно!
Ты перевел для меня нейросети из магии в обыденность. Спасибо!
Копни еще больше, и окажется, что это мат статистика и теория вероятности середины прошлого века, сквозь призму возможности обрабоики огромных таблиц.
Боже, только что узнал, что на тебя подписан Мамикс с аккаунта "мамикс евредей", да и вообще, у тебя уже так много подписчиков, так рад за тебя)
Вообще не шарю в программировании, но устройство нейросети заинтересовало.Сижу теперь смотрю тебя))) понятно рассказываешь вроде как)
без воды, наглядно и доступно!
*Классное видео! смотри, у тебя скоро будет 1.000.000 подписчиков!) запомни меня)*
быстро канал стал расти, однако)
Я не могу остановиться смотреть твои видео.... Спасибо большое за проделанную работу, я уверена, твоя аудитория найдет тебя и ты сильно вырастешь через пару лет.
Я жду очередной ролик. Спасибо за простоту объяснений.
Ураааа. Здесь все почти без заумных слов, я сегодня пойду с друзьями делать симуляцию жизни.
Но тут только теория
11:17 объективно эта цифра больше похожа на 9 чем на 4. Пожалуй, единственный весомый признак по которому мы понимаем, что это явно 4 - это то, что угол слева заостренный. Предположу, что тут проблема в том, что во входных данных для обучения примеров с 4ой в виде перевернутого стула 11:12 было больше.
Светлая голова и мысли. Хорошая речь. С удовольствием посмотрел ролик. Удачи тебе, парень!
Все доступно объяснил, спасибо.
Привет, теперь у тебя есть больше времени и надеюсь ты снимешь больше роликов. Фак лучше бы всего этого не было( А ролики шуруй давай)))
Три дня читал статьи о нейросетях , решил сделать перерыв в недельку , в итоге понял что все забыл
Я даже поставлю колокольчик, из-за такой добродушной и простой человеческой подачи
Классно - просто стало с пониманием принципов в обучении нейросетей
Голос уникальный,как у гипнотезёра!
Сделай видео про 4-х мерное измерение, у тебя очень классно получается
Посмотри Wild Mathing, они недавно сделали видео про 4 измерение
есть классный мультик на тему измерений, правда не каждому зайдёт к тому же там дряной перевод (озвучка), но если перетерпите первые минут 20, то потом втянитесь, я думаю ))
ua-cam.com/video/mHA6zwP3TBk/v-deo.html
Ну либо можно на английском посмотреть (если не знаете, то включите субтитры)
ua-cam.com/video/tt3DJHTLhmY/v-deo.html
4-х мерное пространство, ёбта
спасибо за видео, довольно мотивирующе)
Ты умен для молодого человека. Уважаю. Удивил дядьку.Подпишусь,хотя нихрена не понимаю-тупо поддержать, хотя бы так
Все: Использовать гиперболический тангенс или классическую сигмоиду?
Я: ReLU, я выбираю тебя!
Потому что ReLu быстрее всего обучается
@@sabzero43 А я его выбираю, потому что его функция выглядит как-то так return max(0, x); :D
Нам надо видео про обратное распространение ошибки🙃
нɐw нɐɓо ʚиɓǝо udо оƍdɐɯноǝ dɐɔudоɔɯdɐнǝниǝ оmиƍʞи🙂
@@mykola7748 🙃
@@mykola7748 n̯ʎхɐн иɓи
@@alexey_pryadko сам
отлично! вдохновляет на свои эксперименты!
Спасибо за канал! Продолжай пожалуйста)
Очень клёвые видео!!!
Расскажи что нибудь про себя! Где и на кого ты учился?
Онигири, покупай футболки почаще, мы ждем новые ролики
Без проблем, задонать ему 500р от души
Красавчик, было очень интересно)
Привет, я программист "любитель". Хочу сказать тебе спасибо за такой качественный и актуальный контент. Ты молодец, продолжай в том же духе!! Спасибо!!!!
Что думаешь о Google Colab, очень удобная для МЛ, правда только на Питон 3
Збс платформа. Дает бесплатно 16гб видеопамяти (То, что нужно для нейронок) а взамен просит только не майнить на ее видюхах.
36 вообще-то, если использовать TPU, и 25 на GPU если превышен лимит памяти.
спасибо! очень понятно объяснил да у тебя талант вообще!
Очень понятное объяснение! Спасибо!!!
Обалденно! Ты молодец! Давай теперь ИИ с самосознанием и инстинктом самосохранения :)
И с предустановкой сохранять жизнь людям! (пожалуйста)
Привет. Да, банально, но уверен, что многие хотят узнать, где ты научился программированию, вуз, курсы, сайты, ютуб, книги?
Можете сделаешь отдельное видео про это?
А в чём проблема самообучения? Сам так изучил яву, плюсы и -асму- (хотя нет, по асме странно, но документации нет)
@@c4llv07e Потому что для каждой архитектуры асм разный
@@Tezla0 это я понимаю, но принципы по типу "mov " можно же где то написать?
@@c4llv07e принципы работы инструкции или что? Это тоже от архитектуры зависит, но обычно все одинаково, т.к изобретать велосипед с квадратными колесами никто не будет.
Уже где-то было, что закончил МИФИ
Вот это реальный контент! )
Хороший тон делиться кодом.
Спасибо.
Хотелось бы нейросеть + имитация жизни