Волшебные нейронные сети

[OtherSide]

Последнее время появилось несколько типа прорывных приложений, которые все классно распознают. MSQRD, PRISM, вот недавно видел рекламу авто.ру, которое якобы распознает модель машины по фотоя. Ну и все знают про инновационные алгоритмы в поисковиках, выигрышь в Го и т.д.
Я честно говоря думал что эти алгоритмы пока закрыты и запатентованы корпорациями, но раз стали писать приложение простые люди и стартапы, значит это уже секрет Полишинеля.
Где бы почитать в чем суть прорыва новых нейросетей?

[flip_flop]

Да хоть и в мурзилке википедии: Глубинное обучение

[_reality]

Начать тут http://www.deeplearningbook.org" onclick="window.open(this.href);return false; потом тут http://www.iro.umontreal.ca/~lisa/publi ... ors/show/1" onclick="window.open(this.href);return false; а дальше уже будет ясно куда копать. Почти все на чем сделаны все эти приложения в открытом доступе.

* http://www.deeplearning.net/software/theano/" onclick="window.open(this.href);return false;
* http://torch.ch" onclick="window.open(this.href);return false;

[19]

Десятичные цифры распознать пойдет?
https://habrahabr.ru/post/304414" onclick="window.open(this.href);return false;

[ksi]

Короче, народ не хрена не знает, только распальцовывать горазд

Я не спец, но думаю, что вся эта концепция основанная на массе "весовых" коэффициентов, которые подбираются чтобы максимизировать правдоподобие training set раньше не особо была в моде. С научной точки зрения ничего интересного, а с практической - видимо коэффициентов настолько много, что этот самый training set должен быть очень большой, чтобы задача оценивания имела смысл. И просто не было таких практических проблем, с такими громадными training sets. Особенно которые могли бы приносить деньги.

[_reality]

Я не спец, но думаю, что вся эта концепция основанная на массе "весовых" коэффициентов, которые подбираются чтобы максимизировать правдоподобие training set раньше не особо была в моде. С научной точки зрения ничего интересного, а с практической - видимо коэффициентов настолько много, что этот самый training set должен быть очень большой, чтобы задача оценивания имела смысл. И просто не было таких практических проблем, с такими громадными training sets. Особенно которые могли бы приносить деньги.

Вкратце да, так оно и есть. Фундаментально ничего нового с 60х, много железа, много данных, пару умных трюков и все это заработало на уровне достаточном для промышленного применения.

[flip_flop]

Не совсем так. С появлением глубинных сетей со многими промежуточными слоями появилась возможность извлекать "сущности" на промежуточных слоях, которые существенно помогают настройке и обучению. Такие сети требуют больших вычислительных ресурсов, которые появились совсем недавно. И возник бум, особенно после того, как распознающие способности таких сетей превзошли человеческие. Теория подтянулась совсем недавно. В алгоритмах много математики, статистики, и прочего наукоемкого материала, который программистам видимо просто не виден, отсюда профанация.

[blanko27]

...С появлением глубинных сетей со многими промежуточными слоями появилась возможность извлекать "сущности" на промежуточных слоях...

В некоторых научных кругах они известны под синонимами "темная энергия" и "полтергейст"

[flip_flop]

...С появлением глубинных сетей со многими промежуточными слоями появилась возможность извлекать "сущности" на промежуточных слоях...

В некоторых научных кругах они известны под синонимами "темная энергия" и "полтергейст"

Ну, не зря же сети волшебные

[blanko27]

Ну, не зря же сети волшебные

Э-эх, дата саентологи так и прут, пресвященного модератора на них уже не хватает, чтобы осадил кадилом разведение бесовских акселераторов в темах!

[Alexandr]

Не совсем так. С появлением глубинных сетей со многими промежуточными слоями появилась возможность извлекать "сущности" на промежуточных слоях, которые существенно помогают настройке и обучению. Такие сети требуют больших вычислительных ресурсов, которые появились совсем недавно. И возник бум, особенно после того, как распознающие способности таких сетей превзошли человеческие. Теория подтянулась совсем недавно. В алгоритмах много математики, статистики, и прочего наукоемкого материала, который программистам видимо просто не виден, отсюда профанация.

какбэ +1

[OtherSide]

А как же новые приложения для мобилок? PRISM, MSQRD и т.д.? Написаны простыми программистами и используют только процессор телефона?
Такое впечатление, что волшебная формула все же существует.

[oshibka_residenta]

Вычислительные ресурсы нужны, чтобы научить сеть. После этого можно обойтись и мобилкой