Кто гоняет Spark?
-
- Уже с Приветом
- Posts: 232
- Joined: 18 Nov 2014 22:55
- Location: SFBA
Re: Кто гоняет Spark?
Реактивные Микросервисные БигДата Контейнеры с ДипЛернингом внутри
-
- Уже с Приветом
- Posts: 946
- Joined: 24 Sep 2013 05:58
- Location: US\GA
Re: Кто гоняет Spark?
В плане хранения данных сейчас назревает очередная революция, не понятно как она поменяет текущие архитектуры обработки данных.Easbayguy wrote:Интересно, что будет востребованно через года 2-3 с точки зрения архитектора/администратора?
http://www.theregister.co.uk/2015/08/18 ... ash_magic/" onclick="window.open(this.href);return false;
"This kind of system, if it is affordable – and the existence of 3D TLC NAND suggests it could be – would alter Big Data analytics. You would no longer need dozens of Hadoop nodes, each analysing its own local data. Instead, you would have a single big badass flash resource "
Еще:
http://www.theregister.co.uk/2015/09/07 ... mat_wrong/" onclick="window.open(this.href);return false;
http://newsroom.intel.com/community/int ... technology" onclick="window.open(this.href);return false;
-
- Уже с Приветом
- Posts: 19041
- Joined: 11 Jan 2012 09:25
- Location: CA
Re: Кто гоняет Spark?
SF, Датабриксы то здешние же .metaller wrote:В каком городе-то ?Сабина wrote:Завтра спарковсуий митап хороший в городе от Датабрик - spark и spark streaning в Uber-е. Так обидно, придется пропустить
Обещают видео выложить на ютьюб, дам знать как будет линк
https://www.youtube.com/watch?v=wOwblaKmyVw
-
- Уже с Приветом
- Posts: 19041
- Joined: 11 Jan 2012 09:25
- Location: CA
Re: Кто гоняет Spark?
Процессим интенсивные потоки данных от соушал медиаsolopipi wrote:А что вы считаете на Спарке, кроме подсчета слов в предложении?
https://www.youtube.com/watch?v=wOwblaKmyVw
-
- Уже с Приветом
- Posts: 19041
- Joined: 11 Jan 2012 09:25
- Location: CA
Re: Кто гоняет Spark?
Вот и я эксу говорю бросать уже эти сети классические и подаваться в контейнероводы с его глубокими многолетними познаниями юникса_reality wrote:Реактивные Микросервисные БигДата Контейнеры с ДипЛернингом внутри
https://www.youtube.com/watch?v=wOwblaKmyVw
-
- Уже с Приветом
- Posts: 34164
- Joined: 03 Dec 2000 10:01
- Location: Vladivostok->San Francisco->Los Angeles->San Francisco
Re: Кто гоняет Spark?
Ребята, спасибо, за советы.
У меня еще вопрос у нас по сценарию нужно обработать несколько десятков тысяч мелких текстовых файлов размером по несколько сотен линий. На каком кластере эту музыку лучше гонять? Мне вообще кажется особо без разницы лишь бы все в память влезло.
У меня еще вопрос у нас по сценарию нужно обработать несколько десятков тысяч мелких текстовых файлов размером по несколько сотен линий. На каком кластере эту музыку лучше гонять? Мне вообще кажется особо без разницы лишь бы все в память влезло.
"A patriot must always be ready to defend his country against his government." Edward Abbey
-
- Уже с Приветом
- Posts: 34164
- Joined: 03 Dec 2000 10:01
- Location: Vladivostok->San Francisco->Los Angeles->San Francisco
Re: Кто гоняет Spark?
Прямо лыко в строку наша контора разродилась гигантским ВПЕРДЕ!
http://www.forbes.com/sites/theopriestl ... dominance/" onclick="window.open(this.href);return false;
http://www.forbes.com/sites/theopriestl ... dominance/" onclick="window.open(this.href);return false;
“We’re taking a lesson from the consumer side of the internet — the Googles, Facebooks and the Amazons,” said Ruh. “These businesses figured out how to manage large volumes of information and utilize it to provide new kinds of services.”
"A patriot must always be ready to defend his country against his government." Edward Abbey
-
- Уже с Приветом
- Posts: 19041
- Joined: 11 Jan 2012 09:25
- Location: CA
Re: Кто гоняет Spark?
Сергунька инджой
https://www.youtube.com/watch?v=zKbds9ZPjLE" onclick="window.open(this.href);return false;
http://www.slideshare.net/databricks/sp ... up-at-uber" onclick="window.open(this.href);return false;
https://www.youtube.com/watch?v=zKbds9ZPjLE" onclick="window.open(this.href);return false;
http://www.slideshare.net/databricks/sp ... up-at-uber" onclick="window.open(this.href);return false;
https://www.youtube.com/watch?v=wOwblaKmyVw