Кто гоняет Spark?

_reality
Уже с Приветом
Posts: 232
Joined: 18 Nov 2014 22:55
Location: SFBA

Re: Кто гоняет Spark?

Post by _reality »

Реактивные Микросервисные БигДата Контейнеры с ДипЛернингом внутри :umnik1:
mskmel
Уже с Приветом
Posts: 946
Joined: 24 Sep 2013 05:58
Location: US\GA

Re: Кто гоняет Spark?

Post by mskmel »

Easbayguy wrote:Интересно, что будет востребованно через года 2-3 с точки зрения архитектора/администратора?
В плане хранения данных сейчас назревает очередная революция, не понятно как она поменяет текущие архитектуры обработки данных.

http://www.theregister.co.uk/2015/08/18 ... ash_magic/" onclick="window.open(this.href);return false;
"This kind of system, if it is affordable – and the existence of 3D TLC NAND suggests it could be – would alter Big Data analytics. You would no longer need dozens of Hadoop nodes, each analysing its own local data. Instead, you would have a single big badass flash resource "

Еще:
http://www.theregister.co.uk/2015/09/07 ... mat_wrong/" onclick="window.open(this.href);return false;
http://newsroom.intel.com/community/int ... technology" onclick="window.open(this.href);return false;
Сабина
Уже с Приветом
Posts: 19041
Joined: 11 Jan 2012 09:25
Location: CA

Re: Кто гоняет Spark?

Post by Сабина »

metaller wrote:
Сабина wrote:Завтра спарковсуий митап хороший в городе от Датабрик - spark и spark streaning в Uber-е. Так обидно, придется пропустить
В каком городе-то ? ;)
SF, Датабриксы то здешние же :).
Обещают видео выложить на ютьюб, дам знать как будет линк
https://www.youtube.com/watch?v=wOwblaKmyVw
Сабина
Уже с Приветом
Posts: 19041
Joined: 11 Jan 2012 09:25
Location: CA

Re: Кто гоняет Spark?

Post by Сабина »

solopipi wrote:А что вы считаете на Спарке, кроме подсчета слов в предложении?
Процессим интенсивные потоки данных от соушал медиа
https://www.youtube.com/watch?v=wOwblaKmyVw
Сабина
Уже с Приветом
Posts: 19041
Joined: 11 Jan 2012 09:25
Location: CA

Re: Кто гоняет Spark?

Post by Сабина »

_reality wrote:Реактивные Микросервисные БигДата Контейнеры с ДипЛернингом внутри :umnik1:
Вот и я эксу говорю бросать уже эти сети классические и подаваться в контейнероводы с его глубокими многолетними познаниями юникса
https://www.youtube.com/watch?v=wOwblaKmyVw
User avatar
Sergunka
Уже с Приветом
Posts: 34164
Joined: 03 Dec 2000 10:01
Location: Vladivostok->San Francisco->Los Angeles->San Francisco

Re: Кто гоняет Spark?

Post by Sergunka »

Ребята, спасибо, за советы.

У меня еще вопрос у нас по сценарию нужно обработать несколько десятков тысяч мелких текстовых файлов размером по несколько сотен линий. На каком кластере эту музыку лучше гонять? Мне вообще кажется особо без разницы лишь бы все в память влезло.
"A patriot must always be ready to defend his country against his government." Edward Abbey
User avatar
Sergunka
Уже с Приветом
Posts: 34164
Joined: 03 Dec 2000 10:01
Location: Vladivostok->San Francisco->Los Angeles->San Francisco

Re: Кто гоняет Spark?

Post by Sergunka »

Прямо лыко в строку наша контора разродилась гигантским ВПЕРДЕ!

http://www.forbes.com/sites/theopriestl ... dominance/" onclick="window.open(this.href);return false;
“We’re taking a lesson from the consumer side of the internet — the Googles, Facebooks and the Amazons,” said Ruh. “These businesses figured out how to manage large volumes of information and utilize it to provide new kinds of services.”
"A patriot must always be ready to defend his country against his government." Edward Abbey
Сабина
Уже с Приветом
Posts: 19041
Joined: 11 Jan 2012 09:25
Location: CA

Re: Кто гоняет Spark?

Post by Сабина »

Сергунька инджой

https://www.youtube.com/watch?v=zKbds9ZPjLE" onclick="window.open(this.href);return false;
http://www.slideshare.net/databricks/sp ... up-at-uber" onclick="window.open(this.href);return false;
https://www.youtube.com/watch?v=wOwblaKmyVw

Return to “Вопросы и новости IT”