Вопросы истории ИТ и ОС

[Dmitry67]

Я не о том чтобы снижать потребление памяти в Java, пусть себе запрашивает, давайте ей виртуальную память, материализуйте ее по мере необходимости в реальной памяти, если реальной не достаточно выбрасывайте страницы во внешнюю память (делайте только это интеллектуально и строго по мере необходимости), введите понятие рабочего набора и введите механизм ограничения набора реальных страниц для разных... не знаю, контейнеров будет ли правильно сказать, или разных программ на апликэйшн сервере в соответствии с важностью тех или иных программ.

Вы этот подход пробовали на реальном приложении?
Экстраполяция опыта DB2 тут не уместна: память расходуется совершенно по-разному.
К тому же мне интересно как бы Вы определили важность того или иного компонента в он-лайновом приложении.
А главное - гуд лак, как говориться в выделение тех контейнеров и прочего внутри Java Heap.

Собственно виртуальная память так и работает. Ничем принципиально Intel здесь не отличается от MF.
Проблема в том что у java есть два существенных отличия от СУБД:
1. Garbage collector очень любит пробежать по спискам всех объектов в heap, то есть грубо говоря, по ВСЕЙ памяти (см п 2)
2. Если субд как правило работает с большими страницами, равными или кратными страницам виртуальной памяти, то движение проход списка в java (как впрочем и в .Net, C++ итд) представляет собой обращение к сильно разреженным pointers. То есть считаваются 8 bytes (next pointer) и далее прыгаем на неопределенное место. Для виртуальной памяти же неважно сколько считывается - 1 байт или вся страница - сразу ловим page fault и вперед за диском...

[StrangerR]

....

А, ну да, нету ничего. Ну добавим еще SAN стоимостью где то $20K.
.....

Опять тоже самое: можно добавить, можно поставить, 4 TB SATA, 300-400 виртуальных машин. Я задал простой вопрос: что все это чудо современной ИТ делает не для самого себя а для людей? Как называется не в параметрах IT работа этого чуда? Насколько оно все загружено: CPU utilization, memory, диски, чем они загружены? Порнографией или файлами стаховщиков в ииншуренской компании? Каков средний размер файла (пусть даже с фотографиями застрахованных)? Сколько застрахованных? Сколько в общем транзакцуй в день в этой страховой компании на их IT происходит?
Надеюсь теперь понятно о чем спрашивается? Про то что делается на нашем МФ я уже много раз рассказывал: он (один) для ERP приложения (work orders, equipment, warehouse, и т.д. и т.п. кроме финансов и HR), причем все instances: QA, DEV (поставляется софт извне, но кое-что подкудрявливают наши 2.5 + работа с данными), Sandbox-ы и Training + разное по мелочам. Могу также сказать что в пиковые часы CPU (все 5(пять)100% buzy (в Production который имеет ровно 85% от всего МФ), memory используется на 100% и есть небольшой страничный обмен, каналы загружены незначительно. В системе идет сбор всей статистики и клиенту предоставляется SLA отчет по общей работе и по ризмерениям производимым роботами, которые с каждой location клиента по времени запускают тестовые транзакции и измеряют время ответа.

У нас нет ни одной виртуальной машины (нет zVM), все происходит в двух LPAR. И на одном МФ крутятся все базы данных прилохения и апликэйшн сервера (CICS).

Вы для чего приводите все Ваши числа? Чтобы поразить мое воображение? Хорошо поразили, теперь расскажите о полезной работе выполняемой на Вашем IT инфраструктуре. В пнятных любому человеку терминаx. Сколько дров нарублено, сколько ведер воды принесено и булок хлеба испечено. А то что можно до изумления считать нули в памяти компьютера это я и без Вас знаю. А я Вам в дополнению к уже сказанному скажу сколько мегават энергии наши станции вырaбатывают в год, сколько домов питается этой энергией и сколько бизнесов работает, а также и сколько миллиардов долларов за эту энергию наш клиент получает.

Это чудо обеспечивает постоянную трансляцию и автоматическое и ручное тестирование примерно 20 - 40 бранчей разных версий для разных кастомеров. СО сдвигом времени в тестах и прочих чудесах, с учетом того что приложение крутится на нескольких апп серверах и с лоад балансингом и прочим. Один бранч может требовать до 4 - 10 VM-ок, в проекте бранчей штук 6, проектов десяток, считайте дальше сами... (проект это кастомизация под огромную компанию)

[Dmitry67]

Кстати вот интересные картинки
http://m.wikihow.com/Run-an-Emulated-Mainframe" onclick="window.open(this.href);return false;

Тут подробнее
https://en.m.wikipedia.org/wiki/Hercules_(emulator" onclick="window.open(this.href);return false;)
Особенно интересно про performance

[Palych]

Собственно виртуальная память так и работает. Ничем принципиально Intel здесь не отличается от MF.
Проблема в том что у java есть два существенных отличия от СУБД:
1. Garbage collector очень любит пробежать по спискам всех объектов в heap, то есть грубо говоря, по ВСЕЙ памяти (см п 2)
2. Если субд как правило работает с большими страницами, равными или кратными страницам виртуальной памяти, то движение проход списка в java (как впрочем и в .Net, C++ итд) представляет собой обращение к сильно разреженным pointers. То есть считаваются 8 bytes (next pointer) и далее прыгаем на неопределенное место. Для виртуальной памяти же неважно сколько считывается - 1 байт или вся страница - сразу ловим page fault и вперед за диском...

Различия, как мне видится, не в том как виртуальная память работает, а в том как/для чего память используется.
Я правильно понимаю что в СУБД львиная доля памяти используется как кеш, буферы?

[Dmitry67]

Именно

[Palych]

А в Java/typical app (on app server) - не так. Там практически каждый запрос прокачивает через себя кучу памяти:
- взял памяти,
- положил данные,
- взял ещё памяти,
- переложил данные из предыдущего буфера в новый, слегка поправив
- взял ещё памяти,
- переложил данные в новый буфер сильно поправив
- и так раз 100 для каждого запроса

[zVlad]

Кстати вот интересные картинки
http://m.wikihow.com/Run-an-Emulated-Mainframe" onclick="window.open(this.href);return false;

Тут подробнее
https://en.m.wikipedia.org/wiki/Hercules_(emulator" onclick="window.open(this.href);return false;)
Особенно интересно про performance

Подписи под картинками в первом линке не имеют никакой связи с тем что на картинке (print screen). Второй линк я не открывал, думая там тоже нет ничего интересного.

[zVlad]

Спасибо за пояснения к поведению Java. Я внимательно все прочитал и запомнил.
Я сегодня начинаю инсталировать WebSphere под Линукс и буду заниматься перформенц если конечно прилодение будет в этом нуждаться. Это не на МФ, это на виртуальных машинах под VMWare. Но это для реального проекта который должен будет пойти в Продакшн в феврале 2016. По ходу будем разбираться с Java.

[zVlad]

Собственно виртуальная память так и работает. Ничем принципиально Intel здесь не отличается от MF.
Проблема в том что у java есть два существенных отличия от СУБД:
1. Garbage collector очень любит пробежать по спискам всех объектов в heap, то есть грубо говоря, по ВСЕЙ памяти (см п 2)
2. Если субд как правило работает с большими страницами, равными или кратными страницам виртуальной памяти, то движение проход списка в java (как впрочем и в .Net, C++ итд) представляет собой обращение к сильно разреженным pointers. То есть считаваются 8 bytes (next pointer) и далее прыгаем на неопределенное место. Для виртуальной памяти же неважно сколько считывается - 1 байт или вся страница - сразу ловим page fault и вперед за диском...

Различия, как мне видится, не в том как виртуальная память работает, а в том как/для чего память используется.
Я правильно понимаю что в СУБД львиная доля памяти используется как кеш, буферы?

Различия есть во всем. И том как виртуальная память работает (я так полагаю что нынче это держится в строгом секрете в некоторых аспектах алгоритмов управления) и в том как и для чего используется.
Представление о памяти для БД как о кэше слишком упрощенно. Слово буфер тоже мало что раскрывает. Я имею в виду DB2 for zOS конечно.

[Dmitry67]

В секрете держатся всякие branch prediction и конвейера. Работа виртуальной памяти четко формализована с точки зрения использования, что, конечно, не исключает некоторых секретов.

Или вы, утверждаете что в работе виртуальной памяти IBM есть что-то уникальное?

[Dmitry67]

Спасибо за пояснения к поведению Java. Я внимательно все прочитал и запомнил.
Я сегодня начинаю инсталировать WebSphere под Линукс и буду заниматься перформенц если конечно прилодение будет в этом нуждаться. Это не на МФ, это на виртуальных машинах под VMWare. Но это для реального проекта который должен будет пойти в Продакшн в феврале 2016. По ходу будем разбираться с Java.

То есть новый проект у вас делают под vmware, а не под МФ?

[zVlad]

Спасибо за пояснения к поведению Java. Я внимательно все прочитал и запомнил.
Я сегодня начинаю инсталировать WebSphere под Линукс и буду заниматься перформенц если конечно прилодение будет в этом нуждаться. Это не на МФ, это на виртуальных машинах под VMWare. Но это для реального проекта который должен будет пойти в Продакшн в феврале 2016. По ходу будем разбираться с Java.

То есть новый проект у вас делают под vmware, а не под МФ?

Этот проект вообще не понятно о чем. Это RSA VIA или по старому Aveksa. Я даже вникать особо в то что делает это приложение не хочу. Оно могло бы быть установленно и на МФ. Решили потратить деньги, потому ставят не vmware, если бы ставили на МФ то уже все купленно, а так можно купить сервера, vmware и websphere. Кто платит тот и решает.

[zVlad]

В секрете держатся всякие branch prediction и конвейера. Работа виртуальной памяти четко формализована с точки зрения использования, что, конечно, не исключает некоторых секретов.

Или вы, утверждаете что в работе виртуальной памяти IBM есть что-то уникальное?

однозначно есть ньюансы и в виртуальной памяти zOS и в управлении буферными пулами DB2. это хотя бы по тому какие параметры показывают мониторы и какие, в случае DB2, можно менять для performance tunning.

[zVlad]

...
Это чудо обеспечивает постоянную трансляцию и автоматическое и ручное тестирование примерно 20 - 40 бранчей разных версий для разных кастомеров. СО сдвигом времени в тестах и прочих чудесах, с учетом того что приложение крутится на нескольких апп серверах и с лоад балансингом и прочим. Один бранч может требовать до 4 - 10 VM-ок, в проекте бранчей штук 6, проектов десяток, считайте дальше сами... (проект это кастомизация под огромную компанию)

Я был уверен что это не Продакшн, не реальная продакшн инфраструктура.

[mskmel]

Я был уверен что это не Продакшн, не реальная продакшн инфраструктура.

Считает ли продакшеном конвейер где идёт сборка авто? Считается ли продакшеном система, которая поддерживает производство выполняемое сотней-другой тестеров\программеров? Внезапно... для контор, занимающихся разработкой ПО это самый что ни есть продакшен. Они делают самый что ни есть настоящий продукт, который позже будет продан Клиенту, Клиент может сильно "обидется", если задержат фикс его бага или реализация нового функционала, потому что "а у нас сервер поломался, потому что на неломающийся МФ денег зажали".

[StrangerR]

У нас этому конвейеру как раз придали статус продакшена. Со всеми вытекающими.

[Dmitry67]

Этот проект вообще не понятно о чем. Это RSA VIA или по старому Aveksa. Я даже вникать особо в то что делает это приложение не хочу. Оно могло бы быть установленно и на МФ. Решили потратить деньги, потому ставят не vmware, если бы ставили на МФ то уже все купленно, а так можно купить сервера, vmware и websphere. Кто платит тот и решает.

А у вас много ресурсов на МФ простаивает?
Кстати, какое у вас vmware, что куплено - сколько хостов, сколько в них памяти и ядер?

[zVlad]

Я был уверен что это не Продакшн, не реальная продакшн инфраструктура.

Считает ли продакшеном конвейер где идёт сборка авто? Считается ли продакшеном система, которая поддерживает производство выполняемое сотней-другой тестеров\программеров? Внезапно... для контор, занимающихся разработкой ПО это самый что ни есть продакшен. Они делают самый что ни есть настоящий продукт, который позже будет продан Клиенту, Клиент может сильно "обидется", если задержат фикс его бага или реализация нового функционала, потому что "а у нас сервер поломался, потому что на неломающийся МФ денег зажали".

Конечно продадут клиенту, за сумашедшие деньги, по сравнению с которыми затраты на инфраструктуру ИТ детский лепет.
Реальный бизнес не платит меньше за свою ИТ сумарно не зависимо от того какие новые технологии ИТ индустрия выдумывает. На самом деле реальный бизнес платит все больше и больше. А в ИТ, с "новыми" технологиями и революциями происходит лишь перераспределение бабла между получателями от реального бизнеса.
Я срмвелся что чудо-конвейер построенный StrangeR-ом это Продакшн и оказался прав. Теперь я сомневаюсь что на его конвейере фиксят баги. Вот такой я сомневающийся нашелся.

[zVlad]

Этот проект вообще не понятно о чем. Это RSA VIA или по старому Aveksa. Я даже вникать особо в то что делает это приложение не хочу. Оно могло бы быть установленно и на МФ. Решили потратить деньги, потому ставят не vmware, если бы ставили на МФ то уже все купленно, а так можно купить сервера, vmware и websphere. Кто платит тот и решает.

А у вас много ресурсов на МФ простаивает?
Кстати, какое у вас vmware, что куплено - сколько хостов, сколько в них памяти и ядер?

На МФ ресурсы не простаивают, за исключением памяти на одном из двух. Просто то что называется Aveksa еще не известно когда выйдет на продакшн уровень и не известно сколько ей понадобится ресурсов. Сейчас ее ставят не на МФ для чего было закуплена софта и железа больше чем на $100К. Сейчас мы строим Dev, QA и Продакшн. Что в них будет делаться? Установка приложения, знакомство с ним, чесание в затылке на предмет как это встроить в наши процессы, а потом может быть и забудут про Aveks-у. Все это можно было бы установить на МФ, тем более что на новом МФ будет zIIP, который для в том чмсле Java и у нас для него работы нет (вот если ничего такого на МФ не поставят то будет простаивать zIIP - $50К). Софт, базовый на МФ уже давно куплен. Ресурсы для такого установочно проверечного периода найдутся за счет гибкого и оптимального их использования что достигается наличием WLM в zOS штучки которой нет ни в одной другой системе.

[Dmitry67]

Ну понятно, продукт пощупать, так что все разумно
Но все же интересны (если вам удасться узнать) параметры фермы VMware.

[zVlad]

Ну понятно, продукт пощупать, так что все разумно
Но все же интересны (если вам удасться узнать) параметры фермы VMware.

Я немножко был не точен говоря о загруженности нашего МФ. Правильнее будет сказать что используются все ресурсы которые мы попросили IBM активировать для нас. Это не все что там есть на самом деле, но мы платим "только за то" что активировано. Это касается CPU capacity, которое у на уровне "Q" (A-Z), zIIP, которые там есть но мы их не используем и Памяти там больше чем нам доступно.

Про параметры фермы (ферма ли это?) VMWare я если узнаю сообщу. На данный момент у меня есть доступ в Линукс и я должен установить WebSphere. Я не администратор VMWare.

[zVlad]

У нас этому конвейеру как раз придали статус продакшена. Со всеми вытекающими.

С какими "вытекающими", что если Ваш конвейер остановится кто-то, кроме тех кто прижался к этому конвейреру своими телами, заплачет что ли. Вы извините меня за грубость - это исключительно длya доходчивости изложения мысли. Вот если наше приложение остановится и хотя будет не поднятно в течении суток атомные реакторы будут остановлены (из соображений ядерной безопасности). А остановка реакторов это сотни тысяч домов без энергии, это остановившиеся конвейры по производству... хотя бы донатцев, да одни закрытые бензозаправки и кофейни приведут Онтарио в состояния полного хаоса.

[zVlad]

В секрете держатся всякие branch prediction и конвейера. Работа виртуальной памяти четко формализована с точки зрения использования, что, конечно, не исключает некоторых секретов.

Или вы, утверждаете что в работе виртуальной памяти IBM есть что-то уникальное?

Это также может быть и не секрет, но быть настолько трудным для имплементации, или не обоснованным из-за чего-нибудь, что не все могут/хотят этим заниматься. И в тоже время для IBM и именно в zOS это оказывается возможным, созданным и используемым.

Я намекал выше про параметры связанные с виртуальной памятью. Вот один из ниx в zOS (UIC):

....
When there is a demand for pageable frames, SRM will steal those frames that have gone unreferenced for a long time and return them to the system. The unreferenced interval count (UIC) represents the time in seconds for a complete steal cycle. A complete steal cycle is the time the stealing routine needs to check all frames in the system. When there is a demand for storage, the stealing routine:


tests the reference bit of a frame

decides whether to steal the frame

schedules the page-out.

When there is no demand for storage, no stealing occurs.

The UIC algorithm forecasts the UIC, based on the current stealing rate. The UIC can vary between 0 and 65535 and gets calculated every second. When there is no demand for storage in the system (no stealing occurs) the system has a UIC of 65535. If there is a very high demand for storage in the system, the system has a UIC close to 0.

Stealing takes place strictly on a demand basis, that is, there is no periodic stealing of long-unreferenced frames. A complete steal cycle can take days.

SRM modifies the stealing process for address spaces that it is managing and for address spaces that are storage critical. For these address spaces, SRM attempts to enforce the address space's real storage target that was set when SRM decided that the address space was to be managed.

Вот описание из не-ИБМ источника (BMC, похоже устаревшее судя по диапазону значений, а может и по сныслу):

Unreferenced interval count (UIC)

UIC, a measure of central storage contention, is the number of real seconds (0 to 255) since a page frame was last referred to by the associated address space.


The SRM maintains an unreferenced interval count (UIC) for every central storage frame. Each second, the SRM checks each frame to see whether it has been referred to. If not, the SRM increases the UIC count for that frame by one.

When the SRM needs more storage, those frames with high UIC values are paged out to auxiliary or expanded storage so that the empty frames can be used by pages from more active address spaces.

The SRM adjusts the multiprogramming level (MPL) based on the system high and low UIC values. These values are displayed in the SYSINFO view.

[Dmitry67]

Такое было даже в VAX VMS.

[zVlad]

Такое было даже в VAX VMS.

Было интерсно увидеть первоисточник тогда. Нет, я не намекаю что Вы не правы, мне действительно интерсно для расширения кругозора, но я не знаком с документацией на VMS и не знаю как это найти.