Сбер взялся за "Сверхразум"

[XelaX]

Этот топик навеян новостью обозначенной выше, но хотелось бы несколько обобщить различные поползновения по этой необъятной теме.
А именно про наше участие/роль во внедрении Artificial Intelligence (AI).

Cначала про совсем не неожиданную затею Грефа.
Наведя "порядок" в полу-государственном Сбербанке он решил замахнутся, понимаете ли, на дух святой.
Младореформатор из Гайдаро-Чубайсовской камарильи при попустительстве молчаливом согласии властей озаботился возглавить модный и многообещающий (во всех смыслах) тренд, одобреный главой государства.
Да и как не возглавить, если бюджетные деньги на эту затею потекут рекой, да и в Историю имя впечатается бОльшими буквами, чем автор залоговых аукционов и Роснано.

Скорее всего, Грефа вдохновили китайцы, по неподтверждённым данным на днях объявившие, что создали квантовый суперкомпьютер, оперирующий не битами (0,1), а кубитами (могут быть значения и 0 и 1 одновременно) и, как утверждается, со скоростью вычисления в 100 трлн.раз (!? врут наверное) выше, чем у самого быстрого конкурента.
В связи с этим прорывом также сообщается, что китайцы намерены использовать этот супермозг (кроме прочего - погода, теория графов, квантовая химия, etc.) как центр управления/обучения других компьютерных систем страны (в т.ч. собратьев-суперкомпьютеров). Т.е. это как центр управления всего.

Параллельно идут сообщения, что в Китае уже реализована система, в которой почти нет наличности и каждому нужно иметь при себе смартфон, чтобы (куда бы он не сунулся выходя из дома: магазин, банк, кинотеатр...) сканировать QR код у всякой преграды, двери/входе, обозначив тем самым своё присутствие во времени и пространстве.
Более того, в зависимости от правонарушений (анти-Ковидных, банковских, переходов на красный, незаконных парковок, ....) банковские аккаунты блокируются и хозяин всех своих взаимосвязных контролируемых девайсов штрафуется, обзаводится несмываемой меткой-рЕкордом и даже может в последующем угодить в тюрьму.
И всё это почти автоматически - с использованием AI!
Налицо образцовое практическое воплощение универсального принципа "Страх лежит в основе любого порядка".
Очевидно, в этом и кроется их ничтожная заражаемость Ковидом сегодня (когда у всех остальных она зашкаливает) - потому что все под колпаком - всезнающим оком.

Всем известны три незыблемых закона роботехники урожденного россиянина Айзека Азимова:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Т.е. по первоначальной задумке в мозгах у роботов д.б. всё логично и безупречно для безопасного взаимодействия со своими авторами.
Однако, эта логика устройств с встроеным AI резко контрастирует с нашей новейшей реальностью.
Мы сейчас переживаем своего рода расщепление - два ключевых параметра сегодняшнего поколения отчаяно противоречат друг другу:
- научно-технический прогресс и оснащённость каждого умными девайсами несутся в будущее семимильными шагами
- а ментальность людей не поспевает или даже во многих проявлениях остаётся пещерной (примеров тьма, один из недавних, бытовых - убийство родителя ученика школы после "оживлённого" чата в соцсети о нуждах класса). В идеале (в этом случае повинуясь первому закону) AI должен был сообщить о прозвучавших/написанных угрозах кому следует, после чего д.б. предприняты соответсвующие превентивные меры... вариантов много.
Пример выше это бытовой случай на самом нижнем уровне, но бОльшие трагедии будут, если на самом верху сдуру отдадут приказ натравить AI против другой страны.
Если считать начинку смартфона частью AI, то законы Азимова сегодня уже не кажутся такими незыблемыми как раньше, хотя и остаются идеалом.

После таких новостей об успешном опыте китайских товарищей и замыслов Грефа, а также вполне вероятных разработках других продвинутых, хотелось бы понимать:
1. Поможет ли AI восполнить разрыв между стремительно растущей технической оснащённостью и подчас пещерными повадками "человека разумного"?
2. Возможно ли международное право по AI, если да, то в какой форме? Под эгидой ООН (где 75 лет разброда и шатаний) или отдельной прозрачной/подотчетной структурой.
3. Кто должен принимать принципиальные вопросы применения/запрета AI в различных сферах, так или иначе касаемых непосредственно людей?
4. Где должен быть главный центр управления (и сервера) этого хозяйства? Или это навеки вечные будут национальные структуры, ворующие друг у друга алгоритмы и замышляющие/совершающие козни другим (как это было с Иранской энергетикой недавно).

По мне так развитие-внедрение AI это не столько технологическая задача, а в первую очередь философская и политическая.
Поэтому размещаю эту тему здесь в Политике.

Обсудим?
Просьба не мусолить оффтопы, глупости и банальности.

P.S.
Понятно желание Трампа законодательно упорядочить цифровую индустрию за полгода до проваленых им выборов. Нюх у него есть. Или подсказали.
Но это понятно ровно до того момента, как возникают вопросы поставленные выше.

[NikOdim]

Скорее всего, Грефа вдохновили китайцы, по неподтверждённым данным на днях объявившие, что создали квантовый суперкомпьютер, оперирующий не битами (0,1), а кубитами (могут быть значения и 0 и 1 одновременно) и, как утверждается, со скоростью вычисления в 100 трлн.раз (!? врут наверное) выше, чем у самого быстрого конкурента.

ролик смотреть не стал, т.к. догадываюсь что там за идея от грефа, но как дочитал до китайцев дальше не смог - квантовые компьютеры решают задачу мгновенно - там фокус в количестве кубитов. прогресс довольно шустрый, ещё недавно были единицы, теперь гугл говорит у них 53, немного погодя ibm что у них 65 а к 2023 обещают 1000.
а сбер - это больше по ре-брендингу типа

[XelaX]

"не дочитал, но осуждаю" - где-то я это уже слышал.
Видимо, важно просто отметиться.

Тема не о деталях технологии, а о том, как/где/кем они будут применяться в повседневной жизни.
И как регулироваться, контролироваться обществом.

Судя по затишью Ковида в Китае там это дело (AI) уже внедрено повсеместно и успешно работает.
Забыл упомянуть - проскользнуло сообщение, что только в одном Шанхае бюджет на исследования-разработки по AI составляет около 15 млрд. долларов.
Эту цифру, конечно, ещё надо уточнить, но денег у них горы и уверен на подобные разработки они не скупятся.
В отличие от некоторых, китайцы не склонны бахвалиться часто и попусту. Делают своё дело и с строят "своё светлое китайское будущее". Возможно и наше тоже.

[Palych]

Тема не о деталях технологии, а о том, как/где/кем они будут применяться в повседневной жизни.
И как регулироваться, контролироваться обществом.

Судя по затишью Ковида в Китае там это дело (AI) уже внедрено повсеместно и успешно работает.
Забыл упомянуть - проскользнуло сообщение, что только в одном Шанхае бюджет на исследования-разработки по AI составляет около 15 млрд. долларов.
Эту цифру, конечно, ещё надо уточнить, но денег у них горы и уверен на подобные разработки они не скупятся.
В отличие от некоторых, китайцы не склонны бахвалиться часто и попусту. Делают своё дело и с строят "своё светлое китайское будущее". Возможно и наше тоже.

Думаю отсутствие целеполагания в призывах развивать ИИ (развиваем/внедряем ради развития/внедрения) не случайно.
Идея в том, что процесс важнее результата.
Когда на волне дот ком бубля мы заполняли собой роскошные оффисы в штатах - деньги компаниям приносил сам факт что мы там находились. За первые два года работы программистом здесь ни одной строчки моего кода не попало в production. И никого это не волновало.
Так и сейчас с AI.
А связь AI с победой над ковидом можно установить в головах почтенной публики и без высоких технологий.

[XelaX]

Наверное, в ожидании ещё бОльшего вздутия пузыря вас держали в резерве (вы всегда 'в теме' - т.е. в состоянии горячего старта), а коды складировали прозапас.

И да, верно - общесогласованного целеполагания пока нет. Очевидно потому, что у каждой страны свои понятия о прекрасном о ИИ. В этом изначальная проблема.

С внедрением AI в Китае я, наверное, погорячился. Видимо воображение о стремительности их развития забегает вперёд реальности.
Всё-таки AI предполагает творчество - как минимум два элемента: самообучение И самостоятельное принятие решений (решение проблем).
Поэтому, с оговоркой, что это только предположение, пререфразирую ранее сказаное так:
В Китае элементы AI помогают эффективно бороться с Ковидом с помощью добровольно-принудительной необходимости всех граждан иметь дело с аппаратным (отмечаться на каждом углу своими гаджетами) и программным обеспечением (система распознавания лиц, средств передвижений, их номеров, авто-анализ месседжей и емайлов, etc).