Популярно об ИИ

[jsjs]

Человек уже довольно давно исключён из контура принятия решений во многих областях - когда вам страховку квотят, рейт ипотечный устанавливают и т.д.
...
Если мы про "глубокие сети", то практически наверняка решения абсолютно не понимаемы человеком.
Ну не может человек разглядеть глубокий смысл в офуительных размеров матрице весов!

Именно поэтому (помимо прочего) сейчас пошёл резкий откат (по крайней мере, в серьёзных конторах типа банков и вояк) в
https://en.wikipedia.org/wiki/Explainab ... telligence

Давно не интересовался новостями по нейронным сетям. Вещь интересная, но в своём оригинальном виде она решает задачи типа вопрос-ответ. Сколько бы слоёв там не было, суть от этого не меняется. Для целей автоматического управления это замечательно, но только как часть системы и в общем виде она всегда работает совместно с системами по Тюрингу".
Я прав или сильно отстал? В двух словах, если можно.

Она и в настоящем виде решает 'вопрос - ответ'. В зависимости от вида ответов (конечное множество, вещественное число, и т.д.) это будет или классификация, или регрессия, или кластеризация и так далее. Соль слоёв в резком увеличении пространства решений (которое будет ширше, чем если просто среди каких-нибудь полиномов его искать). Естественно, расплата за такое увеличение -- overfitting, потеря робастности, отсутствие explainability, и прочие прелести.

Совсем грубо и цинично -- есть одноцветные или разноцветные (цвет -- это класс) точки в многомерном пространстве признаков (features), и хочется через них (регрессия) или между ними (классификация, кластеризация) провести не очень сложные (а иначе будет overfitting и все дела) поверхности. Всё реально зависит от (1) в каком пространстве всё это живёт и какая там введена метрика (чтобы близкие вещи по метрике были "похожи") и (2) какой класс поверхностей (полиномы, нейронки, гиперплоскости, whatever) используется для приближения или разделения.

[Privet]

Конечные автоматы сейчас вообще не популярны в ИИ?

[Gabi]

Почитайте Consiousness explained.

Пыталась, но 500 страниц очень мелким шрифтом не воодушевляли.
Так и застряла на середине где-то.

[jsjs]

Конечные автоматы сейчас вообще не популярны в ИИ?

Они, не сказал бы что популярны, но используются в более определённых задачах (так называемый model-driven approach, где предполагается какое-то знание о структуре модели, в то время как то, что я карикатурно обрисовал выше -- это так называемый data-driven approach, где решаюшее правило строится без промежуточного шага идентификации параметров модели), где общий "скелет" предполагается известным, но неизвестны лишь правила и параметры перехода из одной косточки скелета в другую.

Ну, типа, мы почему-то решили, что человек может быть в 4 состояниях: (1) сон, (2) еда, (3) вот это самое, (4) read/write Привет. Такой вот конечный автомат, который посидит в одном состоянии, потом прыгнет в другое, и так далее, по каким-то случайным законам. Скажем, после (1) он обычно прыгает в (2) (а если молодой и горячий, то сразу в (3)), потом в (4), и так далее. Ну и тогда ИИ пытается, наблюдая за этими прыжками, определить, как распределено время в том или ином состояиии, какова матрица вероятностей прыжков и так далее. Более сложный вариант -- когда мы допускаем, что кроме этих состояиий могут быть какие-то ещё (типа Hidden Markov Chain), и тогда и их пытаемся разузнать тоже.

Грубо говоря, это такое классическое "физическое" ИИ -- закон тяготения или закон Кеплера (т.е. скелет) мы знаем, нам бы только константу тяготения или эксцентрситет орбиты Марса (т.е. параметры) поточнее узнать.

Ну поэтому раннее ИИ и было таким model-driven. А вот все эти нейронки, персептроны и прочее -- это уже смена парадигмы была (на data-driven) -- типа, ребята, а на хрена нам эта модель, нам же просто нужно предсказать, где будет Марс в следующий момент времени. А почему он там будет -- это не то чтобы неважно, но это более сложная задача, на которую не надо тратить ресурсы.

[kyk]

По этому поводу можно почитать книжку (хотя бы ради её первого автора )
https://www.ozon.ru/context/detail/id/21241330/

Березовский сначала занимался теорией оптимизации бабла, потом перешёл к практике. Чем не role mode для других учОных

[jsjs]

По этому поводу можно почитать книжку (хотя бы ради её первого автора )
https://www.ozon.ru/context/detail/id/21241330/

Березовский сначала занимался теорией оптимизации бабла, потом перешёл к практике. Чем не role mode для других учОных

Многие учёные (не карикатурные Паганели) так и делают.

[kyk]

Многие учёные (не карикатурные Паганели) так и делают.

Березововский literally

[Flash-04]

к настоящему "интеллекту" никакого отношения не имеющая. Практически все коммерчески успешные случаи его применения - это задача распознавания (образов, и проч.)

+1. Тем не менее, ведётся некоторый research на тему "настоящего интеллекта". Одна из его тем такова. Допустим вычислительные возможности комппьютера выросли настолько, что по мощности и объёму стали сравнимы с возможностями головного мозга человека и количественно и качественно и могут имулировать все нейронные связи в мозгу.
Что нужно сделать чтобы у этого суперкомпа появилось сознание "consciousness"?
Типа правильно в него заложить начальную программу?

это очень интересный вопрос на самом деле. есть нехорошее подозрение что наш мозг таки пользуется все теми же алгоритмами типа "unsupervised learning". Популярно проблема освещена в "West World"

[Flash-04]

Я думаю, что человек должен выстраивать систему своих действий/поведения и свое позиционирование в зависимости от целей. Лично для меня это очень странно отделить одно от другого.

Разве у вас не было ситуаций когда в процессе цель менялась?

[kyk]

проблема освещена в "West World"

Не гуглил ещё

[Flash-04]

проблема освещена в "West World"

Не гуглил ещё

надо не гуглить, а смотреть
https://www.imdb.com/title/tt0475784/

это конечно развлекательная вещь, но там было высказано на мой взгляд несколько здравых идей про то что есть интеллект и прочая.
Вот кстати имел возможность разговаривать с доктором наук который работает в этой области (ML, AI), он сказал что интеллект - то всё что хоть немного работает на опережение, то есть дает реакцию на раздражитель который ещё не появился (предсказание). По этому критерию многие животные уже обладают интеллектом, тот же ракун (наш любимый trash panda )

[jsjs]

На енотов в этом плане уже обратили внимание:
https://www.kp.ru/daily/26905.3/3949035/

[Kirpidonych]

https://www.theverge.com/2018/7/3/17530 ... tesla-uber

SELF-DRIVING CARS ARE HEADED TOWARD AN AI ROADBLOCK

[vlad12345]

Я думаю, что человек должен выстраивать систему своих действий/поведения и свое позиционирование в зависимости от целей. Лично для меня это очень странно отделить одно от другого.

Разве у вас не было ситуаций когда в процессе цель менялась?

Не понял вопроса, честно. В словах city_girl вовсе не предполагается, что цели есть застывшая константа.

[M. Ridcully]

есть нехорошее подозрение что наш мозг таки пользуется все теми же алгоритмами типа "unsupervised learning".

Теми же - это какими?
Если вы именно про _unsuprevised_.
Мне казалось, что пока что в широком использовании только suprevised, если говорить о коммерчески успешном ML.

[jsjs]

есть нехорошее подозрение что наш мозг таки пользуется все теми же алгоритмами типа "unsupervised learning".

Теми же - это какими?
Если вы именно про _unsuprevised_.
Мне казалось, что пока что в широком использовании только suprevised, если говорить о коммерчески успешном ML.

Среди широко используемого коммерчески успешного ML есть, например, recommender systems,
которые ни рыба (supervised), ни мясо (unsupervised). Ну или, если угодно, и то, и то вперемешку.

[Privet]

Разумеется. Тем более, что в многокритериальном случае (т.е. почти всегда) оптимум вообще не определён (или, что то же самое, определяй как хочешь).
...

Кстати, первейший набор слов в любой советской диссертации - "многокртериальная оптимизация"

Первейший набор -- "В последнее время большое внимание уделяется [...]"
С этого начиналась более или менее любая диссертация

Эх, молодёжь! Это всё равно, что написать нечто безличное: "Есть такое мнение ...". В наше время диссертация всегда начиналась: "В соответствии с постановлениями N-го съезда КПСС ...". Учитесь, пока мы живы.

[kyk]

"В соответствии с постановлениями N-го съезда КПСС ...".

не N-го, а 26го

[jsjs]

Разумеется. Тем более, что в многокритериальном случае (т.е. почти всегда) оптимум вообще не определён (или, что то же самое, определяй как хочешь).
...

Кстати, первейший набор слов в любой советской диссертации - "многокртериальная оптимизация"

Первейший набор -- "В последнее время большое внимание уделяется [...]"
С этого начиналась более или менее любая диссертация

Эх, молодёжь! Это всё равно, что написать нечто безличное: "Есть такое мнение ...". В наше время диссертация всегда начиналась: "В соответствии с постановлениями N-го съезда КПСС ...". Учитесь, пока мы живы.

Не, съезд -- сразу после этого во втором предложении. Пример:

В последнее время большое внимание уделяется проблемам сепуления. В своём Отчётном докладе на ХХХ съезде КПСС, Генеральный секретарь ЦК КПСС Председатель Президиума Верховного Совета СССР тов. Л.И.Брежнев отмечал "... а также всё более полная обеспеченность трудящихся современными сепульками"...

И, кстати, та же структура в любом научпопе. Пример:

В последнее время большое внимание уделяется ИИ и его потенциальной опасности для человека. Ещё древние греки отмечали: "если компьютер завис, не бей его сразу палицей, а перезагрузи"...

[Privet]

проблема освещена в "West World"

Не гуглил ещё

надо не гуглить, а смотреть
https://www.imdb.com/title/tt0475784/

это конечно развлекательная вещь, но там было высказано на мой взгляд несколько здравых идей про то что есть интеллект и прочая.
Вот кстати имел возможность разговаривать с доктором наук который работает в этой области (ML, AI), он сказал что интеллект - то всё что хоть немного работает на опережение, то есть дает реакцию на раздражитель который ещё не появился (предсказание). По этому критерию многие животные уже обладают интеллектом, тот же ракун (наш любимый trash panda )

Прогнозарующий фильтр (как его не назови) это обязательный элемент любого контура управления. Т.е. система должна быть оптимально настроена давать минимальную ошибку по требуемому критерию для последующих шагов. Система, которая подстраивается под изменения подкручивая параметры тоже будет всего лишь адаптивной системой, но отнюдь не интеллектуальной. Такая система никогда не сможет пройти тот же тест Тюринга. Интеллектуальной, в полном смысле, а не по набору кастрированных критериев, будет только система, которая, во-первых, сама сможет менять алгоритм (не из числа известных, а используя, в частности, эвристики, аналогии, и пр. - на самом деле число разных методов ограничено и они вполне поддаются формализации), а, во-вторых, сможет оптимизировать и сами критерии. В-третьих, уметь ставить сакраментальный вопрос: "А на хрена мне вообще это надо. Займусь-ка я лучше ...".
Было бы интересно, если бы кто дополнил. Я всё-таки давно этим интересовался.

P.S. Я перенесу топик в "Науку ...", а здесь оставлю ссылку. Надеюсь, никто не обидится и топик не потеряется.

[city_girl]

Я думаю, что человек должен выстраивать систему своих действий/поведения и свое позиционирование в зависимости от целей. Лично для меня это очень странно отделить одно от другого.

Разве у вас не было ситуаций когда в процессе цель менялась?

Да, но какая разница? Новая цель или изменившаяся цель? А так конечно, приплывают новые обстоятельства, Иногда в изменившейся системе можно или приходится переоценить нужность/не нужность уже имеющейся цели. Это уже из серии «все течет все изменяется».

[Privet]

..
Не, съезд -- сразу после этого во втором предложении. Пример:
...

Политическая безграмотность, но мы друг друга поняли.

[jsjs]

проблема освещена в "West World"

Не гуглил ещё

надо не гуглить, а смотреть
https://www.imdb.com/title/tt0475784/

это конечно развлекательная вещь, но там было высказано на мой взгляд несколько здравых идей про то что есть интеллект и прочая.
Вот кстати имел возможность разговаривать с доктором наук который работает в этой области (ML, AI), он сказал что интеллект - то всё что хоть немного работает на опережение, то есть дает реакцию на раздражитель который ещё не появился (предсказание). По этому критерию многие животные уже обладают интеллектом, тот же ракун (наш любимый trash panda )

Прогнозарующий фильтр (как его не назови) это обязательный элемент любого контура управления. Т.е. система должна быть оптимально настроена давать минимальную ошибку по требуемому критерию для последующих шагов. Система, которая подстраивается под изменения подкручивая параметры тоже будет всего лишь адаптивной системой, но отнюдь не интеллектуальной. Такая система никогда не сможет пройти тот же тест Тюринга. Интеллектуальной, в полном смысле, а не по набору кастрированных критериев, будет только система, которая, во-первых, сама сможет менять алгоритм (не из числа известных, а используя, в частности, эвристики, аналогии, и пр. - на самом деле число разных методов ограничено и они вполне поддаются формализации), а, во-вторых, сможет оптимизировать и сами критерии. В-третьих, уметь ставить сакраментальный вопрос: "А на хрена мне вообще это надо. Займусь-ка я лучше ...".
Было бы интересно, если бы кто дополнил. Я всё-таки давно этим интересовался.

P.S. Я перенесу топик в "Науку ...", а здесь оставлю ссылку. Надеюсь, никто не обидится и топик не потеряется.

Кстати, да: (почти) весь тот AI/ML, который на "Уолл- стрите" -- это чистой воды прогнозирующие фильтры (регрессии) на будуЮщую цену той или иной security (чтобы её лонгить или шортить), и их антикоррелирующие комбинации (хеджинг). Адаптация идёт постоянной подстройкой и сбросом предыдущих данных, когда обнаружен change point (т.е. они вдруг решают, что this time it's different, предыдущая модель и/или её коэффициенты не годятся, надо новую). Поскольку там, по большому счёту, имеет место random walk [здесь возможен холивар], то соответствующие системы весьма brittle -- напомню историю двух "Нобелевских" лауреатов по "экономике": https://en.wikipedia.org/wiki/Long-Term ... Management

[Flash-04]

Да, но какая разница? Новая цель или изменившаяся цель? А так конечно, приплывают новые обстоятельства, Иногда в изменившейся системе можно или приходится переоценить нужность/не нужность уже имеющейся цели. Это уже из серии «все течет все изменяется».

разница в том что вы как вроде для одного делали, а вышло совсем другое

[NYgal]

Почитайте Consiousness explained.

Пыталась, но 500 страниц очень мелким шрифтом не воодушевляли.
Так и застряла на середине где-то.

Вначале он много внимания уделяет методологии, или тому, что он под этим понимает. Что само по себе достаточно entertaining. Но потом все довольно убедительно сводится к тому, что дело ясное, что дело темное и нормально ткнуть пальцем, где конкретно точка принятия решений, а где тупо реакция ( очень индивидуальная) на сенсорный инпут просто невозможно.
Вот в том, что реакция на сенсорный инпут очень индивидуальна ( в смысле физиологическая реакция) - у него, по моему дилетантскому мнению, как раз и прокол.