Возможен ли "техноархат"

Post by **Privet** » 12 Jun 2005 08:25

Человеческое общество знало матриархат, патриархатЮ монархии, демократии, а возможен ли вариант, когда власть возьмут машины?

В конце-концов машину когда-то научат принимать решения, делать заключения и рано или поздно машина начнёт размышлять о взаимоотношениях с человеком. Трудно предсказать, что ей придёт в её электронную голову, но наверняка на определённом этапе машина примет решение о несовершенстве человека, как "думательного механизма".
Формальные ограничения на програмирование некоторых аспектов машинного интеллекта не помогут. Если что-то может быть нарушено, оно будет нарушено.
Возможен ли конфликт между человеком и машиной? Как скоро это может случится? Насколько трагично это будет для человека?

SVirus · Post by **SVirus** » 12 Jun 2005 19:08

Машина (лучше называть это роботом) это просто инструмент в руках человека, примерно как лопата или автомобиль, только дороже и сложнее. Если он вдруг начнёт делать то что человеку не нужно, то его уничтожат/переделают/перепрограмируют/запретят. Если запрограмировать на конфликт, то он будет. А на конфликт обязательно запрограмируют

Например будут использовать роботов в качестве киллеров :mrgreen:

Лет через 100 наверное появятся. А вот "размышлять о взаимоотношениях с человеком" им просто не дадут. Человек это бог для робота, робот это раб для человека и значение имеет не больше пылесоса к примеру. И никаких больше размышлений (у роботов тем более) на эту тему быть не должно.

Dmitry67 · Post by **Dmitry67** » 12 Jun 2005 21:01

Вопрос на самом деле религиозный и упирается в тезис 'Strong AI'
Я например в этот тезис не верю

В частности, по моему машина может быть очень четким исполнителем воли, но своей воли иметь не может. Роботы могли бы уничтожить человечество, но это им никогда не захочется. Им вообще ничего не хочется, они исполняют приказы

wolfboy · Post by **wolfboy** » 13 Jun 2005 03:24

По-моему, более реалистичный ( хотя не менее фантастичный сейчас) "архат" - это "мутаархат" - власть Х-менов, генетически выведенных людей-мутантов, превосходящих обычных людей в интеллекте, физических возможностяхе и т.п.. Так как позиции генетики сейчас более сильны и перспеспетивны чем позиции AI. И отсутствуют упомянутые выше барьеры типа "робот - раб человека" или свободы воли машины

Dmitry67 · Post by **Dmitry67** » 13 Jun 2005 08:18

Agreed

Flash-04 · Post by **Flash-04** » 13 Jun 2005 18:55

тема наверное навеяна просмотром "I robot"

если проблема искусственного интелекта вообще когда-нибудь будет решена, то IMHO возможны все варианты событий. особенно если в такой интеллект будет заложена потребность самовопроизводится. вот тогда и покажет кузькину мать

а вообще строем идем перечитывать Лема, у него много по этому поводу написано

slozovsk · Post by **slozovsk** » 13 Jun 2005 19:51

Dmitry67 wrote:Вопрос на самом деле религиозный и упирается в тезис 'Strong AI'
Я например в этот тезис не верю

В частности, по моему машина может быть очень четким исполнителем воли, но своей воли иметь не может. Роботы могли бы уничтожить человечество, но это им никогда не захочется. Им вообще ничего не хочется, они исполняют приказы

Я лет 20 назад занимался AI (knowledge and data representation) и немного естественным языком (ЕЯ). Подумывал написать системку, чтобы можно было общаться на ЕЯ. Естественно, возник вопрос, как же машину мотивировать. Первое, что пришло в голову - опереться на то, что является базисом для человека. Определяем положительные 'ощущения' и отрицательные. (положительная и отрицательная обратная связь во-всю используется в системах с самообучением). Например, если человек хвалит машину, то это - хорошо (положительная обратная связь). Цель системы - максимизировать положительные ощущуения и минимизировать отрицательные. (похоже на безусловные рефлексы человека, которых не так уж и много) Т.е. на этом уровне не все так сложно.

Далее следуют уровни по представлению данных и знаний, пониманию, генерации сообщений ИЯ, достижению целей. Одна из задач, по умению достигать цели - игра в шахматы. Хотя сейчас - игра в шахматы не совсем AI, поскольку выросла производительность компьютеров и можно решать эту проблему методом грубой силы.

Т.е. все не так уж фантастично.

Dmitry67 · Post by **Dmitry67** » 13 Jun 2005 20:36

Если цель системы - угождать человеку, то это будет приторная пустышка. Личности не будет. Будет грубо говоря вибратор, только на интеллектуальном уровне

slozovsk · Post by **slozovsk** » 13 Jun 2005 20:48

Dmitry67 wrote:Если цель системы - угождать человеку, то это будет приторная пустышка. Личности не будет. Будет грубо говоря вибратор, только на интеллектуальном уровне

Ну я же в качестве примера привел 'угождение' человеку. Закладывается эквивалент безусловных рефлексов человека. Собственно, угождение человеку можно и не закладывать, просто, прикладной аспект в этом случае, не такой очевидный.

Базируясь только на максимизации положительных ощущуений можно заехать очень далеко и с неочевидным результатом, что мы и видим, на примере человека. Вопрос в том, нужно ли это, но получить - вроде бы и не так уж сложно. Более сложны вопросы, не столь интересные с философской точки зрения - я тут уже упоминал - нахождение путей достижения целей, распознавание образов и т.д.

Т.е. вот личность и получится - она будет максимизировать свои положительные ощущения, а не ваши :-)

Ощущения могут быть комплексные, конечно - безусловные рефлексы - это только базис. Например - Матросов кидаясь на амбразуру тоже максимизировал свои положительные эмоции с точки зрения системы управления.

Dmitry67 · Post by **Dmitry67** » 13 Jun 2005 20:54

Я прекрасно понимаю. Вы можете делать сложные алгоритмя типа, для имитации личности, робом время от времени может немного неповиноваться, шутить, иногда грубить итд. Но в любом случае это система поведение которой описано как функция ее отношения к хозяину. То есть она делает чтото потому что так заставляет ее алгоритм, а не потому, что это ей хочется

Post by **AverageMan** » 13 Jun 2005 21:12

Dmitry67 wrote:Я прекрасно понимаю. Вы можете делать сложные алгоритмя типа, для имитации личности, робом время от времени может немного неповиноваться, шутить, иногда грубить итд. Но в любом случае это система поведение которой описано как функция ее отношения к хозяину. То есть она делает чтото потому что так заставляет ее алгоритм, а не потому, что это ей хочется

Кто его знает что там будет в будущем. Вполне возможно в качестве строительного материала будущих микросхем вместо кремния будут использовать живую ткань - скажем клетки головного мозга. В результате можем получить робота присущими настоящему живому существу свойствами, включая ментальные.

slozovsk · Post by **slozovsk** » 13 Jun 2005 21:32

Dmitry67 wrote:Я прекрасно понимаю. Вы можете делать сложные алгоритмя типа, для имитации личности, робом время от времени может немного неповиноваться, шутить, иногда грубить итд. Но в любом случае это система поведение которой описано как функция ее отношения к хозяину. То есть она делает чтото потому что так заставляет ее алгоритм, а не потому, что это ей хочется

Да нет же. Цель системы максимизировать сумму (положительные эмоции плюс отрицательные (со знаком минус)). Т.е. 'хозяин' понятия не имеет чем это закончится.

Полная аналогия с человеком. 'Хозяин' может оказаться на пути у своего творения. Заложить только безусловные рефлексы - несложно, а надстройку можно получать обучением (воспитанием). Можно заставить 'робота' строить цивилизацию с нуля, а можно обучить его, как и ребенка. Обучение заключается в том, что система предпринимает те или иные действия, а учитель (на первых этапах) поощряет эти действия или наказывает (используя безусловные рефлексы). Т.е. робота имеет смысл учить, чтобы не ждать, пока он сам свою цивилизацию построит. Он будет 'угождать' человеку, в той же степени, что один человек угождает другому.

Лет 30 назад сделали Персептроны (можно в сети почитать Perceptron)

Although it was known for a decade that simple perceptrons were limited in their ability to classify some patterns, it was not until Minsky and Papert published Perceptrons in 1969 that the extent of these limitations were fully realized.

http://neuron-ai.tuke.sk/NCS/VOL1/P3_html/node20.html

(первая попавшаяся ссылка).

Теперь это называют нейронными сетями, как я понимаю.

Т.е. строилась сеть и она обучалась с помощью обратной связи распознавать изображения. Т.е. логика работы каждого элемента (нейрона) - понятно. Что получится в результате - нет.

P.S. ссылка дана, как referense only. Она говорит о проблемах с Пересптронами, но:

1. Это старые работы - наука и техника, все-таки шагнули вперед.
2. Я хотел, просто, привести пример обучаемой системы, где 'алгоритм', в нашем понимании не заложен. Причем, плохо или хорошо, но работающей системы, а не абстрактного рассуждения.

Dmitry67 · Post by **Dmitry67** » 13 Jun 2005 22:11

AverageMan wrote:Кто его знает что там будет в будущем. Вполне возможно в качестве строительного материала будущих микросхем вместо кремния будут использовать живую ткань - скажем клетки головного мозга. В результате можем получить робота присущими настоящему живому существу свойствами, включая ментальные.

Это кстати интересный вопрос
Я не знаю на него ответа
Как Вы помните по нашим спорам в других топиках, я считаю что для существование личности и сознания нужна душа, и собирая робота из живых клеток что получится ? не знаю

Dmitry67 · Post by **Dmitry67** » 13 Jun 2005 22:15

Информация про персептроны давняя потому что на самом деле особого прогресса с тех пор и нет. Не работает это самообучение. А то бы мы уже видели. speech recognition у microsoft word не пробовали ?

Впрочем, Вы с этим и не спорите

Понимаете, я не верю в самозарождение сложных систем из хаоса, так как я не материалист. Так что многие вещи, которые кажутся ясными Вам, мне совсем не кажутся. Поэтому я не верю что из такого рода систем чтото получится.

slozovsk · Post by **slozovsk** » 14 Jun 2005 02:24

Dmitry67 wrote:Понимаете, я не верю в самозарождение сложных систем из хаоса, так как я не материалист. Так что многие вещи, которые кажутся ясными Вам, мне совсем не кажутся. Поэтому я не верю что из такого рода систем чтото получится.

Ну, а тот, кто опирается на науку будет такие системы делать и зарабатывать деньги :-)

Персептроны я привел, как феномен, что существуют системы, в которые алгоритм не заложен. Эти системы обучаемы (персептроны все-таки обучались и разные картинки распозновали). Создание более сложных систем не кажется чем-то нереальным.

Одно из объяснений, почему вы не слышите об успехах в нейронных сетях (и, вообще, AI), это то, что такой успех достигнут и работы, в связи с этим засекречены. Я удержался от упоминания об этом в предыдущем посте (поскольку, конкретной информации нет). Было очень много публикаций о нейронных сетях, а потом, они почему-то, резко все исчезли. Если раньше на конференциях по AI было много интересных американских докладов, то, с определенного момента, доклады стали бессодержательными, зато появились люди в штатском, собирающие информацию.

Dmitry67 · Post by **Dmitry67** » 14 Jun 2005 08:01

slozovsk wrote:Одно из объяснений, почему вы не слышите об успехах в нейронных сетях (и, вообще, AI), это то, что такой успех достигнут и работы, в связи с этим засекречены.

Либо бесперспективны

Post by **AverageMan** » 14 Jun 2005 17:02

Dmitry67 wrote:Это кстати интересный вопрос
Я не знаю на него ответа
Как Вы помните по нашим спорам в других топиках, я считаю что для существование личности и сознания нужна душа, и собирая робота из живых клеток что получится ? не знаю

Судя по всему это дело не за горами :food:

"Исследователям из Италии удалось вырастить культуру нервных клеток из гиппокампального отдела головного мозга человека на субстрате из сети углеродных нанотрубок. Также учеными было установлено, что сеть из нанотрубок улучшает передачу нервных импульсов между клетками. Ранее ученым удавалось получить разветвленные сети на основе углеродных нанотрубок. На основании моделей разветвлений нанотрубок ученые надеялись когда-то создать сложные нейросети, которые будут изменять свою структуру и будут пригодны для вычислительной техники или помогут при создании искусственного интеллекта..."

http://www.nanonewsnet.ru/index.php?mod ... d=9&pid=70

slozovsk · Post by **slozovsk** » 14 Jun 2005 17:46

Dmitry67 wrote:
slozovsk wrote:Одно из объяснений, почему вы не слышите об успехах в нейронных сетях (и, вообще, AI), это то, что такой успех достигнут и работы, в связи с этим засекречены.

Либо бесперспективны

Верно, но мой поинт был не в этом. Неудача, конкретной технологии, на конкретном этапе ни о чем не говорит. Вопрос был, может ли машина 'быть личностью'. Я постарался продемонстрировать, что обеспечить машине мотивировку поведения, схожую с человеком - не очень сложно. Трудности сейчас в другом - распознавание образов, принятие решений и т.д. Но наличие прогресса в этих областях, вроде бы, никто и не оспаривает. Прогресс будет идти.

Звонил я недавно в контору, чтобы заплатить citation за парковку, так вот, какой-то номер или что-то еще можно сказать только голосом (меня это несколько смутило, как это нет возможности воспользоваться клавиатурой телефона - что, они настолько уверены в своей системе?) - я сказал, то что от меня требовали - система поняла меня без ошибок с первого раза (а у меня акцент, однако). Лет 10 назад это показалось бы фантастикой (мой отец, кстати лет 30 назад защитил кандидатскую по распознаванию речи). Компы играют в шахматы и т.д., т.е и принятие решений не стоит на месте. Что-то ставится на марсоходы и видимо, дроны. Из-за задержки сигнала с земли марсаход не может управляться в реальном времени, а некоторые решения надо принимать в реальном времени.

Melkor · Post by **Melkor** » 15 Jun 2005 00:08

Первая проблема в том, что, даже обладая некоторыми знаниями о том, как работает рациональное сознание (хотя и до его имитации еще очень далеко), мы совершенно ничего не знаем о таких вещах, как творческое мышление, интуиция, подсознательное и бессознательное.

Вторая проблема в том, что в эпоху постмодернизма интерес к бесполезным фундаментальным исследованиям "на слабо" ("а слабо нам сделать копию человека") стремительно охладел. Развиваться будут только сугубо прикладные вещи вроде ограниченного распознавания речи или переводчики.

Post by **AverageMan** » 15 Jun 2005 16:12

Melkor wrote: мы совершенно ничего не знаем о таких вещах, как творческое мышление, интуиция, подсознательное и бессознательное.

Я бы так категорично не заявлял. ЭТОЛОГИЯ как раз достаточно продуктивно изучает все эти вопросы.

Melkor · Post by **Melkor** » 15 Jun 2005 20:47

AverageMan wrote:
Melkor wrote: мы совершенно ничего не знаем о таких вещах, как творческое мышление, интуиция, подсознательное и бессознательное.

Я бы так категорично не заявлял. ЭТОЛОГИЯ как раз достаточно продуктивно изучает все эти вопросы.

Этология - это "наука об этом"? :mrgreen:

slozovsk · Post by **slozovsk** » 15 Jun 2005 21:31

Melkor wrote:Первая проблема в том, что, даже обладая некоторыми знаниями о том, как работает рациональное сознание (хотя и до его имитации еще очень далеко), мы совершенно ничего не знаем о таких вещах, как творческое мышление, интуиция, подсознательное и бессознательное.

Вторая проблема в том, что в эпоху постмодернизма интерес к бесполезным фундаментальным исследованиям "на слабо" ("а слабо нам сделать копию человека") стремительно охладел. Развиваться будут только сугубо прикладные вещи вроде ограниченного распознавания речи или переводчики.

А какже управление боевым самолетом? Ведь беспилотная машина может выдерживать гораздо большие ускорения,что дает значительный выигрыш в бою.

Вон, террориста какого-то американский дрон ракетой засандалил. Там, конечно, было телеуправление, но это не очень хорошо - достаточно хорошие радио помехи навести и непонятно, что получится. Так что, очевидно, что работа над заменой телеуправления ведется полным ходом.

Мужик один сделал барышню робота для утех. Неплохой рынок - все лучше, чем с надувной куклой, да и по хозяйству подсобить может :-)

Так что, рынок есть. А есть рынок - будет и предложение.

Post by **AverageMan** » 15 Jun 2005 22:25

Melkor wrote:
AverageMan wrote:
Melkor wrote: мы совершенно ничего не знаем о таких вещах, как творческое мышление, интуиция, подсознательное и бессознательное.

Я бы так категорично не заявлял. ЭТОЛОГИЯ как раз достаточно продуктивно изучает все эти вопросы.

Этология - это "наука об этом"?

"(от греч . ethos - обычай, нравственный характер и ...логия), биологическая наука, изучающая поведение животных в естественных условиях; уделяет преимущественное внимание анализу генетически обусловленных (наследственных, инстинктивных) компонентов поведения, а также проблемам эволюции поведения. Тесно связана с зоологией эволюционным учением, физиологией, экологией, генетикой. Обширные сведения о поведении животных имелись в трудах естествоиспытателей 18-19 вв. Значительное влияние на изучение поведения животных оказали труды Ч. Дарвина. В современном виде этология возникла в 30-е гг. 20 в., главным образом благодаря работам К. Лоренца и Н. Тинбергена. Термин "этология" ввел в биологию в 1859 И. Жоффруа Сент-Илер.

:food:

Этология человека соответственно занимается схожими вопросами но в отношении человека...

Ljolja · Post by **Ljolja** » 18 Jun 2005 04:33

slozovsk wrote:Ну, а тот, кто опирается на науку будет такие системы делать и зарабатывать деньги Персептроны я привел, как феномен, что существуют системы, в которые алгоритм не заложен.

ну ето Вы погорячились.

slozovsk wrote:Эти системы обучаемы (персептроны все-таки обучались и разные картинки распозновали).

обучение в случае человека и NN имеет очень поверхностную аналогию

slozovsk wrote:Одно из объяснений, почему вы не слышите об успехах в нейронных сетях (и, вообще, AI), это то, что такой успех достигнут и работы, в связи с этим засекречены. Я удержался от упоминания об этом в предыдущем посте (поскольку, конкретной информации нет). Было очень много публикаций о нейронных сетях, а потом, они почему-то, резко все исчезли. Если раньше на конференциях по AI было много интересных американских докладов, то, с определенного момента, доклады стали бессодержательными, зато появились люди в штатском, собирающие информацию.

очередной сионистский заговор :lol:

Ljolja · Post by **Ljolja** » 18 Jun 2005 04:48

по поводу изначального ? Власть машинам вряд ли когда-нибудь понадобится, они рациональны. Как впрочем едва ли будут масштабные разработки касаюшиеся вложение емоций в машину с возможными последствиями приведенными выше. Ето економически не целесообразно. В то же время, дальше - больше, человек создавая все более сложные машины, > времени и сил тратит на их обслуживание, поддержание в хорошей рабочей форме. С расширением автоматизации, доверие человека машине растет, а навыки по выполнению того, что автоматизировано, теряются. К чему приходим - человек без машин, как "без рук" и выполняет инструкции выдаваемые ему машиной (вставь то-то туда-то, поменяй хх, нужны yy данные). Т.обр. машины служат человечеству, а человек машине :wink: