Механизмы целеполагания, проблемы самомодификации.

Опубликовано 16-01-2012

49

Небольшая вводная.
Буду исходить из некоторых определений, предположений и умозаключений приведённых ниже. Если считаете, что они в чём-то неверны или неоптимальны - не стесняйтесь - предлагайте лучше :)
1. В определённом смысле большинство человеческих целей рациональны. С "точки зрения" нашего генома расти и плодиться - рационально для сохранения этого генома. Это то, что происходит "само по себе" в силу объективных причин.
2. С точки зрения мыслящего индивида есть цели рациональные и иррациональные. Иррациональные - те, которые просто есть в не зависимости от логики или оценки. Инстинкт самосохранения, пристрастия, вкусы и прочее. Набор таких целей определяется темпераментом и обучением. Иррациональные цели первичны. Поставив такую цель, индивид разрабатывает к ней рациональный путь, состоящий из промежуточных рациональных целей и путей между ними.
3. Фактически, рациональное/иррациональное можно грубо определить следующим образом:
Дано:
- Текущее состояние, характеризующееся определенным набором свойств: P1, P2, P3...PN
- Желаемое состояние, характеризующееся набором этих же свойств, отличающихся по величине: F1, F2, F3...FN
- Набор доступных ресурсов: R1,R2,R3...RM
- Весовые коэффициенты определяющие "стоимости" ресурсов и "важности" величин свойств желаемого состояния Xf1, Xf2, Xf3....Xfn, Xr1,Xr2,Xr3...Xrm.

Через иррациональное определяется главным образом, желаемое состояние и весовые коэффициенты. Через рациональное оцениваются, главным образом, все остальные переменные и ищутся пути перехода из состояния текущего в состояние желаемое. Наиболее рационален путь, позволяющий достичь желаемого состояния с наименьшими затратами ресурсов относительно их стоимости.

Теперь к сути.

Эта тема интересна для меня тем, что в ближайшей перспективе намечаются широкие возможности к изменению себя технологическим путём. Интересно к чему это может привести - "какими сделают людей будущего люди настоящего". Возьмём, к примеру, гипотетический оцифрованный мозг, способный к самоизучению и самомодификациям.
Модификации можно условно разделить на несколько групп:
1. Рефакторинг
(англ. refactoring) — процесс изменения внутренней структуры программы, не затрагивающий её внешнего поведения и имеющий целью облегчить понимание её работы[1]. В основе рефакторинга лежит последовательность небольших эквивалентных (то есть сохраняющих поведение) преобразований. Поскольку каждое преобразование маленькое, программисту легче проследить за его правильностью, и в то же время вся последовательность может привести к существенной перестройке программы и улучшению её согласованности и четкости.
2. Сокращение систем, не нужных в новых условиях, как то системы управления мускулатурой, внутренними органами и прочие - не нужные цифровому сознанию, не имеющему тела. Возможно в каких-то виртуальных средах некоторые и пригодятся, но это уже частности.
3. Изменения в системах нужных и активно используемых - то самое целеполагание, мотивации, ценности и прочее.

Модификации из категорий (1) и (2) вполне тривиальны и могут быть оценены, улучшены и т.п.

Модификации из категории (3) подлежат уже лишь субъективной оценке. К тому же формулироваться эта оценка будет на основании тех же модификаций. В итоге имеем тут очень интересный процесс, ход и исход которого предлагаю к обсуждению.

Comments Page

Моё исходное мнение следующее. Сперва под выкос пойдут те иррациональные аспекты личности, которые входят в конфликт с остальными личностными аспектами и при этом не являются доминантными. К этому можно отнести всяческие "вредные привычки", от которых мы сегодня избавляемся тренировкой и упорством. Таким образом люди станут более "целостными", с меньшим количеством внутренних конфликтов. Опасности процесса – оставление малой вариативности свойств личности, из за чего личность может оказаться неприспособлена к меняющимся условиям. Если сегодня процесс самомодификации растянут во времени, что даёт возможность опробовать изменения в жизни, то с упрощением и повышением доступности возрастает вероятность необдуманных решений, когда человек под воздействием увиденной картины, сделает из себя вдруг художника, резко сменив род занятий. Самое ожидаемое – сужение "специализаций личностей".
Интересна проблема "крысы с педалькой", когда человек будет в состоянии обеспечить себе "вечный дешёвый кайф" – остановить от этого его сможет только иррациональное… ну и множество смежных тем тут можно обсудить – например искусственный интеллект (точнее – искусственная жизнь) – с рациональным тут понятно, но какое иррациональное стоит закладывать и что можем в итоге получить и т.п.

По поводу вводной.
Согласен, что иррациональные цели первичны. Но не согласен, что все цели обязательно сводятся к иррациональным. То есть я считаю, что есть и первичные рациональные цели.

Например, стремление выжить, оставить после себя что-то или улучшить условия жизни. Хотя конечно, можно сказать, что все это сводится к инстинктам или каким-то иррациональным желаниям и в конечном счете к вопросу "зачем мы живем". Но мне кажется, что такое обобщение не нужно. Можно разумом для себя решить, для чего ты живешь, считать такой вывод разумных и жить соответствующим образом.

По этой же причине я не согласен с твоей интерпретацией проблемы "крысы с педалькой" – в том что "остановить от этого его сможет только иррациональное". Как может иррациональное остановить это? Она так и будет продолжать играться с педалькой, пока не сдохнет. Как раз появление и развитие рациональных целей ведут наркоманов на путь избавления от зависимости.

Поэтому крысы и не останавливаются (у нее не может быть рациональных целей), а люди иногда останавливаются – исключительно за счет силы воли, которая по сути является сознательным подавлением инстинктивных иррациональных желаний. Это пример того, когда рациональная цель может подавлять иррациональную (получить удовольствие).

По поводу модификации из категории (3).
Рекомендую посмотреть последние 10 минут этого фильма http://vkontakte.ru/video-3090109_153981727

Там приводится пример нового подхода к программированию, основанном на самоорганизации и самообучению простой программы, которые не требует никакой "субъективной оценки" или направляющей руки. Эти алгоритмы зависят лишь от условий окружающей среды, к которой они приспосабливаются автоматически.

>оставить после себя что-то

Это я могу рассматривать как следствие какой-то цели – но не как саму цель.

Оставил после себя или не оставил – как это на тебя то влияет после смерти?

Раз не влияет -то и нет рационального стремления.

>и в конечном счете к вопросу "зачем мы живем"

к этому и сводится

>разумом для себя решить, для чего ты живешь

вот и подтверждение этому

Разумом для себя я уже решил, что жить надо не "для" – а "как".

И вот с "как" то и проблема.

> Оставил после себя или не оставил – как это на тебя то влияет после смерти?
Раз не влияет -то и нет рационального стремления.

Не вижу связи между рациональностью и влиянием на себя. Рационально можно свои цели обозначить по-разному, и не важно относится это к себе или к чему-то/кому-то еще.

Я вижу проблему разделения иррациональных целей и рациональных.

В основе иррациональных, как отметил Владимир, лежат инстинкты – борьба за выживание генома – самосохранение, но является ли эта цель на данном этапе развития человечества иррациональной?

Денис, говорил о том, что много образованных людей заканчивают жизнь самоубийством, нивелируя одну из основных иррациональных целей. Может эта цель перестала быть иррациональной или скорее, перестает ей быть с возрастом – отпадает?

В возрасте для человека цель продолжения жизни становится рациональной, так как обосновывается для себя чем-то – уровнем благосостояния, наличием многого не познанного и т.д.

Если я не ошибаюсь, то и другие изначально иррациональные цели могут переходить в разряд рациональных.

Например, вкусы. В младенчестве мы инстинктивно негативно относимся к острому и другим резким вкусам и соответственно не стремимся их испытать, а избегаем, а с развитием разума, многие получают удовольствие от остроты пищи.

Если все вышеизложенное верно, то возникает вопрос о наличии иррациональных целей для взрослого разумного человека.

Цель (человека) это всегда что-то обдуманное – разумное

А вот отдельные поступки, могут иметь иррациональную природу, например, в состоянии сильного душевного волнения, страха, стресса, когда разум и нервная система не функционируют нормально.

Опять таки иррациональность, как мне кажется, понятие субъективное, не могу сказать в целом ли, но например по отношению к предметам или поступкам.

Кому-то кажется, что картины сюрреалистов иррациональны, а кто-то обосновывает каждый штрих, как обдуманный и несущий смысл.

Кто-то может сказать,что героический поступок иррациональный – совершенный инстинктивно, а на самом деле он был быстро осознан, осмыслен и потому сделан обоснованно и рационально.

>Не вижу связи между рациональностью и влиянием на себя. Рационально можно свои цели обозначить по-разному, и не важно относится это к себе или к чему-то/кому-то еще.

Я согласен с этим. Цель субъективна и обосновываться может для себя, как угодно, что не делает эту цель иррациональной.

Сергей Можаров
#3

> То есть я считаю, что есть и первичные рациональные цели.
> Например, стремление выжить, оставить после себя что-то или улучшить условия жизни. …. Можно разумом для себя решить, для чего ты живешь, считать такой вывод разумных и жить соответствующим образом.

Относительно чего такая первичная рациональная цель рациональна? Я понимаю рациональный _путь_ к цели через промежуточные цели (тогда эти промежуточные рациональны так как являются частью пути). Но я не понимаю как ты предлагаешь рационально выявить конечную цель.
Как же решить разумом "для чего живёшь"? А если хочется другого? В конце концов определяющим является то, чего хочется, а разум нужен для достижения желаемого. Рациональность предполагает использование логики, правил вывода, управление ресурсами. Как с помощью всего этого поставить цель? Для правил вывода безразлично в каком направлении они применяются. Рациональность это умение использовать логику, анализ и т.д. Но в каком направлении всё это использовать – это уже к рациональности никак не относится.

> По этой же причине я не согласен с твоей интерпретацией проблемы "крысы с педалькой" – в том что "остановить от этого его сможет только иррациональное". Как может иррациональное остановить это? Она так и будет продолжать играться с педалькой, пока не сдохнет.

Я имел в виду, что иррациональное сможет удержать от того, чтобы начать играться с этой педалькой. Некое "нежелание быть растением".

> Как раз появление и развитие рациональных целей ведут наркоманов на путь избавления от зависимости….
Это пример того, когда рациональная цель может подавлять иррациональную

Не силён в наркологии, но насколько мне известно, наркоман со стажем уже не получает большого удовольствия – только ломки и временное облегчение после дозы. То есть цель вполне иррациональна – избавиться от ломки (какой здесь разум и логика – просто "неприятно" и всё). "Педалька" – это гораздо больше чем наркотик. Это прямая стимуляция центра удовольствия. При нажатии ты осуществляешь _все_ свои мечты и желания, какая-либо альтернатива нажатию несоизмеримо беднее по своему результату. И только осознание того, что без еды ты умрёшь и больше не сможешь получать этот кайф может оторвать от педальки для получения пищи.

> По поводу модификации из категории (3)…
> …не требует никакой "субъективной оценки"…
> Эти алгоритмы зависят лишь от условий окружающей среды, к которой они приспосабливаются автоматически.

А самоудаление программы со всех носителей (или моментальное завершение) является приспособлением? :) Всё-таки стоят определённые задачи (например пройти расстояние как в фильме). И эти цели уже задаёт программист. В случае самомодификаций цели же не сводятся только к выживанию – тут может быть что угодно – зависит от желаний.

Денис Астахов
#4

> Оставил после себя или не оставил – как это на тебя то влияет после смерти?
> Раз не влияет -то и нет рационального стремления.

Скорее, возможно рациональное стремление (наилучшим путём) к иррациональной цели (оставить что-то после себя).

Артём Манякин
#6

> Цель (человека) это всегда что-то обдуманное – разумное

Обдумывается путь к цели. А как обдумывать цель исключительно рационально (по правилам логики). Любое логическое построение растёт из аксиом. В зависимости от того какие аксиомы возьмём – то в итоге и получим. Но сами аксиомы не обосновываются логически. Они или наблюдаются эмпирически (как в физических теориях), либо могут просто браться "с потолка" для того, чтобы посмотреть "что получится" (как в математике).

В нашем случае, основные цели – это "аксиомы" – то, что берётся без какого-либо логического обоснования. А уже из них при помощи рационального разума строятся "леммы", "теоремы" и т.д.

Если взять любую свою рациональную цель и объяснить на основании чего она поставлена… в итоге придём к тому, что "мне так нравится", "мне так хочется" и т.п.

Поясню на примерах – возможно слишком абстрактно описываю мысль.

Вот есть у кого-то желание жить. Оно обусловлено инстинктом самосохранения. Но с точки зрения логики – какая разница живёт индивид или нет? Это ему жить приятно (а не жить – просто никак – как будто уснул без снов и всё). То есть нет никакой рациональной причины для того чтобы жить. Желание жить иррационально. Не будь его – в любой сложной ситуации мы бы заканчивали жизнь суицидом. Сон ведь лучше, чем сложности и проблемы.
Вот при создании ИИ – ему же нужно указать по каким критериям он будет обучаться, как отсеивать ненужные модификации. Обучение нейронной сети невозможно без оценки полученных на выходе результатов специалистом. В эволюционном процессе таким специалистом выступала среда, отбраковывая нежизнеспособные модификации. В обществе созданном нами – людьми – мы сами себе "специалисты" – сами себе судьи и режиссёры, способные относительно наших иррациональных целей определять "что такое хорошо и что такое плохо".

Я не понимаю почему цель не может обдумывать. Откуда она берется тогда, если не из человеческого разума?

Из этого я делаю вывод о том, что любая цель, как продукт разума – рациональна.

>А как обдумывать цель исключительно рационально (по правилам логики).

С точки зрения пользы, например. Самосохранение полезно по тому-то и потому-то.

>В зависимости от того какие аксиомы возьмём – то в итоге и получим.

Аксиомой в примере с самосохранением, может выступить закон эволюции. Эволюция это причина порождающая цель самосохранения, которая на определенном этапе не обдумывается, а далее обдумывает, например с т. з. полезности для общества или себя.

>В нашем случае, основные цели – это "аксиомы"

Аксиома, как мне кажется, не может быть целью, так как цели динамичны. Вот закон природы, эмпирическое наблюдение статичны.

Что можно вывести из цели, если она – аксиома?

>Если взять любую свою рациональную цель и объяснить на основании чего она поставлена… в итоге придём к тому, что "мне так нравится", "мне так хочется" и т.п.

Мне кажется так оно и есть.

>Вот есть у кого-то желание жить. Оно обусловлено инстинктом самосохранения.

У животных может оно и обусловлено инстинктом самосохранения, а у людей желание жить может быть обусловлено материальным положением, состоянием здоровья и т .д.

>Но с точки зрения логики – какая разница живёт индивид или нет?

Я не знаю, как можно рассмотреть что-то с т. з. логики, можно рассмотреть с т. з. человека, который применяет логику.

А человек может логически для себя обосновать разницу между тем, когда индивид живет и когда нет.

>То есть нет никакой рациональной причины для того чтобы жить.

Например, причина – счастье, когда человек счастлив он хочет жить.

А критерии счастья для конкретного человека выводятся логически.

Семья + работа + благосостояние = счастье.

А вообще, я согласен, что при таком подходе получается слишком субъективно, сейчас перечитаю, Ваш подход еще раз.

Владимир, можно тезисно какие плюсы Вашего подхода на основе иррациональной цели?

Все таки модель должна работать, а как пользоваться тем, что изложил я – не понятно)))

#6
> Я вижу проблему разделения иррациональных целей и рациональных.

Да, смутно как-то с этим. Я вполне согласен с тем, что "изначально иррациональные цели могут переходить в разряд рациональных."

Что значит рационально? Для меня это значит, что моя цель согласуется с разумом и не противоречит другим разумным целям. Если это выполняется, то уже не важно, согласуется ли эта цель с какими-то иррациональными желаниями. Я воспринимаю эту цель как разумную, а не как иррациональную.

Само по себе слово "цель" подразумевает участие разума. Если разум не участвует, то это уже не цель, а желание.

Цель на то и цель, что остается в силе, даже если спектр желаний времено меняется. К желаниям это неприменимо.

Пример. Моя цель – выжить. Это иррациональное, инстинкт. Далее я начинаю думать зачем мне выживать – пытаюсь проанализировать это разумом. И тут начинается придумывание себя всяческих смыслов вроде оставить после себя чего-то. К этому "оставить после себя чего-то" я прихожу не через чувства, желания и не через бессознательное. Я прихожу к этому путем обдумывания, используя разум.

Получается, что моя иррациональное желание жить перешло в разряд рациональных. Потому что я в своей жизни вижу пользу для близких мне людей и общества. Если бы не видел, то это было бы иррациональным.

Такая польза была мне дана от предков при рождении. И поэтому я считаю рациональным направить часть своего времени на создание пользы потомкам. Ничего иррационального здесь не вижу. Это не подвязано под удовольствия, ощущения. Это лишь пример – моя формула – у других людей может быть другая, но она тоже может быть выведена рациональным путем.

Вот Артем пример с счастьем привел выше. Я вполне согласен с тем, что это рационально выведено.

У Владимира и Дениса, если я правильно понял, рациональность сводится к личной пользе, выгоде и т.д. Я эту часть тоже принимаю, но смотрю на все это шире.

Артём Манякин

> Владимир, можно тезисно какие плюсы Вашего подхода на основе иррациональной цели?

Это даже не подход – это, скорее, определение того, что я называю рациональным, а что иррациональным. Начальные человеческие цели "нравится"/"хочется" являются именно начальными – они логически не выводятся и не нужна здесь логика. Зачем логика, когда есть потребность? Именно поэтому все исходные цели иррациональны. Даже если мы себе объясним свои желания – это будет "рационализация". Но такое объяснение не является частью постановки цели – оно её просто может объяснить (допустим "хочется сладкого" берётся из детства, когда сладкого не давали. Сейчас хочется… объяснили.. ну и что :)?)

Отсюда собственно и то, что все рациональные цели являются лишь ступеньками к достижению целей иррациональных. Возможность проследить цепочку до того, когда "хочется" – это значит лучше понимать свою мотивацию. Способность разобраться в своём "хочется", умение менять его – это способность структурировать и согласовывать своё иррациональное. Другое дело, что эта структуризация и согласование иррационального хоть и ведётся (/может вестись) рациональными путями, но делается всегда в угоду иррациональной доминанте (главному "хочется"). А как же иначе? – начельные цели ведь иррациональны.

>> А как обдумывать цель исключительно рационально (по правилам логики).
> С точки зрения пользы, например. Самосохранение полезно по тому-то и потому-то.

Согласен. Обдумывать можно. Я неверно выразился – как поставить цель исключительно рациональным путём без привлечения иррациональных "постулатов"?

> Что можно вывести из цели, если она – аксиома?

Пути к её достижению, промежуточные рациональные цели.

Сергей Можаров

> Что значит рационально? Для меня это значит, что моя цель согласуется с разумом и не противоречит другим разумным целям.

Можно и так определить. Но это определение не учитывает ту природу возникновения, которую я бы хотел обсудить.

Природа иррационального в том, что оно возникает вне зависимости от логики. Сама по себе логика – это способ вывода. Выводится всегда что-то из чего-то. Но определить из чего будете выводить логика не способна – это не её сфера деятельности.

Конечная иррациональная цель – абстрактное "счастье". Для всех это композиция из некоторого набора других иррациональных целей. И вот уже, чтобы достичь их – нужно включать логику.

> Само по себе слово "цель" подразумевает участие разума. Если разум не участвует, то это уже не цель, а желание.

Так и есть – желание это один из видов иррациональных целей. Есть также иррациональные ограничения (привычки, стереотипы). Если стереотип, например, осмыслен и переработан – он становится частью рационального построения. Потом уже можно забыть всю логическую цепочку, приведшую к полученному выводу – просто запомнить конечный результат и то, что "так было правильно и удобно" и тогда это будет снова иррациональный стереотип – он применяется как есть – без логического подхода к нему.

> Пример. Моя цель – выжить. …

Ну вот и получаем – основная иррациональная цель – выжить. Дальше идёт рационализация. И цель "оставить после себя что-то" не может быть начальной. Зачем оставлять? – это просто иррационально приятно.

> Получается, что моя иррациональное желание жить перешло в разряд рациональных. Потому что я в своей жизни вижу пользу для близких мне людей и общества. Если бы не видел, то это было бы иррациональным.

Польза это лишь найденный побочный эффект.

> Ничего иррационального здесь не вижу. Это не подвязано под удовольствия, ощущения.

Если бы ты не испытывал от этого удовольствие, то ты навряд ли бы объяснил себе рационально зачем это нужно :)

> У Владимира и Дениса, если я правильно понял, рациональность сводится к личной пользе, выгоде и т.д. Я эту часть тоже принимаю, но смотрю на все это шире.

Рекомендую "Эгоистичный ген" Ричарда Докинза. В нескольких словах – там о том, что все наши стремления определяются эгоизмом. Но не эгоизмом нас как индивидов, а "эгоизмом" наших генов. Гены определяют наши качества. Чем живучее качество, тем лучше оно распространено по популяции. Если качество, способствующее альтруизму особи получает через этот альтруизм больше шансов к размножению, то этот альтруизм приживётся. Так что и альтруизм в чём-либо может быть рационален с точки зрения распространения гена. Но он иррационален с точки зрения особи, так как "спускается" ей в виде инстинкта.

>Начальные человеческие цели "нравится"/"хочется" являются именно начальными – они логически не выводятся и не нужна здесь логика.

Я вывожу их логически, из законов эволюции, о которых Вы приводили пример из книги Докинза.

Мне хочется потому, что эволюции так было угодно.

Аааааа, слава Господу, я понял!!! При таком подходе получается, что не человек выводит цель выжить, а эволюция, а человек лишь это осмысливает. Все что выше радости можно не считать, как аргумент.

Значит цель, вроде как, объективна по своему происхождению. Верно?

Таким образом, эта объективная цель – иррациональна, так как зависит не от разума человека, а от заложенных эволюцией генов.

Тогда давайте попробуем выделить эти базовые иррациональные цели. (т.е. Вы выделяйте, а я буду соглашаться или отрицать :-))

Жизнь – главная иррациональная цель. Видно, то что ее обеспечивает тоже является иррациональными целями: пища, вода, тепло, защищенность (от врагов).

Боль, страх, наверно тоже из разряд иррациональных, но наверно уже не целей, а средств.

Похоже, что есть еще и иррациональные средства, механизмы достижения иррациональных целей.

Но, не понятно,как быть с ИИ. Ему то не нужны наши базовые, иррациональные цели?

Как их определить для него и главное зачем?

Для чего нам нужны иррациональные цели? Мы выводим из них рациональные и таким образом развивается.

Значит, определив какие-то иррациональные цели для ИИ, мы сможем дать задел для его развития?

#15
> Если бы ты не испытывал от этого удовольствие, то ты навряд ли бы объяснил себе рационально зачем это нужно

С пониманием этого у меня проблемы. Понятие удовольствие в этом случае получается очень расширенным. Я не вижу никакого удовольствия в своем "оставить после себя что-то". Это воспринимается как что-то исключительно рациональное.

> Можно и так определить. Но это определение не учитывает ту природу возникновения, которую я бы хотел обсудить.

Давай тогда обсуждать то, что задумывалось. Тема интересная. Основный смысл книги Докинза понятен, звучит разумно!

Кестлер обратил внимание на отсутствие у человека генетической программы, ограничивающей убийство особей своего вида (такая программа есть у большинства животных).

История была бы совсем иной: не было бы человеческих жертвоприношений, массовых казней и пыток, кровопролитных войн.

Кестлер отмечал, что плохо сбалансированы три основные эволюционные подсистемы человеческого мозга – подкорка (от пресмыкающихся), древняя кора (от млекопитающих) и новая кора, обеспечивающая высшие психические функции человека.

Он говорил: когда на операционном столе лежит человек, то это одновременно крокодил, лошадь и человек.

Согласно Кестлеру, ускоренное формирование мозга не обеспечило согласования трех его подсистем, что является истоком иррациональных поступков, взрывов агрессивности, эмоциональной внушаемости человека, которая открывает путь к манипуляциям сознанием.

http://week.izvestia.ru/science/article8228

> № 16 Видно, то что ее обеспечивает тоже является иррациональными целями: пища, вода,

Скорректирую себя.

Наверно, все таки не вода и пища, так как это средства достижения цели – удовлетворение потребности в них.

Значит иррациональную цель можно сформулировать как – удовлетворение голода и жажды, т .е есть и пить.

Тоже и с другой иррациональной целью – быть защищенным. Не важно какими средствами.

Наверно, как раз цель приобрести конкретные средства будет рациональной. Цель купить дом, одежду, оружие и т. д.

Как бы это теперь с ИИ увязать?)))

Артём Манякин

> При таком подходе получается, что не человек выводит цель выжить, а эволюция, а человек лишь это осмысливает. Все что выше радости можно не считать, как аргумент.

Да, верно. И то что написано дальше – тоже.
Также эти цели формирует не только эволюция, но и воспитание, общество.

> Но, не понятно,как быть с ИИ. Ему то не нужны наши базовые, иррациональные цели?

Нам они, строго говоря, тоже не нужны. Они у нас просто сформировались в процессе эволюции.

> Как их определить для него и главное зачем?

Как – довольно просто – как в приведённом Сергеем ролике – иррациональная цель была пройти как можно больше шагов. Относительно неё уже выстраивалось и оценивалось развитие.
Зачем определять – тут, как мне кажется, следует ввести разделение. Искуственный Интеллект может и не обладать иррациональными целями – быть просто "приставкой" к нашему мозгу. Мы задаём цели – он находит рациональные пути к их достижению. Что-то вроде экспертных систем, баз знаний. Если же говорить об Искуственной Жизни, то базовые цели здесь необходимы для саморазвития, адаптации к условиям и т.д.

> Для чего нам нужны иррациональные цели? Мы выводим из них рациональные и таким образом развивается.

Он нам не "для чего-то нужны". Они просто есть. На то они и иррациональные. Если бы они были нужны _нам_ для чего-то, то это уже ближе к продумыванию/просчитыванию.. вобщем к стратегии, к рациональному.

> Значит, определив какие-то иррациональные цели для ИИ, мы сможем дать задел для его развития?

Да. Но тут тоже интересные моменты. Мы же можем менять свои иррациональные цели (под воздействием некоей доминанты – главной иррациональной цели). Так и здесь – задай мы несогласованные между собой ир. цели, ИИ рано или поздно в процессе развития начнёт их видоизменять. Будет относится к некоторым, как мы относимся к своим вредным привычкам – пытаемся изжить, найти компромиссы и т.д.

Первое, что приходит на ум – обезопасить себя. То есть одной из иррациональных целей ИИ будет ценность человеческой жизни. Чтобы ИИ мог развиваться, процветать, приносить (нам) пользу должна быть также заложена и ценность его жизни. (а какая жизнь должна быть ценнее?). Ну и далее.. Возможно имеет смысл закладывать без разделения ценность личности, чем сложнее личность, тем выше её ценность (мы же ценим жизнь животных ниже своей). Но тогда ИИ рано или поздно начнёт относиться к нам как к животным… вобщем много спорных моментов.

Но не это самое интересное. Самое интересное – то как мы будем менять себя. Вот представьте, что вы можете подредактировать все свои ценности, идеалы, устремления, интересы не каждодневными медитациями с аутотренингами, а просто вызвав некий программный редактор. Задаёте нужные параметры и алгоритмы, а нанороботы в вашем мозге подстраивают нейронные цепи, регулируют уровень гормонов и т.д. Сможете выставлять уровень "удовольствия от жизни"… да всё, что угодно. Если внешние обстоятельства не по зубам, то ваше к ним отношение – это то, что в принципе подвластно сколь угодно глубокому редактированию. Пошли с девушкой на свидание – подкрутили чувственность, пылкость, эмпатию, эмоциональность. Решили поработать – убрали всё нафиг, выставили приоритет на логику, абстрактное мышление…
В зависимости от мимолётного настроения можно сделать из себя "героя-любовника" / "эстета" / "романтика" / "интеллектуала-прагматика"… к чему приведёт такая доступность самомодификаций? Как я уже писал, мне кажется, что к "узкой специализированности" личностей. Романтики сделают себя романтичнее, а прагматики прагматичнее. В итоге можем даже разные виды получить (когда уже пойдут доработки тел в зависимости от вкусовых предпочтений и т.д.). Раса художников, например :)

Сергей Можаров

>> Если бы ты не испытывал от этого удовольствие, то ты навряд ли бы объяснил себе рационально зачем это нужно

> С пониманием этого у меня проблемы. Понятие удовольствие в этом случае получается очень расширенным.

Ну да и я не говорю о каком-то конкретном виде удовольствия (сексуальное удовлетворение/сытый желудок). Говорю так же в широком смысле. Удовольствие может быть и от познания, от помощи другим людям, от того, что делаешь подарок… Тут, как мне кажется, чувство удовлетворения от осознания собственной значимости или от сделанного не зря – то, что другие люди это оценят. В любом случае это оценивается как "хорошо" выработкой эндорфинов :)

Денис Астахов

Почитал я этого Кестлера – мутный мужик какой-то :) Механизмы сдерживающие внутривидовую агрессию у нас вполне есть. Просто они слабые, так как коррелируют с нашим биологическим оружием (а чего у нас там – зубы да локти?). То есть, если взять человека как биовид, то уровень агрессии вполне соответствует уровню естественного вооружения. Чем естественное вооружение мощнее, тем мощнее и механизмы сдерживающие внутривидовую агрессию. Закон природы – виды с разбалансированным соотношением "оружие/агрессия" просто вымерли.

Другой момент в том, что разум даёт человеку в руки неслыханное оружие, но и тут в противовес ему вырабатываются сдерживающие культурные механизмы. Опять же племена с разбалансированным соотношением вымирали. И были периоды выкоса популяций – бронзовое оружие, металл, огнестрел… Сейчас опасно то, что очень выросла цена ошибки. И один дурак, владеющий бомбой может много бед понаделать. Могут не поспеть культурные сдерживающие механизмы за такими возможностями по убийству, а учиться на ошибках будет уже некому.

#20
> Самое интересное – то как мы будем менять себя
> к чему приведёт такая доступность самомодификаций? Как я уже писал, мне кажется, что к "узкой специализированности" личностей.

Можно обсудить варианты, сделать опрос. Думаю, ответы будут сильно варироваться. Возможность изменить себя, свои цели ставит человека перед выбором, перед которым он никогда не стоял.

Какие критерии человек выберет для выбора своих целей, если он может контролировать степень удовольствия?

Это равносильно тому, что наше первичное целеполагание будет основываться исключительно на рациональном подходе. Иррациональное можно полностью вычеркнуть из критериев выбора целей, потому что удовольствие становится подконтрольным нам инструментом.

Мое мнение на этот счет – это приведет к полному хаосу. В настоящее время всеми правят одни и те же инстинкты – выжить, получить удовольствие, выгоду. Именно иррациональность (то есть невозможность изменить) этих первичных целей обеспечивает определенность и порядок в обществе. На этом держится экономика, социальные механизмы, доверие, возможность прогнозировать что-то, стабильность общества, рычаги управления, развитие.

Думаю, что иррациональность наших первичных инстинктов и их одинаковость очень важна. Иначе я не вижу как можно организовать и структурировать жизнь общества. У людей должны быть общие первичные ценности, которые должны быть иррациональными.

Если мы это уберем, люди сами не будут знать, чего они хотят. Ведь можно хотеть и получать удовольствие от чего угодно, по своей воле. Сегодня ты одно, завтра другое.

Выбор своих желаний даже не будет определен необходимостью выживания. Ведь можно подкрутить свой мозг, чтобы приспособиться к любым условиям. Не надо будет зарабатывать деньги.

Человек будет двигаться либо по наиболее простому пути, не требующего никаких затрат, то есть к бездействию и деградации. Либо по пути совершенно хаотичному (с точки зрения общества), определенному свободной волей каждого индивидума. Это будет как в басне про лебедя, рака и щуку. Общество просто коллапснется.

Любая самоуправляемая сложная структура (в том числе и общество), основана на самоорганизации.

Самоорганизация держится только на одном – все члены структуры должны подчиняться одним и тем же простым правилам. Это аналогично иррациональному. Если этого нет, то структура становится хаотичной.

Если мы получим доступ к изменению своего иррационального, это будет равнозначно тому, что люди получат возможность модифицировать те самые правила, на выполнении которых основана стабильность самоорганизованной человеческой цивилизации.

Я согласен с Сергеем, если каждый будет действовать не по законам природы, которые удерживают его в определенных рамках, то наступит хаос общественных отношений.

Люди, скорее всего, будут программировать себя на что-то не требующее усилий, – бедный запрограммирует себя на получение удовольствия от своего существования, некрасивый добавит самоуверенности, вместо того, чтобы как-то бороться с недостатками и т. д.

Однако, замечу, что не бывает плохих идей, бывают плохо реализованные.

Возможно стоит дать доступ к такой технологии контроля над своей мотивацией не всем подряд. Например, право голоса на выборах имеют не все люди, а только граждане, достигшие определенного возраста и т .д.

Таким образом, можно будет избежать недостатков этой технологии и воспользоваться преимуществами.

Сейчас же существуют различные тесты выявляющие предрасположенности. На их основе можно было бы усилить мотивацию в правильном направлении.

Например, у человек предрасположенность к математике, но она ему не интересна, а данная технология могла бы запрограммировать этот интерес.

Можно выделить ряд условий:

1. Предоставлять не всем людям подряд;
2. Предоставлять четко определенные программы в зависимости от индивидуальных предрасположенностей личности;
3. Возможно принудительное возвращение человека в первоначальное состояние, если что-то пойдет не так.

> не бывает плохих идей, бывают плохо реализованные

Да. Возможно, при наличии строгого контроля можно использовать эту гипотетическую технологию во благо.

Я бы по началу использовал это в терапевтических целях и не давал бы принимать решение самому человеку – только при консультации со специалистом. Был бы бум психотерапии нового поколения.

Использовать можно для лечения психозов, навязчивых идей, создании заинтересованности в учебе, определенном образе жизни, лечении вредных привычек, в сфере любовных отношений. Браку по расчету/разуму придать любви, страсти :) Устранение невзаимности.

Сергей Можаров

> Возможность изменить себя, свои цели ставит человека перед выбором, перед которым он никогда не стоял.

Не согласен. Такой выбор перед нами всегда стоит. Походы к психологу, аутотренинги, гипноз, избавления от вредных привычек/выработка полезных,… да много есть вариантов работы со своим подсознательным/бессознательным. Люди постоянно работают со своим иррациональным.

Технология может упростить эту работу, сделать её более быстрой и эффективной, увеличить глубину и расширить диапазон воздействия.
Тут и возникает ситуация о которой я уже писал – изменения не проходят "проверку временем". В связи с чем возрастает вероятность промахов и, возможно, нужен кто-то со стороны, чтобы помочь устранить эти промахи. Либо некая система "пробных состояний" – программируешь себя на неделю жизни "с определёнными ценностями", а потом насильно возвращаешься в исходное состояние и по воспоминаниям уже можешь оценить полученный опыт.

> Это равносильно тому, что наше первичное целеполагание будет основываться исключительно на рациональном подходе.

Опять не согласен. Скорее будет ощутимее воздействие иррациональной доминанты. Например человек любит пончики и хочет похудеть. В зависимости от того, какая цель для него приоритетнее он или откажется от пончиков, или забьёт на похудение… или будет чередовать :)… а тут он раз и навсегда (исходя из приоритетной цели, скажем, похудеть) "выключит" любовь к пончикам и включит любовь к морковке (и такое же удовольствие от неё как от пончиков). То есть, согласует свои иррациональные цели относительно иррациональной доминанты.

> Мое мнение на этот счет – это приведет к полному хаосу.

Согласен отчасти. Как я уже писал ранее, по-моему это приведёт к перестройке личностей под ирр. доминанты. А так как они могут быть разными, то произойдёт расслоение общества. Не думаю, что все скатятся к "крысам с педалькой", но социальные процессы сильно ускорятся. Как в недавнем видео группы о легализации наркотиков – по прогнозам – после легализации от 17 до 20 процентов населения помрут. Но в перспективе легализация оздоровит общество. Как и разрешение на ношение оружия. Как и возможность изменять свойства плода химическим путём по заказу родителей (только некоторые глухие специально сделали своих детей глухими – мол общая культура и т.д. Большинство же употребило такую возможность для излечения врождённых заболеваний).

Все эти реформы исходят из того, что людей, способных использовать свободу больше, чем людей к этому неспособных. То есть при доступности самомодификаций большинство продвинется в общепринятом обществом иррациональном направлении, так как доминанты эти закладываются обществом и у всех примерно схожи. Но, безусловно, будут и потрясения.

Как это можно контролировать – интересная для обсуждения тема. Вкупе с построениями прогнозов, как оно примерно будет :)

Артём Манякин

> Однако, замечу, что не бывает плохих идей, бывают плохо реализованные.

По сути (а не по форме :)) согласен. Ниже опишу своё виденье.

Всем рекомендую "Золотой Век" Джона Райта. Довольно подробно, и, как мне кажется, правдоподобно раскрыта обсуждаемая здесь тема. В общих словах – какое общество там описано:

1. Свобода личности, если она не ущемляет чужие права, является абсолютной ценностью. В книге есть множество примеров, когда это приводит к тому, что человек по своему желанию кромсает себе память, меняет личность, уходит в виртуальные миры, деградирует, а родственники могут его только пытаться переубедить – никак ущемить его свободу в том, что по их мнению является саморазрушением, они не могут. Как одно из проявлений такой свободы есть возможность заключить "договор оборотня", когда другой человек вправе ущемить твою свободу, если увидит в том необходимость. Такой договор означает, что заключающий его доверяет другому человеку больше чем себе самому.

2. Есть различные "школы" – фактически различное мировоззрение – одни дорабатывают себя на чувственное восприятие, другие специализируются на беспристрастности, третьи гедонисты, четвёртые держутся за традиции и т.п. У каждой школы есть устав, принципы, поддержка, влияние и т.п. Так что человек может выбрать что ему ближе и развиваться в выбранном направлении.

3. Есть различные нейроформы – ещё более глубокие модификации, когда изменяется сама структура мозга (ов), что, несомненно оказывает влияние на личность.

4. Есть сообщество наставников, которые коллегиально могут объявить кому-либо осуждение или бойкот. Если человек "заходит далеко" в своей свободе и формально придраться не к чему, то наставники, представляющие общество могут изъявить свою свободу и отказаться от этого человека, или наказать его. Вобщем, "если ты плюнешь на общество, то общество стерпит, но если оно плюнет на тебя, то ты утонешь".

Есть ещё много чего интересного, но основные тенденции касательно темы, мне кажется, подмечены довольно верно. Тотальный леголайз в итоге неизбежен. Контроль навряд-ли оправдан – человек работает над собой – это его неотъемлемое право. Максимум что, по моим представлениям допустимо, это пропаганда, консультации, выставление критериев для какого-либо вида деятельности или вхождения в определённое общество. "Пришёл на работу – будь добр – подкрути интерес к работе и убавь посторонние мысли", "хочешь считаться членом студенческого братства – повышай IQ и безбашенность"… ну или типа того :)

Согласен – эта книга отличная иллюстрация к обсуждаемому вопросу.

Хотел к сказанному Владимиром ( с ним я согласен также по его предыдущим постам в этой теме) добавить, что в этой книге показано общество пост-людей.

Таким я его себе вполне представляю.

Нигде пока что я не видел более внятного описания этой эпохи.

Порекомендую также прочитать две книги: "Гиперион", "Падение Гипериона" Симмонса (вторая – продолжение первой и именно во второй очень наглядно описано, но первая – необходимая вводная. Кроме того первая – безупречна в художественной форме) .

Здесь показана эпоха, непосредственно предшествующая той, что в "Золотом веке".

Она уже ушла от нашей в очень многом,- но там всё еще сохраняется человек по мыслям, телу и социуму.

Однако уже присутствуют и иные создания, организмы и сущности.

"Гиперион" и "Падение" – шедевр научной фантастики. Одно из самого лучшего, что я читал в этом жанре.

Особенно первая книга.

Хорошо все описано, Владимир, но сводится к тому, что нужно хорошо регулировать. Наверно, с развитием технологий это будет проще, чем сейчас.

Опять таки, на мой взгляд, совершенно не приемлем вариант – "от 17 до 20 процентов населения помрут."

Ну, не пойдет на такое государство, а что будет в обществе, я вообще молчу.

По моему, пахнет утопией.

Таким образом, вопрос о предоставления возможности менять иррациональные или рациональные цели, у меня наталкивается на непреодолимую проблему на самой начальной стадии реализации.

Можно ли решить эту утопичность? И если ли она, может я ошибаюсь?

P.S. "Однако, замечу, что не бывает плохих идей, бывают плохо реализованные."

Я с этим тоже не совсем согласен, хотя написано, как истина в последней инстанции)))

#26
> Люди постоянно работают со своим иррациональным

В том-то и дело, что они "постоянно работают". И делают это лишь очень немногие: те, у кого есть на это время, деньги, мотивация и сила воли. Остальные лишь комментируют "ах какой он волевой человек, я так не могу".

Многие бросают на полпути, не добиваясь желаемого. Другие по этой причине даже не пытаются ничего делать.

Из-за возможности менять свое иррациональное по щелчку пальца у человека действительно будет выбор, какого раньше не было. Это будет не просто "быстрее и эффективнее", это приведет к структурным изменениям в обществе.

Раньше у людей тоже был выбор экспортировать яблочки из Южной Америки, правда на корабле в течение нескольких недель. Никто этим не занимался. Зато как самолеты появились, мир совсем другим стал. Изменения такого же масштаба произойдут и с человечеством.

Придумайте сейчас телепортацию и введите ее в массы – помимо того, что летать по свету будет быстрее и дешевле, будет много других изменений в обществе, которые по своему значению полностью перекроют эту "быстроту и дешевость" перемещения. Появится много следствий, более важных, чем причина. Мир полностью изменится.

>> Это равносильно тому, что наше первичное целеполагание будет основываться исключительно на рациональном подходе.
> Опять не согласен. Скорее будет ощутимее воздействие иррациональной доминанты.

Владимир, я не понимаю ход твоей мысли. Контроль своего иррационального будет производиться по свободной воле человека. Человек уже не будет руководствоваться принципом максимального удовольствия. Он будет руководствоваться РАЗУМОМ, потому что его разум может все его удовольствия расставить по местам.

Он выберет морковку вместо пончиков, и плевать ему будет, что пончики вкуснее. Вкус пончиков вообще не будет никак влиять – не будет даже рассматриваться как фактор.

Сознательно подкручивать свои иррациональные предпочтения ради того, чтобы удовлетворить другие иррациональные предпочтения (которые тоже можно подкрутить) – это абсурд.

Эта цепочка должна и будет управляться разумом. Иначе люди скорее будут растерянным и неустойчивыми, чем узко специализированными. Будут пробовать все подряд, а не только картины рисовать (если это общество художников). И невозможно будет понять, почему они это делают, а не то. Предсказать поведение тоже будет невозможно. Хаос будет во всем.

Скорее человек полностью избавится от иррационального и будет следовать разуму. Понятия удовольствия или удовлетворенности будут подчиненными разумному выбору и станут ненужными. Они перестанут нести тот смысл, которые несут сейчас.

Возможно, я ошибаюсь сильно во всем этом. На мой взгляд, этот гипотетический мир будущего не так просто проанализировать и спрогнозировать – слишком много переменных.

С недоверием отношусь к фантастике – там все слишком просто и замечательно. Фантасты пишут так, как хотелось бы все видеть. Чтобы было интересно читать, и книга покупалась. Неинтересные или неприятные моменты опускаются. Возможные проблемы игнорируются. Мне интереснее обсудить проблемы и их решения, а не восхищаться тем, как оно все у фантастов в голове выстраивается. Хотя, кому как :)

Согласен с оценкой Артема, что приведенная в #27 модель похожа на утопию. Она не рассматривает проблем, которые неизбежно возникнут при попытке реализовать такое устройство общества.

Совершенно не понятно, как будет обеспечиваться стабильность общества при наличии полной свободы. Очень сомневаюсь, что принцип "если ты плюнешь на общество, то общество стерпит, но если оно плюнет на тебя, то ты утонешь" будет работать при условии, что любой человек может легко настроить себя на получения удовольствия от такого утопания.

В общем, за всем этим нужен контроль.

Артём Манякин

> По моему, пахнет утопией.

А тотальный контроль "пахнет антиутопией" :) Разверни – в чём утопичность? Легализация наркотиков и разрешение на ношение оружия – тоже утопия? Или просто "меньшее из зол"?

Сергей Можаров

> Раньше у людей тоже был выбор экспортировать яблочки из Южной Америки, правда на корабле в течение нескольких недель. Никто этим не занимался. Зато как самолеты появились, мир совсем другим стал. Изменения такого же масштаба произойдут и с человечеством.

Как ни крути – и сегодня есть методы работы с иррациональным. Согласен с тем, что в случае описываемой технологии это будет уже совсем другой уровень. Но _нового_ выбора стоять не будет – люди будут ориентироваться в самомодификациях всё тем же имеющимся у них на данный момент иррациональным. Большинству именно оно и не даст стать "счастливым овощем".

> Появится много следствий, более важных, чем причина. Мир полностью изменится.

Вот и здесь предлагаю обсудить такие следствия. На мой взгляд – это, прежде всего, расслоение общества. На твой – полный крах и анархия?

> Владимир, я не понимаю ход твоей мысли. Контроль своего иррационального будет производиться по свободной воле человека. Человек уже не будет руководствоваться принципом максимального удовольствия. Он будет руководствоваться РАЗУМОМ, потому что его разум может все его удовольствия расставить по местам.

Ход мысли простой. Если все изначальные цели иррациональны, то и изменение своего иррационального тоже исходит из какой-то иррациональной цели. То есть, как я описывал, есть доминанта, и есть сопутствующее. С такой технологией всё иррациональное будет легче выстроить вокруг той иррациональной доминанты, что есть в человеке.

> Он выберет морковку вместо пончиков, и плевать ему будет, что пончики вкуснее. Вкус пончиков вообще не будет никак влиять – не будет даже рассматриваться как фактор.

О том и разговор – потому что иррациональная доминанта "похудеть" для него важнее. Для кого-то доминанта "познание и развитие". И он будет выстраивать всё вокруг неё – избавляться от лени, неуверенности, чего-то ещё. Он изначально просто не захочет становиться "овощем". Для кого-то доминанта – удовольствия – он всё и будет под неё подстраивать – разовьёт себе в мозге десятки центров удовольствия, будет выдумывать различные виды стимуляции и т.п…. Вобщем люди бывшие раньше просто разными станут кардинально разными – то самое расслоение общества.

> Сознательно подкручивать свои иррациональные предпочтения ради того, чтобы удовлетворить другие иррациональные предпочтения (которые тоже можно подкрутить) – это абсурд.

Нет – не абсурд. Иррациональное человеку необходимо для того, чтобы ставить цели. Фактически иррациональное – это те самые цели и есть, путь к достижению которых уже ищется через рациональное.

> Скорее человек полностью избавится от иррационального и будет следовать разуму. Понятия удовольствия или удовлетворенности будут подчиненными разумному выбору и станут ненужными. Они перестанут нести тот смысл, которые несут сейчас.

Как ты себе представляешь целеполагание без иррационального? Вроде бы уже разобрались и договорились, что всё в итоге сводится к "хочется". Если нету никакого "хочется", то в каком направлении двигаться?

> Мне интереснее обсудить проблемы и их решения, а не восхищаться тем, как оно все у фантастов в голове выстраивается. Хотя, кому как :)

Думаю всем здесь так же. Просто иногда то, что у них "в голове выстраивается" согласуется с тем, что выстраивается и у меня – поэтому и привожу как пример. Плюс, если кто читал, то сразу же появляется общих моментов для обсуждения.

Сергей Можаров

> Очень сомневаюсь, что принцип "если ты плюнешь на общество, то общество стерпит, но если оно плюнет на тебя, то ты утонешь" будет работать при условии, что любой человек может легко настроить себя на получения удовольствия от такого утопания.

Ну так пусть настраивает себя на что хочет. Просто он не сможет вредить обществу, не сможет получать то, чем владеет член общества. А попробуй выгони современного человека жить в лес и питаться подножным кормом. Каким бы это ни было для него удовольствием, не думаю, что он долго протянет. А с ускорением прогресса увеличивается и зависимость человека от общества.

Я не вижу здесь какой-то утопичности. Основная идея в том, что большинство людей разумны и могут сами решать что с собой сделать. Чем ближе общество к такому состоянию, тем меньше потрясений оно будет испытывать при получении подобной технологии. Без сомнения, если "раздать ружья дикарям, то племён станет значительно меньше".. но есть же тот уровень развития, при котором подобная технология пойдёт обществу на пользу? Или по вашему с Артёмом мнению никакой человек в принципе не способен использовать подобную технологию. Тогда кто вообще способен?

По поводу моей фразы "Сознательно подкручивать свои иррациональные предпочтения ради того, чтобы удовлетворить другие иррациональные предпочтения (которые тоже можно подкрутить) – это абсурд"

Ключевой момент в ней – это слова в скобках. Не было бы их, не было бы абсурда.

Я согласен с твоими возражениями только в том случае, если самые глубинные инстинкты остаются нетронутыми. К этому относятся в первую очередь инстинкты самосохранения, продолжения рода.

Однако наличие технологии манипулирования иррациональным не остановит человека манипулировать и этими инстинктами. Будут пробовать – ради любопытства. Сама возможность свободно это делать приведет к хаотичному расслоению по базовым инстинктам и коллапсу общества.

> Как ты себе представляешь целеполагание без иррационального? Вроде бы уже разобрались и договорились, что всё в итоге сводится к "хочется".

Договоривались в применении к нашему реальному миру. В случае описываемого тобой мира будущего я ставлю под сомнение саму эту аксиому об иррациональности целеполагания.

Потому что это "хочется" можно будет изменить как угодно с помощью разума. Человек будет стремиться выживать уже не потому, что это у него такая иррациональная программа, а потому что он подумал и посчитал, что менять эту программу неразумно. Посчитал бы иначе – поменял бы нажатием одной кнопки. Сейчас у него такого выбора нет, а в будущем будет.

Разум выйдет на позицию первичного, а все иррациональное станет ему подконтрольным, вторичным. В результате все неразумные иррациональные программы исчезнут из общества как излишние. Останутся только те программы, которые люди будут считать разумными. При желании человек и их изменит, и поставит перед собой другие, более разумные цели.

> Основная идея в том, что большинство людей разумны и могут сами решать что с собой сделать

Люди и будут решать за себя, а не инстинкты их.

При этом я вижу большую проблему. При наличии плавающих базовых установок непонятно, по каким критериям человек будет определять, что разумно, а что нет. Размуно будет для него, но не обязательно для общества. Универсальности не будет. Вся универсальность должна сводиться к неизменности иррационального базиса, который уже не будет неизменным.

> Ну так пусть настраивает себя на что хочет. Просто он не сможет вредить обществу

Запросто сможет. Стоит только разозлиться на общество, и захотеть отомстить ему. Подкрутит гайку на получение удовольствия от вреда и вот тебе террорист-смертник за 5 минут. Наберется таких человек 10 и пипец всему обществу. Учитывая легкость осуществления такой модификации, таких будет гораздо больше, чем их сейчас.

> но есть же тот уровень развития, при котором подобная технология пойдёт обществу на пользу?

Думаю, что получение пользы от такой технологии возможно только при сохранении неприкосновенности своих базовых инстинктов, то есть при наличии запрета их менять. Это единственное, в чем я считаю нужно ограничить свободу. Эти базовые инстинкты должны быть неприкосновенными. На их неприкосновенности держится общество. Без их неприкосновенности любое общество – это утопия, имхо.

Стабильность общества с легализованными наркотиками тоже держится на неприкосновенности базовых инстинктов людей. Думаю, что в обществе будущего наркомания вообще не будет проблемой, потому что можно будет легко от нее вылечиться при желании. Главное – чтобы было желание. Но без запрета менять свой базис его не будет.

Я согласен с Сергеем.

Единственное, поясню, что Владимир понимает под иррациональным. Иррациональная цель по Владимиру это любая базовая цель.

Т. е. если с помощью программы мы поставим себе не эволюционную цель самосохранения, а свою – самоуничтожение, то она все равно будет базовой, а значит иррациональной.

Критерий, приводимый Владимиром, состоял в том, что иррациональные цели не выводятся (не из чего выводить), а либо существуют объективно (заданы эволюцией) или берутся с потолка, произвольно (создаются по программе).

> >Основная идея в том, что большинство людей разумны и могут сами решать что с собой сделать

>Люди и будут решать за себя, а не инстинкты их.

Владимир, также указывает на то, что инстинкты ничего не решают уже сейчас. Мы же можем покончить с собой и без перепрограммирования? Можем.

Но, это все мелочи. Главное, на мой взгляд, в том, что мнение Владимира, – "На мой взгляд – это, прежде всего, расслоение общества." равно, при учете масштаба этого расслоения и его динамике, мнению Сергея, о том, что наступит полный крах и анархия.

Масштаб расслоения и динамика будут такими, что контроль невозможен.

А как выше было подмечено Сергеем и мной, что человек (в смысле большинство людей) пойдет по самому простому пути – перепрограммирует себя на получение удовольствия от бездействия. Бездействие всего общества это его конец.

Эволюцией заложено стремление к преодолению препятствий и развитие к лучшему, а при данной технологии в обществе все будет с точностью до наоборот, так как оно пойдет по пути наименьшего сопротивления. Зачем прикладывать усилия, если можно получать удовольствие от негатива, не преодолевая его?

Мне кажется, что Сергей, пошел в правильном направлении, говоря об введении критериев пользования данной программой – "глубинные инстинкты остаются нетронутыми".

Любое абсолютизирование в этом вопросе будет утопично.

># 30 На мой взгляд, этот гипотетический мир будущего не так просто проанализировать и спрогнозировать – слишком много переменных.

С этим я согласен, но можно попробовать ради интереса)))

> Иррациональная цель по Владимиру это любая базовая цель.
Т. е. если с помощью программы мы поставим себе не эволюционную цель самосохранения, а свою – самоуничтожение, то она все равно будет базовой, а значит иррациональной.

Понятно. Тогда, чтобы избежать ненужного ответвления дискуссии в спор о понимании иррациональности, я скорректирую свои слова "я ставлю под сомнение саму эту аксиому об иррациональности целеполагания":

Иррациональность (в понимании Владимира) останется и в моей трактовке реальности будущего. Но она будет беспорядочной, поскольку будет подвластна хаотичному влиянию свободной воли человека. Я об этом говорил другими словами в #33:

"При наличии плавающих базовых установок непонятно, по каким критериям человек будет определять, что разумно, а что нет"

Не важно как называть такое целеполагание (рациональными или иррационвальным). Важно то, что оно будет беспорядочным и непредсказуемым.

> Владимир, также указывает на то, что инстинкты ничего не решают уже сейчас. Мы же можем покончить с собой и без перепрограммирования? Можем.

Я не согласен с тем, что инстинкты ничего не решают сейчас. Инстинкты очень многое решают сейчас, потому что к ним все наши цели и сводятся. Покончить с собой человек может, но у большинства кишка тонка это сделать – именно из-за наличия инстинкта. Человек уже решился, и вот в последнюю минуту передумывает. Это далеко не так просто сделать, как может показаться.

Я думаю, что большинство самоубийств совершаются сознательно, обдуманно. Самоубийцам удается перепрограммировать свои базовые инстинкты так или иначе, или хотя бы создать им "сильную оппозицию". Но сделать это нелегко.

В результате уровень самоубийств в мире несопоставимо низок по сравнению с уровнем неудовлетворенности жизнью. Большинство неудовлетворенных находят решение своим проблемам различными способами. Отсюда и получается устойчивость общества, в котором безпрепятственно можно совершить самоубийство. Не будет неизменности базовых инстинктов – не будет и устойчивости.

Сейргей Можаров

> По поводу моей фразы "Сознательно подкручивать свои иррациональные предпочтения ради того, чтобы удовлетворить другие иррациональные предпочтения (которые тоже можно подкрутить) – это абсурд"

> Ключевой момент в ней – это слова в скобках. Не было бы их, не было бы абсурда.

Даже если "подкрутить" можно всё – не всё будет подкручиваться.
Для иллюстрации предлагаю мысленный эксперимент.

Есть возможность получить миллион долларов. Для этого достаточно "нажать на кнопку". Единственное условие – где-то в мире от этого погибнет мучительной смертью 10 детей. Если вы соглашаетесь на получение денег таким способом, то вам тут же стирают память об этом событии (вы забудете о том, что заплатили за этот миллион жизнью детей), а на следующий день получение вами денег подстроят, скажем, вашим выигрышем в лотерею.
Согласитесь ли вы на эти "лёгкие деньги"?

Думаю, что навряд ли, как и большинство. Да – ты будешь знать, что завтра ты об этом и не вспомнишь, будешь богачём с чистой совестью, но твои _сегодняшние_ принципы не дадут так поступить. А может кому-то и дадут – если у него другие принципы, но не дадут пожертвовать чем-то другим. Об этом и говорю, что в любом случае остаётся "иррациональная доминанта" с учётом которой и будут производиться модификации.

Артём Манякин

> Владимир, также указывает на то, что инстинкты ничего не решают уже сейчас. Мы же можем покончить с собой и без перепрограммирования? Можем.

Нет, я такого не говорил. Я говорил о том, что и сегодня мы можем менять своё иррациональное – медленно, постепенно, но всё же можем.

> Главное, на мой взгляд, в том, что мнение Владимира, – "На мой взгляд – это, прежде всего, расслоение общества." равно, при учете масштаба этого расслоения и его динамике, мнению Сергея, о том, что наступит полный крах и анархия.

Расслоение не подразумевает крах. Просто большее разнообразие. К тому же базовое иррациональное в людях довольно схоже, а так как я предполагаю, что самомодификации будут проводиться в первую очередь для выстраивания личности относительно базового иррационального, то и считаю, что расслоение будет не настолько фатальным, чтобы отдельные сообщества не смогли договориться. Но несомненно, есть некая планка (или, скорее, тенденция) личностного развития при которой личность, получившая такую технологию только ускорит своё саморазрушение. Если сегодня для такой личности есть время на то, чтобы получить какой-то опыт, переосмыслить что-то, то с подобной технологий можно на основании сиюминутного импульса разрушить свою жизнь. Но думаю, что таких людей всё-же меньшинство.

Как мне кажется, на получение подобной технологии может быть возрастной ценз (человек должен обладать определённым жизненным опытом). Но в остальном – это право человека делать с собой что-либо, не ущемляя прав других людей. Безусловно, важно просвещение и описание возможных последствий.

> Даже если "подкрутить" можно всё – не всё будет подкручиваться.
Согласитесь ли вы на эти "лёгкие деньги"?

Я не соглашусь на эти легкие деньги. Да, это сильный аргумент. Однако, я склонен считать, что желающих будет не так мало – наверняка гораздо больше, чем сейчас преступников. Помимо этого не исключен вариант, что эта технология будет использоваться нелегально против воли человека (например, пока он спит) – с целью личной наживы. И контролировать такие нарушения может быть трудно.

Также наверняка может набраться некая критическая масса нарушающих, которая изменит общие настроения в обществе, после чего будет трудно удерживать ситуацию под контролем. Динамика изменений будет не сопоставима со скоростью реакции контролирующих органов и мобилизации ресурсов на устранение проблемы.

Если бы сейчас в России набралась такая критическая масса активистов, действующих против тоталитарной системы в стране, остальные начали бы быстро подтягиваться, и ситуация быстро изменилась бы.

Еще одна проблема состоит в том, что человек не может с точностью предсказать свое поведение и свои желания после того, как он подкрутит что-то в своей голове. Возможно, эмоциональный, гормональный уровень изменится при незначительной модификации, и в таком состоянии человек уже сможет с большей легкостью нажать на кнопку или совершить другие непредсказуемые действия.

В общем, я не верю в стабильность при наличии возможности свободной модификации базовых ценностей. Это противоречит моим представлениям о принципе функционирования самоорганизованных систем.

Мне кажется, что было бы безопаснее и проще изначально запретить возможность менять базовые установки, чем жить под страхом начала неконтролируемого коллапса общества.

> на получение подобной технологии может быть возрастной ценз

Это было бы разумно. Помимо возрастного ценза я бы еще что-нибудь добавил. Например, человек должен пройти какой-нибудь тест на адекватность или что-то вроде этого. В будущем наверняка будут надежные психологические тесты, позволяющие оценить стабильность внутренних первичных установок. В общем, должны быть какие-то ограничения и запреты. Из-за этого возникнет "черный рынок" и необходимость создавать структуру контроля с системой наказаний.

Дилемма такая: разрешить всё и потом ломать голову и выделять кучу ресурсов на поддержание стабильности общества, или все-таки запретить что-то или изначально так технологию построить, чтобы она не могла трогать базовые иррациональные структуры в нашей психике – и построить стабильное самоорганизованное общество с минимальным вмешательством из вне?

> Помимо этого не исключен вариант, что эта технология будет использоваться нелегально против воли человека (например, пока он спит) – с целью личной наживы. И контролировать такие нарушения может быть трудно.

По этому же принципу можно не производить ножей. Потому, что "не исключён вариант", что ножом кого-то зарежут "пока он спит" :) Это будет похуже, чем если кому-то подкрутят мотивацию в сторону "отдай этому хорошему человеку все деньги, что у тебя есть".

> Еще одна проблема состоит в том, что человек не может с точностью предсказать свое поведение и свои желания после того, как он подкрутит что-то в своей голове. Возможно, эмоциональный, гормональный уровень изменится при незначительной модификации, и в таком состоянии человек уже сможет с большей легкостью нажать на кнопку или совершить другие непредсказуемые действия.

Для этого и нужно просвещение, обучение… Любой сложный инструмент подразумевает определённое обучение перед использованием, технику безопасности (например время на тест-драйв модификаций с обязательным откатом назад и т.п.). И да, такая технология как раз предполагает большую предсказуемость. Ведь чтобы что-то изменять это должно быть сперва исследовано (как и писалось в первых постах – рефакторинг и т.д.). Таким образом обладая такой технологией человек гораздо лучше знает и контролирует чего ему завтра от себя ожидать. Без технологии он может и сам не видеть каких-то своих скрытых мотивов и ему хоть что может "в голову ударить".

> В общем, я не верю в стабильность при наличии возможности свободной модификации базовых ценностей. Это противоречит моим представлениям о принципе функционирования самоорганизованных систем.

Мне видится формирование сообществ "по интересам" и чрезвычайная стабильность этих сообществ. Частью устава сообщества могут быть определённые моральные ценности и интересы. Входя в это сообщество человек соглашается на его условия и изменяет себя в соответствии с его требованиями (ну и, соответственно, получает что-то взамен). На мой взгляд – предельно честное соглашение между человеком и сообществами, с которыми он взаимодействует. Или представь себе такую ситуацию – два человека, заключая договор, подкручивают свои личности на приоритет в выполнении такого договора… у судов работы сильно поубавится :)

> Мне кажется, что было бы безопаснее и проще изначально запретить возможность менять базовые установки, чем жить под страхом начала неконтролируемого коллапса общества.

Коллапс изящно предотвращается, когда сообщество декларирует обязательные ценности индивидуумов, входящих в это сообщество. Если индивид не попадает в этот определённый заданный диапазон критериев и не хочет себя менять, то он или ищет другое сообщество или живет отшельником – в обществе себя самого. Всё по справедливости.

Мне кажется было бы удобно, если каждый имел бы, скажем, сводный профайл, где отражались бы основные характеристики его личности и текущее настроение/уровень агресси/прочее… Вступая в контакт с человеком есть возможность ознакомиться с его профайлом и быть в курсе кто перед тобой. Свобода подразумевает открытость – тогда всем проще будет.

Вообщем, ты излагаешь устройство общества и личности в "Золотом веке"….

Там действительно открытость – и это (как ни странно) работает на защиту интересов отдельной лчиности.

И там эта защита очень хороша.

> Вообщем, ты излагаешь устройство общества и личности в "Золотом веке"….

По большей части. Но стараюсь больше не делать ссылок на эту книгу (так как Сергей и Артём не читали), а приводить разъяснение и описание основных принципов.

Представьте себе "зоны без агрессии и насилия", "зоны любви", "зоны эстетического экстаза". При входе в такую зону человек соглашается на декларируемые в ней параметры личности – они изменяются и, пока человек находится в этой зоне, постоянно контролируются (чтобы не выходили за пределы), автоматически подстраиваются. Ура "мобильным излучателям", массаракш! :)

>> Сергей Можаров – Мне кажется, что было бы безопаснее и проще изначально запретить возможность менять базовые установки,

> № 38 Если индивид не попадает в этот определённый заданный диапазон критериев и не хочет себя менять, то он или ищет другое сообщество или живет отшельником – в обществе себя самого.

Я согласен с Сергеем и думал, что ты тоже согласишься, так как только при такой возможности можно дальше рассуждать об обществе с контролируемым целеполаганием и мотивацией.

Ты же предлагаешь не накладывать запрета на подкручивание базовых ценностей, а ждать пока этот человек по каким-то непонятным причинам будет изолирован от общества и не будет ему мешать.

Первое сообщество у шахидов будет – сообщество террористов. Вот и подождем пока они будут жить отшельниками.

># 38 По этому же принципу можно не производить ножей.

Данный пример, на мой взгляд, не уместен, так как ножи не влияют на волю людей, а подкручивание – да.

Когда речь идет о технологиях массовой доступности, которые будут влиять не предсказуемо (а они так и будут влиять – рефакторинг не поможет) на общество, то наступит коллапс.

Мне также не ясно, какие критерии будут вводиться. Их должно быть очень много.

Практически любое изменение будет влиять на общественные отношение, а что самое опасное на экономические.

Был человек программистом в Эппл, но его в художники вдруг потянуло.

> Я согласен с Сергеем и думал, что ты тоже согласишься, так как только при такой возможности можно дальше рассуждать об обществе с контролируемым целеполаганием и мотивацией.

Почему? Неужели можно обсуждать только контроль и ограничения, а не, скажем, возможности и перспективы.
К тому же я не говорю о полном отсутствии ограничений. Ограничения должны быть внутри сообщества, декларирующего их. Индивид же должен иметь возможность свободно выбирать из предложенного ему разными сообществами. Иначе получается, что кто-то (а не я сам) диктует мне чего хотеть и как на _базовом_ уровне. И я не могу выйти из под власти этого кого-то.

> Первое сообщество у шахидов будет – сообщество террористов. Вот и подождем пока они будут жить отшельниками.

При доступном профайле их можно будет вычислить быстрее, чем сейчас, ориентируясь на "подозрительную бороду".

> Данный пример, на мой взгляд, не уместен, так как ножи не влияют на волю людей, а подкручивание – да.

Ага – ножи на волю не влияют. Но влияют на само наличие волеизъявителя.

> Практически любое изменение будет влиять на общественные отношение, а что самое опасное на экономические.

То есть ты тоже придерживаешься мнения, что изменения будут хаотичны, не будут строиться вокруг базовой иррациональной доминанты? Если нет, то программист эппл станет только больше любить программирование.
Хаотичные изменения могут быть у подростков. Но о введении возрастного ценза я уже говорил. Также добавил бы сюда наличие определённых необходимых курсов (как водительские права). Во всём остальном наличие ограничений может быть обусловлено лишь зрелостью общества. То, что я описывал выше относится, главным образом, к тому, к чему следует стремиться.

Возможно начал не с того конца… давай попробуем последовательно..

1. Расшифровывается и моделируется работа человеческого мозга, создаются инструменты для манипуляции и настройки. Технологии пока достаточно дороги -> применяются в дорогих клиниках для лечения тяжёлых неврологических и психических расстройств. О работе с "любовью к булочкам" и речи не идёт.

Какие есть опасности на этом этапе? Какие результаты по его прохождении?

2. Удешевление нанотехнологий даёт возможность самонастройки для среднего класса. То есть технология становится общественно доступна для домашнего применения, но только для определённых слоёв общества.

Что здесь может пойти не так? Результаты этапа?

3. Технология стоит как сегодня бутылка с минералкой.

Конечный этап – аналогичные вопросы.

перенос из "Когда на руси жилось хорошо" http://vkontakte.ru/topic-3090109_22481060?offset=41

Сергей Перовский
23 дек 2011 в 13:14

Счастье – достижение цели. Так что все зависит от того, какие цели мы себе ставим и как к ним двигаемся. Отсюда – счастье Победы: миллионы людей разом достигли очень важной для всех цели. Вспоминаются, как счастливые, периоды, когда была большая общая цель и было ощущение движения к ней.
А вот с частными целями на Руси хуже. И с их появлением и с достижением. Как-то не умеем мы всерьез относится к своим персональным целям.
Получаем парадоксальную картину: периоды диктатур, навязывающих людям общие великие цели в ущерб частной жизни, вспоминаются как счастливые, но страшные. А периоды, когда исчерпав ресурсы, государство вынуждено отказаться от крупных проектов и дать народу пожить "для себя", оказываются мирными, но унылыми.
Вот и выбирай, что из этого хорошо.

перенос из "Когда на руси жилось хорошо" http://vkontakte.ru/topic-3090109_22481060?offset=43

Татьяна Овчинникова
24 дек 2011 в 23:09

Сергей, Парадоксом это кажется потому, что цель военной победы – это как раз частная мелкая "цель", честнее назвать её мишенью. Ведь она временная.
Похоже, что в периоды перемирий люди улавливают, что истинной Цели нет, поэтому мучаются душевным раздраем, начинают искать правды, и это риск для властей скрывающих эту правду. И власть вынуждена устраивать отвлекухи – войны, чтоб перенаправить хотя бы на выживание, на "некогда задумываться". Даёт фальшивые мишени – отвлечь от истинной Цели.
Фальшивка же со временем разоблачается, линяет её позолота. Так русские сейчас задумываются "как так, такую Победу отгрохали, а почему-то мир нас за это не любит?" Значит, не то сделали, цель была подменена.

перенос из "Когда на руси жилось хорошо" http://vkontakte.ru/topic-3090109_22481060?offset=45

Сергей Перовский
25 дек 2011 в 4:23

Татьяна, мы уходим от темы. От того, что Вы пишете Цель с большой буквы, она яснее не становится. Целеобразование – одна из сложнейших и важнейших функций интеллекта. Но, как ковбойская работа, она не может быть закончена: выбирать цели, как пасти коров – нужно будет постоянно. В условиях критических это делать проще.

перенос из "Когда на руси жилось хорошо" http://vkontakte.ru/topic-3090109_22481060?offset=46

Татьяна Овчинникова
25 дек 2011 в 20:04

Значит, условия всегда будут и бывают критическими. Чтоб отвлекать интеллект на мелкие цельки, которые ещё и вертятся, как в калейдоскопе.
И делается это намеренно. Потому что как только напишете Цель с бол.буквы, то появится возм-ть понять, что настоящая цель – не разрушать мелкие цели-подмены-отвлекухи, а восстановить цель-цельность. А это совсем не желанно властям.
И "моментная справедливая власть" – это обычно лишь радужный пузырь надежды на справ.власть, быстро разочаровывающий либо население, либо саму эту "справ.власть".
Разочаровывает обычно понимание, что сытость брюха как якобы цель народа "отчего-то" не даёт душевного удовлетворения. Это и есть догадка о фальшивости таких целей.
Пока не сопоставят слова "цели" и "Цель", так и будут гоняться за зайцами.
Задача интеллекта – как раз увод от Цели к "целям". Интеллект – это маааленькая часть разума, как верхушка айсберга, в отличие от задавливаемого подсознания. А степень удовлетворения определяет именно подсознание, что называют "душа просит, душа довольна". Пока интеллект подавляет "голос души" подсовыванием псевдоцелей, душа не может быть довольна. Отсюда "когда же будет хорошо на Руси?"

перенос из "Когда на руси жилось хорошо" http://vkontakte.ru/topic-3090109_22481060?offset=51

Татьяна Овчинникова
27 дек 2011 в 23:59

Сергей, Мастер никогда не отвечал на вопрос "есть ли жизнь" именно скрывая ответ. Ответ в самом вопросе. У этой жизни нет Цели, поэтому на Руси никогда не живётся хорошо. Ведь бесцельно – не хорошо.
И если то, что люди выбирают себе временными целями, не даёт им "хорошей жизни", значит, эти временные цели – ложны.

перенос из "Когда на руси жилось хорошо" http://vkontakte.ru/topic-3090109_22481060?offset=52

Сергей Перовский
вчера в 4:11

"У этой жизни нет Цели".
У любой жизни нет Цели. У нашей жизни есть только тот смысл, которым мы сами его наполняем. Никто за нас этого не сделает.
"Ни бог, ни царь и не герой".
Проблема счастья/несчастья в том, чтобы выбирать цели, которых можно достичь или, по крайней мере, к которым можно ощутимо двигаться.
Очень опасная цель – найти Истину, Справедливость или Цель :) – шуму и усилий масса, а выхлоп нулевой.

скопировано из "Когда на руси жилось хорошо" http://vkontakte.ru/topic-3090109_22481060?offset=54

Сергей Перовский
сегодня в 7:51

Цель не может быть в настоящем. Просто по определению.
А ситуацию человек оценивает "по производной": идет улучшение – хорошо, идет ухудшение (или, даже, не идет улучшение) – плохо.

Сергей, Шуму и усилий много – как раз в процессе поиска несуществующей цели, т.е. неистинной. Ведь надо увлекать, обманывать, а это только шумом, завесой, выхлопом.
А достижение цели – это прекращение шума и беготни.
Значит, беготня и усилия – это уход от цели.