Смена целей

Форум для предварительного обсуждения тем.
Прежде чем организовать обсуждение в отдельном форуме, полезно убедиться, что четко понимаешь о чем говоришь.
Locked
Иван FXS
Posts: 2002
Joined: Thu Jan 15, 2004 11:20 am
Location: Москва - Нижний Новгород
Contact:

Post by Иван FXS » Mon Dec 04, 2006 10:21 pm

Солеваров wrote:у новорожденного ... есть потребность подключиться к ресурсам общества
????
Господи, вразуми неразумных сих!!!
Солеваров wrote:у новорожденного ... среди ... потребностей нет такой - стать личностью ...
в тоже время "личность" у новорожденного есть, только находится она в другом адресе - в представительском :wink: (мать, родня, государство)
- ну точно! Она - личность- загатовлена для него социумом, чтобы - в свое время - быть на него ОДЕТА ... как штанишки. Серьезно.

Prosolver
Posts: 423
Joined: Fri Mar 10, 2006 10:39 am
Location: Киев
Contact:

Post by Prosolver » Mon Dec 04, 2006 11:23 pm

Inex wrote:любое решение можно представить как максимизацию некоторой целевой функции но тогда выбор новой цели должен быть представим тоже как максимизация некоторой целевой функции... но тогда, чтобы не получить дурную бесконечность, таки должна существовать некая базовая (не меняющаяся самим интеллектом) целевая функция, которая в конечном итоге и максимизируется но ни один критерий (ни даже такой, как выживание особи или вида) на роль такой базовой целевой функции не подходит
Есть такой критерий! Обрисую его рядом синонимичных тезисов. Это системное равновесие. Минимум свободной энергии. Спокойствие. Динамический баланс. Системная устойчивость. Упорядочение хаоса.
С переходом количества в качество в мире человека (размножение людей, появление новых технологий и т.д.) появляются такие новые факторы, которые, выводя разум из достигнутого (в какой-то мере) равновесия, требуют от него, соответственно, новых, непривычных, нестандартных решений. Это и есть момент постановки цели! Стало быть общая цель одна - минимизировать волнения в сети связей конкретного разума. Но эти волнения вызываются всё более сложными и сложными факторами среды. Нельзя забывать, что среда - первичный постановщик целей!
Для замкнутой среды интеллект рано или поздно выработает (отточит, эволюционирует) оптимальную стратегию поведения и будет повторять её постоянно. Изменения среды влекут за собой изменение средств по достижению одной только цели - системной устойчивости, динамического равновесия.
Никаких внутренних мотивов для спонтанного (хаотического) изменения целеполагания у интелеллекта быть не может. Зачем это ему?

Тут есть ещё один вектор размышлений, который меня лично не очень устраивает. Это - стремление интеллекта к некоторой цели всей эволюции. Но поскольку эволюция именно своим ходом эту цель вскрывает ("высчитывает"), знать её заранее принципиально оказывается невозможным. Что обескураживает. Поэтому я предпочитаю туда не думать.
Смысл жизни в упорядочении хаоса

Inex
Posts: 1897
Joined: Mon Jan 05, 2004 10:33 am
Location: Санкт-Петербург

Post by Inex » Mon Dec 04, 2006 11:43 pm

Prosolver wrote:Есть такой критерий! Обрисую его рядом синонимичных тезисов. Это системное равновесие. Минимум свободной энергии. Спокойствие. Динамический баланс. Системная устойчивость. Упорядочение хаоса.
Помню, в теме Траяна этот критерий некоторое время назад уже упоминался (не помню, правда, тобой или нет)...
он столь же общий, как и максимизация удовольствия или выживаемость... хороший критерий, но как и остальные, он не может претендовать на базовость, поскольку может быть переопределен
типа, разум, осознав, что его решения направляются этим критерием, может подумать: "а какого вообще хрена? почему я должен действовать по заложенному в меня критерию? подброшу-ка я монетку и буду действовать по другому критерию" - и пойдет увеличивать энтропию себя и вселенной...

может, правда, это лишь результат проекции того же критерия на измененную модель мира, и Lex прав, сводя изменения целевой функции чисто к сложности моделей
"Кто знает, тот делает, кто не знает, тот учит"

Prosolver
Posts: 423
Joined: Fri Mar 10, 2006 10:39 am
Location: Киев
Contact:

Post by Prosolver » Tue Dec 05, 2006 12:02 am

Inex wrote:может подумать: "а какого вообще хрена? почему я должен действовать по заложенному в меня критерию? подброшу-ка я монетку и буду действовать по другому критерию" - и пойдет увеличивать энтропию себя и вселенной
Вы когда-нибудь пробовали откусить себе язык или проткнуть себя ножом? Попробуйте :) Такие Ваши аргументы сразу станут просто мифическими. Во-первых, интеллект будет руководствоваться на локальных участках (между подбрасываниями монеты, ведь нельзя каждую микросекунду менять вектор поведения) критерием спокойствия (например, идти по дороге, а не по обочине). Во-вторых (как ясно из опыта по откусыванию языка) есть всё-таки предел для сознательно принимаемых и конртолируемых решений. Сознание определяет только пик всего комплекса решения по "оспокаиванию" себя - остальное, безусловно, стремит интеллект и организм в целом к гомеостазу.
Кроме этого, принятие решения о подчинении себя монете само должно подчиняться этому глобальному критерию. Возможно интеллект решает подчиняться монете в стремлении изучить себя с целью лучшего контроля над собой! С целью, опять же, лучшего управления. Ведь на практике рано или поздно такие опыты с монетой просто надоедают и интеллект вынужден возвращаться к своему природному поведению. Просто попробуйте подчиниться монете :) Это не выйдет так же как не выйдет откусить язык. Этот мысленный эксперимент - мифический.

И напоследок мой любимый аргумент. Рекуррентный.
Любое действие, в том числе и рассуждение об ИИ, должно подчиняться этой универсальной цели. Если теория ИИ верна, то она должна объяснть и то, каким образм происходит само рассужденние об ИИ. Так вот, наша с Ваим дискуссия тут ставит своей целью именно спокойствие! Мы оба хотим получить точное успокаивающее знание и сказать: "Наконец-то!" И спокойно идти спать и никогда больше не волноваться по этому поводу. Вы, своими ответами, стремитесь создать это понимание и следующее за ним спокойствие и я вслед за Вами стремлюсь к тому же.
Смысл жизни в упорядочении хаоса

Skunk
Posts: 83
Joined: Tue Mar 14, 2006 11:25 am
Contact:

Post by Skunk » Tue Dec 05, 2006 12:03 am

Prosolver wrote:Есть такой критерий! Обрисую его рядом синонимичных тезисов. Это системное равновесие. Минимум свободной энергии. Спокойствие. Динамический баланс. Системная устойчивость. Упорядочение хаоса.
Не могу остаться в стороне ввиду такой несуразности: вроде бы и синонимические тезисы (или термины), но посмотрим по сути
1. Минимум свободной энергии и динамический баланс.
Минимум энергии скорее соответствует статическому балансу, так как в динамическом балансе могут находиться и неравновесные системы. А они отличаются большой свободной энергией.
2. Минимум свободной энергии и Упорядочение. Минимум как раз у системы с максимальной энтропией - у хаотичной системы. Любая упорядоченость, корреляция - это запас энергии, который стремиться рассеяться - хаотизироваться...
Ну а в основном... :) Я соглашусь с тем, что системе ставит перед собой цели самим фактом своего существования. Она не стремится к спокойствию - она прыгает через длиннющую череду бифуркаций, которые болтают её из крайности в крайность... И покой нам только снится :)

Skunk
Posts: 83
Joined: Tue Mar 14, 2006 11:25 am
Contact:

Post by Skunk » Tue Dec 05, 2006 12:06 am

Inex wrote:...разум, осознав, что его решения направляются этим критерием, может подумать: "а какого вообще хрена? почему я должен действовать по заложенному в меня критерию? подброшу-ка я монетку и буду действовать по другому критерию" - и пойдет увеличивать энтропию себя и вселенной...
Тем самым разум изменит критерии даже не поняв как он это сделал.

Inex
Posts: 1897
Joined: Mon Jan 05, 2004 10:33 am
Location: Санкт-Петербург

Post by Inex » Tue Dec 05, 2006 1:15 am

Prosolver wrote: Вы когда-нибудь пробовали откусить себе язык или проткнуть себя ножом? Попробуйте :) Такие Ваши аргументы сразу станут просто мифическими.
Какие именно мои аргументы?
Вообще, люди с собой и не такое делали... вспомни, хотя бы сеппуку.
Да и если я проткну себя ножом, что это докажет? Ты просто скажешь, что я достигал спокойствия путем доказательства своей правоты (правда, я не понимаю пока, правоты в чем именно? :wink: ) таким извращенным методом...
На самом деле, твоя "минимизация энергии" ничего толком не объясняет, поскольку энергию ты трактуешь крайне широко и неопределенно (например, в случае с гомеостазом осуществляется удержание не всех параметров организма в определенных пределах, а только жизненно важных, поэтому "энергия" там будет определяться чисто через выживание особи; я уж не говорю про эту энергию, когда мы переходим к чисто ментальным процессам - типа обсуждению ИИ)... посему нужно говорить не об энергии, а о (некоторой) энергетической функции, что эквивалентно (некоторой) целевой функции
то есть сказать твоими словами, что интеллект минимизирует энергию, это все равно, что сказать моими словами, что он оптимизирует некоторую целевую функцию... энергия в данном случае не более чем метафора (хотя метафора в некоторых аспектах полезная)
Prosolver wrote: Во-первых, интеллект будет руководствоваться на локальных участках (между подбрасываниями монеты, ведь нельзя каждую микросекунду менять вектор поведения) критерием спокойствия (например, идти по дороге, а не по обочине).
это в том случае, если поставленная им цель не входит в противоречие с целью по умолчанию
существует тьма примеров, когда человек выбирает не самый легкий путь, исходя из каких-то "абстрактных" соображений; их настолько много, что даже лень перечислять...
Prosolver wrote:Во-вторых (как ясно из опыта по откусыванию языка) есть всё-таки предел для сознательно принимаемых и конртолируемых решений.
предела нет
просто для игнорирования базовой потребности требуется создать для себя более сильную "неприродную" потребность, которая бы входила с первой в противоречие
вопрос же был не в том, что человек может в каждый момент совершать произвольное действие, а в том, что он в принципе может переопределять свои потребности
Prosolver wrote: Сознание определяет только пик всего комплекса решения по "оспокаиванию" себя - остальное, безусловно, стремит интеллект и организм в целом к гомеостазу.
ты меняешь тему :P
речь шла не о исходной целевой функции, а о возможности ее изменения, поэтому если сознание определяет пик комплекса решений, то это не противоречит тезису о возможности такого изменения
кстати, далеко не все люди стремятся к спокойствию в обыденном смыле этого слова... к какому спокойствию стремятся люди, занимающиеся, скажем, экстримом или выбирающие профессии, связанные с риском для жизни?
Prosolver wrote: Возможно интеллект решает подчиняться монете в стремлении изучить себя с целью лучшего контроля над собой!
а возможно и нет - от конкретного интеллекта зависит
Prosolver wrote: Ведь на практике рано или поздно такие опыты с монетой просто надоедают и интеллект вынужден возвращаться к своему природному поведению.
Таки он вынужден возвращаться? То есть бывают периоды времени, когда он ему не следует?
Может, интеллект просто смиряется с тем, что по минимуму приходится учитывать потребности своего организма, но рассматривает это как неизбежное зло или, вернее, как (возможно, временный) симбиоз меня и организма? :wink:

Prosolver wrote: Любое действие, в том числе и рассуждение об ИИ, должно подчиняться этой универсальной цели. Если теория ИИ верна, то она должна объяснть и то, каким образм происходит само рассужденние об ИИ.
вполне возможно
Prosolver wrote: Так вот, наша с Ваим дискуссия тут ставит своей целью именно спокойствие! Мы оба хотим получить точное успокаивающее знание и сказать: "Наконец-то!" И спокойно идти спать и никогда больше не волноваться по этому поводу. Вы, своими ответами, стремитесь создать это понимание и следующее за ним спокойствие и я вслед за Вами стремлюсь к тому же.
Гы. Видишь ли, локально ты в некоторой степени прав (насчет разрешения беспокойства касательно одного вопроса, хотя я уверен, что к этому вопросу я еще не раз вернусь потом), но вот я выбрал работу в области ИИ, чтобы по-больше беспокоиться. Ибо, как недавно сказал Lex: где нет противоречий, там нет и интеллекта.
"Кто знает, тот делает, кто не знает, тот учит"

NO
Posts: 1815
Joined: Fri Jan 30, 2004 7:43 pm
Contact:

Post by NO » Tue Dec 05, 2006 1:46 am

Иван FXS wrote:Она - личность- загатовлена для него социумом, чтобы - в свое время - быть на него ОДЕТА ... как штанишки. Серьезно.
Да так и есть, оно еще и брыкаться будет, а потом вопросами завалит, что дальше. У шизофреников иногда рвется или вообще отваливается, общество от этого страдает.

DS
Posts: 730
Joined: Tue Jan 06, 2004 6:17 am

Post by DS » Tue Dec 05, 2006 3:13 am

Inex wrote: просто для игнорирования базовой потребности требуется создать для себя более сильную "неприродную" потребность, которая бы входила с первой в противоречие
вопрос же был не в том, что человек может в каждый момент совершать произвольное действие, а в том, что он в принципе может переопределять свои потребности
Думаю, что все "неприродные" потребности опираются в конечном итоге на базовые. Переопределение - это именно то о чем ты пишешь, т.е. сталкивание с помощью ума и воображения двух потребностей, одна из которых базовая, а другая производная от базовой (что ничего в сущности не меняет т.к. энергия мотивации свободно идет от базы вверх по цепочке). Способность к такому сталкиванию и называется "свободой воли".
Производные же потребности образуются по принципу "и увидел он, что это хорошо" - т.е. изначально с опорой на базу. Увидел у соседа велосипед, понял, что так быстрее и легче (экономия сил, лень) и что "это хорошо" - вот и новая потребность/мотив.

max
Posts: 705
Joined: Tue Apr 20, 2004 12:42 am
Location: Владивосток

Post by max » Tue Dec 05, 2006 4:12 am

inex
таки должна существовать некая базовая (не меняющаяся самим интеллектом) целевая функция,
господа, а в чем заморочка то?
смысл данной функции - получение максимального удовольствия субъектом..
ВСЕЕЕЕ к этому сводиться....
это же очевидно... :shock:
вера в объективные истины - преграда для осознания алгоритма разума!!!

Dmitry_Milk
Posts: 225
Joined: Sat Apr 15, 2006 5:59 am
Location: Казань
Contact:

Post by Dmitry_Milk » Tue Dec 05, 2006 5:12 am

max wrote:господа, а в чем заморочка то?
смысл данной функции - получение максимального удовольствия субъектом..
ВСЕЕЕЕ к этому сводиться....
это же очевидно... :shock:
максимального когда? сейчас? чуть попозже? в очень отделенном будущем? в момент смерти? :D Или вообще интеграл удовольствия от момента "сейчас" опять же до одного из вышеперечисленных? 8)

max
Posts: 705
Joined: Tue Apr 20, 2004 12:42 am
Location: Владивосток

Post by max » Tue Dec 05, 2006 7:52 am

максимального когда? сейчас? чуть попозже? в очень отделенном будущем? в момент смерти? Или вообще интеграл удовольствия от момента "сейчас" опять же до одного из вышеперечисленных?
вопрос конечно интересный....
и уводит тему в сторону непосредственно реализации....

думаю, все сводимо к сроку "СЕЙЧАС".
т.е. осознание потенциального получения удовольствия в ближайшем будущем УЖЕ само по себе является удовольствием в настоящем..
в моем видении алгорима разума присутствуют понятия удовлольствие..и потенциальное удовольствие..
вера в объективные истины - преграда для осознания алгоритма разума!!!

Солеваров
Posts: 3782
Joined: Wed Jan 07, 2004 5:46 am
Location: Москва

Post by Солеваров » Tue Dec 05, 2006 8:26 am

Солеваров wrote:у новорожденного ... есть потребность подключиться к ресурсам общества
????
Иван FXS wrote:Господи, вразуми неразумных сих!!!
- эээ... по свидетельству Капицы (старшего) у Энштейна была привычка говаривать "Богом это не предусмотрено..." всякий раз когда он не находил иных убедительных доводов для своих собеседников :)

да есть такая потребность есть, это такая совокупная мать-дитя приспособляемость, селективный отбор (не совсем конечно по Гамильтону генный kin selektion :wink:, но под диктовку генов все-жжж :) ). в последствии именно из этой приспособляемости формируется иная ее функциональная модификация (фитнес), обобществленная приспособляемость (инклюзия - способность заимствовать личностные качества у всех членов общества.) все это в какой то степени присуще и животным :wink:
Для того чтобы добраться до источника - надо плыть против течения. Verba at nula.

Солеваров
Posts: 3782
Joined: Wed Jan 07, 2004 5:46 am
Location: Москва

Post by Солеваров » Tue Dec 05, 2006 8:41 am

Inex wrote:а при каких условиях у него возникает потребность сменить сами потребности? :P
- :P ну вы то сразу намекаете что при потере цели, то бишь ориентира :lol: не доказав предварительно что у новорожденного есть какие-то цели... иэээххх...
Для того чтобы добраться до источника - надо плыть против течения. Verba at nula.

Lex
Posts: 1157
Joined: Thu Aug 26, 2004 8:12 pm

Post by Lex » Tue Dec 05, 2006 8:51 am

Inex wrote:но это же просто разные проекции _одной_ целевой функции на различные модели...
ну, грубо говоря,
y(x)=2x и y(x)=3x - это разные проекции функции y(x,a)=ax...
может быть общая целевая функция f(x,m), где m - модель, в зависимости от которой f(x) будет иметь разный вид; то есть модель является параметром целевой функции... это вполне нормально
Еще раз. Модель мира неоднородна, физически это массив моделей. Многие из этих моделей притиворечат друг другу. Такие модели или входят в процесс принятия решений целеком или вообще исключаются на все время действия решения. Короче путь в пространсве решений и соответсвенно процесс переклюбчения доменирующих моделей влияют на все последующие решения. Это в итоге даст иной образ действия. Сводить действия разума к целевой функции невозможно из-за синтеза разумом образа действия. Это не экстремум целевой функции, а целый кусок 2d+. Тут суть не в том что-бу получить экскстремум, а в том что-бы получить требуемый кусок без разрывов (с производной).

Locked

Who is online

Users browsing this forum: No registered users and 4 guests