Смена целей

Форум для предварительного обсуждения тем.
Прежде чем организовать обсуждение в отдельном форуме, полезно убедиться, что четко понимаешь о чем говоришь.
Locked
Inex
Posts: 1897
Joined: Mon Jan 05, 2004 10:33 am
Location: Санкт-Петербург

Смена целей

Post by Inex » Mon Dec 04, 2006 3:09 pm

Last edited by Inex on Mon Dec 04, 2006 9:14 pm, edited 1 time in total.
"Кто знает, тот делает, кто не знает, тот учит"

Inex
Posts: 1897
Joined: Mon Jan 05, 2004 10:33 am
Location: Санкт-Петербург

Post by Inex » Mon Dec 04, 2006 3:23 pm

вообще, тут имеется некий парадокс, который меня чуток ставит в тупик
любое решение можно представить как максимизацию некоторой целевой функции
но тогда выбор новой цели должен быть представим тоже как максимизация некоторой целевой функции... но тогда, чтобы не получить дурную бесконечность, таки должна существовать некая базовая (не меняющаяся самим интеллектом) целевая функция, которая в конечном итоге и максимизируется
но ни один критерий (ни даже такой, как выживание особи или вида) на роль такой базовой целевой функции не подходит, так как этот критерий может быть изменен самим человеком (к примеру, вместо выживания своего вида человек может стремиться к распространению по вселенной разума как такового - не важно, в какой форме... тут у эгоистичного гена выйдет облом)
но ли мы просто не можем понять, что это за базовый критерий, то ли само представление с целевой функцией не вполне адекватно, то ли в этой целевой функции просто зашит генератор случайных чисел (так что кажется, будто человек своей свободной волей может менять самопроизвольно базовую цель)...
ну, это уже почти оффтоп, так как не простейший ИИ
Last edited by Inex on Mon Dec 04, 2006 9:15 pm, edited 1 time in total.
"Кто знает, тот делает, кто не знает, тот учит"

Lex
Posts: 1157
Joined: Thu Aug 26, 2004 8:12 pm

Post by Lex » Mon Dec 04, 2006 4:23 pm

Inex wrote:вообще, тут имеется некий парадокс, который меня чуток ставит в тупик
любое решение можно представить как максимизацию некоторой целевой функции
но тогда выбор новой цели должен быть представим тоже как максимизация некоторой целевой функции... но тогда, чтобы не получить дурную бесконечность, таки должна существовать некая базовая (не меняющаяся самим интеллектом) целевая функция, которая в конечном итоге и максимизируется
Если из модели мира убрать все внутренние противоречия и тем самым получить однородное равномерное пространство решений, то разум оставналивается. Без внутренних противоречий разум утрачивает дееспособность. Как только мы получим равномерное пространство решений у разума (сможем все свести к одной функции), то от разума толку больше не будет. Без внутренней энтропии разум бессилен.
К счастью такая ситуация практически не достижима и как следствие функция разума не сводима к одной функции. Причиной тому необходимость поддерживать несколько противоречивых моделей мира - "Траян":Поэтому и вероятности нужно с самого начала настраиваться считать именно в рамках "модельного" подхода. Специфика же этого подхода вовсе не обязывает нас считать, что множество моделей образует полную группу несовместных гипотез. Каждую из моделей можно обсчитывать отдельно, забыв про существование других. при этом придется верифицировать гипотезу во всех "заинтересованных" моделях. Свести все это дело к одной функции невозможно из-за неоднородности проекций моделей на пространство решений. Например неизбежно приходится возить тещу на дачу (мир семьи) и еще туда же прикольно ездить с друзьями на рыбалку (мир друзей), но совместить оба этих мира (на дачу с тещей и друзьями) почти невозможно без потерь в обоих мирах. Полная гармония между мирами порождает вырожденное пространство решений. Всегда берем тещу и друзей (на самом деле тут нет решения, оно всегда одно). Разум не нужен.

Комбинатор
Posts: 858
Joined: Fri Jan 16, 2004 4:47 pm
Location: Санкт-Перербург <=> Париж

Post by Комбинатор » Mon Dec 04, 2006 4:43 pm

Inex wrote: но ли мы просто не можем понять, что это за базовый критерий, то ли само представление с целевой функцией не вполне адекватно, то ли в этой целевой функции просто зашит генератор случайных чисел (так что кажется, будто человек своей свободной волей может менять самопроизвольно базовую цель)...
ну, это уже почти оффтоп, так как не простейший ИИ
Это точно (что оффтоп), но тема, тем не менее, интересная. Может завести под неё отдельную ветку?

Inex
Posts: 1897
Joined: Mon Jan 05, 2004 10:33 am
Location: Санкт-Петербург

Post by Inex » Mon Dec 04, 2006 4:47 pm

2 Lex
Вы говорите немного о другом. Существование нескольких противоречивых моделей мира не мешает существовать одной базовой целевой функции. Например, у новорожденного разума эта функция может задаваться как максимум удовольствия и минимум боли (проинтегрированных по времени). Другой вопрос, что разум не может предсказать точные значения этой функции в зависимости от своих действий в связи с неполнотой и противоречивостью имеющейся информации о мире. Но функция целевая имеется только одна. Я же говорил о парадоксе изменения целевой функции.

В общем, то, что вы написали, верно, но оно не относится к тому моему высказыванию, которое вы процитировали...
"Кто знает, тот делает, кто не знает, тот учит"

Иван FXS
Posts: 2002
Joined: Thu Jan 15, 2004 11:20 am
Location: Москва - Нижний Новгород
Contact:

Post by Иван FXS » Mon Dec 04, 2006 4:47 pm

Inex wrote:любое решение можно представить как максимизацию некоторой целевой функции
но тогда выбор новой цели должен быть представим тоже как максимизация некоторой целевой функции... но тогда, чтобы не получить дурную бесконечность ...
- это Вы сейчас про что говорите: про абстрактно-идеальное целеполагание или про целеполагание у реальных людей?

Если второе - так любой нормальный человек - интуитивно - понимает, что возгонка - это путь в никуда. Поэтому - слишком не заморачивается по поводу того, какие основания у оснований оснований оснований оснований оснований оснований его целей.

В принципе, любая цель - будучи поставлена однажды - становится самодостаточной. Нужно ее достигать просто потому, что она поставлена.

Что отсюда следует для темы "создания ИИ"? Хороший вопрос ...

Вообще-то цели - это атрибут ЛИЧНОСТИ, а не ИНТЕЛЛЕКТА.

А личность - она, вообще-то, непостижима ... у нее есть такие забавные штуковины, как экзистенция там всякая ... да свобода воли ...
_____________________________________

Соответственно, "у новорожденного" ("... не мешает существовать одной базовой целевой функции. например, у новорожденного ...") - вообще не сформирована еще ЛИЧНОСТЬ, и ломать голову по поводу того, какие там у него цели, ценности и жизненные принципы - довольно таки бессмысленно.

Ну и принцип проекции - никто не отменял: личность (субъектность) другого - это ПРОЕКЦИЯ меня, моей личности ... Так что если кому охото проецировать себя на новорожденного - вольному воля.
-
Last edited by Иван FXS on Mon Dec 04, 2006 4:56 pm, edited 1 time in total.

Inex
Posts: 1897
Joined: Mon Jan 05, 2004 10:33 am
Location: Санкт-Петербург

Post by Inex » Mon Dec 04, 2006 4:50 pm

Комбинатор wrote:Может завести под неё отдельную ветку?
можно, если выполнено хотя бы одно из двух условий
1) Траян пожелает, чтобы эти сообщения были перенесены в другую тему
2) обсуждение этого вопроса будет поддерживаться участниками
"Кто знает, тот делает, кто не знает, тот учит"

Inex
Posts: 1897
Joined: Mon Jan 05, 2004 10:33 am
Location: Санкт-Петербург

Post by Inex » Mon Dec 04, 2006 5:04 pm

Иван FXS wrote: - это Вы сейчас про что говорите: про абстрактно-идеальное целеполагание или про целеполагание у реальных людей?
я говорю про то, что я вообще не понимаю, что такое целеполагание, чем руководствуется человек, когда ставит новые цели (не подцели, не цели, спущенные ему сверху социумом, а именно новые цели, если такие, правда, бывают)
Иван FXS wrote:Если второе - так любой нормальный человек - интуитивно - понимает, что возгонка - это путь в никуда. Поэтому - слишком не заморачивается по поводу того, какие основания у оснований оснований оснований оснований оснований оснований его целей.
в том-то и дело, но он их как-то ставит
Иван FXS wrote: В принципе, любая цель - будучи поставлена однажды - становится самодостаточной. Нужно ее достигать просто потому, что она поставлена.
вопрос в том, из каких соображений она ставится :D
Иван FXS wrote: Что отсюда следует для темы "создания ИИ"? Хороший вопрос ...
Вообще-то цели - это атрибут ЛИЧНОСТИ, а не ИНТЕЛЛЕКТА.
это весьма дискуссионный тезис
знаете, есть понятие интеллектуального стиля; ну, типа стиль игры в шахматы, стиль программирования... вроде, два человека одинаково эффективно решают какую-то задачу, но делают это разными способами
можно говорить, что стиль не имеет отношения к интеллекту: ведь раз эффективность решения одинаковая, то стиль - это уже личностные особенности
но все же это относится к интеллекту - ведь именно как история некоторой интеллектуальной деятельности при решении сложной задачи возникает стиль
также и цели - их можно отделять от интеллекта и выносить в личность, но взаимодействия между личностью и интеллектом в действительности гораздо более тесные... можно считать, что интеллект - это часть личности, можно - что личность часть интеллекта... вопрос определений
Иван FXS wrote:А личность - она, вообще-то, непостижима ... у нее есть такие забавные штуковины, как экзистенция там всякая ... да свобода воли ...
хотелось бы как-то обойтись без этих терминов :P
"Кто знает, тот делает, кто не знает, тот учит"

Inex
Posts: 1897
Joined: Mon Jan 05, 2004 10:33 am
Location: Санкт-Петербург

Post by Inex » Mon Dec 04, 2006 5:08 pm

Иван FXS wrote:Соответственно, "у новорожденного" ("... не мешает существовать одной базовой целевой функции. например, у новорожденного ...") - вообще не сформирована еще ЛИЧНОСТЬ, и ломать голову по поводу того, какие там у него цели, ценности и жизненные принципы - довольно таки бессмысленно.
здесь шла речь не только (и не столько) о осознаваемых целях, сколько о целевой функции, которая максимизируется при выполнении каких-то действий...
вы будете спорить, что такая функция есть у мозга животных или новорожденного?
"Кто знает, тот делает, кто не знает, тот учит"

Lex
Posts: 1157
Joined: Thu Aug 26, 2004 8:12 pm

Post by Lex » Mon Dec 04, 2006 5:49 pm

Inex wrote:Существование нескольких противоречивых моделей мира не мешает существовать одной базовой целевой функции. Например, у новорожденного разума эта функция может задаваться как максимум удовольствия и минимум боли (проинтегрированных по времени).
Мешает, еще как мешает, то что в одной модели может давать "полный в перед", в другой может давать "остановиться". После этого нужно выбрать одну из моделей и придерживаться только ее. Общая функция тут невозможна из-за необходимости создать образ действия. Это несколько шагов на протяжении которых врятли удастся переключить доменирующую модель без высокой вероятности получить бифуркацию на выходе. В рамках одной (текущей) модели базовая целевая функция возможна.

Иван FXS
Posts: 2002
Joined: Thu Jan 15, 2004 11:20 am
Location: Москва - Нижний Новгород
Contact:

Post by Иван FXS » Mon Dec 04, 2006 6:15 pm

Inex, а как можно измерить (объективистски доказать) наличие этой самой "целевой функции"?

Каков мог бы быть эксперимент, который показал бы, что, скажем, 99.99% (или, например, 11.11%) "действий" собаки, бегущей по улице города, "максимизирует" некую (какую-то) "целевую функцию"?

ИМХО, "целевая функция" - это абсолютно дедуктивное (=метафизическое) представление!
_______________________________

"в том-то и дело, но он их как-то ставит"

- ну так - выйдите на улицу и спросите у 10 прохожих, "как они ставят цели" ... интересно, скажет ли хоть один что-нибудь вразумительное?

Солеваров
Posts: 3782
Joined: Wed Jan 07, 2004 5:46 am
Location: Москва

Post by Солеваров » Mon Dec 04, 2006 7:36 pm

Иван FXS wrote:Соответственно, "у новорожденного" ("... не мешает существовать одной базовой целевой функции. например, у новорожденного ...") - вообще не сформирована еще ЛИЧНОСТЬ, и ломать голову по поводу того, какие там у него цели, ценности и жизненные принципы - довольно таки бессмысленно.
- у новорожденного заложены размеры необходимых потребностей, равно как и способы их удовлетворения. среди этих потребностей нет такой - стать личностью :wink: но есть потребность подключиться к ресурсам общества, приспосабливаясь к источникам их получения. в тоже время "личность" у новорожденного есть, только находится она в другом адресе - в представительском :wink: (мать, родня, государство)
Inex wrote:здесь шла речь не только (и не столько) о осознаваемых целях, сколько о целевой функции, которая максимизируется при выполнении каких-то действий...
вы будете спорить, что такая функция есть у мозга животных или новорожденного?
- приспосабливаемость к источникам ресурсов без смены способа удовлетворения собственных потребностей есть и у животных и у человека. но но но тут есть загадка при каких условиях достигнув экстремума у новорожденного возникает потребность сменить способ удовлетворения потребностей :wink:
Для того чтобы добраться до источника - надо плыть против течения. Verba at nula.

Inex
Posts: 1897
Joined: Mon Jan 05, 2004 10:33 am
Location: Санкт-Петербург

Post by Inex » Mon Dec 04, 2006 9:25 pm

Lex wrote:Мешает, еще как мешает, то что в одной модели может давать "полный в перед", в другой может давать "остановиться". После этого нужно выбрать одну из моделей и придерживаться только ее. Общая функция тут невозможна из-за необходимости создать образ действия.
но это же просто разные проекции _одной_ целевой функции на различные модели...
ну, грубо говоря,
y(x)=2x и y(x)=3x - это разные проекции функции y(x,a)=ax...
может быть общая целевая функция f(x,m), где m - модель, в зависимости от которой f(x) будет иметь разный вид; то есть модель является параметром целевой функции... это вполне нормально
"Кто знает, тот делает, кто не знает, тот учит"

Inex
Posts: 1897
Joined: Mon Jan 05, 2004 10:33 am
Location: Санкт-Петербург

Post by Inex » Mon Dec 04, 2006 9:54 pm

Иван FXS wrote:Inex, а как можно измерить (объективистски доказать) наличие этой самой "целевой функции"?
м... доказать для человека крайне проблематично, а для простейших животных, пожалуй, возможно
но любая ии-программа такой функцией, как правило, снабжена (хотя не всегда в явном виде)
однако дело в том, если ли она у человека или нет - это просто вопрос удобства описания
человек выполняет какие-то действия... то, что он в данной ситуации, обладая конкретным опытом и текущей информацией, выбирает именно такое действие, можно описать через целевую функцию
Иван FXS wrote: Каков мог бы быть эксперимент, который показал бы, что, скажем, 99.99% (или, например, 11.11%) "действий" собаки, бегущей по улице города, "максимизирует" некую (какую-то) "целевую функцию"?
боюсь, такой опыт поставить практически невозможно, поскольку информацию о всем жизненном опыте конкретной собаки не выудить
... однако же обычно считается, что поведение животных достаточно неплохо описывается с точки зрения такой цели, как выживание вида...

Иван FXS wrote: ИМХО, "целевая функция" - это абсолютно дедуктивное (=метафизическое) представление!
мне не хочется мусолить вопросы типа, применимы ли телеологические рассуждения к эволюции и т.д.
рассматривать процесс выбора действия из множества возможных альтернатив с точки зрения максимизации некоторой целевой функции - просто удобно
Иван FXS wrote: - ну так - выйдите на улицу и спросите у 10 прохожих, "как они ставят цели" ... интересно, скажет ли хоть один что-нибудь вразумительное?
никто же не говорил, что процесс постановки целей - чисто сознательный... во многом даже наоборот;
об этом и шла речь с самого начала: исходно младенец стремится удовлетворять некоторые базовые потребности (которые и определяют исходную целевую функцию), но по мере развития разума он может создавать себе новые потребности, которые могут входить в противоречие чуть ли не со всеми исходными потребностями и не базироваться на них...
"Кто знает, тот делает, кто не знает, тот учит"

Inex
Posts: 1897
Joined: Mon Jan 05, 2004 10:33 am
Location: Санкт-Петербург

Post by Inex » Mon Dec 04, 2006 9:56 pm

Солеваров wrote:приспосабливаемость к источникам ресурсов без смены способа удовлетворения собственных потребностей есть и у животных и у человека. но но но тут есть загадка при каких условиях достигнув экстремума у новорожденного возникает потребность сменить способ удовлетворения потребностей :wink:
а при каких условиях у него возникает потребность сменить сами потребности? :P
"Кто знает, тот делает, кто не знает, тот учит"

Locked

Who is online

Users browsing this forum: No registered users and 4 guests