Обсуждение "On Intelligence"

Форум для предварительного обсуждения тем.
Прежде чем организовать обсуждение в отдельном форуме, полезно убедиться, что четко понимаешь о чем говоришь.
Locked
Neuronus
Posts: 233
Joined: Tue May 25, 2004 11:25 am
Location: Russia, Saint-Petersburg
Contact:

Обсуждение "On Intelligence"

Post by Neuronus » Tue Mar 14, 2006 9:16 pm

Всем привет!
Оригинальный труд доступен на: http://www.neuronus.spb.ru/On_Intelligence.doc

Хочу обсудить с Вами - недостатки Джефа Хокинса и его соавторов в вопросах формирования "новых классификационных признаков" и распознавания на основе не самих абсолютных паттернов (но их временных следов).

Пожалуйста высказывайтесь...
Знания, не рождённые опытом, бесплодны и полны ошибок.

tumick
Posts: 176
Joined: Sun Mar 12, 2006 9:17 am
Location: Киев

Re: Обсуждение "On Intelligence"

Post by tumick » Tue Mar 14, 2006 9:36 pm

Neuronus wrote:Хочу обсудить с Вами - недостатки Джефа Хокинса...
Андрей, ну - неужели только недостатки? И ни одного достоинства ты не увидел? :) Мне кажется, иллюстрация с узнаванием мелодии, несмотря на то что она сыграна в другой тоннальности - хороший аргумент в пользу идеи Хокинса. Тем более, что иллюстраций таких можно придумать сколько душе угодно. Узнавание фигур, например - безотносительно размера, ориентации - ну, и т.д.
Мозг - это такой орган, с помощью которого мы думаем, что мы думаем.

Egg
Posts: 1544
Joined: Fri Jan 02, 2004 9:13 pm
Location: Somewhere, EU
Contact:

Re: Обсуждение "On Intelligence"

Post by Egg » Tue Mar 14, 2006 10:46 pm

Андрей! Александр!

у меня встречное предложение:
можно ли сформулировать в паре тройке тезисов то, что вы поняли у Хокинса... (из интервью я не вынес почти ничего, а его статья изобилует общими словами, от которых тоже ассоциаций много не рождается... - конечно, делаю поправку на свой не слишком хороший английский...)
такое формулирование было бы полезно для вас и для тех, кто так или иначе не сможет продраться сквозь тексты...
кроме того у каждого свое понимание...
Knowledge Is Power!

Neuronus
Posts: 233
Joined: Tue May 25, 2004 11:25 am
Location: Russia, Saint-Petersburg
Contact:

Post by Neuronus » Wed Mar 15, 2006 10:32 am

Сейчас занят :(
К 00 по москве выложу.
Знания, не рождённые опытом, бесплодны и полны ошибок.

tumick
Posts: 176
Joined: Sun Mar 12, 2006 9:17 am
Location: Киев

Re: Обсуждение "On Intelligence"

Post by tumick » Wed Mar 15, 2006 5:28 pm

Egg wrote:у меня встречное предложение:
Книжку я не читал. К сожалению. С моим английским, на это уйдёт несколько месяцев. Из интервью, в принципе, понятно направление, в котором человек пошёл. Выводы его хорошо резонируют с моими - отсюда моё к нему предвзятое положительное отношение. Могу вкратце поделиться тем, что извлёк из интервью с Хокинсом.
Хокинс wrote:Неокортекс запоминает последовательности элементов, а не отдельно элементы окружающего мира
Это вроде как очевидно. Непонятно, почему другие об этом молчат - возможно, потому что действительно это очевидно. Тогда непонятно, почему многие "проскакивают мимо" этой мысли. Попытка распознать образ на статичной картинке - сомнительная задача. С ней вряд ли справился бы даже (неподготовленный) мозг человека. Для мозга динамика начинается ещё с тремора глаз, хоть перескакивание сигнала в пределах двух соседних светорецепторов - это ещё не совсем динамика, это только подготовка к ней. В динамике отличить объект от фона гораздо проще - объект двигается, фон неподвижен (грубо говоря). Динамика сразу вносит понятие времени в семантику системы, а из хронологической последовательности - думается - выводится семантическая связь причина-следствие, из которой - в свою очередь - вся причинно-следственная логика.
Хокинс wrote:Неокортекс вспоминает последовательности автоассоциативно. Это свойство означает, что если мозг воспринимает часть последовательности, он автоматически вызывает из памяти ее целиком
Динамика и мне видится наилучшим принципом построения ассоциаций самого нижнего уровня - ассоциируются хронологически последовательные образы, далее в какой-то семантической уже обработке вся последовательность выступае одной целостной асоциативной нитью, по которой может пробегать путь ассоциативного поиска. Сумбурно, конечно, но у меня пока не было времени систематизировать свою точку зрения, каюсь. Надеюсь, для "тех кто в теме" всё же будет понятно.
Хокинс wrote:Неокортекс запоминает последовательности в инвариантной форме. Это значит, что в качестве последовательности сохраняются не тонкие и точные детали, а важные соотношения между элементами.
Тоже, вроде как, очевидная мысль. И тоже непонятно, почему многие проскакивают мимо. Ведь в зрительном восприятии, например, этот принцип нацинается ещё с упомянутого тремора. И пример Хокинса (человек узнаёт мелодию, даже если она сыграна в другой тональности - т.е. он помнит не сами ноты, и интервалы между ними) выглядит достаточно ярко и убедительно. Каждый из нас может привести ещё сотню такого рода примеров.
Хокинс wrote:Неокортекс сохраняет последовательности иерархически. Это означает, что по мере того, как входящая информация обрабатывается и проходит "дальше" в мозг, память становится все менее детальной и все более абстрактной.
Здесь идея, конечно, не нова. Насколько мне известно, попытки строить распознавание с обратной связью предпринимались, и даже кое-какие успехи были. Смысл в чём: по каким-то отчетливым параметрам ("большой размер, 4 лапы, хвост с кисточкой") некий "рецептивный блок" строит предположение ("это лев"), и передаёт в некий "аналитический блок". Последний возвращает детали, которые надо уточнить ("грива есть?"), детали уточняются ("гривы нет"), в случае неудачи берётся следующая гипотеза из построенного вначале списка наиболее подходящих ("это львица"), и т.д. - до получения положительного ответа. Есть устойчивое подозрение, что мозг человека работает сходным образом.

Но! Здесь речь идёт не только и не столько об этом, самом первом, уровне восприятия. Здесь, насколько я понимаю, Хокинс утверждает, что ему известен механизм того, что я называю "получением абстракций из ассоциаций". Т.е. качественный переход с феноменального уровня на семантический. Очень хотелось бы услышать, что скажет Андрей, читавший книгу. Насколько освещён там этот вопрос?
Хокинс wrote:мозг человека настолько эффективен потому, что умеет предсказывать будущие события, основываясь на прошлом опыте, хранящемся в памяти (модель "память-предсказание").
Вроде, ничего нового? Ещё нужно добавить, что сравнение прогнозируемой картины событий с реальной идёт постоянно, непрерывно. По мере необходимости, корретируется всё - модель, текущие действия, и само окружение (путём активного влияния на него). Да, идея не нова, просто забывать о ней не надо. Хокинс не забыл.

У меня, вроде, всё. Вкратце. Ждём, что сообщит Андрей.
Мозг - это такой орган, с помощью которого мы думаем, что мы думаем.

Серый
Posts: 47
Joined: Sat Feb 28, 2004 3:09 pm

Re: Обсуждение "On Intelligence"

Post by Серый » Wed Mar 15, 2006 6:27 pm

tumick wrote:
Хокинс wrote:Неокортекс запоминает последовательности элементов, а не отдельно элементы окружающего мира
Это вроде как очевидно. Непонятно, почему другие об этом молчат - возможно, потому что действительно это очевидно. Тогда непонятно, почему многие "проскакивают мимо" этой мысли.
С запоминанием последовательностей есть одна сложность. Скажем, когда человек рассматривает картинку, он "сканирует" ее глазами, получая последовательность зрительных впечатлений. Но одну и ту же картинку можно обойти взглядом по множеству самых разных маршрутов, которые дадут разные последовательности зрительных впечатлений. И все эти последовательности будут эквивалентны, так как содержат в конечном счете одну и ту же информацию о картинке. Запоминать их все - не имеет смысла, а если запомнить только одну последовательность - то нужен механизм, позволяющий устанавливать эквивалентность разных последовательностей зрительных впечатлений
tumick wrote: Попытка распознать образ на статичной картинке - сомнительная задача. С ней вряд ли справился бы даже (неподготовленный) мозг человека.
На самом деле это не так. Довольно просто предьявить человеку именно статичную картинку - для этого достаточно показать ее на очень короткое время, за которое направление взгляда не успеет сместиться. Как легко убедиться, несложные картинки в этих условиях прекрасно распознаются. Хотя, конечно, в динамике эффективность распознавания выше.

Комбинатор
Posts: 858
Joined: Fri Jan 16, 2004 4:47 pm
Location: Санкт-Перербург <=> Париж

Re: Обсуждение "On Intelligence"

Post by Комбинатор » Wed Mar 15, 2006 7:05 pm

Neuronus wrote:Всем привет!
Оригинальный труд доступен на: http://www.neuronus.spb.ru/On_Intelligence.doc

Хочу обсудить с Вами - недостатки Джефа Хокинса и его соавторов в вопросах формирования "новых классификационных признаков" и распознавания на основе не самих абсолютных паттернов (но их временных следов).

Пожалуйста высказывайтесь...
Большое спасибо! Начал читать с великим удовольствием! Конечно, такой текст воспринимается гораздо легче, чем стиль, которым написана лекция Мински. :)

Neuronus
Posts: 233
Joined: Tue May 25, 2004 11:25 am
Location: Russia, Saint-Petersburg
Contact:

Post by Neuronus » Wed Mar 15, 2006 8:12 pm

Сразу хочу пояснить - почему негативное отношение к прочитанному.

Сказанно многое (и вполне очевидное). Однако, сказано что происходит, но не сказано КАК! С таким же успехом, какой нибудь НьюПоиск, будет взахлеб рассказывать, что происходит в процессе мышления... Но, не дает ответа на вопрос - как это происходит и что из этого следует. Далее, Хокинс пытается "притянуть за уши" неокортекс и с его помошью дать ответ на вопрос - КАК?

Например, заявляется, что рассматривается пример формирования константного имени заученной (изученной) последовательности паттернов (6.7.) и объясняется этот феномен созданием некой связи между нейронами 3-го слоя.
Как гипотеза, такое обоснование может иметь место, хоть и звучит в высшей степени сомнительно.

Например, рассматривается иерархическая структура (коры), в которой от слоя к слою вверх-вниз и наоборот проходят сигналы от наших рецепторов и "поджигают" только те нейронные группы, которые отвечают за определенные характеристики этих сигналов. Т.е. просто как-бы накладываются фильтры, причем на каждом уровне свои. После этого остаются активными определенные "признаки" отфильтрованного сигнала и по ассоциативным связям между признаками активируются другие признаки (даже не подкрепленные внешним возбуждением). Такая схема отлично работает для НЕ АБСТРАКТНЫХ категорий - то чему есть анологи в тактильной, аудиальной, визуальной ошущаемости внешней среды. Однако, для категорий типа "красиво", "смешно", .... такой подход не работает. Ибо каждое последующее понятие строится на основе уже имеющихся (низшего уровня) и уточняется понятиями того-же уровня (или высшего).

Вероятнее всего, по причине несовершенства владения английским, я не понял до конца тех мыслей которые изложил Хокинс.
Это вроде как очевидно. Непонятно, почему другие об этом молчат - возможно, потому что действительно это очевидно. Тогда непонятно, почему многие "проскакивают мимо" этой мысли.
Скорее не проскакивают, а скромно умалчивают. Потому что заявлять что что-либо происходит без доказательно, мотивируя только кажущейся очевидностью, не каждый осмеливается. Отвечая на вопрос "Что происходит", следует уметь ответить и "Как это происходит".

Потому и предвзятое отношение.

P.S.
Очень прошу не придираться к словам и учитывать, что все сказанное относится только к примерам из указанной книги.
Знания, не рождённые опытом, бесплодны и полны ошибок.

NO
Posts: 1815
Joined: Fri Jan 30, 2004 7:43 pm
Contact:

Post by NO » Wed Mar 15, 2006 9:54 pm

В ИИ много областей (надо бы карту нарисовать что на чем основано и где белые пятна)
- изучение мозга
- философия про мышление
- про жизнь, биология
- физика и философия про систему ИИ+среда
- кибернетика про железо, Животное Бонгарда
- конкретные методы, математика и программирование
- логика про условную истину и вычислимость

Можно очень много литературы собрать и все будет иметь отношение к ИИ.
Меня почему-то мало интересует кибернетика, разные модели мозга. меньше всего как он физиологизирует. Как мозг мыслит я знаю.
В математике обычно все коротко, а в таких описательных делах большая книга это всегда хорошо, но 100 страниц все же очень небольшая книга, там скорее отношение автора.

Timba
Site Admin
Posts: 740
Joined: Thu Dec 18, 2003 1:03 am

Re: Обсуждение "On Intelligence"

Post by Timba » Wed Mar 15, 2006 10:56 pm

Комбинатор wrote: Большое спасибо! Начал читать с великим удовольствием! Конечно, такой текст воспринимается гораздо легче, чем стиль, которым написана лекция Мински. :)
Ага, так можно любую работу по ИИ популяризировать:
Сначала 10 страниц Мински заставить прочесть
а мотом любая хоботня будет как детектив читаться :lol:

Если эта книженция стоит того можно страниц по 20-30 раскидать на брата и перевести за пару недель

Как народ к этому относится?

Комбинатор
Posts: 858
Joined: Fri Jan 16, 2004 4:47 pm
Location: Санкт-Перербург <=> Париж

Re: Обсуждение "On Intelligence"

Post by Комбинатор » Thu Mar 16, 2006 11:24 am

smollett_cap wrote:
Комбинатор wrote: Большое спасибо! Начал читать с великим удовольствием! Конечно, такой текст воспринимается гораздо легче, чем стиль, которым написана лекция Мински. :)
Ага, так можно любую работу по ИИ популяризировать:
Сначала 10 страниц Мински заставить прочесть
а мотом любая хоботня будет как детектив читаться :lol:

Если эта книженция стоит того можно страниц по 20-30 раскидать на брата и перевести за пару недель

Как народ к этому относится?
Я пока успел прочитать процентов 20, и пока у меня складывается впечатление, что статья (точнее, лекция) Мински, несмотря на дурацкий стиль изложения мыслей, всё же более полезна для практики, чем книжка Хокинса. Он действительно фетишизирует нейрокортекс (мы говорим интеллект - подразумеваем нейрокортекс, мы говорим нейрокортекс - подразумеваем интеллект). При этом, из рассмотрения выпадают не только эмоции (которые Мински считает "движком" интеллекта, что и подчёркивает в названии своей книги), центры предобработки информации от органов чувств и т.д., но и тот факт, что признаки явной интеллектуальности демонстрируют и существа, у которых нейрокортекса практически нет вообще (например, вороны). То есть, создаётся впечатление, что найдя ещё один какой-то орган (например, между ног :wink: ) у того самого слона, которого ощупывают несколько слепцов, он радостно кричит, да вот же, я нашёл, вот он какой, настоящий слон!

Конечно, и обратные связи, и учёт фактора времени, и ассоциативная память очень важны, но одних этих идей недостаточно. Как любит говорить Юдковский - "Useful. But not enough".

Всё сказанное - сугубо моё ИМХО.

Neuronus
Posts: 233
Joined: Tue May 25, 2004 11:25 am
Location: Russia, Saint-Petersburg
Contact:

Post by Neuronus » Thu Mar 16, 2006 11:49 am

Могучий All

Прошу простить, а где можно прочесть (в электронном виде) упомянутую лекцию Мински?
Дайте плиз ссылку или киньте в меня мылом.
Заранее благодарен!
Знания, не рождённые опытом, бесплодны и полны ошибок.

Комбинатор
Posts: 858
Joined: Fri Jan 16, 2004 4:47 pm
Location: Санкт-Перербург <=> Париж

Re: Обсуждение "On Intelligence"

Post by Комбинатор » Thu Mar 16, 2006 11:55 am

По мне, так очень полезным был бы перевод книги Гоерцеля (или как правильно странскриптировать на русский фамилию Goertzel ?) "The Path to Singularity". Не смотря на название, она, в основном, про разрабатываемую им многоагентную систему ИИ. Правда, из интернета, в связи с выходом книги в печатном виде, он текст убрал, но по личному запросу, я думаю, вышлет. Во всяком случае, Васильеву (Avatar-y) в своё время выслал без проблем. Кстати, в этой книге он довольно много и тепло пишет о своём общении с Турчиным.

Если говроить о статьях, то весьма интресной для перевода, на мой взгляд, может быть, например, его статья: "A Comparison of the Novamente AI Design with the Human Mind-Brain"
http://www.goertzel.org/new_research/NM_human_psych.pdf

Комбинатор
Posts: 858
Joined: Fri Jan 16, 2004 4:47 pm
Location: Санкт-Перербург <=> Париж

Post by Комбинатор » Thu Mar 16, 2006 12:00 pm

Neuronus wrote:Могучий All

Прошу простить, а где можно прочесть (в электронном виде) упомянутую лекцию Мински?
Дайте плиз ссылку или киньте в меня мылом.
Заранее благодарен!
http://web.media.mit.edu/~minsky/papers ... nding.html

Inex
Posts: 1897
Joined: Mon Jan 05, 2004 10:33 am
Location: Санкт-Петербург

Re: Обсуждение "On Intelligence"

Post by Inex » Thu Mar 16, 2006 1:27 pm

tumick wrote: Книжку я не читал...
Это вроде как очевидно...
Тоже, вроде как, очевидная мысль...
Здесь идея, конечно, не нова...
Вроде, ничего нового?..
Вот и у меня по статье сложилось ощущение банальности написанного :(

Присутствует ли в книге что-то конструктивное? Стоит ли ее читать, или там конкретики не больше, чем в статье?
"Кто знает, тот делает, кто не знает, тот учит"

Locked

Who is online

Users browsing this forum: No registered users and 2 guests