Обсуждение "On Intelligence"
Обсуждение "On Intelligence"
Всем привет!
Оригинальный труд доступен на: http://www.neuronus.spb.ru/On_Intelligence.doc
Хочу обсудить с Вами - недостатки Джефа Хокинса и его соавторов в вопросах формирования "новых классификационных признаков" и распознавания на основе не самих абсолютных паттернов (но их временных следов).
Пожалуйста высказывайтесь...
Оригинальный труд доступен на: http://www.neuronus.spb.ru/On_Intelligence.doc
Хочу обсудить с Вами - недостатки Джефа Хокинса и его соавторов в вопросах формирования "новых классификационных признаков" и распознавания на основе не самих абсолютных паттернов (но их временных следов).
Пожалуйста высказывайтесь...
Знания, не рождённые опытом, бесплодны и полны ошибок.
Re: Обсуждение "On Intelligence"
Андрей, ну - неужели только недостатки? И ни одного достоинства ты не увидел? :) Мне кажется, иллюстрация с узнаванием мелодии, несмотря на то что она сыграна в другой тоннальности - хороший аргумент в пользу идеи Хокинса. Тем более, что иллюстраций таких можно придумать сколько душе угодно. Узнавание фигур, например - безотносительно размера, ориентации - ну, и т.д.Neuronus wrote:Хочу обсудить с Вами - недостатки Джефа Хокинса...
Мозг - это такой орган, с помощью которого мы думаем, что мы думаем.
Re: Обсуждение "On Intelligence"
Андрей! Александр!
у меня встречное предложение:
можно ли сформулировать в паре тройке тезисов то, что вы поняли у Хокинса... (из интервью я не вынес почти ничего, а его статья изобилует общими словами, от которых тоже ассоциаций много не рождается... - конечно, делаю поправку на свой не слишком хороший английский...)
такое формулирование было бы полезно для вас и для тех, кто так или иначе не сможет продраться сквозь тексты...
кроме того у каждого свое понимание...
у меня встречное предложение:
можно ли сформулировать в паре тройке тезисов то, что вы поняли у Хокинса... (из интервью я не вынес почти ничего, а его статья изобилует общими словами, от которых тоже ассоциаций много не рождается... - конечно, делаю поправку на свой не слишком хороший английский...)
такое формулирование было бы полезно для вас и для тех, кто так или иначе не сможет продраться сквозь тексты...
кроме того у каждого свое понимание...
Knowledge Is Power!
Re: Обсуждение "On Intelligence"
Книжку я не читал. К сожалению. С моим английским, на это уйдёт несколько месяцев. Из интервью, в принципе, понятно направление, в котором человек пошёл. Выводы его хорошо резонируют с моими - отсюда моё к нему предвзятое положительное отношение. Могу вкратце поделиться тем, что извлёк из интервью с Хокинсом.Egg wrote:у меня встречное предложение:
Это вроде как очевидно. Непонятно, почему другие об этом молчат - возможно, потому что действительно это очевидно. Тогда непонятно, почему многие "проскакивают мимо" этой мысли. Попытка распознать образ на статичной картинке - сомнительная задача. С ней вряд ли справился бы даже (неподготовленный) мозг человека. Для мозга динамика начинается ещё с тремора глаз, хоть перескакивание сигнала в пределах двух соседних светорецепторов - это ещё не совсем динамика, это только подготовка к ней. В динамике отличить объект от фона гораздо проще - объект двигается, фон неподвижен (грубо говоря). Динамика сразу вносит понятие времени в семантику системы, а из хронологической последовательности - думается - выводится семантическая связь причина-следствие, из которой - в свою очередь - вся причинно-следственная логика.Хокинс wrote:Неокортекс запоминает последовательности элементов, а не отдельно элементы окружающего мира
Динамика и мне видится наилучшим принципом построения ассоциаций самого нижнего уровня - ассоциируются хронологически последовательные образы, далее в какой-то семантической уже обработке вся последовательность выступае одной целостной асоциативной нитью, по которой может пробегать путь ассоциативного поиска. Сумбурно, конечно, но у меня пока не было времени систематизировать свою точку зрения, каюсь. Надеюсь, для "тех кто в теме" всё же будет понятно.Хокинс wrote:Неокортекс вспоминает последовательности автоассоциативно. Это свойство означает, что если мозг воспринимает часть последовательности, он автоматически вызывает из памяти ее целиком
Тоже, вроде как, очевидная мысль. И тоже непонятно, почему многие проскакивают мимо. Ведь в зрительном восприятии, например, этот принцип нацинается ещё с упомянутого тремора. И пример Хокинса (человек узнаёт мелодию, даже если она сыграна в другой тональности - т.е. он помнит не сами ноты, и интервалы между ними) выглядит достаточно ярко и убедительно. Каждый из нас может привести ещё сотню такого рода примеров.Хокинс wrote:Неокортекс запоминает последовательности в инвариантной форме. Это значит, что в качестве последовательности сохраняются не тонкие и точные детали, а важные соотношения между элементами.
Здесь идея, конечно, не нова. Насколько мне известно, попытки строить распознавание с обратной связью предпринимались, и даже кое-какие успехи были. Смысл в чём: по каким-то отчетливым параметрам ("большой размер, 4 лапы, хвост с кисточкой") некий "рецептивный блок" строит предположение ("это лев"), и передаёт в некий "аналитический блок". Последний возвращает детали, которые надо уточнить ("грива есть?"), детали уточняются ("гривы нет"), в случае неудачи берётся следующая гипотеза из построенного вначале списка наиболее подходящих ("это львица"), и т.д. - до получения положительного ответа. Есть устойчивое подозрение, что мозг человека работает сходным образом.Хокинс wrote:Неокортекс сохраняет последовательности иерархически. Это означает, что по мере того, как входящая информация обрабатывается и проходит "дальше" в мозг, память становится все менее детальной и все более абстрактной.
Но! Здесь речь идёт не только и не столько об этом, самом первом, уровне восприятия. Здесь, насколько я понимаю, Хокинс утверждает, что ему известен механизм того, что я называю "получением абстракций из ассоциаций". Т.е. качественный переход с феноменального уровня на семантический. Очень хотелось бы услышать, что скажет Андрей, читавший книгу. Насколько освещён там этот вопрос?
Вроде, ничего нового? Ещё нужно добавить, что сравнение прогнозируемой картины событий с реальной идёт постоянно, непрерывно. По мере необходимости, корретируется всё - модель, текущие действия, и само окружение (путём активного влияния на него). Да, идея не нова, просто забывать о ней не надо. Хокинс не забыл.Хокинс wrote:мозг человека настолько эффективен потому, что умеет предсказывать будущие события, основываясь на прошлом опыте, хранящемся в памяти (модель "память-предсказание").
У меня, вроде, всё. Вкратце. Ждём, что сообщит Андрей.
Мозг - это такой орган, с помощью которого мы думаем, что мы думаем.
Re: Обсуждение "On Intelligence"
С запоминанием последовательностей есть одна сложность. Скажем, когда человек рассматривает картинку, он "сканирует" ее глазами, получая последовательность зрительных впечатлений. Но одну и ту же картинку можно обойти взглядом по множеству самых разных маршрутов, которые дадут разные последовательности зрительных впечатлений. И все эти последовательности будут эквивалентны, так как содержат в конечном счете одну и ту же информацию о картинке. Запоминать их все - не имеет смысла, а если запомнить только одну последовательность - то нужен механизм, позволяющий устанавливать эквивалентность разных последовательностей зрительных впечатленийtumick wrote:Это вроде как очевидно. Непонятно, почему другие об этом молчат - возможно, потому что действительно это очевидно. Тогда непонятно, почему многие "проскакивают мимо" этой мысли.Хокинс wrote:Неокортекс запоминает последовательности элементов, а не отдельно элементы окружающего мира
На самом деле это не так. Довольно просто предьявить человеку именно статичную картинку - для этого достаточно показать ее на очень короткое время, за которое направление взгляда не успеет сместиться. Как легко убедиться, несложные картинки в этих условиях прекрасно распознаются. Хотя, конечно, в динамике эффективность распознавания выше.tumick wrote: Попытка распознать образ на статичной картинке - сомнительная задача. С ней вряд ли справился бы даже (неподготовленный) мозг человека.
-
- Posts: 858
- Joined: Fri Jan 16, 2004 4:47 pm
- Location: Санкт-Перербург <=> Париж
Re: Обсуждение "On Intelligence"
Большое спасибо! Начал читать с великим удовольствием! Конечно, такой текст воспринимается гораздо легче, чем стиль, которым написана лекция Мински.Neuronus wrote:Всем привет!
Оригинальный труд доступен на: http://www.neuronus.spb.ru/On_Intelligence.doc
Хочу обсудить с Вами - недостатки Джефа Хокинса и его соавторов в вопросах формирования "новых классификационных признаков" и распознавания на основе не самих абсолютных паттернов (но их временных следов).
Пожалуйста высказывайтесь...

Сразу хочу пояснить - почему негативное отношение к прочитанному.
Сказанно многое (и вполне очевидное). Однако, сказано что происходит, но не сказано КАК! С таким же успехом, какой нибудь НьюПоиск, будет взахлеб рассказывать, что происходит в процессе мышления... Но, не дает ответа на вопрос - как это происходит и что из этого следует. Далее, Хокинс пытается "притянуть за уши" неокортекс и с его помошью дать ответ на вопрос - КАК?
Например, заявляется, что рассматривается пример формирования константного имени заученной (изученной) последовательности паттернов (6.7.) и объясняется этот феномен созданием некой связи между нейронами 3-го слоя.
Как гипотеза, такое обоснование может иметь место, хоть и звучит в высшей степени сомнительно.
Например, рассматривается иерархическая структура (коры), в которой от слоя к слою вверх-вниз и наоборот проходят сигналы от наших рецепторов и "поджигают" только те нейронные группы, которые отвечают за определенные характеристики этих сигналов. Т.е. просто как-бы накладываются фильтры, причем на каждом уровне свои. После этого остаются активными определенные "признаки" отфильтрованного сигнала и по ассоциативным связям между признаками активируются другие признаки (даже не подкрепленные внешним возбуждением). Такая схема отлично работает для НЕ АБСТРАКТНЫХ категорий - то чему есть анологи в тактильной, аудиальной, визуальной ошущаемости внешней среды. Однако, для категорий типа "красиво", "смешно", .... такой подход не работает. Ибо каждое последующее понятие строится на основе уже имеющихся (низшего уровня) и уточняется понятиями того-же уровня (или высшего).
Вероятнее всего, по причине несовершенства владения английским, я не понял до конца тех мыслей которые изложил Хокинс.
Потому и предвзятое отношение.
P.S.
Очень прошу не придираться к словам и учитывать, что все сказанное относится только к примерам из указанной книги.
Сказанно многое (и вполне очевидное). Однако, сказано что происходит, но не сказано КАК! С таким же успехом, какой нибудь НьюПоиск, будет взахлеб рассказывать, что происходит в процессе мышления... Но, не дает ответа на вопрос - как это происходит и что из этого следует. Далее, Хокинс пытается "притянуть за уши" неокортекс и с его помошью дать ответ на вопрос - КАК?
Например, заявляется, что рассматривается пример формирования константного имени заученной (изученной) последовательности паттернов (6.7.) и объясняется этот феномен созданием некой связи между нейронами 3-го слоя.
Как гипотеза, такое обоснование может иметь место, хоть и звучит в высшей степени сомнительно.
Например, рассматривается иерархическая структура (коры), в которой от слоя к слою вверх-вниз и наоборот проходят сигналы от наших рецепторов и "поджигают" только те нейронные группы, которые отвечают за определенные характеристики этих сигналов. Т.е. просто как-бы накладываются фильтры, причем на каждом уровне свои. После этого остаются активными определенные "признаки" отфильтрованного сигнала и по ассоциативным связям между признаками активируются другие признаки (даже не подкрепленные внешним возбуждением). Такая схема отлично работает для НЕ АБСТРАКТНЫХ категорий - то чему есть анологи в тактильной, аудиальной, визуальной ошущаемости внешней среды. Однако, для категорий типа "красиво", "смешно", .... такой подход не работает. Ибо каждое последующее понятие строится на основе уже имеющихся (низшего уровня) и уточняется понятиями того-же уровня (или высшего).
Вероятнее всего, по причине несовершенства владения английским, я не понял до конца тех мыслей которые изложил Хокинс.
Скорее не проскакивают, а скромно умалчивают. Потому что заявлять что что-либо происходит без доказательно, мотивируя только кажущейся очевидностью, не каждый осмеливается. Отвечая на вопрос "Что происходит", следует уметь ответить и "Как это происходит".Это вроде как очевидно. Непонятно, почему другие об этом молчат - возможно, потому что действительно это очевидно. Тогда непонятно, почему многие "проскакивают мимо" этой мысли.
Потому и предвзятое отношение.
P.S.
Очень прошу не придираться к словам и учитывать, что все сказанное относится только к примерам из указанной книги.
Знания, не рождённые опытом, бесплодны и полны ошибок.
В ИИ много областей (надо бы карту нарисовать что на чем основано и где белые пятна)
- изучение мозга
- философия про мышление
- про жизнь, биология
- физика и философия про систему ИИ+среда
- кибернетика про железо, Животное Бонгарда
- конкретные методы, математика и программирование
- логика про условную истину и вычислимость
Можно очень много литературы собрать и все будет иметь отношение к ИИ.
Меня почему-то мало интересует кибернетика, разные модели мозга. меньше всего как он физиологизирует. Как мозг мыслит я знаю.
В математике обычно все коротко, а в таких описательных делах большая книга это всегда хорошо, но 100 страниц все же очень небольшая книга, там скорее отношение автора.
- изучение мозга
- философия про мышление
- про жизнь, биология
- физика и философия про систему ИИ+среда
- кибернетика про железо, Животное Бонгарда
- конкретные методы, математика и программирование
- логика про условную истину и вычислимость
Можно очень много литературы собрать и все будет иметь отношение к ИИ.
Меня почему-то мало интересует кибернетика, разные модели мозга. меньше всего как он физиологизирует. Как мозг мыслит я знаю.
В математике обычно все коротко, а в таких описательных делах большая книга это всегда хорошо, но 100 страниц все же очень небольшая книга, там скорее отношение автора.
Re: Обсуждение "On Intelligence"
Ага, так можно любую работу по ИИ популяризировать:Комбинатор wrote: Большое спасибо! Начал читать с великим удовольствием! Конечно, такой текст воспринимается гораздо легче, чем стиль, которым написана лекция Мински.
Сначала 10 страниц Мински заставить прочесть
а мотом любая хоботня будет как детектив читаться

Если эта книженция стоит того можно страниц по 20-30 раскидать на брата и перевести за пару недель
Как народ к этому относится?
-
- Posts: 858
- Joined: Fri Jan 16, 2004 4:47 pm
- Location: Санкт-Перербург <=> Париж
Re: Обсуждение "On Intelligence"
Я пока успел прочитать процентов 20, и пока у меня складывается впечатление, что статья (точнее, лекция) Мински, несмотря на дурацкий стиль изложения мыслей, всё же более полезна для практики, чем книжка Хокинса. Он действительно фетишизирует нейрокортекс (мы говорим интеллект - подразумеваем нейрокортекс, мы говорим нейрокортекс - подразумеваем интеллект). При этом, из рассмотрения выпадают не только эмоции (которые Мински считает "движком" интеллекта, что и подчёркивает в названии своей книги), центры предобработки информации от органов чувств и т.д., но и тот факт, что признаки явной интеллектуальности демонстрируют и существа, у которых нейрокортекса практически нет вообще (например, вороны). То есть, создаётся впечатление, что найдя ещё один какой-то орган (например, между ногsmollett_cap wrote:Ага, так можно любую работу по ИИ популяризировать:Комбинатор wrote: Большое спасибо! Начал читать с великим удовольствием! Конечно, такой текст воспринимается гораздо легче, чем стиль, которым написана лекция Мински.
Сначала 10 страниц Мински заставить прочесть
а мотом любая хоботня будет как детектив читаться![]()
Если эта книженция стоит того можно страниц по 20-30 раскидать на брата и перевести за пару недель
Как народ к этому относится?

Конечно, и обратные связи, и учёт фактора времени, и ассоциативная память очень важны, но одних этих идей недостаточно. Как любит говорить Юдковский - "Useful. But not enough".
Всё сказанное - сугубо моё ИМХО.
-
- Posts: 858
- Joined: Fri Jan 16, 2004 4:47 pm
- Location: Санкт-Перербург <=> Париж
Re: Обсуждение "On Intelligence"
По мне, так очень полезным был бы перевод книги Гоерцеля (или как правильно странскриптировать на русский фамилию Goertzel ?) "The Path to Singularity". Не смотря на название, она, в основном, про разрабатываемую им многоагентную систему ИИ. Правда, из интернета, в связи с выходом книги в печатном виде, он текст убрал, но по личному запросу, я думаю, вышлет. Во всяком случае, Васильеву (Avatar-y) в своё время выслал без проблем. Кстати, в этой книге он довольно много и тепло пишет о своём общении с Турчиным.
Если говроить о статьях, то весьма интресной для перевода, на мой взгляд, может быть, например, его статья: "A Comparison of the Novamente AI Design with the Human Mind-Brain"
http://www.goertzel.org/new_research/NM_human_psych.pdf
Если говроить о статьях, то весьма интресной для перевода, на мой взгляд, может быть, например, его статья: "A Comparison of the Novamente AI Design with the Human Mind-Brain"
http://www.goertzel.org/new_research/NM_human_psych.pdf
-
- Posts: 858
- Joined: Fri Jan 16, 2004 4:47 pm
- Location: Санкт-Перербург <=> Париж
http://web.media.mit.edu/~minsky/papers ... nding.htmlNeuronus wrote:Могучий All
Прошу простить, а где можно прочесть (в электронном виде) упомянутую лекцию Мински?
Дайте плиз ссылку или киньте в меня мылом.
Заранее благодарен!
Re: Обсуждение "On Intelligence"
Вот и у меня по статье сложилось ощущение банальности написанногоtumick wrote: Книжку я не читал...
Это вроде как очевидно...
Тоже, вроде как, очевидная мысль...
Здесь идея, конечно, не нова...
Вроде, ничего нового?..

Присутствует ли в книге что-то конструктивное? Стоит ли ее читать, или там конкретики не больше, чем в статье?
"Кто знает, тот делает, кто не знает, тот учит"
Who is online
Users browsing this forum: No registered users and 4 guests