Обсуждение "On Intelligence"

[Neuronus]

Всем привет!
Оригинальный труд доступен на: http://www.neuronus.spb.ru/On_Intelligence.doc

Хочу обсудить с Вами - недостатки Джефа Хокинса и его соавторов в вопросах формирования "новых классификационных признаков" и распознавания на основе не самих абсолютных паттернов (но их временных следов).

Пожалуйста высказывайтесь...

[tumick]

Хочу обсудить с Вами - недостатки Джефа Хокинса...

Андрей, ну - неужели только недостатки? И ни одного достоинства ты не увидел? :) Мне кажется, иллюстрация с узнаванием мелодии, несмотря на то что она сыграна в другой тоннальности - хороший аргумент в пользу идеи Хокинса. Тем более, что иллюстраций таких можно придумать сколько душе угодно. Узнавание фигур, например - безотносительно размера, ориентации - ну, и т.д.

[Egg]

Андрей! Александр!

у меня встречное предложение:
можно ли сформулировать в паре тройке тезисов то, что вы поняли у Хокинса... (из интервью я не вынес почти ничего, а его статья изобилует общими словами, от которых тоже ассоциаций много не рождается... - конечно, делаю поправку на свой не слишком хороший английский...)
такое формулирование было бы полезно для вас и для тех, кто так или иначе не сможет продраться сквозь тексты...
кроме того у каждого свое понимание...

[Neuronus]

Сейчас занят
К 00 по москве выложу.

[tumick]

у меня встречное предложение:

Книжку я не читал. К сожалению. С моим английским, на это уйдёт несколько месяцев. Из интервью, в принципе, понятно направление, в котором человек пошёл. Выводы его хорошо резонируют с моими - отсюда моё к нему предвзятое положительное отношение. Могу вкратце поделиться тем, что извлёк из интервью с Хокинсом.

Неокортекс запоминает последовательности элементов, а не отдельно элементы окружающего мира

Это вроде как очевидно. Непонятно, почему другие об этом молчат - возможно, потому что действительно это очевидно. Тогда непонятно, почему многие "проскакивают мимо" этой мысли. Попытка распознать образ на статичной картинке - сомнительная задача. С ней вряд ли справился бы даже (неподготовленный) мозг человека. Для мозга динамика начинается ещё с тремора глаз, хоть перескакивание сигнала в пределах двух соседних светорецепторов - это ещё не совсем динамика, это только подготовка к ней. В динамике отличить объект от фона гораздо проще - объект двигается, фон неподвижен (грубо говоря). Динамика сразу вносит понятие времени в семантику системы, а из хронологической последовательности - думается - выводится семантическая связь причина-следствие, из которой - в свою очередь - вся причинно-следственная логика.

Неокортекс вспоминает последовательности автоассоциативно. Это свойство означает, что если мозг воспринимает часть последовательности, он автоматически вызывает из памяти ее целиком

Динамика и мне видится наилучшим принципом построения ассоциаций самого нижнего уровня - ассоциируются хронологически последовательные образы, далее в какой-то семантической уже обработке вся последовательность выступае одной целостной асоциативной нитью, по которой может пробегать путь ассоциативного поиска. Сумбурно, конечно, но у меня пока не было времени систематизировать свою точку зрения, каюсь. Надеюсь, для "тех кто в теме" всё же будет понятно.

Неокортекс запоминает последовательности в инвариантной форме. Это значит, что в качестве последовательности сохраняются не тонкие и точные детали, а важные соотношения между элементами.

Тоже, вроде как, очевидная мысль. И тоже непонятно, почему многие проскакивают мимо. Ведь в зрительном восприятии, например, этот принцип нацинается ещё с упомянутого тремора. И пример Хокинса (человек узнаёт мелодию, даже если она сыграна в другой тональности - т.е. он помнит не сами ноты, и интервалы между ними) выглядит достаточно ярко и убедительно. Каждый из нас может привести ещё сотню такого рода примеров.

Неокортекс сохраняет последовательности иерархически. Это означает, что по мере того, как входящая информация обрабатывается и проходит "дальше" в мозг, память становится все менее детальной и все более абстрактной.

Здесь идея, конечно, не нова. Насколько мне известно, попытки строить распознавание с обратной связью предпринимались, и даже кое-какие успехи были. Смысл в чём: по каким-то отчетливым параметрам ("большой размер, 4 лапы, хвост с кисточкой") некий "рецептивный блок" строит предположение ("это лев"), и передаёт в некий "аналитический блок". Последний возвращает детали, которые надо уточнить ("грива есть?"), детали уточняются ("гривы нет"), в случае неудачи берётся следующая гипотеза из построенного вначале списка наиболее подходящих ("это львица"), и т.д. - до получения положительного ответа. Есть устойчивое подозрение, что мозг человека работает сходным образом.

Но! Здесь речь идёт не только и не столько об этом, самом первом, уровне восприятия. Здесь, насколько я понимаю, Хокинс утверждает, что ему известен механизм того, что я называю "получением абстракций из ассоциаций". Т.е. качественный переход с феноменального уровня на семантический. Очень хотелось бы услышать, что скажет Андрей, читавший книгу. Насколько освещён там этот вопрос?

мозг человека настолько эффективен потому, что умеет предсказывать будущие события, основываясь на прошлом опыте, хранящемся в памяти (модель "память-предсказание").

Вроде, ничего нового? Ещё нужно добавить, что сравнение прогнозируемой картины событий с реальной идёт постоянно, непрерывно. По мере необходимости, корретируется всё - модель, текущие действия, и само окружение (путём активного влияния на него). Да, идея не нова, просто забывать о ней не надо. Хокинс не забыл.

У меня, вроде, всё. Вкратце. Ждём, что сообщит Андрей.

[Серый]

Неокортекс запоминает последовательности элементов, а не отдельно элементы окружающего мира

Это вроде как очевидно. Непонятно, почему другие об этом молчат - возможно, потому что действительно это очевидно. Тогда непонятно, почему многие "проскакивают мимо" этой мысли.

С запоминанием последовательностей есть одна сложность. Скажем, когда человек рассматривает картинку, он "сканирует" ее глазами, получая последовательность зрительных впечатлений. Но одну и ту же картинку можно обойти взглядом по множеству самых разных маршрутов, которые дадут разные последовательности зрительных впечатлений. И все эти последовательности будут эквивалентны, так как содержат в конечном счете одну и ту же информацию о картинке. Запоминать их все - не имеет смысла, а если запомнить только одну последовательность - то нужен механизм, позволяющий устанавливать эквивалентность разных последовательностей зрительных впечатлений

Попытка распознать образ на статичной картинке - сомнительная задача. С ней вряд ли справился бы даже (неподготовленный) мозг человека.

На самом деле это не так. Довольно просто предьявить человеку именно статичную картинку - для этого достаточно показать ее на очень короткое время, за которое направление взгляда не успеет сместиться. Как легко убедиться, несложные картинки в этих условиях прекрасно распознаются. Хотя, конечно, в динамике эффективность распознавания выше.

[Комбинатор]

Всем привет!
Оригинальный труд доступен на: http://www.neuronus.spb.ru/On_Intelligence.doc

Хочу обсудить с Вами - недостатки Джефа Хокинса и его соавторов в вопросах формирования "новых классификационных признаков" и распознавания на основе не самих абсолютных паттернов (но их временных следов).

Пожалуйста высказывайтесь...

Большое спасибо! Начал читать с великим удовольствием! Конечно, такой текст воспринимается гораздо легче, чем стиль, которым написана лекция Мински.

[Neuronus]

Сразу хочу пояснить - почему негативное отношение к прочитанному.

Сказанно многое (и вполне очевидное). Однако, сказано что происходит, но не сказано КАК! С таким же успехом, какой нибудь НьюПоиск, будет взахлеб рассказывать, что происходит в процессе мышления... Но, не дает ответа на вопрос - как это происходит и что из этого следует. Далее, Хокинс пытается "притянуть за уши" неокортекс и с его помошью дать ответ на вопрос - КАК?

Например, заявляется, что рассматривается пример формирования константного имени заученной (изученной) последовательности паттернов (6.7.) и объясняется этот феномен созданием некой связи между нейронами 3-го слоя.
Как гипотеза, такое обоснование может иметь место, хоть и звучит в высшей степени сомнительно.

Например, рассматривается иерархическая структура (коры), в которой от слоя к слою вверх-вниз и наоборот проходят сигналы от наших рецепторов и "поджигают" только те нейронные группы, которые отвечают за определенные характеристики этих сигналов. Т.е. просто как-бы накладываются фильтры, причем на каждом уровне свои. После этого остаются активными определенные "признаки" отфильтрованного сигнала и по ассоциативным связям между признаками активируются другие признаки (даже не подкрепленные внешним возбуждением). Такая схема отлично работает для НЕ АБСТРАКТНЫХ категорий - то чему есть анологи в тактильной, аудиальной, визуальной ошущаемости внешней среды. Однако, для категорий типа "красиво", "смешно", .... такой подход не работает. Ибо каждое последующее понятие строится на основе уже имеющихся (низшего уровня) и уточняется понятиями того-же уровня (или высшего).

Вероятнее всего, по причине несовершенства владения английским, я не понял до конца тех мыслей которые изложил Хокинс.

Это вроде как очевидно. Непонятно, почему другие об этом молчат - возможно, потому что действительно это очевидно. Тогда непонятно, почему многие "проскакивают мимо" этой мысли.

Скорее не проскакивают, а скромно умалчивают. Потому что заявлять что что-либо происходит без доказательно, мотивируя только кажущейся очевидностью, не каждый осмеливается. Отвечая на вопрос "Что происходит", следует уметь ответить и "Как это происходит".

Потому и предвзятое отношение.

P.S.
Очень прошу не придираться к словам и учитывать, что все сказанное относится только к примерам из указанной книги.

[NO]

В ИИ много областей (надо бы карту нарисовать что на чем основано и где белые пятна)
- изучение мозга
- философия про мышление
- про жизнь, биология
- физика и философия про систему ИИ+среда
- кибернетика про железо, Животное Бонгарда
- конкретные методы, математика и программирование
- логика про условную истину и вычислимость

Можно очень много литературы собрать и все будет иметь отношение к ИИ.
Меня почему-то мало интересует кибернетика, разные модели мозга. меньше всего как он физиологизирует. Как мозг мыслит я знаю.
В математике обычно все коротко, а в таких описательных делах большая книга это всегда хорошо, но 100 страниц все же очень небольшая книга, там скорее отношение автора.

[Timba]

Большое спасибо! Начал читать с великим удовольствием! Конечно, такой текст воспринимается гораздо легче, чем стиль, которым написана лекция Мински.

Ага, так можно любую работу по ИИ популяризировать:
Сначала 10 страниц Мински заставить прочесть
а мотом любая хоботня будет как детектив читаться

Если эта книженция стоит того можно страниц по 20-30 раскидать на брата и перевести за пару недель

Как народ к этому относится?

[Комбинатор]

Большое спасибо! Начал читать с великим удовольствием! Конечно, такой текст воспринимается гораздо легче, чем стиль, которым написана лекция Мински.

Ага, так можно любую работу по ИИ популяризировать:
Сначала 10 страниц Мински заставить прочесть
а мотом любая хоботня будет как детектив читаться

Если эта книженция стоит того можно страниц по 20-30 раскидать на брата и перевести за пару недель

Как народ к этому относится?

Я пока успел прочитать процентов 20, и пока у меня складывается впечатление, что статья (точнее, лекция) Мински, несмотря на дурацкий стиль изложения мыслей, всё же более полезна для практики, чем книжка Хокинса. Он действительно фетишизирует нейрокортекс (мы говорим интеллект - подразумеваем нейрокортекс, мы говорим нейрокортекс - подразумеваем интеллект). При этом, из рассмотрения выпадают не только эмоции (которые Мински считает "движком" интеллекта, что и подчёркивает в названии своей книги), центры предобработки информации от органов чувств и т.д., но и тот факт, что признаки явной интеллектуальности демонстрируют и существа, у которых нейрокортекса практически нет вообще (например, вороны). То есть, создаётся впечатление, что найдя ещё один какой-то орган (например, между ног ) у того самого слона, которого ощупывают несколько слепцов, он радостно кричит, да вот же, я нашёл, вот он какой, настоящий слон!

Конечно, и обратные связи, и учёт фактора времени, и ассоциативная память очень важны, но одних этих идей недостаточно. Как любит говорить Юдковский - "Useful. But not enough".

Всё сказанное - сугубо моё ИМХО.

[Neuronus]

Могучий All

Прошу простить, а где можно прочесть (в электронном виде) упомянутую лекцию Мински?
Дайте плиз ссылку или киньте в меня мылом.
Заранее благодарен!

[Комбинатор]

По мне, так очень полезным был бы перевод книги Гоерцеля (или как правильно странскриптировать на русский фамилию Goertzel ?) "The Path to Singularity". Не смотря на название, она, в основном, про разрабатываемую им многоагентную систему ИИ. Правда, из интернета, в связи с выходом книги в печатном виде, он текст убрал, но по личному запросу, я думаю, вышлет. Во всяком случае, Васильеву (Avatar-y) в своё время выслал без проблем. Кстати, в этой книге он довольно много и тепло пишет о своём общении с Турчиным.

Если говроить о статьях, то весьма интресной для перевода, на мой взгляд, может быть, например, его статья: "A Comparison of the Novamente AI Design with the Human Mind-Brain"
http://www.goertzel.org/new_research/NM_human_psych.pdf

[Комбинатор]

Могучий All

Прошу простить, а где можно прочесть (в электронном виде) упомянутую лекцию Мински?
Дайте плиз ссылку или киньте в меня мылом.
Заранее благодарен!

http://web.media.mit.edu/~minsky/papers ... nding.html

[Inex]

Книжку я не читал...
Это вроде как очевидно...
Тоже, вроде как, очевидная мысль...
Здесь идея, конечно, не нова...
Вроде, ничего нового?..

Вот и у меня по статье сложилось ощущение банальности написанного

Присутствует ли в книге что-то конструктивное? Стоит ли ее читать, или там конкретики не больше, чем в статье?