AI Lab

Недостатки модели формального нейрона

Следует сразу оговориться, что речь пойдет о размышлениях (отчасти спекулятивных), а не о бесспорных фактах. И что часть требований, отсутствуя в модели формального нейрона, фигурирует в других моделях. Однако представляется важным создание целостной модели с одновременным учетом всех замечаний. Целью же является расширение возможностей ИНС в решении технических задач. Обоснованность описанных требований как метода достижения этой цели остается предметом обсуждения.

Рассмотрим некоторые аспекты, которые формальный нейрон не воспроизводит, и которые кажутся необходимыми для расширения эффективности применения ИНС.

Скачать

1. Динамика сигналов. Решение любой проблемы обычно, так или иначе, оказывается связано с динамикой. Так, например, в распознавании образов (к примеру лиц людей) дополнительный учет динамики (статистическое накопление решений по N кадрам) дает существенно лучший результат. Представляется разумным изначально заложить способность системы работать с образами, распределенными во времени.

2. Фильтрация постоянной составляющей сигналов в сети. Обязательное наличие обратной тормозной связи от возбуждаемого нейрона (слоя) к возбуждающему – возвратное торможение.

3. Геометрия расположения нейронов в пространстве сети.

4. Как следствие п.п.1,2,3 – учет задержек распространения сигналов в сети. Возможный вариант – организация древовидной структуры дендритов сети с введением задержек на распространение сигналов. Результат – существенное усложнение одновременной пространственной и временной суммации сигналов на нейроне, некоторое усиление важности локальных правил обучения нейрона, т.к. он перестает быть элементарной ячейкой сети.

5. Учет эффектов синаптической передачи (пресинаптическое торможение, модулирующие нейроны, и т.п.).

6. Правила организации (настройки) тормозных связей. В частности п.2. В биологических НС тормозные связи играют существенную и часто доминирующую роль (кора мозжечка).

7. Адаптация сенсорных и эффекторных сигналов в естественную для нейронной сети форму. Здесь речь идет о согласовании входных и выходных потоков информации со структурой сети. В качестве одного способа можно предложить разделение диапазонов сенсорных и эффекторных сигналов на участки, соответствующие отдельным нейронам. Т.е. формирование рецептивной области внутри диапазона сигнала. Пример – разбиение входного диапазона значений угла на интервалы, по аналогии с организацией нейронов зрительной коры, где отдельный нейрон отвечает за линию определенного наклона.

8. Возможно (но необязательно), что реализация предыдущих пунктов будет более удобна на импульсной модели нейрона. Импульсная модель позволяет описывать такие явления, как запуск ПД нейрона (групп нейронов) одиночной массированной активацией синапсов, т.е. вызывать события в сети, при фактически нулевой частоте возбуждения.

9. Учет параметров ненаправленного взаимодействия нейронов (\"ресурсы\"). Имеет смысл с учетом п.3) и в частности п.10).

10. Локальное влияние активности нейронов на ближайших соседей (предположительно, на группу нейронов, до которых этот нейрон может \"дотянуться\" связями (п.3); возможно, на группу нейронов, сосредоточенную вблизи сомы и аксона этого нейрона, как наиболее близко расположенных к области потенциала действия). Возможно как прямое влияние в виде изменения мембранного потенциала, так и опосредованное через ресурсы. Усиливает ценность локальных правил обучения сети, т.к. позволяет расширить эти правила на группы нейронов.

11. Принципиальная неустойчивость модели нейрона. Нейрон должен выполнять работу по приближению к оптимальному состоянию (например в энергетическом плане), однако не должен иметь возможности достичь его, или остаться в нем.

Пункты 1-8 имеют под собой, по крайней мере, физиологическое обоснование. Остальные пункты на данный момент для автора являются спекуляцией и требуют как минимум подтверждения на уровне физиологии.