AI Lab

Open Artificial Intelligence Laboratory

Моделирование процессов выживания и оптимизации ресурсов нейрона как элемента нейронных структур

Многие подходы в решении задач, которые традиционно считаются прерогативой человеческого интеллекта, нашли подсказки или целиком были позаимствованы у живых существ и человека. Можно полагать, что человеческое мышление это построение образной картины решаемой задачи, решающую роль в построении образов играют ассоциации между множествами образов. Процесс мышления - это обработка образной информации, манипулируя которой, двигаясь от образа к образу, человек решает различные задачи [1].
Однако моделирование столь сложной структуры как нервная система животных и человека “в лоб”, с целью получить систему, обладающую способностями аналогичными тем, что считаются прерогативой человеческого интеллекта, представляется не перспективным. В отсутствие достоверных и исчерпывающих знаний о причинах именно такой организации структуры и функций мозга, какие они есть, потребовалось бы создать точную копию мозга, что не имеет смысла в перспективе создания робототехнических систем.
Один из возможных путей создания систем образной обработки информации – попытаться путем анализа известных принципов организации и взаимодействия естественных нейронов предложить модель, объединяющую в себе эти принципы. Такой путь является продолжением теории искусственных нейронных сетей.
Более перспективным направлением, представляется попытаться понять проанализировать первопричины, по которым нейроны объединяются в группы, слои, и затем формируют отделы мозга, и попытаться создать модели нейронов и нейронных сетей, функционирующие по сходным принципам. Иными словами необходимо попытаться то движущее начало, которое формирует нейронные структуры и их заставляет работать. Одним из таких фундаментальных свойств в живой природе является принципиальная неустойчивость биологической системы во времени – т.е. неизбежное старение организма. Борьбу с этим свойством можно считать одним из основных аспектов функционирования живой материи [2].
Внесение в модели нейронов и нейронных сетей этого, и других свойств живой материи может позволить создать системы, в которых такие важные аспекты как образное восприятие и обработка информации будет являться следствием этих свойств, а не заложено искусственно. Также исследование таких моделей, возможно, позволит полнее понять принципы функционирования высшей нервной деятельности человека.

1. Интеллектуальная квазибиологическая система

Важную роль в функциональных системах играют мотивации, связанные с потребностями организма. В поведении животных мотивация служит для формирования цели и поддержки целенаправленных форм поведения. Ее можно рассматривать как активную движущую силу, которая стимулирует нахождение решения, адекватного потребностям животного в конкретной ситуации. Например, если организм голоден, он должен искать пищу.

В работе [2] предлагается модель нейронного автомата, состоящая из нейронов, рецепторов, эффекторов и системы раздачи питания нейронам. Нейроны автомата отдаленно напоминают живые нейроны. Рецепторы воспринимают воздействия внешней среды, в которой находится автомат, и преобразуют их в воздействия на нейроны. Эффекторы воспринимают воздействия нейронов и преобразуют их в воздействия на внешнюю среду.

Основные особенности:

1. Нейрон нуждается в питании. Если нейрон не получает требующегося ему количества питания, то он погибает.

2. Нейрон стареет. Состояние нейрона зависит от его возраста. Основным свойством является рост потребностей в питании по мере увеличения возраста.

3. Разряд в нейроне приводит к снижению возраста и к снижению потребностей в питании.

4. Между нейронами могут образовываться связи, по которым осуществляется взаимодействие нейронов, направленное на оптимизацию функциональных состояний нейронов.

5. Разряд в нейроне требует дополнительных расходов питания, зависящих от частоты генерации разрядов. У нейрона существует оптимальная частота генерации, такая, при которой расходы питания на единицу снижения возраста минимальны.

6. У нейрона имеются собственные внутренние резервы питания. По их величине и тенденции определяется "самочувствие" нейрона.

В начале функционирования автомат - это неорганизованное или слабо организованное множество нейронов, поставленных в условия ограниченного питания. Решается задача выжить за счет организации таких внутренних отношений между нейронами и отношений с внешним миром, когда потребности нейронов снижаются и в среднем автоматически поддерживаются на уровне возможностей питательной среды. Интеллектуальные свойства возникают как следствия организации различных энергетически выгодных форм и режимов внутреннего функционирования.

В исходном состоянии нейроны функционируют независимо друг от друга, так как связей между ними еще нет. Свойства нейронов обеспечивают образование межнейронных связей, и неорганизованное нейроны превращаются в нейронную сеть с самоподдерживающейся структурой, определяемой числом и величинами межнейронных связей. Это происходит для функционального обновления, т.е. значительного снижения возраста всех нейронов и снижения потребностей в питании. Модель нейрона, удовлетворяющего требованиям, описанным выше, может быть представлена следующей функциональной схемой (рис. 1.1).

bakhshiev_neuronlifemodeling_pic1_01.png

Рис. 1.1. Модель нейрона как квазибиологического организма

2. Формулировка задачи работы

Можно полагать, что интеллектуальное поведение животных связанное, несомненно, с функционированием нервной системы, которая является эволюционным механизмом приспособления компенсации неустойчивости процессов жизнедеятельности под воздействием факторов окружающей среды, таким образом, основано на первичных факторах, свойственных живым организмам, и необходим учет этих факторов в моделях интеллектуальных систем. При этом учет этих факторов представляется разумным производить на уровне базовых функциональных элементов разрабатываемых искусственных систем, аналогично симбиозу взаимодействия отдельных клеток и органов, формирующих сложный живой организм.

Разработка систем, обладающих базовыми признаками живых объектов, таких как: старение, потребность в питании, наличие эмоций (краткосрочная и долгосрочная оценка внутреннего состояния организма и его взаимодействия со средой), представляется одним из перспективных направлений на пути создания робототехнических систем, способных адаптироваться к образам внешней среды, взаимодействовать со средой автономно и эффективно решая поставленные задачи в условиях сложной, и часто неопределенной обстановки, допускающей различные варианты поведения, или когда сама задача не имеет четко формализованной модели.

Первым этапом на пути создания таких систем может являться необходимость разработки модели нейрона, в основу которой будет положена нейронно-энергетическая концепция предлагаемая в модели, описанной в п. 1.

Как было показано на рис 1.1 , такую модель можно разделить на два функциональных модуля: модуль нейрона как преобразователя импульсного потока, и модуль нейрона как квазиживого объекта.

Целью данной работы является математическое описание, и разработка и исследование компьютерной модели функционала нейрона, как элемента самоорганизующихся динамических нейронных структур обеспечивающего его выживание в данных структурах во взаимодействии с окружающей средой, в условиях ограниченного времени существования нейронов и конкурентной борьбы за ресурсы.

3. Функциональная схема комплексной модели нейрона

Ниже представлена функциональная схема, объединяющая в себе модель нейрона как преобразователя импульсных потоков [3,4,5] и как живого объекта (рис 3.1).

bakhshiev_neuronlifemodeling_pic3_01.png

Рис 3.1 Функциональная схема комплексной модели нейрона

Моделируя процессы жизнеобеспечения нейрона, мы абстрагируемся от химии и физиологии протекающих процессов, аналогично моделированию процессов преобразования импульсных потоков. Нас интересует моделирование качественных свойств нейрона, обеспечивающих выживание клетки в условиях симбиоза и конкурентной борьбы внутри нейронной сети. Опираясь на работу [2] введем два следующих базовых параметра:

Энергетический резерв клетки E. Полагаем, что нейрон расходует энергию на генерацию импульсов. При наличии избытка энергии нейрон способен делиться, при потере всего запаса энергии нейрон погибает. Также полагаем суммарный запас энергии нейронной сети ограниченным.

Таким образом этот параметр ограничивает способность нейрона к генерации импульсов и является фактором конкурентной борьбы в сообществе нейронов.

Износ нейрона H определяет эффективность функционирования модели. Увеличение степени износа (старение нейрона) ведет к снижению эффективности расхода энергии на генерацию импульса. Процесс генерации импульса ведет к функциональному обновлению клетки, т.е. снижению степени износа. Таким образом этот параметр определяет потребность клетки в симбиозе с другими клетками для экономии ограниченного запаса энергии.

4. Модель процессов жизнеобеспечения нейрона

[См. полную версию статьи]

5. Интегральные характеристики нейронной сети

Выше мы рассмотрели параметры жизнеобеспечения отдельного нейрона, однако для оценки работы системы, нам необходимы характеристики всей нейронной сети. Будем рассматривать следующие характеристики.

Суммарный износ системы равен сумме износов всех нейронов.

При образовании новых нейронов, общий износ увеличивается, при гибели нейрона, износ нейронной сети уменьшается.

Суммарное самочувствие равно сумме самочувствий всех нейронов, оно характеризует качество работы системы.

Суммарный расход энергии равно сумме расходов энергии каждого нейрона.

Суммарная частота генерации импульсов системы, является одним из самых важных параметров, т.к. эта величина косвенно определяет оптимум функционирования сети, сеть стремится минимизировать частоту разрядов, одновременно минимизируя суммарный износ. Таким образом, для стабильной работы и решения поставленной нами задачи, система должна найти определенную оптимальную частоту, для чего отдельные нейроны должны объединяться в группы (ансамбли), которые будут одинаково реагировать на последовательности образов, то есть, система будет распознавать последовательности однотипных образов, за счет чего уменьшиться расход энергии.

6. Правила организации нейронных связей

[См. полную версию статьи]

7. Многослойные сети

В нашей модели используются многослойные сети.

Число нейронов в слое определяется числом генераторов (все нейроны 1го слоя получаются подключенными к своему генератору), а общее число слоев = число нейронов сети/число генераторов. При этом связаны нейроны следующим образом:

У каждого нейрона есть координата в двухмерном пространстве сети.

X – координата вдоль слоя,

Y - координата вдоль списка слоев.

При этом каждый нейрон связан только с теми, расстояния между которыми <=1.

Нейроны могут образовывать ансамбли.

Введем понятие бета-ансамблей. Любая последовательность связанных нейронов, со связями Gs больше порога является бета-ансамблем. Например:

N1 N2 N3

Ансамбль – группа нейронов, которая организовала внутри себя полную картину связей, то есть каждый нейрон имеет связь с каждым, внутри данной группы. Пример ансамбля:

N1 N2 N3

N2 N1 N3

N3 N1 N2

В каждой строчке выводится перечень нейронов: первым идет имя анализируемого нейрона, а за ним - все нейроны которые организовали на первом связи с Gs больше некоторого заданного порога. У ансамбля есть параметр «мощность», который определяет суммарное Gs всех нейронов этого ансамбля.

Предложенная модель нейрона описывает основные информационно-физиологические свойства естественного нейрона, такие как износ (старение) нейрона, получение энергии (питания) нейроном из внешней среды, изменение мембранного потенциала под воздействием внешней среды и внутреннего состояния.

Ниже рассмотрим примеры функционирования такой сети.

8. Исследования

8.1 Параметры одиночного нейрона

Рассмотрим отдельно реакции модели жизнеобеспечения нейрона. Положим в начальный момент времени:

• количество доступной энергии E=0.2;

• начальный износ нейрона H=0.1;

• подача энергии не осуществляется;

• генерация импульсов нейроном невозможна.

Реакции модели в этом простом случае представлены на рис. 8.1. Можно видеть, как по мере роста износа нейрона, снижается величина порога генераторной зоны, наблюдается почти линейная связь между запасом энергии и самочувствием (в виду малых величин производной энергии), и в итоге наступает смерть нейрона при достижении энергией 0 значения.

bakhshiev_neuronlifemodeling_pic8_01.png

красный пунктир – суммарный порог нейрона

зеленый пунктир – износ

фиолетовый – запас энергии

серый пунктир – самочувствие

Рис. 8.1. Реакции модели жизнеобеспечения нейрона в условиях изоляции

Реакции модели на разряд нейрона можно наблюдать на рис. 8.2. Здесь отличие от предыдущего случая заключается в том, что в заданный момент времени искусственно формируется разряд нейрона. Можно видеть, что при возникновении импульса, происходит снижение величины износа H, вследствие расхода энергии на генерацию импульса, на время генерации существенно снижается самочувствие Q.

[См. полную версию статьи]

Графики интегральных характеристик сети можно видеть на рис. 8.6. Здесь демонстрируется стабилизация функционирования сети в отсутствии внешнего возбуждения.

bakhshiev_neuronlifemodeling_pic8_06.png

Рис. 8.6. Интегральные характеристики сети.

При запуске сети, вследствие того, что износ растет, увеличивается и потребление энергии. В момент, когда износ достигает критической величины, нейроны начинают генерировать импульсы, чтобы уменьшит износ, запас энергии начинает уменьшаться. Через некоторое время нейроны выходят на оптимальную частоту, при которой расход энергии, величина износа, самочувствие нейронов, и как следствие – частота генерации нейронами сети (рис. 8.7) становятся постоянными.

bakhshiev_neuronlifemodeling_pic8_07.png

Рис. 8.7. Средняя частота сети

8.2. Исследования сети

[См. полную версию статьи]

8.3. Организация связей в сети

[См. полную версию статьи]

8.4. Функционирование сети под действием внешнего возбуждения

Рассмотрим поведение модели под действием возбуждения по одному входу (Нейрон N4) частотой 10 Гц (рис. 8.10).

bakhshiev_neuronlifemodeling_pic8_10.png

Рис. 8.10. Возбуждение на сенсорном нейроне

На рис. 8.11 виден рост запаса энергии нейрона N4 при наличии внешнего возбуждения, и восстановление прежнего запаса при потере входного сигнала.

bakhshiev_neuronlifemodeling_pic8_11.png

Рис. 8.11. Изменение запаса энергии нейрона при наличии внешнего возбуждения

На графике (рис. 8.12) видно, что на время возбуждения сенсорных нейронов, общий износ системы уменьшился, и как и ожидалось, уменьшилась частота генерации импульсов, что видно на рис. 8.13 (чем меньше износ, тем меньше надо «омолаживать» систему и частота генерации импульсов, за счет которых происходит снижение износа, будет меньше).

bakhshiev_neuronlifemodeling_pic8_12.png

Рис. 8.12. Снижение износа сети за счет восприятия внешнего возбуждения

bakhshiev_neuronlifemodeling_pic8_13.png

Рис. 8.13. Изменение средней частоты сети при наличии внешнего возбуждения

Резюмируя вклад, вносимый моделью системы жизнеобеспечения в модель импульсного нейрона, можно построить следующие графики основных характеристик модели для некоторого частного значения параметров.

Как было описано выше, при генерации нейроном импульса, происходит «омолаживание» нейрона, то есть его износ уменьшается, следовательно, чем выше частота генерации импульсов, тем меньше износ, что мы можем наблюдать на графике.

Частота генерации импульсов двояко сказывается на запасе энергии, с одной стороны она расходуется непосредственно на импульс, с другой стороны она уменьшает износ и ,следовательно, расход энергии на генерацию импульсов. Как мы видим на графике существует оптимальная частота, при которой запас энергии будет максимальным. С появление генерации импульсов запас энергии растет, но при превышении определенной частоты, расход энергии на генерацию импульсов становиться слишком большим и нейрон погибает.

Самочувствие напрямую зависит от запаса энергии нейрона, поэтому характер кривой, как и ожидалось, повторяет зависимость запаса энергии от частоты.

Во время стимуляции сети внешними импульсами, усиливается связь между нейронами, что хорошо видно на графике (рис. 8.14), причем динамическая составляющая, отвечающая за кратковременную память, с появлением импульса быстро выходит на определенный уровень, и когда генерация импульса завершается, возвращается приблизительно до прежнего уровня.

bakhshiev_neuronlifemodeling_pic8_14.png

Рис. 8.14. Изменение динамической компоненты связи под действием внешнего возбуждения

Статическая же составляющая (рис. 8.15), после включения генератора, стала медленно расти, и не сразу упала до старого значения после отключения генератора, а стала медленно к нему стремиться, что мы можем наблюдать на графике.

bakhshiev_neuronlifemodeling_pic8_15.png

Рис. 8.15. Изменение статической компоненты связи под действием внешнего возбуждения

Результирующее значение веса представлено на рис. 8.16.

bakhshiev_neuronlifemodeling_pic8_16.png

Рис. 8.16. Суммарное изменение веса связи под действием внешнего возбуждения

8.5. Исследование ансамблей

Рассмотрим нейронную сеть состоящую из 4 нейронов, где 2 нейрона (N, N2) являются сенсорными. Для формирования ансамбля активируем оба входа (рис. 8.17, время ~10с).

bakhshiev_neuronlifemodeling_pic8_17.png

Рис. 8.17. Источники сигнала

В течении 1с формируется ансамбль из пары нейронов N+N2. На рис. 8.18 представлены реакции ансамблей. На графике показана активность (средняя частота разрядов нейронов) ансамбля. Можно видеть, что при наличии возбуждения, формировавшего ансамбль – активность ансамбля держится на уровне ~5Гц, тогда как при отсутствии возбуждения активность ансамбля стабилизируется на частоте ~10.5Гц. Возможны промежуточные состояния (интервал времени 26-31с) когда активируется только часть нейронов ансамбля.

bakhshiev_neuronlifemodeling_pic8_18.png

Рис. 8.18. Формирование и реакции ансамбля

Соответствующая средняя частота разрядов сети представлена на рис. 8.19.

bakhshiev_neuronlifemodeling_pic8_19.png

Рис. 8.19. Активность сети

Заключение

1. Был проведен анализ структуры и функций биологического нейрона, изучены модели искусственных нейронных сетей, и подробно рассмотрена модель нейрона, как квазиживого объекта функционирующего в условиях ограниченных ресурсов и времени существования. Основополагающей идеей работы, является высказанное и разработанное в [2] утверждение о том, что структура нейронной сети, и ее информационные свойства определяются функционированием ее функциональных элементов – нейронов. Т.е. целое образуется и функционирует ради своих элементов. Реакции модели определяются, помимо внешних воздействий, такими внутренними параметрами нейрона, как износ и запас энергии накапливаемой нейроном в процессе функционирования. Вторым утверждением является то, что разряд в нейроне нужен самому нейрону.

2. В работе была предложена схема разделения модели нейрона на два самостоятельных модуля: модель нейрона как преобразователя импульсного потока, и нейрона как квазиживого объекта.

3. Разработана математическая модель такого нейрона.

4. Проведено исследование работы модели нейрона и анализ принципов организации нейронов в группы (ансамбли) под воздействием внешнего возбуждения различного характера.

5. В качестве направлений дальнейших исследований предполагается решение следующих задач:

• Добавление в модель нейрона управления тормозными связями.

• Детальное исследование взаимодействия ансамблей их свойств и поиск способов их практического использования для решения частных задач, таких как, например построение модели окружающей среды.

• Разработка методики переноса формально определяемых задач, в пространство потребностей нейронной сети.

• Построение модели анимата, с управлением на базе предложенной нейронной сети, решающий задачи выживания в среде.

• Развитие абстрактного понятия самочувствие до самостоятельной системы, равноправно взаимодействующей с искусственной нервной системой, сенсорами и эффекторами анимата.

Список использованных источников

1. Юревич Е.И., Бахшиев А.В. О новом подходе к созданию технического зрения // Мехатроника, автоматизация, управление/ М.: Новые технологии, 2004. – с.268-271.

2. Емельянов-Ярославский Л.Б. Интеллектуальная квазибиологическая система (Индуктивный автомат) / М.: Наука, 1990. 112 с.

3. Романов С.П., Бахшиев А.В Математическая модель биологического нейрона / Труды семинара «Моделирование неравновесных систем – 2000» (20-22 октября 2000 г. Красноярск)

4. А.В. Бахшиев, С.П. Романов. – Математическое моделирование процессов преобразования импульсных потоков в биологическом нейроне // Нейрокомпьютеры: разработка, применение, №3, 2009. – с.71-80.

5. А.В. Бахшиев. – Воспроизведение реакций естественных нейронов как результат моделирования структурно-функциональных свойств клеточной мембраны // Робототехника. Взгляд в будущее. Труды международного научно-технического семинара. Санкт-Петербург: Изд-во "Политехника-сервис", 2010, c.240-244.

6. И.В. Кудинов, А.В. Бахшиев. – Моделирование принципов выживания нейронов в условиях ограниченных ресурсов // XXXVIII Неделя науки СПбГПУ: материалы международной научно-практической конференции. Ч. XV. – СПб.: Изд-во Политехн. ун-та, 2009. –C.26-28.

Обсудить на форуме (комментариев 75).
Исследования Бионика Моделирование процессов выживания и оптимизации ресурсов нейрона как элемента нейронных структур