<<
>>

1.2.7. Генетический алгоритм обучения

Впервые идея использования генетических алгоритмов для обучения: (machine learning) была предложена в 1970-е годы. Во второй, половине 1980-х к этой идее вернулись в связи с обучением нейронных: сетей.

Использование механизмов генетической эволюции для обучения нейронных сетей кажется естественным, поскольку модели нейронных сетей разрабатываются по аналогии с мозгом и реализуют некоторые его особенности, появившиеся в результате биологической эволюции.

is

Основные компоненты генетических алгоритмов - это стратегии репродукций, мутаций и отбор "индивидуальных" нейронных сетей (по аналогии с отбором индивидуальных особей).

Первая проблема построения алгоритмов генетической эволюции - это кодировка информации, содержащейся в модели нейронной сети. Коды называют "хромосомами". Для фиксированной топологии (архитектуры) нейронной сети эта информация полностью содержится в значениях синаптических весов (W) и смещений (Б). Вектор (W,B) рассматривается как хромосома. Возможны более сложные способы кодирования, информации. Для реализации концепции отбора необходимо ввести способ сопоставления (сравнения) различных хромосом в соответсвии с их возможностями решения поставленных задач. Для нейронных сетей с последовательными связями это может быть стандартная мера - сумма квадратов разностей компонент действительного и желаемого сигналов. (Эта мера используется в стандартном алгоритме обратного распространения.) В отличие от большинства других алгоритмов обучения, для генетических алгоритмов требуется не один набор начальных значений; параметров, а несколько наборов, которые называются популяцией хромосом. Популяция обрабатывается с помощью алгоритмов репродукции, изменчивости (мутаций), генетической композиции. Эти алгоритмы напоминают биологические процессы. Наиболее важные среди; них: случайные мутации данных в индивидуальных хромосомах, переходы (кроссенговер) и рекомбинация генетического материала, содержащегося в индивидуальных родительских хромосомах (аналогично гетеросексуальной репродукции), и миграции генов.

Генетический алгоритм работает следующим образом. Инициализируется популяция и все хромосомы сравниваются в соответствии с выбранной функцией оценки. Далее (возможно многократно) выполняется процедура репродукции популяции хромосом. Родители выбираются случайным образом в соответствии со значениями оценки (вероятность того, что данная хромосома станет родителем, пропорциональна полученной оценке). Репродукция происходит индивидуально для одного родителя путем мутации хромосомы либо для двух родителей путем перекрещивания генов. Получившиеся дети оцениваются в соответствии с заданной функцией и помещаются в популяцию.

В результате использования описанных операций на каждой стадии эволюции получаются популяции со все более совершенными индивидуумами.

Область применения: распознавание образов, классификация, прогнозирование (в последнее время наиболее широко генетические алгоритмы обучения используются для банковских прогнозов). В литературе описана нейронная сеть для распознавания сигналов гидролокатора, которая была обучена с помощью генетического алгоритма. Эксперименты, описанные в литературе, показывают, что генетические алгоритмы очень эффективны в поиске глобальных минимумов адаптивных рельефов, так как в них исследуются большие области допустимых значений параметров нейронных сетей. (Градиентные алгоритмы дают возможность находить только локальные минимумы.) Другая причина того, что генетические алгоритмы не застревают в локальных минимумах - случайные мутации, которые аналогичны температурным флуктуациям метода имитации отжига. В литературе есть указания на достаточно высокую скорость обучения при использовании генетических алгоритмов. Хотя скорость сходимости градиентных алгоритмов в среднем выше, чем генетических алгоритмов.

Генетические алгоритмы дают возможность оперировать дискретными значениями параметров нейронных сетей. Это упрощает разработку

цифровых аппаратных реализаций нейронных сетей. При обучении на компьютере нейронных сетей, не ориентированных на аппаратную реализацию, возможность использования дискретных значений параметров в некоторых случаях может приводить к сокращению общего времени обучения. В рамках "генетического" подхода в последнее время разработаны многочисленные алгоритмы обучения нейронных сетей, различающиеся способами представления данных нейронной сети в "хромосомах", стратегиями репродукции, мутаций, отбора. Источники: [51] - [59].

<< | >>
Источник: Стадник Алексей Викторович. Использование искусственных нейронных сетей и вейвлет-анализа для повышения эффективности в задачах распознавания и классификации. 2004

Еще по теме 1.2.7. Генетический алгоритм обучения:

  1. 2.2 Алгоритм обучения нейронной сети для ускоренной сходимости обучения
  2. 3.1 Алгоритм обучения нейронной сети.
  3. 3.1.2 Результаты обучения нейронной сети.
  4. 1.2.7. Генетический алгоритм обучения
  5. 2.2.1. Обучение радиальных нейронов СНРБ-сети.
  6. 3.5. Обучение без учителя
  7. 5.4 Компьютерное обучение
  8. ОБУЧЕНИЕ ПЕРСЕПТРОНА
  9. АЛГОРИТМ ОБУЧЕНИЯ ПЕРСЕПТРОНА
  10. ОБУЧАЮЩИЙ АЛГОРИТМ ОБРАТНОГО РАСПРОСТРАНЕНИЯ
  11. ОБУЧЕНИЕ СЛОЯ КОХОНЕНА
  12. ИСПОЛЬЗОВАНИЕ ОБУЧЕНИЯ
  13. ОБРАТНОЕ РАСПРОСТРАНЕНИЕ И ОБУЧЕНИЕ КОШИ
  14. Приложение Б. Алгоритмы обучения
  15. ОБУЧЕНИЕ С УЧИТЕЛЕМ И БЕЗ УЧИТЕЛЯ
  16. Генетические алгоритмы синтеза нейронных сетей для систем управления
  17. Разработка генетических алгоритмов для синтеза систем управления вертикализацией экзоскелета посредством нейросетевых технологий
  18. Вариационный генетический алгоритма для синтеза системы управления с одним критерием оптимизации
  19. Генетический алгоритма для обучения нейронной сети для вертикализации экзоскелета с одним критерием оптимизации
  20. Генетический алгоритма для обучения нейронной сети для вертикализации экзоскелета с двумя критериями оптимизации