2.2 Алгоритм обучения нейронной сети для ускоренной сходимости обучения
Способность к обучению является фундаментальным свойством мозга. В контексте искусственных нейронных сетей процесс обучения может рассматриваться как настройка архитектуры сети и весов связей для эффективного выполнения специальной задачи.
Процесс функционирования нейронной сети зависит от величин синаптических связей, поэтому, задавшись определенной структурой нейронной сети, отвечающей какой-либо задаче, необходимо найти оптимальные значения всех переменных весовых коэффициентов (некоторые синаптические связи могут быть постоянными). Этот этап называется обучением нейронной сети, и от того, насколько качественно он будет выполнен, зависит способность сети решать поставленные перед ней проблемы во время эксплуатации. Обычно нейронная сеть должна настроить веса связей по имеющейся обучающей выборке. Функционирование сети улучшается по мере итеративной настройки весовых коэффициентов. Свойство сети обучаться на примерах делает их более привлекательными по сравнению с системами, которые следу- ют определенной системе правил функционирования, сформулированной экспертами.Для конструирования процесса обучения, прежде всего, необходимо иметь модель внешней среды, в которой функционирует нейронная сеть. Эта модель определяет парадигму обучения. Необходимо понять, как модифицировать весовые параметры сети, то есть какие правила обучения управляют процессом настройки. Алгоритм обучения означает процедуру, в которой используются правила обучения для настройки весов.
В основе всех алгоритмов обучения положен единый принцип - минимизация эмпирической ошибки. Функция ошибки, оценивающая данную конфигурацию сети, задается извне в зависимости от того, какую цель преследует обучение. Но далее сеть начинает постепенно модифицировать свою конфигурацию (состояние всех своих синаптических коэффициентов), таким образом, чтобы минимизировать эту ошибку. В итоге, в процессе обучения сеть все лучше справляется с возложенной на нее задачей.
Базовой идеей всех алгоритмов обучения является учет локального градиента в пространстве конфигураций для выбора траектории быстрейшего спуска по функции ошибки. Функция ошибки, однако, может иметь множество локальных минимумов, представляющих суб-оптимальные решения. Поэтому градиентные методы обычно дополняются элементами стохастической оптимизации, чтобы предотвратить застревание конфигурации сети в таких локальных минимумах.
Еще по теме 2.2 Алгоритм обучения нейронной сети для ускоренной сходимости обучения:
- Генетический алгоритма для обучения нейронной сети для вертикализации экзоскелета с одним критерием оптимизации
- Генетический алгоритма для обучения нейронной сети для вертикализации экзоскелета с двумя критериями оптимизации
- 3.1 Алгоритм обучения нейронной сети.
- 3.1.2 Результаты обучения нейронной сети.
- 2.2.1. Обучение радиальных нейронов СНРБ-сети.
- Общая схема обучения нейронной сети
- Агульник В.И.. Методические указания к выполнению контрольной работы по курсу высшей математики для студентов ускоренного заочного обучения., 0000
- 1.2.7. Генетический алгоритм обучения
- Приложение Б. Алгоритмы обучения
- 4. Классификация систем (форм) обучения по механизму декомпозиции содержания обучения
- 23.Психологическая характеристика обучения. Обучение и развитие. Сущность, виды и механизмы научения.
- Генетические алгоритмы синтеза нейронных сетей для систем управления
- 4. Интенсификация обучения и проблемное обучение
- 2 Разработка топологии искусственной нейронной сети для задач выделения сюжетной части изображения
- Свёрточные нейронные сети
- §1. Понятие о методах обучения и их классификации.Взаимосвязь методов обучения