Нейронные сети
Математическая модель нейрона.
В.М. Курейчик, Б.К. Лебедев, В.И. Божич, статьяС конструктивной точки зрения нейрон, являющийся основным элементом нейросети, это устройство для получения нелинейной функции нескольких переменных X с возможностью настройки его параметров. Традиционно нейрон описывается в терминах заимствованных из биологии. Согласно этим представлениям нейрон имеет один выход и несколько входов (синапсов). Синапсы осуществляют связь между нейронами, умножают входной сигнал Xi на вес синапса Wi. Сумматор осуществляет сложение взвешенных входов, а нелинейный преобразователь реализует нелинейную функцию от выхода сумматора. Эта функция называется функцией активации.
Математическая модель нейрона:
y=f(S), S= Сумма(Wi*Xi+b)где b - некоторое смещение.
Применение генетического подхода в обучении нейронной сети.
В.М. Курейчик, Б.К. Лебедев, В.И. Божич, статья
При генетическом подходе процесс настройки НС рассматривается как адаптивный процесс, связанный с максимизацией эффективности функционирования НС, т. е. с минимизацией функции ошибки.
Для фиксированной архитектуры НС хромосома представляется в виде вектора Н = (W, B), хранящего значения семантических весов (W), и смещений (B).
Обучение нейронных сетей в основном использует базу знаний, в которой хранится набор примеров с известными правильными ответами. Каждый пример это пара вход - известный выход. В этой связи получаемые выходные сигналы сравниваются с эталонными и строится оценка работы НС. Основная проблема это процесс пошаговой минимизации (максимизации) функции оценки НС. Эти задачи решаются в основном методом градиентного спуска. Отметим, что операторы ГА представляют собой переборные процессы, связанные с перераспределением генетического материала. Это даёт возможность быстрее получить минимум или максимум функции, чем в методах пошаговой оптимизации.