Учебное пособие по курсу «Нейроинформатика»
Шрифт:
Этот пункт позволяет Вам выбрать один из двух заложенных в программу алгоритмов построения синаптической карты по обучающему множеству. Если Вы выбрали "Классический Хопфилд", то формирование происходит так, как описано в разделе обучение. Если Вы предпочли "Проекционный Хопфилд", то производится предварительная обработка обучающего множества. Входные данные, задаваемые каждым примером, можно рассматривать как стомерный вектор. Процедура предварительной обработки состоит в ортонормировании системы векторов, задаваемых всеми примерами обучающего
Все программы, кроме программыHopfield.
В этом меню Вы можете задать следующие параметры метода обучения:
Все программы, кроме программы Hopfield.
При построении метода обучения Вы пользуетесь следующей схемой:
Использовать MParTan Да или Нет
↓
↓
Организация обучения Усредненная Позадачная Задаче номер
↓
Вычисление направления Случайный спуск Градиентный спуск
↓
Метод оценивания Метод наименьших квадратов Расстояние до множества
↓
Входными параметрами процедуры MParTan являются:
1. Начальная карта.
2. Процедура вычисления Направления спуска.
3. Локальное обучающее множество.
4. Процедура вычисления оценки.
Процедура ParTan работает по следующему алгоритму:
1. Запоминаем текущую карту и оценку текущего Обучающего множества, определяемую в соответствии с тремя более низкими уровнями схемы.
2. Используя процедуру вычисления Направления спуска, вычисляет направление спуска и производит спуск в этом направлении. Этот шаг алгоритма выполняется дважды.
3. Запоминаем текущую карту и оценку текущего Обучающего множества,
4. Делаем спуск в направлении, ведущем из первой запомненной карты во вторую.
5. Если оценка не равна 0, то повторяем всю процедуру сначала.
Процедура MParTan несколько отличается от предыдущей, но ее описание слишком сложно. Однако в ее основе лежит та же идея. Если Вы не используете MParTan, то используется следующая процедура
1. Используя процедуру вычисления Направления спуска, вычисляет направление спуска и производит спуск в этом направлении.
2. Если оценка не равна 0, то повторяем всю процедуру сначала.
Все программы, кроме программы Hopfield.
При построении метода обучения Вы пользуетесь следующей схемой:
↓
↓
Организация обучения Усредненная Позадачная Задаче номер
↓
Вычисление направления Случайный спуск Градиентный спуск
↓
Метод оценивания Метод наименьших квадратов Расстояние до множества
↓
Под организацией обучения будем понимать способ порождения обучающего множества для одного шага обучения. Исторически самым первым был способ позадачного обучения. Если быть более точным — то попримерного. Процедура попримерного обучения состоит из следующих шагов:
1. Подаем на вход сети задачу.
2. Получаем ответ.
3. Вычисляем оценку.
Производим корректировку сети. (Процедура спуска)
Таким образом, локальное обучающее множество для процедур MParTan, Процедура спуска и Вычисление направления состоит только из одного примера.
Алгоритмы получения локального обучающего множества для различных способов организации обучения:
| Попримерный | Для каждого шага обучения новый пример. |
| Позадачный | Для первого шага обучения — все примеры первой задачи, для второго второй и т. д. |
| Задаче номер N | На всех шагах обучения локальное обучающее множество состоит из всех примеров N-ой задачи. |
| Усредненный | Локальное обучающее множество совпадает с полным, то есть включает в себя все примеры всех пяти задач обучающего множества. |
Все программы, кроме программы Hopfield.
При построении метода обучения Вы пользуетесь следующей схемой:
Использовать MParTan Да или Нет
↓
↓
Организация обучения Усредненная Позадачная Задаче номер
↓
Вычисление направления Случайный спуск Градиентный спуск
↓
Метод оценивания Метод наименьших квадратов Расстояние до множества
↓
Данная программа предусматривает два способа вычисления направления спуска. Первый способ известен как Случайный поиск, а второй как метод наискорейшего спуска. В первом случае в качестве направления спуска используется случайный вектор, а во втором — вектор антиградиента функции оценки.
Этот пункт позволяет задать параметр Случайного изменения карты. Уровень УДАРА должен лежать в пределах от 0.001 до 1.