Оглавление
| Введение
| П1
| П2
| П3
| Литература
Лекции:
1,
2-3,
4-6,
7.1,
7.2,
8,
9,
10,
11.1,
11.2-12,
13-14,
15-16
Лекция 11.1. Исполнитель
Компонент исполнитель является служебным. Это означает, что он универсален и невидим для пользователя. В отличие от всех других компонентов исполнитель не выполняет ни одной явной функции в обучении нейронных сетей, а является вспомогательным для компонентов учитель и контрастер. Задача этого компонента – упростить работу компонентов учитель и контрастер. Этот компонент выполняет всего несколько запросов, преобразуя каждый из них в последовательность запросов к различным компонентам. В данной главе содержательно рассмотрены алгоритмы исполнения всех запросов исполнителя.
Как было описано в главе «Двойственные сети», исполнитель выполняет четыре вида запросов.
- Тестирование решения примера.
- Оценивание решения примера.
- Оценивание решения примера с вычислением градиента.
- Оценивание и тестирование решения примера.
Таблица 1 Параметры запроса для позадачной работы
Название параметра |
1 |
2 |
3 |
4 |
Перейти к следующему примеру |
+/– |
+/– |
+/– |
+/– |
Остановиться в конце обучающего множества |
+/– |
+/– |
+/– |
+/– |
Вычислять оценку |
– |
+ |
+ |
+ |
Интерпретировать ответ |
+ |
– |
– |
+ |
Вычислять градиент |
– |
– |
+ |
– |
Подготовка к контрастированию |
– |
– |
+/– |
– | |
Все перечисленные запросы работают с текущей сетью и текущим примером задачника. Однако компоненту задачник необходимо указать, какой пример подлежит обработке. Кроме того, в главе «Оценка и интерпретатор ответа» введен класс оценок, вычисляемых по всему обучающему множеству. Такие оценки позволяют существенно улучшить обучаемость сети и ускорить ее обучение. Нет смысла возлагать перебор примеров на учителя, поскольку это снижает полезность компонента исполнитель. Таким образом, возникает еще четыре вида запросов.
- Тестирование решения всех примеров обучающего множества.
- Оценивание решения всех примеров обучающего множества.
- Оценивание решения всех примеров обучающего множества с вычислением градиента.
- Оценивание и тестирование решения всех примеров обучающего множества.
Как уже отмечалось в главе «Двойственные сети», каждую из приведенных четверок запросов можно объединить в один запрос с параметрами. В табл. 1 приведен полный список параметров для первой четверки запросов, а в табл. 2 – для второй.
Таблица 2 Параметры запроса для обучающего множества в целом
Название параметра |
5 |
6 |
7 |
8 |
Вычислять оценку |
– |
+ |
+ |
+ |
Интерпретировать ответ |
+ |
– |
– |
+ |
Вычислять градиент |
– |
– |
+ |
– |
Подготовка к контрастированию |
– |
– |
+/– |
– | |
Символ «+» означает, что в запросе, номер которого указан в первой строке колонки, возможность, задаваемая данным параметром, должна быть использована. Символ «–» – что связанная с данным параметром возможность не используется. Символы «+/–» означают, что запрос может, как использовать, так и не использовать данную возможность. Отметим, что подготовка к контрастированию может быть задействована, только если производится вычисление градиента, а вычисление градиента невозможно без вычисления оценки. Остальные параметры независимы.
Отбор примеров в обучающее множество, открытие сеанса работы с задачником должны выполняться учителем или контрастером. Исполнитель только организует перебор примеров в обучающем множестве.
При полной или частичной аппаратной реализации нейрокомпьютера компонент исполнитель эффективно реализуется аппаратно, по следующим причинам.
Исполнитель реализует исключительно связные функции по отношению к другим компонентам.
Исполняемые им запросы постоянны и не зависят от реализаций других компонентов нейрокомпьютера.
Этот компонент работает чаще, чем любой другой, и, как следствие, ускорение в работе исполнителя приводит к соизмеримому ускорению работы нейрокомпьютера.
Оглавление
| Введение
| П1
| П2
| П3
| Литература
Лекции:
1,
2-3,
4-6,
7.1,
7.2,
8,
9,
10,
11.1,
11.2-12,
13-14,
15-16
|