Принятие управленческих решений в маркетинге с помощью компьютерных средств, страница 55

Таким образом, можно сформулировать следующие рекомендации по разработке сетей [43]:

○  количество входов должно быть равно количеству признаков;

○  количество выходов должно быть равно количеству ответов;

○  число уровней определяется ресурсами памяти компьютера и допустимым временем обучения.

К сожалению, нейронные сети обладают свойством, характерным для многих систем искусственного интеллекта. В них возможна перетренировка – ухудшение распознавания новых ситуаций при снижении уровня ошибок в распознавании обучающих. График ошибок в зависимости от сложности сети аналогичен рисРис. 18.

Причина состоит в том, что нейронная сеть, так же, как и дерево классификации, оптимизируется для распознавания обучающих ситуаций. Особенности перетренировки можно пояснить примером. Нейронные сети часто пытаются использовать для принятия решения о покупке или продаже акций или валюты. Для этого в качестве входов берут сведения о прошедших курсах и торгах. Достаточно сложная нейронная сеть может научиться классифицировать их безошибочно. Но то, чему она обучилась, годится только для старых данных, с исторически уникальной последовательностью изменений курса. Попытка применить сеть для новых решений приводит к высокому уровню ошибок. Поэтому нельзя построить максимально сложную сеть, учитывающую все имеющиеся параметры, а потом обучить ее. Она будет плохо распознавать новые ситуации. Требуется выделить только существенные признаки ситуации. Таким образом, лучше всего строить сети, учитывающие только важные параметры и их взаимосвязь, а сложные сети нельзя тренировать слишком долго.

Первая рекомендация представляется достаточно сомнительной и противоречит исходной идее построения нейронных сетей – отсутствию информации о структуре проблемы. Традиционно приходилось строить несколько вариантов сетей, обучать их, проверять их работу на контрольном наборе ситуаций и выбирать лучший вариант.

В новых программах построения нейронных сетей проверка их качества происходит автоматически. Часть имеющихся ситуаций с решениями используется для обучения, а часть – для контроля качества полученной сети. Кроме того, для построения более удачных сетей используются эволюционные алгоритмы. В режиме автоматического построения сетей случайным образом генерируются несколько вариантов исходных сетей, различающихся количеством скрытых уровней и числом нейронов в них. Затем все они обучаются и проверяются на контрольных подвыборках. Далее наиболее удачные сети комбинируются (чаще всего – обмениваются фрагментами), то есть происходит процесс, подобный возникновению нового поколения потомков. Затем процесс повторяется до прекращения улучшений или замедления улучшений до заданного уровня. Процесс эволюции управляется рядом параметров: количеством выживающих потомков, количеством сохраненных «элитных» (отличающихся высоким качеством) экземпляров  для последующего скрещивания и т.п.

К числу нейронных сетей специального вида относится сеть Хопфилда [61]. Это пример использования в нейронных сетях математического аппарата статистической термодинамики, что дало новые теоретические результаты.

Элементы сети Хопфилда связаны по принципу «каждый с каждым», причем связи симметричны (w_ij = w_ji) и нет непосредственной обратной связи вокруг нейрона (w_ii = 0). Веса могут быть как положительными, так и отрицательными, они меняются в процессе обучения. Обучение идет по правилу Хебба: если два нейрона возбуждаются вместе, то сила связи между ними возрастает, если порознь, то убывает.

Поведение сети описывается целевой функцией

,

где F – выходы нейронов.

Формула для Е аналогична формуле обобщенной энергии системы.

В результате обучения получается, что сеть может хранить несколько эталонов, каждый из которых является аттрактором. Если новый случай неточно попадает в эталон, то происходит нечто похожее на движение шарика на поверхности, который стремится занять низшую точку, совпадающую с одним из эталонных случаев. Это фактически означает восполнение неизвестных или неточно заданных признаков.