Яка різниця між нейронними мережами та мережами вейвлетів?


Відповідь 1:

Вейвлет-мережа по суті є нейронною мережею,

  • де стандартна функція активації, як сигмоїдна функція, замінюється функцією активації, отриманою на основі вейвлет. Таким чином, вихід нейронної мережі вейвлет є лінійною зваженою комбінацією функцій основи вейвлет. Нейронна мережа вейвлет зберігає властивість бути універсальною функцією Апроксиматор, як і інші нейронні сітки. Якщо вони, як повідомляється, використовувались у багатьох програмах, таких як прогнозування часових рядів, позначання сигналів, класифікація сигналів та стиснення, там мало літератури порівняно з іншими моделями нейронної сітки. У деяких останніх моделях вейвлет-перетворення використовуються як фільтри, що позначають передній кінець для введення, який потім надсилається до RNN для прогнозування часових рядів. Прогнозування фондових ринків за допомогою вейвлетських перетворень та періодичних нейронних мереж

Що таке вейвлет?

  • Вейвлет - це, по суті, «мала хвиля», яка росте і розпадається в кінцевий період, на відміну від «великої хвилі», такої як синусова хвиля, яка росте і розпадається протягом нескінченного періоду. На малюнку нижче зображено функцію вейвлета.

Малюнок з нервових мереж Wavelet та їх застосування у дослідженні динамічних систем, 2005

  • Їх використання походить від їхньої здатності описувати функцію, яка змінюється з часом. Аналіз Фур'є не допомагає нам із функціями, які змінюються з часом - вони можуть розказати нам лише склад стаціонарних функцій з точки зору синусоїдальних хвиль. У кращому випадку вони можуть дати нам середнє значення частот, що змінюються, що не приносить великої користі. На малюнку нижче ілюструється цей недолік - перетворення Фур'є не в змозі відрізнити стаціонарний сигнал від нестаціонарного.

Малюнок з мереж Wavelet, 2009

  • Перетворення вейвлет стаціонарних та нестаціонарних сигналів вище відрізняються, як показано на малюнку нижче
  • Отже, з вейвлет, проілюстрованого в 1.2.1 вище, сімейство вейвлет-бази може бути сформовано просто шляхом перекладу та розширення цього вейвлета (його часто називають материнською вейвлетом). Так само, як це стосується перетворень Фур'є, існують дискретні та безперервні версії вейвлет-перетворень. Отже, єдиний вейвлет-нейрон виглядає як на малюнку нижче.
  • Вихід цього нейрона є
  • де параметр 't' - параметр перекладу, а лямбда - параметр шкали / дилатації. Ці параметри також вивчаються мережею на додаток до ваг у вейвлет-мережі, як показано нижче. Різні значення для цих параметрів породжують основи вейвлет.

Додаткові посилання

Нейромережі вейвлет: практичний посібник, 2013

Екскурсія по хвилях обробки сигналів