Яка різниця між стимулюванням та жебракуванням у машинному навчанні?


Відповідь 1:

Вони обидва - ансамбль учнів. Кожен учень може бути KNN, LinReg, дерево рішень або SVM. Кожен учень в ансамблі може бути різним. Об’єднання різних учнів разом зменшує упередженість учнів ансамблю.

Ви також можете використовувати один і той же алгоритм навчання для кожного учня, але вибирати різні підмножини (або мішки) загального набору даних. Мішки даних вибираються випадковим чином. Це мішки. Чи є у вас ансамбль різних моделей. Це мішки.

Підвищення - це проста версія в упаковці. Наприклад, Ada Boost. Він прагне вдосконалити тих, хто навчається недостатньо ефективно. Сумки не вибираються випадковим чином. Мішки (або підмножини даних) вибираються на основі точок даних, які не були добре навчені (або добре працювали) на попередніх моделях мішків.

Ada Boost швидше переважає, оскільки покращується в умовах поганого моделювання даних. Але загалом учні ансамблю зменшують наряд і зменшують помилки.