Π‘Π·Π² ΠΌ Π±Π»Π°Π½ΠΊ: Новая Ρ„ΠΎΡ€ΠΌΠ° Π‘Π—Π’-М

Π‘Π·Π² ΠΌ Π±Π»Π°Π½ΠΊ: Новая Ρ„ΠΎΡ€ΠΌΠ° Π‘Π—Π’-М

Π‘ΠΎΠ΄Π΅Ρ€ΠΆΠ°Π½ΠΈΠ΅

Новая Ρ„ΠΎΡ€ΠΌΠ° ΠΎΡ‚Ρ‡Π΅Ρ‚Π° Π‘Π—Π’-М Π² 2017 Π³ΠΎΠ΄Ρƒ

Π£Ρ‚Π²Π΅Ρ€ΠΆΠ΄Π΅Π½Π° Π»ΠΈ новая Ρ„ΠΎΡ€ΠΌΠ° ΠΎΡ‚Ρ‡Π΅Ρ‚Π° Π‘Π—Π’-М с 2017 Π³ΠΎΠ΄Π°? Π“Π΄Π΅ ΠΌΠΎΠΆΠ½ΠΎ ΡΠΊΠ°Ρ‡Π°Ρ‚ΡŒ Π±Π»Π°Π½ΠΊ Π½ΠΎΠ²ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΡ‹ Π‘Π—Π’-М, ΠΏΠΎΠ΄Π»Π΅ΠΆΠ°Ρ‰Π΅ΠΉ сдачС Π² ПЀР? Π“ΠΎΡ‚ΠΎΠ² Π»ΠΈ ΠΎΠ±Ρ€Π°Π·Π΅Ρ† заполнСния Π½ΠΎΠ²ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΡ‹ Π‘Π—Π’-М для ПЀР? По ΠΊΠ°ΠΊΠΎΠΉ Ρ„ΠΎΡ€ΠΌΠ΅ ΡΠ΄Π°Π²Π°Ρ‚ΡŒ Π‘Π—Π’-М Π·Π° ΡΠ½Π²Π°Ρ€ΡŒ 2017 Π³ΠΎΠ΄Π°? ΠžΡ‚Π²Π΅Ρ‚Ρ‹ Π½Π° эти ΠΈ Π΄Ρ€ΡƒΠ³ΠΈΠ΅ вопросы Π²Ρ‹ Π½Π°ΠΉΠ΄Π΅Ρ‚Π΅ Π² Π΄Π°Π½Π½ΠΎΠΉ ΡΡ‚Π°Ρ‚ΡŒΠ΅. Π’Π°ΠΊΠΆΠ΅ Ρ€Π΅ΠΊΠΎΠΌΠ΅Π½Π΄ΡƒΠ΅ΠΌ ΠΎΠ·Π½Π°ΠΊΠΎΠΌΠΈΡ‚ΡŒΡΡ со ΡΡ‚Π°Ρ‚ΡŒΠ΅ΠΉ Β«Π‘Ρ‚Ρ€Π°Ρ…ΠΎΠ²Ρ‹Π΅ взносы с 2017 Π³ΠΎΠ΄Π°: ΠΎΠ±Π·ΠΎΡ€ ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΠΉΒ».

Новая Ρ„ΠΎΡ€ΠΌΠ° Π‘Π—Π’-М с 2017 Π³ΠΎΠ΄Π°: ΡƒΡ‚Π²Π΅Ρ€ΠΆΠ΄Π΅Π½Π° ΠΈΠ»ΠΈ Π½Π΅Ρ‚

Π’ 2017 Π³ΠΎΠ΄Π° страховатСлям (организация ΠΈ ИП) ΠΎΡ‚Ρ‡Π΅Ρ‚ ΠΏΠΎ Ρ„ΠΎΡ€ΠΌΠ΅ Π‘Π—Π’-М Π½ΡƒΠΆΠ½ΠΎ Π±ΡƒΠ΄Π΅Ρ‚ ΡΠ΄Π°Π²Π°Ρ‚ΡŒ Π² Ρ‚Π΅Ρ€Ρ€ΠΈΡ‚ΠΎΡ€ΠΈΠ°Π»ΡŒΠ½Ρ‹Π΅ подраздСлСния ПЀР. Π‘Ρ€ΠΎΠΊΠΈ сдачи ΠΎΡ‚Ρ‡Π΅Ρ‚ΠΎΠ² Π‘Π—Π’-М измСнились. Π‘ΠΌ. Β«Π‘Π—Π’-М Π² 2017 Π³ΠΎΠ΄Ρƒ: Π½ΠΎΠ²Ρ‹Π΅ сроки сдачи исходных, ΠΊΠΎΡ€Ρ€Π΅ΠΊΡ‚ΠΈΡ€ΡƒΡŽΡ‰ΠΈΡ… ΠΈ ΡƒΡ‚ΠΎΡ‡Π½Π΅Π½Π½Ρ‹Ρ… ΠΎΡ‚Ρ‡Π΅Ρ‚ΠΎΠ²Β».

Π€ΠΎΡ€ΠΌΠ° ΠΎΡ‚Ρ‡Π΅Ρ‚Π° Π‘Π—Π’-М – это свСдСния ΠΈΠ½Π΄ΠΈΠ²ΠΈΠ΄ΡƒΠ°Π»ΡŒΠ½ΠΎΠ³ΠΎ (пСрсонифицированного) ΡƒΡ‡Π΅Ρ‚Π°. Π’ 2017 Π³ΠΎΠ΄Ρƒ Π·Π° ПЀР ΡΠΎΡ…Ρ€Π°Π½ΠΈΠ»ΠΎΡΡŒ ΠΏΡ€Π°Π²ΠΎ Π½Π° ΡƒΡ‚Π²Π΅Ρ€ΠΆΠ΄Π΅Π½ΠΈΠ΅ Π½ΠΎΠ²ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΡ‹ ΠΈ Ρ„ΠΎΡ€ΠΌΠ°Ρ‚Π° ΠΎΡ‚Ρ‡Π΅Ρ‚ΠΎΠ² Π‘Π—Π’-М. Об этом сказано ΠΏΡƒΠ½ΠΊΡ‚Π΅ 2 ΡΡ‚Π°Ρ‚ΡŒΠΈ 8 Π€Π΅Π΄Π΅Ρ€Π°Π»ΡŒΠ½ΠΎΠ³ΠΎ Π·Π°ΠΊΠΎΠ½Π° ΠΎΡ‚ 01.04.1996 β„– 27-Π€Π— «Об ΠΈΠ½Π΄ΠΈΠ²ΠΈΠ΄ΡƒΠ°Π»ΡŒΠ½ΠΎΠΌ (пСрсонифицированном) ΡƒΡ‡Π΅Ρ‚Π΅ Π² систСмС ΠΎΠ±ΡΠ·Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΠ³ΠΎ пСнсионного страхования».

Π’Π°ΠΊΠΈΠΌ ΠΎΠ±Ρ€Π°Π·ΠΎΠΌ, ПЀР ΠΌΠΎΠ³ Π±Ρ‹ Π²ΠΎΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒΡΡ Π΄Π°Π½Π½Ρ‹ΠΌ ΠΏΡ€Π°Π²ΠΎΠΌ ΠΈ ΡƒΡ‚Π²Π΅Ρ€Π΄ΠΈΡ‚ΡŒ Π½ΠΎΠ²ΡƒΡŽ Ρ„ΠΎΡ€ΠΌΡƒ Π‘Π—Π’-М, ΠΏΡ€ΠΈΠΌΠ΅Π½ΡΠ΅ΠΌΡƒΡŽ с 2017 Π³ΠΎΠ΄Π°.
Π’Π΅ΠΏΠ΅Ρ€ΡŒ посмотрим Π½Π° ΠΎΡ„ΠΈΡ†ΠΈΠ°Π»ΡŒΠ½Ρ‹ΠΉ сайт ПЀР Π² Ρ€Π°Π·Π΄Π΅Π» Β«ΠŸΡ€ΠΎΠ΅ΠΊΡ‚Ρ‹ Π½ΠΎΡ€ΠΌΠ°Ρ‚ΠΈΠ²Π½ΠΎ-ΠΏΡ€Π°Π²ΠΎΠ²Ρ‹Ρ… Π°ΠΊΡ‚ΠΎΠ² ПЀР». Π’ этом Ρ€Π°Π·Π΄Π΅Π»Π΅ ПЀР ΠΏΡƒΠ±Π»ΠΈΠΊΡƒΠ΅Ρ‚ Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚Ρ‹, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎ ΡƒΡ‚Π²Π΅Ρ€Π΄ΠΈΡ‚ΡŒ. Однако Π² этом Ρ€Π°Π·Π΄Π΅Π»Π΅ Π½Π΅Ρ‚ Π½ΠΈΠΊΠ°ΠΊΠΎΠΉ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ ΠΎ Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎ новая Ρ„ΠΎΡ€ΠΌΠ° ΠΎΡ‚Ρ‡Π΅Ρ‚Π° Π‘Π—Π’-М планируСтся ΠΊ ΠΏΡ€ΠΈΠΌΠ΅Π½Π΅Π½ΠΈΡŽ с 2017 Π³ΠΎΠ΄Π°. БоотвСтствСнно, ΠΌΠΎΠΆΠ½ΠΎ ΡΠΊΠ°Π·Π°Ρ‚ΡŒ, Ρ‡Ρ‚ΠΎ Π½ΠΎΠ²ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΡ‹ Π‘Π—Π’-М с 2017 Π³ΠΎΠ΄Π° Π½Π΅ Π±ΡƒΠ΄Π΅Ρ‚. Новый Π±Π»Π°Π½ΠΊ ΠΈ Π½Π΅ ΠΏΠ»Π°Π½ΠΈΡ€ΠΎΠ²Π°Π»ΠΎΡΡŒ ΡƒΡ‚Π²Π΅Ρ€ΠΆΠ΄Π°Ρ‚ΡŒ.

Новый ΠΎΡ‚Ρ‡Π΅Ρ‚ с 2017 Π³ΠΎΠ΄Π°: Π½ΡƒΠΆΠ΅Π½ Π»ΠΈ?

Π‘Ρ‚ΠΎΠΈΡ‚ Π·Π°ΠΌΠ΅Ρ‚ΠΈΡ‚ΡŒ, Ρ‡Ρ‚ΠΎ всС страховыС взносы (ΠΊΡ€ΠΎΠΌΠ΅ взносов Β«Π½Π° Ρ‚Ρ€Π°Π²ΠΌΠ°Ρ‚ΠΈΠ·ΠΌΒ») с 2017 Π³ΠΎΠ΄Π° пСрСходят ΠΏΠΎΠ΄ ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΡŒ ЀНБ. Однако ПЀР ΠΏΡ€ΠΎΠ΄ΠΎΠ»ΠΆΠΈΡ‚ ΠΏΠΎΠ»Π½ΠΎΡΡ‚ΡŒΡŽ ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΈΠ½Π΄ΠΈΠ²ΠΈΠ΄ΡƒΠ°Π»ΡŒΠ½Ρ‹ΠΉ пСрсонифицированный ΡƒΡ‡Π΅Ρ‚ ΠΈ ΠΏΡ€ΠΈΠ½ΠΈΠΌΠ°Ρ‚ΡŒ ΡΠΎΠΎΡ‚Π²Π΅Ρ‚ΡΡ‚Π²ΡƒΡŽΡ‰ΡƒΡŽ ΠΎΡ‚Ρ‡Π΅Ρ‚Π½ΠΎΡΡ‚ΡŒ. Π‘ΠΌ. Β«ΠžΡ€Π³Π°Π½Ρ‹ контроля Π·Π° ΡƒΠΏΠ»Π°Ρ‚ΠΎΠΉ страховых взносов с 2017 Π³ΠΎΠ΄Π°Β».

ΠŸΡ€ΠΈ этом Π² Π·Π°ΠΊΠΎΠ½ΠΎΠ΄Π°Ρ‚Π΅Π»ΡŒΡΡ‚Π²Π΅ ΠΎ пСрсонифицированном ΡƒΡ‡Π΅Ρ‚Π΅ с 2017 Π³ΠΎΠ΄Π° Π½Π΅ ΠΏΡ€ΠΎΠΈΠ·ΠΎΡˆΠ»ΠΎ Π½ΠΈΠΊΠ°ΠΊΠΈΡ… ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΠΉ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π±Ρ‹ Ρ‚Ρ€Π΅Π±ΠΎΠ²Π°Π»ΠΈ утвСрТдСния Π½ΠΎΠ²ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΡ‹ Π‘Π—Π’-М с 2017 Π³ΠΎΠ΄Π°.

Π’ 2017 Π³ΠΎΠ΄Ρƒ, ΠΊΠ°ΠΊ ΠΈ ΠΏΡ€Π΅ΠΆΠ΄Π΅, Π² ΠΎΡ‚Ρ‡Π΅Ρ‚Π΅ Π½ΡƒΠΆΠ½ΠΎ ΠΏΠΎΠΊΠ°Π·Ρ‹Π²Π°Ρ‚ΡŒ (ΠΏ.2.2 ст. 11 Π€Π΅Π΄Π΅Ρ€Π°Π»ΡŒΠ½ΠΎΠ³ΠΎ Π·Π°ΠΊΠΎΠ½Π° ΠΎΡ‚ 01.04.1996 β„– 27-Π€Π— ):

  • Π‘ΠΠ˜Π›Π‘;
  • Π€.И.О.;
  • ИНН (ΠΏΡ€ΠΈ Π½Π°Π»ΠΈΡ‡ΠΈΠΈ Ρƒ страховатСля Π΄Π°Π½Π½Ρ‹Ρ… ΠΎΠ± ИНН застрахованного Π»ΠΈΡ†Π°).

Π”Π΅ΠΉΡΡ‚Π²ΡƒΡŽΡ‰Π°Ρ Ρ„ΠΎΡ€ΠΌΠ° Π‘Π—Π’-М «БвСдСния ΠΎ застрахованных Π»ΠΈΡ†Π°Ρ…Β», утвСрТдСнная ΠŸΠΎΡΡ‚Π°Π½ΠΎΠ²Π»Π΅Π½ΠΈΠ΅ΠΌ ΠŸΡ€Π°Π²Π»Π΅Π½ΠΈΡ ПЀР ΠΎΡ‚ 01.02.2016 β„– 83ΠΏ, позволяСт ΠΎΡ‚Ρ€Π°ΠΆΠ°Ρ‚ΡŒ Π² Π½Π΅ΠΉ ΡƒΠΊΠ°Π·Π°Π½Π½ΡƒΡŽ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ. БоотвСтствСнно, ΡƒΡ‚Π²Π΅Ρ€ΠΆΠ΄Π°Ρ‚ΡŒ Π½ΠΎΠ²Ρ‹ΠΉ Π±Π»Π°Π½ΠΊ Π‘Π—Π’-М с 2017 Π³ΠΎΠ΄Π° ΠΈ Π½Π΅ ΠΏΠΎΡ‚Ρ€Π΅Π±ΠΎΠ²Π°Π»ΠΎΡΡŒ.

Π“Π΄Π΅ ΡΠΊΠ°Ρ‡Π°Ρ‚ΡŒ Π½ΠΎΠ²Ρ‹ΠΉ Π±Π»Π°Π½ΠΊ Π‘Π—Π’-М

Новый Π±Π»Π°Π½ΠΊ Ρ„ΠΎΡ€ΠΌΡ‹ Π‘Π—Π’-М с 2017 Π³ΠΎΠ΄Π° ΡΠΊΠ°Ρ‡ΠΈΠ²Π°Ρ‚ΡŒ Π½Π΅ потрСбуСтся Ρ‚Π΅ΠΌ, ΠΊΡ‚ΠΎ сдаСт СТСмСсячныС ΠΎΡ‚Ρ‡Π΅Ρ‚Ρ‹ ПЀР Π² элСктронном Π²ΠΈΠ΄Π΅. Π’Π΅Π΄ΡŒ Ρ„ΠΎΡ€ΠΌΡ‹ пСрсонифицированной отчСтности, ΡƒΠΆΠ΅ Π²ΠΊΠ»ΡŽΡ‡Π΅Π½Ρ‹ Π² состав бухгалтСрских ΠΏΡ€ΠΎΠ³Ρ€Π°ΠΌΠΌ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΏΡ€ΠΈΠΌΠ΅Π½ΡΡŽΡ‚ΡΡ для заполнСния отчСтности.

Если ΠΆΠ΅ организация отчитываСтся Β«Π½Π° Π±ΡƒΠΌΠ°Π³Π΅Β», Ρ‚ΠΎ Π±Π»Π°Π½ΠΊ для заполнСния Π‘Π—Π’-М Π² 2017 Π³ΠΎΠ΄Ρƒ Π²Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ ΡΠΊΠ°Ρ‡Π°Ρ‚ΡŒ Π½Π° нашСм сайтС Π² ΡƒΠ΄ΠΎΠ±Π½ΠΎΠΌ Excel Ρ„ΠΎΡ€ΠΌΠ°Ρ‚Π΅. Π‘ΠΌ. Β«Π€ΠΎΡ€ΠΌΠ° «свСдСния ΠΎ застрахованных Π»ΠΈΡ†Π°Ρ…Β» (Π‘Π—Π’-М)Β». Однако стоит ΡΠΊΠ°Π·Π°Ρ‚ΡŒ, Ρ‡Ρ‚ΠΎ ΠΌΠ½ΠΎΠ³ΠΈΡ… Π±ΡƒΡ…Π³Π°Π»Ρ‚Π΅Ρ€ΠΎΠ² данная Ρ„ΠΎΡ€ΠΌΠ° Π΄ΠΎΠ»ΠΆΠ½Ρ‹ Π±Ρ‹Π»Π° ΡΠΎΡ…Ρ€Π°Π½ΠΈΡ‚ΡŒΡΡ с 2016 Π³ΠΎΠ΄Π°.


Π‘ΠΊΠ°Ρ‡Π°Ρ‚ΡŒ Π±Π»Π°Π½ΠΊ Π‘Π—Π’-М с 2017 Π³ΠΎΠ΄Π° Π² Ρ„ΠΎΡ€ΠΌΠ°Ρ‚Π΅ Excel.

Π—Π°ΠΌΠ΅Ρ‚ΠΈΠΌ, Ρ‡Ρ‚ΠΎ Π² 2017 Π³ΠΎΠ΄Ρƒ Ссли Π² Π‘Π—Π’-М Π·Π° мСсяц Π²ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΎ 25 ΠΈΠ»ΠΈ Π±ΠΎΠ»Π΅Π΅ Β«Ρ„ΠΈΠ·ΠΈΠΊΠΎΠ²Β», Ρ‚ΠΎ ΡΡ‚Ρ€Π°Ρ…ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒ (организация ΠΈΠ» ИП) обязан ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‚ΡŒ ΠΎΡ‚Ρ‡Π΅Ρ‚Π½ΠΎΡΡ‚ΡŒ Ρ‡Π΅Ρ€Π΅Π· Π˜Π½Ρ‚Π΅Ρ€Π½Π΅Ρ‚ Π² качСствС элСктронного Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚Π°, подписанного усилСнной ΠΊΠ²Π°Π»ΠΈΡ„ΠΈΡ†ΠΈΡ€ΠΎΠ²Π°Π½Π½ΠΎΠΉ элСктронной подписью. Если ΠΆΠ΅ Π² ΠΎΡ‚Ρ‡Π΅Ρ‚Π΅ мСньшС 25 Ρ‡Π΅Π»ΠΎΠ²Π΅ΠΊ, Ρ‚ΠΎ допускаСтся прСдставлСниС Β«Π±ΡƒΠΌΠ°ΠΆΠ½ΠΎΠ³ΠΎΒ» ΠΎΡ‚Ρ‡Π΅Ρ‚Π° (Π°Π±Π·. 3 ΠΏ. 2 ст. 8 Π€Π΅Π΄Π΅Ρ€Π°Π»ΡŒΠ½ΠΎΠ³ΠΎ Π·Π°ΠΊΠΎΠ½Π° ΠΎΡ‚ 01.04.1996 β„– 27-Π€Π—).

Новый Ρ„ΠΎΡ€ΠΌΠ°Ρ‚ Π‘Π—Π’-М с 2017 Π³ΠΎΠ΄Π°

Π€ΠΎΡ€ΠΌΠ°Ρ‚ ΠΎΡ‚Ρ‡Π΅Ρ‚Π° Π‘Π—Π’-М Π½ΡƒΠΆΠ΅Π½ Π² цСлях сдачи отчСтности Π² Ρ‚Π΅Ρ€Ρ€ΠΈΡ‚ΠΎΡ€ΠΈΠ°Π»ΡŒΠ½Ρ‹Π΅ ΠΎΡ€Π³Π°Π½Ρ‹ ПЀР Π² элСктронном Π²ΠΈΠ΄Π΅. Он ΡƒΡ‚Π²Π΅Ρ€ΠΆΠ΄Π΅Π½ распоряТСниСм ΠΎΡ‚ 31.08.2016 β„– 432Ρ€. Π‘ΠΌ. «ПЀР ΡƒΡ‚Π²Π΅Ρ€Π΄ΠΈΠ» Π½ΠΎΠ²Ρ‹ΠΉ Ρ„ΠΎΡ€ΠΌΠ°Ρ‚ ΠΎΡ‚Ρ‡Π΅Ρ‚Π° Π‘Π—Π’-М».

ΠŸΡ€ΠΈ этом, учитывая, Ρ‡Ρ‚ΠΎ новая Ρ„ΠΎΡ€ΠΌΠ° ΠΎΡ‚Ρ‡Π΅Ρ‚Π° Π‘Π—Π’-М Π½Π° 2017 Π³ΠΎΠ΄ ΡƒΡ‚Π²Π΅Ρ€ΠΆΠ΄Π΅Π½Π° Π½Π΅ Π±Ρ‹Π»Π°, Ρ‚ΠΎ ΠΈ Π½ΠΎΠ²Ρ‹ΠΉ Ρ„ΠΎΡ€ΠΌΠ°Ρ‚ ΠΎΡ‚Ρ‡Π΅Ρ‚Π° Ρ€Π°Π·Ρ€Π°Π±Π°Ρ‚Ρ‹Π²Π°Ρ‚ΡŒ ΠΈ ΡƒΡ‚Π²Π΅Ρ€ΠΆΠ΄Π°Ρ‚ΡŒ ΠŸΠ΅Π½ΡΠΈΠΎΠ½Π½ΠΎΠΌΡƒ Ρ„ΠΎΠ½Π΄Ρƒ Π½Π΅ ΠΏΠΎΡ‚Ρ€Π΅Π±ΠΎΠ²Π°Π»ΠΎΡΡŒ. Π’ΠΎ Π΅ΡΡ‚ΡŒ, Π² 2017 Π³ΠΎΠ΄Ρƒ примСняСтся ΠΏΡ€Π΅ΠΆΠ½ΠΈΠΉ Ρ„ΠΎΡ€ΠΌΠ°Ρ‚.

Новая Ρ„ΠΎΡ€ΠΌΠ° Π‘Π—Π’-М 2017 Π³ΠΎΠ΄Π°: ΠΎΠ±Ρ€Π°Π·Π΅Ρ†

Π”Π°Π»Π΅Π΅ ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅ΠΌ ΠΎΠ±Ρ€Π°Π·Π΅Ρ† заполнСния Ρ„ΠΎΡ€ΠΌΡ‹ Π‘Π—Π’-М Π² 2017 Π³ΠΎΠ΄Ρƒ. Как ΠΌΡ‹ ΡƒΠΆΠ΅ сказали, Ρ‡Ρ‚ΠΎ Π½ΠΎΠ²ΠΎΠ³ΠΎ Π±Π»Π°Π½ΠΊΠ° Π½Π° 2017 Π³ΠΎΠ΄ Π½Π΅ ΡƒΡ‚Π²Π΅Ρ€ΠΆΠ΄Π°Π»ΠΎΡΡŒ. ΠŸΠΎΡΡ‚ΠΎΠΌΡƒ ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅ΠΌ ΠΎΠ±Ρ€Π°Π·Π΅Ρ† заполнСния Ρ„ΠΎΡ€ΠΌΡ‹, которая ΠΏΡ€ΠΎΠ΄ΠΎΠ»ΠΆΠΈΠ»Π° Π΄Π΅ΠΉΡΡ‚Π²ΠΎΠ²Π°Ρ‚ΡŒ Π² 2017 Π³ΠΎΠ΄Ρƒ. Π’Π°ΠΊ, Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€, ΠΎΠ±Ρ€Π°Π·Π΅Ρ† заполнСния Π‘Π—Π’-М Π·Π° ΡΠ½Π²Π°Ρ€ΡŒ 2017 Π³ΠΎΠ΄Π° Π±ΡƒΠ΄Π΅Ρ‚ Π²Ρ‹Π³Π»ΡΠ΄Π΅Ρ‚ΡŒ Ρ‚Π°ΠΊ:

Π‘ΠΊΠ°Ρ‡Π°Ρ‚ΡŒ ΠΏΡ€ΠΈΠΌΠ΅Ρ€ заполнСния Ρ„ΠΎΡ€ΠΌΡ‹ Π‘Π—Π’-М с 2017 Π³ΠΎΠ΄Π°.
машина ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ²

β€” Ρ„ΠΎΡ€ΠΌΡƒΠ»ΠΈΡ€ΠΎΠ²ΠΊΠ° ΠΈ Π²Ρ‹Π²ΠΎΠ΄ | by Atul Agarwal

Photo by Andy Holmes on Unsplash

ΠŸΡ€Π΅Π΄ΡΠΊΠ°Π·Π°Π½ΠΈΠ΅ качСствСнных ΠΎΡ‚Π²Π΅Ρ‚ΠΎΠ² Π² машинном ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠΈ называСтся классификациСй .

SVM ΠΈΠ»ΠΈ ΠΌΠ΅Ρ‚ΠΎΠ΄ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² β€” это классификатор, ΠΌΠ°ΠΊΡΠΈΠΌΠΈΠ·ΠΈΡ€ΡƒΡŽΡ‰ΠΈΠΉ ΠΌΠ°Ρ€ΠΆΡƒ. ЦСль классификатора Π² нашСм ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π΅ Π½ΠΈΠΆΠ΅ β€” Π½Π°ΠΉΡ‚ΠΈ ΠΏΡ€ΡΠΌΡƒΡŽ ΠΈΠ»ΠΈ (n-1) Ρ€Π°Π·ΠΌΠ΅Ρ€Π½ΡƒΡŽ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ, которая раздСляСт Π΄Π²Π° класса, ΠΏΡ€ΠΈΡΡƒΡ‚ΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΡ… Π² n-ΠΌΠ΅Ρ€Π½ΠΎΠΌ пространствС.

Π’ нашСм ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π΅, ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π½ΠΎΠΌ Π½ΠΈΠΆΠ΅, ΠΌΡ‹ Π²ΠΈΠ΄ΠΈΠΌ, Ρ‡Ρ‚ΠΎ любой Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ обучСния выдаст Π»ΡŽΠ±ΡƒΡŽ ΠΈΠ· ΡƒΠΊΠ°Π·Π°Π½Π½Ρ‹Ρ… строк, Π½ΠΎ какая строка ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ Π»ΡƒΡ‡ΡˆΠ΅ΠΉ?

2-ΠΌΠ΅Ρ€Π½ΠΎΠ΅ прСдставлСниС Π΄Π²ΠΎΠΈΡ‡Π½Ρ‹Ρ… классов

Π˜Π½Ρ‚ΡƒΠΈΡ‚ΠΈΠ²Π½ΠΎ зСлСная линия каТСтся Π»ΡƒΡ‡ΡˆΠΈΠΌ Ρ€Π΅ΡˆΠ΅Π½ΠΈΠ΅ΠΌ, ΠΏΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ ΠΎΠ½Π°, вСроятно, даст Π»ΡƒΡ‡ΡˆΠΈΠΉ ΠΏΡ€ΠΎΠ³Π½ΠΎΠ· для Π±ΡƒΠ΄ΡƒΡ‰Π΅Π³ΠΎ Π½Π°Π±ΠΎΡ€Π° тСстовых Π΄Π°Π½Π½Ρ‹Ρ…. ΠœΡ‹ Ρ„ΠΎΡ€ΠΌΠ°Π»ΠΈΠ·ΡƒΠ΅ΠΌ ΠΊΠΎΠ½Ρ†Π΅ΠΏΡ†ΠΈΡŽ качСства классификатора, ввСдя ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€, Π½Π°Π·Ρ‹Π²Π°Π΅ΠΌΡ‹ΠΉ Π³Ρ€Π°Π½ΠΈΡ†Π΅ΠΉ, ΡˆΠΈΡ€ΠΈΠ½ΠΎΠΉ полосы Π²ΠΎΠΊΡ€ΡƒΠ³ Π³Ρ€Π°Π½ΠΈΡ†Ρ‹ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ/классификатора Π±Π΅Π· ΠΊΠ°ΠΊΠΈΡ…-Π»ΠΈΠ±ΠΎ ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰ΠΈΡ… Π²Ρ‹Π±ΠΎΡ€ΠΎΠΊ.

Π‘Π»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, Ρ†Π΅Π»ΡŒ состоит Π² Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π½Π°ΠΉΡ‚ΠΈ Π³Ρ€Π°Π½ΠΈΡ†Ρƒ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ с ΠΌΠ°ΠΊΡΠΈΠΌΠ°Π»ΡŒΠ½Ρ‹ΠΌ запасом. ΠœΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Ρ€Π°ΡΡΠΌΠ°Ρ‚Ρ€ΠΈΠ²Π°Ρ‚ΡŒ Π³Ρ€Π°Π½ΠΈΡ†Ρƒ ΠΊΠ°ΠΊ ΠΎΠ±Π»Π°ΡΡ‚ΡŒ Π²ΠΎΠΊΡ€ΡƒΠ³ Ρ‚Ρ€Π΅Π½ΠΈΡ€ΠΎΠ²ΠΎΡ‡Π½ΠΎΠΉ области, Π²ΠΎΠΊΡ€ΡƒΠ³ ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠΉ Π½Π΅ ΠΌΠΎΠΆΠ΅Ρ‚ ΠΏΡ€ΠΎΡ…ΠΎΠ΄ΠΈΡ‚ΡŒ Π³Ρ€Π°Π½ΠΈΡ†Π° Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ. По ΠΌΠ΅Ρ€Π΅ увСличСния радиуса допустимая ΠΎΠ±Π»Π°ΡΡ‚ΡŒ ΡƒΠΌΠ΅Π½ΡŒΡˆΠ°Π΅Ρ‚ΡΡ, ΠΎΠ½Π° сходится ΠΊ ΠΎΠ΄Π½ΠΎΠΉ прямой.

ΠŸΡ€ΠΈΠΌΠ΅Ρ‡Π°Π½ΠΈΠ΅. Π•ΡΡ‚ΡŒ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ нСсколько ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰ΠΈΡ… Π²Ρ‹Π±ΠΎΡ€ΠΎΠΊ с ΠΏΡƒΠ·Ρ‹Ρ€ΡŒΠΊΠ°ΠΌΠΈ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΊΠ°ΡΠ°ΡŽΡ‚ΡΡ Π³Ρ€Π°Π½ΠΈΡ†Ρ‹ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ. Π­Ρ‚ΠΈ Π²Ρ‹Π±ΠΎΡ€ΠΊΠΈ ΠΏΠΎ сущСству Π½Π°Π·Ρ‹Π²Π°ΡŽΡ‚ΡΡ ΠΎΠΏΠΎΡ€Π½Ρ‹ΠΌΠΈ Π²Π΅ΠΊΡ‚ΠΎΡ€Π°ΠΌΠΈ.

Π’ 1970 Π³ΠΎΠ΄Ρƒ ΠΌΠ°Ρ‚Π΅ΠΌΠ°Ρ‚ΠΈΠΊΠΈ Π’Π°ΠΏΠ½ΠΈΠΊ ΠΈ ЧСрвонСнкис Π²Π²Π΅Π»ΠΈ понятиС размСрности Π’Πš, Π³Π΄Π΅ ΠΎΠ½ΠΈ ΠΎΡ†Π΅Π½ΠΈΠ»ΠΈ Π±ΡƒΠ΄ΡƒΡ‰ΡƒΡŽ ΠΎΡˆΠΈΠ±ΠΊΡƒ тСстирования (R(Ξ±)) ΠΊΠ°ΠΊ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΡŽ ошибки обучСния ΠΈ Π½Π΅ΠΊΠΎΡ‚ΠΎΡ€ΡƒΡŽ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΡŽ размСрности Π’Πš (ΠΌΠΎΠ½ΠΎΡ‚ΠΎΠ½Π½ΠΎ Π²ΠΎΠ·Ρ€Π°ΡΡ‚Π°ΡŽΡ‰ΡƒΡŽ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΡŽ).

Π Π°Π·ΠΌΠ΅Ρ€ VC, h, Π±Ρ‹Π» записан ΠΊΠ°ΠΊ ΠΌΠΈΠ½ΠΈΠΌΡƒΠΌ, ΠΎΠ±Ρ€Π°Ρ‚Π½Ρ‹ΠΉ ΠΊΠ²Π°Π΄Ρ€Π°Ρ‚Ρƒ ΠΎΡ‚Π½ΠΎΡΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠ³ΠΎ поля ΠΈ Ρ€Π°Π·ΠΌΠ΅Ρ€Π°ΠΌ Π΄Π°Π½Π½Ρ‹Ρ…. Π‘Π»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, Ссли Π±Ρ‹ ΠΌΡ‹ ΠΌΠΎΠ³Π»ΠΈ ΠΌΠ°ΠΊΡΠΈΠΌΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΎΡ‚Π½ΠΎΡΠΈΡ‚Π΅Π»ΡŒΠ½ΡƒΡŽ ΠΌΠ°Ρ€ΠΆΡƒ, ΠΌΡ‹ Π±Ρ‹ ΠΌΠΈΠ½ΠΈΠΌΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Π»ΠΈ Π΅Π΅ ΠΎΠ±Ρ€Π°Ρ‚Π½Ρ‹ΠΉ ΠΊΠ²Π°Π΄Ρ€Π°Ρ‚, ΠΈ Ссли ΠΎΠ½Π° ΡƒΠΏΠ°Π΄Π΅Ρ‚ Π½ΠΈΠΆΠ΅ размСрности Π΄Π°Π½Π½Ρ‹Ρ…, h станСт нСзависимым ΠΎΡ‚ размСрности.

ΠŸΡ€ΠΈΠΌΠ΅Ρ‡Π°Π½ΠΈΠ΅: ΠΎΡ‚Π½ΠΎΡΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΉ запас β€” это Π½Π΅ Ρ‡Ρ‚ΠΎ ΠΈΠ½ΠΎΠ΅, ΠΊΠ°ΠΊ запас, Π΄Π΅Π»Π΅Π½Π½Ρ‹ΠΉ Π½Π° Π΄ΠΈΠ°ΠΌΠ΅Ρ‚Ρ€ ΠΊΡ€ΡƒΠ³Π°, ΠΎΡ…Π²Π°Ρ‚Ρ‹Π²Π°ΡŽΡ‰Π΅Π³ΠΎ всС Ρ‚Ρ€Π΅Π½ΠΈΡ€ΠΎΠ²ΠΎΡ‡Π½Ρ‹Π΅ Ρ‚ΠΎΡ‡ΠΊΠΈ.

Π˜ΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅ΠΌ ΠΏΠΎΠ΄Ρ…ΠΎΠ΄ 2 ΠΈ Ρ„ΠΎΡ€ΠΌΡƒΠ»ΠΈΡ€ΡƒΠ΅ΠΌ Π·Π°Π΄Π°Ρ‡Ρƒ Ρ‚Π°ΠΊ:

Π˜Π½Ρ‚Π΅Π³Ρ€ΠΈΡ€ΡƒΡ константы Π² Π»Π°Π³Ρ€Π°Π½ΠΆΠ΅Π²ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΠ΅, ΠΏΠΎΠ»ΡƒΡ‡Π°Π΅ΠΌ:

ΠœΠ΅Ρ‚ΠΎΠ΄ ΠΌΠ½ΠΎΠΆΠΈΡ‚Π΅Π»Π΅ΠΉ Π›Π°Π³Ρ€Π°Π½ΠΆΠ° ΡƒΡ‚Π²Π΅Ρ€ΠΆΠ΄Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ J минимизируСтся для w ΠΈ b, ΠΊΠ°ΠΊ ΠΈ ΠΏΡ€Π΅ΠΆΠ΄Π΅, Π½ΠΎ Π΄ΠΎΠ»ΠΆΠ½ΠΎ Π±Ρ‹Ρ‚ΡŒ максимизировано для Ξ±. Π’ΠΎΡ‡ΠΊΠ°, ΠΊΠΎΡ‚ΠΎΡ€ΡƒΡŽ прСдставляСт J, называСтся сСдловой Ρ‚ΠΎΡ‡ΠΊΠΎΠΉ.

Ѐункция J Π² настоящСС врСмя прСдставлСна ​​в своСй ΠΏΠ΅Ρ€Π²ΠΈΡ‡Π½ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΠ΅, ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΠΏΡ€Π΅ΠΎΠ±Ρ€Π°Π·ΠΎΠ²Π°Ρ‚ΡŒ Π΅Π΅ Π² Π΄Π²ΠΎΠΉΡΡ‚Π²Π΅Π½Π½ΡƒΡŽ Ρ„ΠΎΡ€ΠΌΡƒ для Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ.

ΠšΡ€ΠΎΠΌΠ΅ Ρ‚ΠΎΠ³ΠΎ, ΠΈΠ· условия KKT ΠΌΠ½ΠΎΠΆΠΈΡ‚Π΅Π»Π΅ΠΉ Π›Π°Π³Ρ€Π°Π½ΠΆΠ° ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΡΠΊΠ°Π·Π°Ρ‚ΡŒ, Ρ‡Ρ‚ΠΎ всС Ρ‡Π»Π΅Π½Ρ‹, ΡΠΎΠΎΡ‚Π²Π΅Ρ‚ΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΠ΅ мноТитСлям Π›Π°Π³Ρ€Π°Π½ΠΆΠ° Π² Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ J, Π΄ΠΎΠ»ΠΆΠ½Ρ‹ ΡΡ‚Ρ€Π΅ΠΌΠΈΡ‚ΡŒΡΡ ΠΊ 0 Π² ΠΎΠΏΡ‚ΠΈΠΌΡƒΠΌΠ΅.

Π­Ρ‚ΠΎ ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ Π½Π΅Π½ΡƒΠ»Π΅Π²Ρ‹Π΅ коэффициСнты Π›Π°Π³Ρ€Π°Π½ΠΆΠ° ΡΠΎΠΎΡ‚Π²Π΅Ρ‚ΡΡ‚Π²ΡƒΡŽΡ‚ Ρ‚ΠΎΡ‡ΠΊΠ°ΠΌ Π΄Π°Π½Π½Ρ‹Ρ… ΠΎΠΏΠΎΡ€Π½ΠΎΠ³ΠΎ Π²Π΅ΠΊΡ‚ΠΎΡ€Π°. Π˜ΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡ ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π½Ρ‹Π΅ Π²Ρ‹ΡˆΠ΅ уравнСния, ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Π·Π°ΠΏΠΈΡΠ°Ρ‚ΡŒ J ΠΊΠ°ΠΊ:

Q(Ξ±) прСдставляСт собой Π΄Π²ΠΎΠΉΡΡ‚Π²Π΅Π½Π½ΡƒΡŽ Ρ„ΠΎΡ€ΠΌΡƒ J, которая зависит Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΎΡ‚ Ξ±, ΠΏΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ всС ΠΎΡΡ‚Π°Π»ΡŒΠ½Ρ‹Π΅ ΡΠ²Π»ΡΡŽΡ‚ΡΡ извСстными скалярами. ΠœΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Π½Π°ΠΉΡ‚ΠΈ Q(Ξ±) с любой ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΠ΅ΠΉ QP, Ρ‡Ρ‚ΠΎ Π²Ρ‹Ρ…ΠΎΠ΄ΠΈΡ‚ Π·Π° Ρ€Π°ΠΌΠΊΠΈ этой ΡΡ‚Π°Ρ‚ΡŒΠΈ. ΠŸΠΎΠ»ΡƒΡ‡ΠΈΠ² Ξ±, ΠΌΡ‹ ΠΏΠΎΠ»ΡƒΡ‡Π°Π΅ΠΌ w, ΠΈ, ΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, любой ΠΈΠ· этих ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² даст b ΠΈΠ· условия KKT.

ΠœΡ‹ рассмотрСли случай, ΠΊΠΎΠ³Π΄Π° Π΄Π°Π½Π½Ρ‹Π΅ Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎ Ρ€Π°Π·Π΄Π΅Π»ΠΈΠΌΡ‹. Π’Π΅ΠΏΠ΅Ρ€ΡŒ ΠΌΡ‹ рассмотрим случаи, ΠΊΠΎΠ³Π΄Π° Π΄Π°Π½Π½Ρ‹Π΅ ΠΌΠΎΠ³ΡƒΡ‚ Π±Ρ‹Ρ‚ΡŒ Π½Π΅Ρ€Π°Π·Π΄Π΅Π»ΠΈΠΌΡ‹ Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎ ΠΈΠ·-Π·Π°

Π—Π°ΡˆΡƒΠΌΠ»Π΅Π½Π½Ρ‹Ρ… Π΄Π°Π½Π½Ρ‹Ρ…

Для Π·Π°ΡˆΡƒΠΌΠ»Π΅Π½Π½Ρ‹Ρ… Π΄Π°Π½Π½Ρ‹Ρ… ΠΌΡ‹ Π²Π²ΠΎΠ΄ΠΈΠΌ ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€ ошибки обучСния Π² Π½Π°ΡˆΡƒ ΠΎΡ†Π΅Π½ΠΊΡƒ/ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΡŽ. ΠœΡ‹ Π²Π²ΠΎΠ΄ΠΈΠΌ Ρ€Π΅Π·Π΅Ρ€Π²Π½ΡƒΡŽ ΠΏΠ΅Ρ€Π΅ΠΌΠ΅Π½Π½ΡƒΡŽ ΠΈ добавляСм Π΄ΠΎΠΏΠΎΠ»Π½ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠ΅ условиС ΠΊΠ°ΠΊ

ΠŸΠΎΠ²Ρ‚ΠΎΡ€ΡΡ Ρ‚ΠΎΡ‚ ΠΆΠ΅ процСсс снова с коэффициСнтами Π›Π°Π³Ρ€Π°Π½ΠΆΠ°, ΠΌΡ‹ ΠΏΠΎΠ»ΡƒΡ‡Π°Π΅ΠΌ

ЕдинствСнноС ΠΎΡ‚Π»ΠΈΡ‡ΠΈΠ΅ состоит Π² Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎ Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ Π΅ΡΡ‚ΡŒ ΠΎΠ³Ρ€Π°Π½ΠΈΡ‡Π΅Π½ΠΈΠ΅ Π½Π° коэффициСнты Π›Π°Π³Ρ€Π°Π½ΠΆΠ°. ΠŸΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€ C ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΠΈΡ€ΡƒΠ΅Ρ‚ ΠΎΡ‚Π½ΠΎΡΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΉ вСс ΠΌΠ΅ΠΆΠ΄Ρƒ ошибкой обучСния ΠΈ Ρ€Π°Π·ΠΌΠ΅Ρ€Π½ΠΎΡΡ‚ΡŒΡŽ VC.

Π›ΡŽΠ±ΠΎΠΉ Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ… с Π½Π΅Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎΠΉ Π³Ρ€Π°Π½ΠΈΡ†Π΅ΠΉ тСорСтичСски Π±ΡƒΠ΄Π΅Ρ‚ Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎ Ρ€Π°Π·Π΄Π΅Π»ΠΈΠΌΡ‹ΠΌ ΠΏΡ€ΠΈ ΠΏΡ€ΠΎΠ΅Ρ†ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠΈ Π½Π° Π±ΠΎΠ»Π΅Π΅ высокиС измСрСния.

Π‘Π»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, Q(Ξ±) ΠΌΠΎΠΆΠ½ΠΎ Π·Π°ΠΏΠΈΡΠ°Ρ‚ΡŒ ΠΊΠ°ΠΊ:

ΠœΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Π½Π°ΠΏΠΈΡΠ°Ρ‚ΡŒ w ΠΈ Π΄Ρ€ΡƒΠ³ΠΈΠ΅ уравнСния Ρ„Π°Π·Ρ‹ тСстирования, Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€:

ΠœΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Π²ΠΈΠ΄Π΅Ρ‚ΡŒ, Ρ‡Ρ‚ΠΎ ΠΎΡ‚ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠ΅ происходит ΠΊΠ°ΠΊ Ρ‚ΠΎΡ‡Π΅Ρ‡Π½Ρ‹ΠΉ ΠΏΡ€ΠΎΠ΄ΡƒΠΊΡ‚ ΠΊΠ°ΠΊ ΠΏΡ€ΠΈ ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠΈ, Ρ‚Π°ΠΊ ΠΈ ΠΏΡ€ΠΈ тСстировании. ΠŸΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ ΠΌΡ‹ Π½Π΅ Π·Π½Π°Π΅ΠΌ отобраТСния, ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Π½Π°ΠΉΡ‚ΠΈ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΡŽ K(x,y) , которая эквивалСнтна скалярному ΠΏΡ€ΠΎΠΈΠ·Π²Π΅Π΄Π΅Π½ΠΈΡŽ отобраТСния; ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΠΈΠ·Π±Π΅ΠΆΠ°Ρ‚ΡŒ явного отобраТСния Π½Π° Π±ΠΎΠ»Π΅Π΅ высокоС ΠΈΠ·ΠΌΠ΅Ρ€Π΅Π½ΠΈΠ΅.

Π”Π°Π²Π°ΠΉΡ‚Π΅ возьмСм ΠΏΡ€ΠΈΠΌΠ΅Ρ€ ΠΊΠ²Π°Π΄Ρ€Π°Ρ‚ΠΈΡ‡Π½ΠΎΠ³ΠΎ ядра, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π»ΡƒΡ‡ΡˆΠ΅ ΠΏΠΎΠ½ΡΡ‚ΡŒ.

ΠœΡ‹ Π²ΠΈΠ΄ΠΈΠΌ ΠΌΠ΅Π½ΡŒΡˆΡƒΡŽ Π²Ρ‹Ρ‡ΠΈΡΠ»ΠΈΡ‚Π΅Π»ΡŒΠ½ΡƒΡŽ ΡΠ»ΠΎΠΆΠ½ΠΎΡΡ‚ΡŒ с функциями ядра ΠΏΠΎ ΡΡ€Π°Π²Π½Π΅Π½ΠΈΡŽ с ΠΎΡ‚ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠ΅ΠΌ ΠΈ ΠΏΠΎΡΠ»Π΅Π΄ΡƒΡŽΡ‰ΠΈΠΌ ΡƒΠΌΠ½ΠΎΠΆΠ΅Π½ΠΈΠ΅ΠΌ.
Π­Ρ‚ΠΎ ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ Ρ€Π°ΡΡˆΠΈΡ€Π΅Π½ΠΎ Π΄ΠΎ n-ΠΌΠ΅Ρ€Π½ΠΎΠ³ΠΎ ядра. Π‘Π»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, n-ΠΌΠ΅Ρ€Π½ΠΎΠ΅ ΠΎΡ‚ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠ΅/ядро ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ прСдставлСно ΠΊΠ°ΠΊ

ΠŸΡ€ΠΈΠΌΠ΅Ρ‡Π°Π½ΠΈΠ΅. Π”ΠΎΠ±Π°Π²Π»Π΅Π½ΠΈΠ΅ Π΄Π²ΡƒΡ… Π΄Π΅ΠΉΡΡ‚Π²ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹Ρ… ядСр Ρ‚Π°ΠΊΠΆΠ΅ Π΄Π°Π΅Ρ‚ Π½Π°ΠΌ ядро. Π­Ρ‚ΠΎ ΠΌΠΎΠΆΠ½ΠΎ Π»Π΅Π³ΠΊΠΎ Π΄ΠΎΠΊΠ°Π·Π°Ρ‚ΡŒ.

Π‘Π»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΎΡ‚ΠΎΠ±Ρ€Π°Π·ΠΈΡ‚ΡŒ Π² Ρ‡Ρ€Π΅Π·Π²Ρ‹Ρ‡Π°ΠΉΠ½ΠΎ высокоС ΠΈΠ·ΠΌΠ΅Ρ€Π΅Π½ΠΈΠ΅, ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Π²Ρ‹Ρ‡ΠΈΡΠ»ΠΈΡ‚ΡŒ ядро ​​как:

ВСорСтичСски Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ… Π±Ρ‹Π» Π±Ρ‹ Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎ Ρ€Π°Π·Π΄Π΅Π»ΠΈΠΌ, Ссли Π±Ρ‹ отобраТался Π½Π° Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ бСсконСчного измСрСния. Π‘Π»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, Ссли ΠΌΡ‹ смоТСм Π½Π°ΠΉΡ‚ΠΈ ядро, ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠ΅ Π΄Π°Π²Π°Π»ΠΎ Π±Ρ‹ ΠΏΡ€ΠΎΠΈΠ·Π²Π΅Π΄Π΅Π½ΠΈΠ΅ бСсконСчного отобраТСния гипСрплоскостСй, наша Ρ€Π°Π±ΠΎΡ‚Π° Π²Ρ‹ΠΏΠΎΠ»Π½Π΅Π½Π°.

Π’ΠΎΡ‚ Ρ‚Π΅ΠΎΡ€Π΅ΠΌΠ° ΠœΠ΅Ρ€ΡΠ΅Ρ€Π°, ΠΎΠ½Π° ΡƒΡ‚Π²Π΅Ρ€ΠΆΠ΄Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ Ρ‚ΠΎΠ³Π΄Π° ΠΈ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ Ρ‚ΠΎΠ³Π΄Π°, ΠΊΠΎΠ³Π΄Π° K(X, Y) являСтся симмСтричным, Π½Π΅ΠΏΡ€Π΅Ρ€Ρ‹Π²Π½Ρ‹ΠΌ ΠΈ ΠΏΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΏΠΎΠ»ΡƒΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½Π½Ρ‹ΠΌ (Ρ‚ΠΎΠ³Π΄Π° условиС ΠœΠ΅Ρ€ΡΠ΅Ρ€Π°), ΠΎΠ½ΠΎ ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ прСдставлСно ΠΊΠ°ΠΊ

Π—Π½Π°Ρ‡Π΅Π½ΠΈΠ΅ сущСствования Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎΠΉ ΠΊΠΎΠΌΠ±ΠΈΠ½Π°Ρ†ΠΈΠΈ отобраТСния Π±ΠΎΠ»Π΅Π΅ высокой размСрности Π³Π°Ρ€Π°Π½Ρ‚ΠΈΡ€ΠΎΠ²Π°Π½ΠΎ. Π‘Π»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ Π½Π°ΠΌ Π½ΡƒΠΆΠ½ΠΎ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚ΡŒ, удовлСтворяСт Π»ΠΈ функция ΡƒΡΠ»ΠΎΠ²ΠΈΡŽ ΠœΠ΅Ρ€ΡΠ΅Ρ€Π°, ΠΈ ΠΌΡ‹ ΠΏΠΎΠ»ΡƒΡ‡Π°Π΅ΠΌ ΠΎΡ‚ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠ΅ Π² бСсконСчной размСрности.

На этом я Π·Π°ΠΊΠ°Π½Ρ‡ΠΈΠ²Π°ΡŽ свой Π±Π»ΠΎΠ³ ΠΎΠ± SVM, ΠΎΠ΄Π½ΠΎΠΌ ΠΈΠ· Π»ΡƒΡ‡ΡˆΠΈΡ… классификаторов, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ я использовал, смотритС это мСсто для получСния Π΄ΠΎΠΏΠΎΠ»Π½ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠΉ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ.

ΠœΠ°Ρ‚Π΅ΠΌΠ°Ρ‚ΠΈΠΊΠ° SVM | Math Behind Support Vector Machine

Π­Ρ‚Π° ΡΡ‚Π°Ρ‚ΡŒΡ Π±Ρ‹Π»Π° ΠΎΠΏΡƒΠ±Π»ΠΈΠΊΠΎΠ²Π°Π½Π° Π² Ρ€Π°ΠΌΠΊΠ°Ρ… Π±Π»ΠΎΠ³Π° ΠΏΠΎ Π½Π°ΡƒΠΊΠ΅ ΠΎ Π΄Π°Π½Π½Ρ‹Ρ….

Π’Π²Π΅Π΄Π΅Π½ΠΈΠ΅

Один ΠΈΠ· классификаторов, с ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΌ ΠΌΡ‹ сталкиваСмся ΠΏΡ€ΠΈ ΠΈΠ·ΡƒΡ‡Π΅Π½ΠΈΠΈ машинного обучСния, β€” это машина ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² ΠΈΠ»ΠΈ SVM. Π­Ρ‚ΠΎΡ‚ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ являСтся ΠΎΠ΄Π½ΠΈΠΌ ΠΈΠ· самых популярных Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠΎΠ² классификации, ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅ΠΌΡ‹Ρ… Π² машинном ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠΈ.

Π’ этой ΡΡ‚Π°Ρ‚ΡŒΠ΅ ΠΌΡ‹ ΡƒΠ·Π½Π°Π΅ΠΌ ΠΎ ΠΌΠ°Ρ‚Π΅ΠΌΠ°Ρ‚ΠΈΠΊΠ΅, Π»Π΅ΠΆΠ°Ρ‰Π΅ΠΉ Π² основС ΠΌΠ°ΡˆΠΈΠ½Ρ‹ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² для Π·Π°Π΄Π°Ρ‡ΠΈ классификации, ΠΎ Ρ‚ΠΎΠΌ, ΠΊΠ°ΠΊ ΠΎΠ½Π° классифицируСт классы ΠΈ Π΄Π°Π΅Ρ‚ ΠΏΡ€ΠΎΠ³Π½ΠΎΠ·.

Β 

Π‘ΠΎΠ΄Π΅Ρ€ΠΆΠ°Π½ΠΈΠ΅

  1. НСТноС Π²Π²Π΅Π΄Π΅Π½ΠΈΠ΅ Π² ΠΌΠ΅Ρ‚ΠΎΠ΄ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² (SVM)
  2. НСсколько понятий, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π½ΡƒΠΆΠ½ΠΎ Π·Π½Π°Ρ‚ΡŒ, ΠΏΡ€Π΅ΠΆΠ΄Π΅ Ρ‡Π΅ΠΌ ΡƒΠ·Π½Π°Ρ‚ΡŒ сСкрСт Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠ°
  3. ΠŸΠΎΠ³Ρ€ΡƒΠΆΠ΅Π½ΠΈΠ΅ Π³Π»ΡƒΠ±ΠΎΠΊΠΎ Π² ΠΌΠΎΡ€Π΅ ΠΌΠ°Ρ‚Π΅ΠΌΠ°Ρ‚ΠΈΠΊΠΈ
    • 3.1 Π“Π΄Π΅ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ SVM / ΠŸΡ€Π΅Π΄Ρ‹ΡΡ‚ΠΎΡ€ΠΈΡ SVM
      • 3.1.1 Π‘Π»ΡƒΡ‡Π°ΠΉ 1: Π‘ΠΎΠ²Π΅Ρ€ΡˆΠ΅Π½Π½ΠΎ Ρ€Π°Π·Π΄Π΅Π»Π΅Π½Π½Ρ‹ΠΉ Π΄Π²ΠΎΠΈΡ‡Π½Ρ‹ΠΉ классифицированный Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ…
      • 3.1.2 Π£Ρ€Π°Π²Π½Π΅Π½ΠΈΠ΅ идСального раздСлСния
    • 3. 2 Π‘Π»ΡƒΡ‡Π°ΠΉ 2: Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ… Π½Π΅ΡΠΎΠ²Π΅Ρ€ΡˆΠ΅Π½Π½ΠΎΠ³ΠΎ раздСлСния
      • 3.2.1 ΠžΠΊΠΎΠ½Ρ‡Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΠ΅ ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠ΅ для Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ Π½Π΅ΡΠΎΠ²Π΅Ρ€ΡˆΠ΅Π½Π½ΠΎΠ³ΠΎ раздСлСния
      • 3.2.2 ΠŸΠ΅Ρ€Π²ΠΈΡ‡Π½Ρ‹ΠΉ – ДвойствСнный – Π›Π°Π³Ρ€Π°Π½ΠΆΠ΅Π²
      • 3.2.3 ИспользованиС ядра для получСния ΠΎΠΊΠΎΠ½Ρ‡Π°Ρ‚Π΅Π»ΡŒΠ½Ρ‹Ρ… Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚ΠΎΠ²
  4. ΠšΠΎΠ½Π΅Ρ‡Π½Ρ‹Π΅ Ρ‚ΠΎΡ‡ΠΊΠΈ

1. Машина ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ²

A ΠœΠ΅Ρ‚ΠΎΠ΄ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² ΠΈΠ»ΠΈ SVM β€” это Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ машинного обучСния, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ просматриваСт Π΄Π°Π½Π½Ρ‹Π΅ ΠΈ сортируСт ΠΈΡ… ΠΏΠΎ ΠΎΠ΄Π½ΠΎΠΉ ΠΈΠ· Π΄Π²ΡƒΡ… ΠΊΠ°Ρ‚Π΅Π³ΠΎΡ€ΠΈΠΉ.

Машина ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² β€” это Π»ΠΈΠ½Π΅ΠΉΠ½Ρ‹ΠΉ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ машинного обучСния с ΡƒΡ‡ΠΈΡ‚Π΅Π»Π΅ΠΌ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Ρ‡Π°Ρ‰Π΅ всСго ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ для Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ Π·Π°Π΄Π°Ρ‡ классификации ΠΈ Ρ‚Π°ΠΊΠΆΠ΅ называСтся классификациСй ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ².

БущСствуСт Ρ‚Π°ΠΊΠΆΠ΅ подмноТСство SVM, Π½Π°Π·Ρ‹Π²Π°Π΅ΠΌΠΎΠ΅ SVR, Ρ‡Ρ‚ΠΎ ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚ Ρ€Π΅Π³Ρ€Π΅ΡΡΠΈΡŽ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ², Π² ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠΉ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡŽΡ‚ΡΡ Ρ‚Π΅ ΠΆΠ΅ ΠΏΡ€ΠΈΠ½Ρ†ΠΈΠΏΡ‹ для Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ Π·Π°Π΄Π°Ρ‡ рСгрСссии.

SVM Π½Π°ΠΈΠ±ΠΎΠ»Π΅Π΅ часто ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ ΠΈ эффСктивСн ΠΈΠ·-Π·Π° использования ΠΌΠ΅Ρ‚ΠΎΠ΄Π° ядра, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Π² основном ΠΏΠΎΠΌΠΎΠ³Π°Π΅Ρ‚ Ρ€Π΅ΡˆΠΈΡ‚ΡŒ Π½Π΅Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎΡΡ‚ΡŒ уравнСния ΠΎΡ‡Π΅Π½ΡŒ простым способом.

Β 

П.Π‘. β€” Π’Π°ΠΊ ΠΊΠ°ΠΊ эта ΡΡ‚Π°Ρ‚ΡŒΡ написана с ΡƒΠΏΠΎΡ€ΠΎΠΌ Π½Π° ΠΌΠ°Ρ‚Π΅ΠΌΠ°Ρ‚ΠΈΡ‡Π΅ΡΠΊΡƒΡŽ Ρ‡Π°ΡΡ‚ΡŒ. ΠŸΠΎΠΆΠ°Π»ΡƒΠΉΡΡ‚Π°, ΠΎΠ±Ρ€Π°Ρ‚ΠΈΡ‚Π΅ΡΡŒ ΠΊ этой ΡΡ‚Π°Ρ‚ΡŒΠ΅ для ΠΏΠΎΠ»Π½ΠΎΠ³ΠΎ ΠΎΠ±Π·ΠΎΡ€Π° Ρ€Π°Π±ΠΎΡ‚Ρ‹ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠ°

.

2. ΠžΡΠ½ΠΎΠ²Π½Ρ‹Π΅ Ρ‚Π΅ΠΌΡ‹ для SVM

Машина ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² Π² основном ΠΏΠΎΠΌΠΎΠ³Π°Π΅Ρ‚ ΡΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Π΄Π°Π½Π½Ρ‹Π΅ ΠΏΠΎ Π΄Π²ΡƒΠΌ ΠΈΠ»ΠΈ Π±ΠΎΠ»Π΅Π΅ катСгориям с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ Π³Ρ€Π°Π½ΠΈΡ†Ρ‹ для различСния ΠΏΠΎΡ…ΠΎΠΆΠΈΡ… ΠΊΠ°Ρ‚Π΅Π³ΠΎΡ€ΠΈΠΉ.

Π˜Ρ‚Π°ΠΊ, сначала Π΄Π°Π²Π°ΠΉΡ‚Π΅ пСрСсмотрим Ρ„ΠΎΡ€ΠΌΡƒΠ»Ρ‹ Ρ‚ΠΎΠ³ΠΎ, ΠΊΠ°ΠΊ Π΄Π°Π½Π½Ρ‹Π΅ прСдставлСны Π² пространствС, ΠΈ Ρ‡Ρ‚ΠΎ Ρ‚Π°ΠΊΠΎΠ΅ ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠ΅ Π»ΠΈΠ½ΠΈΠΈ, ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠ΅ ΠΏΠΎΠΌΠΎΠΆΠ΅Ρ‚ Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚ΡŒ ΠΏΠΎΡ…ΠΎΠΆΠΈΠ΅ ΠΊΠ°Ρ‚Π΅Π³ΠΎΡ€ΠΈΠΈ, ΠΈ, Π½Π°ΠΊΠΎΠ½Π΅Ρ†, Ρ„ΠΎΡ€ΠΌΡƒΠ»Ρƒ расстояния ΠΌΠ΅ΠΆΠ΄Ρƒ Ρ‚ΠΎΡ‡ΠΊΠΎΠΉ Π΄Π°Π½Π½Ρ‹Ρ… ΠΈ Π»ΠΈΠ½ΠΈΠ΅ΠΉ (Π³Ρ€Π°Π½ΠΈΡ†Π΅ΠΉ, Ρ€Π°Π·Π΄Π΅Π»ΡΡŽΡ‰Π΅ΠΉ ΠΊΠ°Ρ‚Π΅Π³ΠΎΡ€ΠΈΠΈ).

2.1 Π’ΠΎΡ‡ΠΊΠ° Π² пространствС

ΠŸΡ€Π΅Π΄ΠΏΠΎΠ»ΠΎΠΆΠΈΠΌ, Ρƒ нас Π΅ΡΡ‚ΡŒ Π½Π΅ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π΄Π°Π½Π½Ρ‹Π΅, Π² ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… нас (Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ SVM) просят Ρ€Π°Π·Π»ΠΈΡ‡Π°Ρ‚ΡŒ ΠΌΡƒΠΆΡ‡ΠΈΠ½ ΠΈ ΠΆΠ΅Π½Ρ‰ΠΈΠ½, сначала ΠΈΠ·ΡƒΡ‡ΠΈΠ² характСристики ΠΎΠ±ΠΎΠΈΡ… ΠΏΠΎΠ»ΠΎΠ², Π° Π·Π°Ρ‚Π΅ΠΌ Ρ‚ΠΎΡ‡Π½ΠΎ ΠΏΠΎΠΌΠ΅Ρ‚ΠΈΠ² Π½Π΅Π²ΠΈΠ΄ΠΈΠΌΡ‹Π΅ Π΄Π°Π½Π½Ρ‹Π΅, Ссли ΠΊΡ‚ΠΎ-Ρ‚ΠΎ ΠΌΡƒΠΆΡ‡ΠΈΠ½Π° ΠΈΠ»ΠΈ ΠΆΠ΅Π½Ρ‰ΠΈΠ½Π°.

Π’ этом ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π΅ характСристики, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΏΠΎΠΌΠΎΠ³ΡƒΡ‚ Ρ€Π°Π·Π»ΠΈΡ‡Π°Ρ‚ΡŒ ΠΏΠΎΠ», Π² основном Π½Π°Π·Ρ‹Π²Π°ΡŽΡ‚ΡΡ ΠΏΡ€ΠΈΠ·Π½Π°ΠΊΠ°ΠΌΠΈ Π² машинном ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠΈ.

Π”ΠΎΠΌΠ΅Π½

, совмСстный Π΄ΠΎΠΌΠ΅Π½, Π΄ΠΈΠ°ΠΏΠ°Π·ΠΎΠ½

Β 

Β 

ΠŸΡ€Π΅Π΄ΠΏΠΎΠ»Π°Π³Π°Ρ, Ρ‡Ρ‚ΠΎ ΠΌΡ‹ ΡƒΠΆΠ΅ Π·Π½Π°ΠΊΠΎΠΌΡ‹ с понятиСм Π΄ΠΎΠΌΠ΅Π½Π°, Π΄ΠΈΠ°ΠΏΠ°Π·ΠΎΠ½Π° ΠΈ совмСстного Π΄ΠΎΠΌΠ΅Π½Π° ΠΏΡ€ΠΈ ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½ΠΈΠΈ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ Π² Ρ€Π΅Π°Π»ΡŒΠ½ΠΎΠΌ пространствС. (Если Π½Π΅Ρ‚, поТалуйста, Π½Π°ΠΆΠΌΠΈΡ‚Π΅ Π½Π° ΠΈΠ·ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠ΅ для понимания ΠΊΠΎΠ½Ρ†Π΅ΠΏΡ†ΠΈΠΈ с ΠΏΡ€ΠΈΠΌΠ΅Ρ€ΠΎΠΌ)

Когда ΠΌΡ‹ опрСдСляСм x Π² Ρ€Π΅Π°Π»ΡŒΠ½ΠΎΠΌ пространствС, ΠΌΡ‹ ΠΏΠΎΠ½ΠΈΠΌΠ°Π΅ΠΌ Π΅Π³ΠΎ Π΄ΠΎΠΌΠ΅Π½, Π° ΠΏΡ€ΠΈ ΠΎΡ‚ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠΈ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ для y = f(x) ΠΌΡ‹ ΠΏΠΎΠ»ΡƒΡ‡Π°Π΅ΠΌ Π΄ΠΈΠ°ΠΏΠ°Π·ΠΎΠ½ ΠΈ со-ΠΎΠ±Π»Π°ΡΡ‚ΡŒ. 9D здСсь β€” Π²Π΅ΠΊΡ‚ΠΎΡ€Π½ΠΎΠ΅ пространство с Ρ€Π°Π·ΠΌΠ΅Ρ€Π½ΠΎΡΡ‚ΡŒΡŽ D, для этого Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠ° Π½Π΅ ΠΎΠ±ΡΠ·Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ ΠΈΠΌΠ΅Ρ‚ΡŒ прСдставлСниС ΠΎΠ± этом понятии.

ΠœΡ‹ примСняСм Π°Π½Π°Π»ΠΎΠ³ΠΈΡ‡Π½ΡƒΡŽ ΠΊΠΎΠ½Ρ†Π΅ΠΏΡ†ΠΈΡŽ Π΄ΠΎΠΌΠ΅Π½Π°, Π΄ΠΈΠ°ΠΏΠ°Π·ΠΎΠ½Π°, отобраТСния Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ для Ρ‚ΠΎΡ‡Π΅ΠΊ Π΄Π°Π½Π½Ρ‹Ρ… здСсь, вмСсто Ρ€Π΅Π°Π»ΡŒΠ½ΠΎΠ³ΠΎ пространства Ρƒ нас Π΅ΡΡ‚ΡŒ Π²Π΅ΠΊΡ‚ΠΎΡ€Π½ΠΎΠ΅ пространство для x.

Π”Π°Π»Π΅Π΅, отобраТая Ρ‚ΠΎΡ‡ΠΊΡƒ Π½Π° слоТном пространствС ΠΏΡ€ΠΈΠ·Π½Π°ΠΊΠΎΠ² x,

Φ(x) ∊ R M

ΠŸΡ€Π΅ΠΎΠ±Ρ€Π°Π·ΠΎΠ²Π°Π½Π½ΠΎΠ΅ пространство ΠΏΡ€ΠΈΠ·Π½Π°ΠΊΠΎΠ² для ΠΊΠ°ΠΆΠ΄ΠΎΠ³ΠΎ Π²Ρ…ΠΎΠ΄Π½ΠΎΠ³ΠΎ ΠΏΡ€ΠΈΠ·Π½Π°ΠΊΠ°, сопоставлСнного с ΠΏΡ€Π΅ΠΎΠ±Ρ€Π°Π·ΠΎΠ²Π°Π½Π½Ρ‹ΠΌ базисным Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠΌ Ξ¦(x), ΠΌΠΎΠΆΠ½ΠΎ ΠΎΠΏΡ€Π΅Π΄Π΅Π»ΠΈΡ‚ΡŒ ΠΊΠ°ΠΊ :

2. 2 Π“Ρ€Π°Π½ΠΈΡ†Π° принятия Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ

Π˜Ρ‚Π°ΠΊ, Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ, ΠΊΠΎΠ³Π΄Π° ΠΌΡ‹ прСдставили наши Ρ‚ΠΎΡ‡ΠΊΠΈ Π²ΠΈΠ·ΡƒΠ°Π»ΡŒΠ½ΠΎ, наша ΡΠ»Π΅Π΄ΡƒΡŽΡ‰Π°Ρ Π·Π°Π΄Π°Ρ‡Π° состоит Π² Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚ΡŒ эти Ρ‚ΠΎΡ‡ΠΊΠΈ с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ Π»ΠΈΠ½ΠΈΠΈ, ΠΈ ΠΈΠΌΠ΅Π½Π½ΠΎ здСсь появляСтся Ρ‚Π΅Ρ€ΠΌΠΈΠ½ Π³Ρ€Π°Π½ΠΈΡ†Π° Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ.

Π“Ρ€Π°Π½ΠΈΡ†Π° Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ являСтся основным Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚Π΅Π»Π΅ΠΌ для раздСлСния Ρ‚ΠΎΡ‡Π΅ΠΊ Π½Π° ΡΠΎΠΎΡ‚Π²Π΅Ρ‚ΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΠ΅ классы.

(Как ΠΈ ΠΏΠΎΡ‡Π΅ΠΌΡƒ я Π³ΠΎΠ²ΠΎΡ€ΡŽ, Ρ‡Ρ‚ΠΎ основной Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚Π΅Π»ΡŒ, Π° Π½Π΅ просто любой Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚Π΅Π»ΡŒ, ΠΌΡ‹ рассмотрим, понимая ΠΌΠ°Ρ‚Π΅ΠΌΠ°Ρ‚ΠΈΠΊΡƒ)

Π£Ρ€Π°Π²Π½Π΅Π½ΠΈΠ΅ гипСрплоскости :

Π£Ρ€Π°Π²Π½Π΅Π½ΠΈΠ΅ Π³Π»Π°Π²Π½ΠΎΠΉ Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠΉ Π»ΠΈΠ½ΠΈΠΈ называСтся ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠ΅ΠΌ гипСрплоскости.

Β 

Β 

Β 

Π”Π°Π²Π°ΠΉΡ‚Π΅ посмотрим Π½Π° ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠ΅ прямой с Π½Π°ΠΊΠ»ΠΎΠ½ΠΎΠΌ m ΠΈ Ρ‚ΠΎΡ‡ΠΊΠΎΠΉ пСрСсСчСния c.

Π£Ρ€Π°Π²Π½Π΅Π½ΠΈΠ΅ ΠΏΡ€ΠΈΠ½ΠΈΠΌΠ°Π΅Ρ‚ Π²ΠΈΠ΄: mx + c = 0

(ΠžΠ±Ρ€Π°Ρ‚ΠΈΡ‚Π΅ Π²Π½ΠΈΠΌΠ°Π½ΠΈΠ΅: ΠΌΡ‹ помСстили ΠΏΡ€ΡΠΌΡƒΡŽ/Π»ΠΈΠ½Π΅ΠΉΠ½ΡƒΡŽ линию, которая являСтся 1-ΠΌΠ΅Ρ€Π½ΠΎΠΉ, Π² 2-ΠΌΠ΅Ρ€Π½ΠΎΠΌ пространствС)

Β 

Β 

Π£Ρ€Π°Π²Π½Π΅Π½ΠΈΠ΅ гипСрплоскости, Ρ€Π°Π·Π΄Π΅Π»ΡΡŽΡ‰Π΅Π΅ Ρ‚ΠΎΡ‡ΠΊΠΈ (для классификации), Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ Π»Π΅Π³ΠΊΠΎ записано ΠΊΠ°ΠΊ:

H: w T (x) + b = 0

Π—Π΄Π΅ΡΡŒ: b = Ρ‡Π»Π΅Π½ пСрСсСчСния ΠΈ смСщСния уравнСния гипСрплоскости

Π’ D-ΠΌΠ΅Ρ€Π½ΠΎΠΌ пространствС Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ всСгда Π±ΡƒΠ΄Π΅Ρ‚ ΠΎΠΏΠ΅Ρ€Π°Ρ‚ΠΎΡ€ΠΎΠΌ D-1.

НапримСр, для Π΄Π²ΡƒΠΌΠ΅Ρ€Π½ΠΎΠ³ΠΎ пространства Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ β€” это прямая линия (одномСрная).

Β 

2.3 Π˜Π·ΠΌΠ΅Ρ€ΠΈΡ‚Π΅Π»ΡŒ расстояния

Π’Π΅ΠΏΠ΅Ρ€ΡŒ, ΠΊΠΎΠ³Π΄Π° ΠΌΡ‹ ΡƒΠ²ΠΈΠ΄Π΅Π»ΠΈ, ΠΊΠ°ΠΊ ΠΏΡ€Π΅Π΄ΡΡ‚Π°Π²Π»ΡΡ‚ΡŒ Ρ‚ΠΎΡ‡ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ… ΠΈ ΠΊΠ°ΠΊ провСсти Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚Π΅Π»ΡŒΠ½ΡƒΡŽ линию ΠΌΠ΅ΠΆΠ΄Ρƒ Ρ‚ΠΎΡ‡ΠΊΠ°ΠΌΠΈ. Но ΠΏΡ€ΠΈ ΠΏΠΎΠ΄Π³ΠΎΠ½ΠΊΠ΅ Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠΉ Π»ΠΈΠ½ΠΈΠΈ ΠΌΡ‹, ΠΎΡ‡Π΅Π²ΠΈΠ΄Π½ΠΎ, Ρ…ΠΎΡ‚Π΅Π»ΠΈ Π±Ρ‹ Ρ‚Π°ΠΊΡƒΡŽ β€‹β€‹Π»ΠΈΠ½ΠΈΡŽ, которая ΠΌΠΎΠ³Π»Π° Π±Ρ‹ Π½Π°ΠΈΠ»ΡƒΡ‡ΡˆΠΈΠΌ ΠΎΠ±Ρ€Π°Π·ΠΎΠΌ Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚ΡŒ Ρ‚ΠΎΡ‡ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ… с наимСньшим количСством ошибок/ошибок ΠΏΡ€ΠΎΠΌΠ°Ρ…Π° классификации.

Π’Π°ΠΊΠΈΠΌ ΠΎΠ±Ρ€Π°Π·ΠΎΠΌ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΈΠΌΠ΅Ρ‚ΡŒ наимСньшиС ошибки Π² классификации Ρ‚ΠΎΡ‡Π΅ΠΊ Π΄Π°Π½Π½Ρ‹Ρ…, эта концСпция Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΌΡ‹ сначала Π·Π½Π°Π»ΠΈ расстояниС ΠΌΠ΅ΠΆΠ΄Ρƒ Ρ‚ΠΎΡ‡ΠΊΠΎΠΉ Π΄Π°Π½Π½Ρ‹Ρ… ΠΈ Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠΉ Π»ΠΈΠ½ΠΈΠ΅ΠΉ.

Β 

РасстояниС любой Π»ΠΈΠ½ΠΈΠΈ, ax + by + c = 0, ΠΎΡ‚ Π·Π°Π΄Π°Π½Π½ΠΎΠΉ Ρ‚ΠΎΡ‡ΠΊΠΈ, скаТСм, (x 0 , y 0 ) опрСдСляСтся ΠΊΠ°ΠΊ d.

Аналогично, расстояниС уравнСния гипСрплоскости: w T Ξ¦(x) + b = 0 ΠΎΡ‚ Π·Π°Π΄Π°Π½Π½ΠΎΠ³ΠΎ Ρ‚ΠΎΡ‡Π΅Ρ‡Π½ΠΎΠ³ΠΎ Π²Π΅ΠΊΡ‚ΠΎΡ€Π° Ξ¦(x 0 ) ΠΌΠΎΠΆΠ½ΠΎ Π»Π΅Π³ΠΊΠΎ Π·Π°ΠΏΠΈΡΠ°Ρ‚ΡŒ ΠΊΠ°ΠΊ:

здСсь ||w||2 β€” Π΅Π²ΠΊΠ»ΠΈΠ΄ΠΎΠ²Π° Π½ΠΎΡ€ΠΌΠ° Π΄Π»ΠΈΠ½Ρ‹ w, опрСдСляСмая ΠΊΠ°ΠΊ:

Β 

[stextbox id=’alert’ shadow=”false”] Π’Π΅ΠΏΠ΅Ρ€ΡŒ, ΠΊΠΎΠ³Π΄Π° Ρ‚Π΅Ρ€ΠΌΠΈΠ½Ρ‹ понятны, Π΄Π°Π²Π°ΠΉΡ‚Π΅ углубимся Π² Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ, ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅ΠΌΡ‹ΠΉ ΠΏΠΎΠ·Π°Π΄ΠΈ. [/stextbox]

Β 

3. Π Ρ‹Π±Ρ‹ ΠΌΠ½ΠΎΠ³ΠΎ

ΠœΠ°Ρ‚Π΅ΠΌΠ°Ρ‚ΠΈΠΊΠ°Β Π² ΠΌΠΎΡ€Π΅

Β 

Β 

3.1 Π€ΠΎΠ½

ΠœΡ‹ Π³ΠΎΠ²ΠΎΡ€ΠΈΠ»ΠΈ ΠΎ ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π΅ Π΄ΠΈΡ„Ρ„Π΅Ρ€Π΅Π½Ρ†ΠΈΠ°Ρ†ΠΈΠΈ ΠΏΠΎΠ»ΠΎΠ², поэтому Ρ‚Π°ΠΊΠΈΠ΅ Π·Π°Π΄Π°Ρ‡ΠΈ Π½Π°Π·Ρ‹Π²Π°ΡŽΡ‚ΡΡ Π·Π°Π΄Π°Ρ‡Π°ΠΌΠΈ классификации. Π’Π΅ΠΏΠ΅Ρ€ΡŒ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΠ° классификации ΠΌΠΎΠΆΠ΅Ρ‚ ΠΈΠΌΠ΅Ρ‚ΡŒ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ Π΄Π²Π° (Π΄Π²ΠΎΠΈΡ‡Π½Ρ‹Ρ…) класса для раздСлСния ΠΈΠ»ΠΈ ΠΌΠΎΠΆΠ΅Ρ‚ ΠΈΠΌΠ΅Ρ‚ΡŒ Π±ΠΎΠ»Π΅Π΅ Π΄Π²ΡƒΡ…, Ρ‡Ρ‚ΠΎ извСстно ΠΊΠ°ΠΊ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΡ‹ классификации с нСсколькими классами.

Но Π½Π΅ всС прогностичСскиС ΠΌΠΎΠ΄Π΅Π»ΠΈ классификации ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΈΠ²Π°ΡŽΡ‚ ΠΌΠ½ΠΎΠ³ΠΎΠΊΠ»Π°ΡΡΠΎΠ²ΡƒΡŽ ΠΊΠ»Π°ΡΡΠΈΡ„ΠΈΠΊΠ°Ρ†ΠΈΡŽ, Ρ‚Π°ΠΊΠΈΠ΅ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΡ‹, ΠΊΠ°ΠΊ логистичСская рСгрСссия ΠΈ ΠΌΠ°ΡˆΠΈΠ½Ρ‹ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² (SVM), Π±Ρ‹Π»ΠΈ Ρ€Π°Π·Ρ€Π°Π±ΠΎΡ‚Π°Π½Ρ‹ для Π΄Π²ΠΎΠΈΡ‡Π½ΠΎΠΉ классификации ΠΈ ΠΈΠ·Π½Π°Ρ‡Π°Π»ΡŒΠ½ΠΎ Π½Π΅ ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΈΠ²Π°ΡŽΡ‚ Π·Π°Π΄Π°Ρ‡ΠΈ классификации с Π±ΠΎΠ»Π΅Π΅ Ρ‡Π΅ΠΌ двумя классами.

Но Ссли ΠΊΡ‚ΠΎ-Ρ‚ΠΎ всС Π΅Ρ‰Π΅ Ρ…ΠΎΡ‡Π΅Ρ‚ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΡ‹ Π±ΠΈΠ½Π°Ρ€Π½ΠΎΠΉ классификации для Π·Π°Π΄Π°Ρ‡ мноТСствСнной классификации, ΠΎΠ΄ΠΈΠ½ ΠΈΠ· ΡˆΠΈΡ€ΠΎΠΊΠΎ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅ΠΌΡ‹Ρ… ΠΏΠΎΠ΄Ρ…ΠΎΠ΄ΠΎΠ² состоит Π² Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Ρ€Π°Π·Π±ΠΈΡ‚ΡŒ Π½Π°Π±ΠΎΡ€Ρ‹ Π΄Π°Π½Π½Ρ‹Ρ… ΠΌΡƒΠ»ΡŒΡ‚ΠΈΠΊΠ»Π°ΡΡΠΎΠ²ΠΎΠΉ классификации Π½Π° нСсколько Π½Π°Π±ΠΎΡ€ΠΎΠ² Π΄Π°Π½Π½Ρ‹Ρ… Π±ΠΈΠ½Π°Ρ€Π½ΠΎΠΉ классификации, Π° Π·Π°Ρ‚Π΅ΠΌ ΠΏΠΎΠ΄ΠΎΠ±Ρ€Π°Ρ‚ΡŒ модСль Π±ΠΈΠ½Π°Ρ€Π½ΠΎΠΉ классификации для ΠΊΠ°ΠΆΠ΄ΠΎΠ³ΠΎ ΠΈΠ· Π½ΠΈΡ….

Двумя Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹ΠΌΠΈ ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π°ΠΌΠΈ этого ΠΏΠΎΠ΄Ρ…ΠΎΠ΄Π° ΡΠ²Π»ΡΡŽΡ‚ΡΡ стратСгии «Один ΠΏΡ€ΠΎΡ‚ΠΈΠ² ΠΎΡΡ‚Π°Π»ΡŒΠ½Ρ‹Ρ…Β» ΠΈ «Один ΠΏΡ€ΠΎΡ‚ΠΈΠ² ΠΎΠ΄Π½ΠΎΠ³ΠΎΒ». О Π΄Π²ΡƒΡ… ΠΏΠΎΠ΄Ρ…ΠΎΠ΄Π°Ρ… ΠΌΠΎΠΆΠ½ΠΎ ΠΏΡ€ΠΎΡ‡ΠΈΡ‚Π°Ρ‚ΡŒ здСсь.

Π”Π²ΠΈΠ³Π°ΡΡΡŒ Π²ΠΏΠ΅Ρ€Π΅Π΄ ΠΊ основной Ρ‚Π΅ΠΌΠ΅ понимания ΠΌΠ°Ρ‚Π΅ΠΌΠ°Ρ‚ΠΈΠΊΠΈ, ΠΌΡ‹ Π±ΡƒΠ΄Π΅ΠΌ Ρ€Π°ΡΡΠΌΠ°Ρ‚Ρ€ΠΈΠ²Π°Ρ‚ΡŒ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΡƒ классификации Π΄Π²ΠΎΠΈΡ‡Π½Ρ‹Ρ… классов ΠΏΠΎ Π΄Π²ΡƒΠΌ ΠΏΡ€ΠΈΡ‡ΠΈΠ½Π°ΠΌ:

  1. Как ΡƒΠΆΠ΅ ΡƒΠΏΠΎΠΌΠΈΠ½Π°Π»ΠΎΡΡŒ Π²Ρ‹ΡˆΠ΅, SVM Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ Π½Π°ΠΌΠ½ΠΎΠ³ΠΎ Π»ΡƒΡ‡ΡˆΠ΅ для Π±ΠΈΠ½Π°Ρ€Π½ΠΎΠ³ΠΎ класса
  2. Β Π‘Ρ‹Π»ΠΎ Π±Ρ‹ Π»Π΅Π³ΠΊΠΎ ΠΏΠΎΠ½ΡΡ‚ΡŒ ΠΌΠ°Ρ‚Π΅ΠΌΠ°Ρ‚ΠΈΠΊΡƒ, ΠΏΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ наша цСлСвая пСрСмСнная (пСрСмСнная / Π½Π΅Π²ΠΈΠ΄ΠΈΠΌΡ‹Π΅ Π΄Π°Π½Π½Ρ‹Π΅, ΠΏΡ€Π΅Π΄Π½Π°Π·Π½Π°Ρ‡Π΅Π½Π½Ρ‹Π΅ для прогнозирования, являСтся Π»ΠΈ Ρ‚ΠΎΡ‡ΠΊΠ° ΠΌΡƒΠΆΡ‡ΠΈΠ½ΠΎΠΉ ΠΈΠ»ΠΈ ΠΆΠ΅Π½Ρ‰ΠΈΠ½ΠΎΠΉ)
  3. ΠŸΡ€ΠΈΠΌΠ΅Ρ‡Π°Π½ΠΈΠ΅. Π­Ρ‚ΠΎ Π±ΡƒΠ΄Π΅Ρ‚ ΠΏΠΎΠ΄Ρ…ΠΎΠ΄ Β«ΠΎΠ΄ΠΈΠ½ ΠΏΡ€ΠΎΡ‚ΠΈΠ² ΠΎΠ΄Π½ΠΎΠ³ΠΎΒ».
3.1.1 Π‘Π»ΡƒΡ‡Π°ΠΉ 1: (ИдСальноС Ρ€Π°Π·Π΄Π΅Π»Π΅Π½ΠΈΠ΅ для Π΄Π²ΠΎΠΈΡ‡Π½Ρ‹Ρ… классифицированных Π΄Π°Π½Π½Ρ‹Ρ…) –

ΠŸΡ€ΠΎΠ΄ΠΎΠ»ΠΆΠ°Ρ наш ΠΏΡ€ΠΈΠΌΠ΅Ρ€, Ссли Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ смоТСт идСально Ρ€Π°Π·Π»ΠΈΡ‡Π°Ρ‚ΡŒ самцов ΠΈ самок, Π½Π΅ дСлая ошибок ΠΏΡ€ΠΈ классификации, Ρ‚ΠΎΠ³Π΄Π° этот случай раздСлСния извСстСн ΠΊΠ°ΠΊ идСальноС Ρ€Π°Π·Π΄Π΅Π»Π΅Π½ΠΈΠ΅.

Π—Π΄Π΅ΡΡŒ, Π½Π° рисункС, Ссли самцы Π·Π΅Π»Π΅Π½Ρ‹Π΅, Π° самки красныС, ΠΈ ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Π²ΠΈΠ΄Π΅Ρ‚ΡŒ, Ρ‡Ρ‚ΠΎ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ, которая здСсь являСтся Π»ΠΈΠ½ΠΈΠ΅ΠΉ, прСкрасно Ρ€Π°Π·Π»ΠΈΡ‡Π°Π΅Ρ‚ Π΄Π²Π° класса.

Β 

ΠžΠ±ΠΎΠ±Ρ‰Π°Ρ, Π΄Π°Π½Π½Ρ‹Π΅ ΠΈΠΌΠ΅ΡŽΡ‚ Π΄Π²Π΅ классификации , ΠΏΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½ΡƒΡŽ ΠΈ ΠΎΡ‚Ρ€ΠΈΡ†Π°Ρ‚Π΅Π»ΡŒΠ½ΡƒΡŽ Π³Ρ€ΡƒΠΏΠΏΡƒ , ΠΈ ΠΏΠΎΠ»Π½ΠΎΡΡ‚ΡŒΡŽ Ρ€Π°Π·Π΄Π΅Π»ΠΈΠΌΡ‹, Ρ‡Ρ‚ΠΎ ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ ΠΌΠΎΠΆΠ΅Ρ‚ Ρ‚ΠΎΡ‡Π½ΠΎ Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚ΡŒ *Ρ‚Ρ€Π΅Π½ΠΈΡ€ΠΎΠ²ΠΎΡ‡Π½Ρ‹Π΅ классы*.

**

( ΠžΠ±ΡƒΡ‡Π°ΡŽΡ‰ΠΈΠ΅ Π΄Π°Π½Π½Ρ‹Π΅ β€” Π”Π°Π½Π½Ρ‹Π΅, с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ/модСль ΠΈΠ·ΡƒΡ‡Π°Π΅Ρ‚ шаблон Ρ‚ΠΎΠ³ΠΎ, ΠΊΠ°ΠΊ Ρ€Π°Π·Π»ΠΈΡ‡Π°Ρ‚ΡŒ, просматривая ΠΏΡ€ΠΈΠ·Π½Π°ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Π΅, Π³Π΄Π΅ Π΄Π°Π½Ρ‹ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΏΡ€ΠΈΠ·Π½Π°ΠΊΠΈ, ΠΈ Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ модСль скаТСт самСц это ΠΈΠ»ΠΈ самка)

Β 

**

Π’Π΅ΠΏΠ΅Ρ€ΡŒ ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ ΠΌΠ½ΠΎΠ³ΠΎ гипСрплоскостСй, Π΄Π°ΡŽΡ‰ΠΈΡ… 100% Ρ‚ΠΎΡ‡Π½ΠΎΡΡ‚ΡŒ, ΠΊΠ°ΠΊ Π²ΠΈΠ΄Π½ΠΎ Π½Π° Ρ„ΠΎΡ‚ΠΎΠ³Ρ€Π°Ρ„ΠΈΠΈ.

«» Π˜Ρ‚Π°ΠΊ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π²Ρ‹Π±Ρ€Π°Ρ‚ΡŒ ΠΎΠΏΡ‚ΠΈΠΌΠ°Π»ΡŒΠ½ΡƒΡŽ/Π½Π°ΠΈΠ»ΡƒΡ‡ΡˆΡƒΡŽ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ, помСститС Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ прямо Π² Ρ†Π΅Π½Ρ‚Ρ€, Π³Π΄Π΅ максимальноС расстояниС ΠΎΡ‚ Π±Π»ΠΈΠΆΠ°ΠΉΡˆΠΈΡ… Ρ‚ΠΎΡ‡Π΅ΠΊ ΠΈ Π΄Π°Π»Π΅Π΅ Π΄Π°ΠΉΡ‚Π΅ наимСньшиС ошибки тСста. «»

 ΠžΠ±Ρ€Π°Ρ‚ΠΈΡ‚Π΅ Π²Π½ΠΈΠΌΠ°Π½ΠΈΠ΅: ΠΌΡ‹ Π΄ΠΎΠ»ΠΆΠ½Ρ‹ ΡΡ‚Ρ€Π΅ΠΌΠΈΡ‚ΡŒΡΡ ΠΊ Π½Π°ΠΈΠΌΠ΅Π½ΡŒΡˆΠ΅ΠΌΡƒ количСству ошибок ВЕБВА, Π° НЕ ΠΊ ошибкам ΠžΠ‘Π£Π§Π•ΠΠ˜Π―. 

Β 

Π˜Ρ‚Π°ΠΊ, ΠΌΡ‹ Π΄ΠΎΠ»ΠΆΠ½Ρ‹ ΠΌΠ°ΠΊΡΠΈΠΌΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ расстояниС, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π΄Π°Ρ‚ΡŒ Π½Π΅ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠ΅ пространство ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΡŽ гипСрплоскости, ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠ΅ Ρ‚Π°ΠΊΠΆΠ΅ являСтся Ρ†Π΅Π»ΡŒΡŽ/основной ΠΈΠ΄Π΅Π΅ΠΉ SVM.

ЦСль Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠ° SVM:

Π˜Ρ‚Π°ΠΊ, Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ Π½Π°ΠΌ Π½ΡƒΠΆΠ½ΠΎ:

НахоТдСниС гипСрплоскости с ΠΌΠ°ΠΊΡΠΈΠΌΠ°Π»ΡŒΠ½Ρ‹ΠΌ запасом (Π·Π°Π·ΠΎΡ€ β€” это Π² основном Π·Π°Ρ‰ΠΈΡ‰Π΅Π½Π½ΠΎΠ΅ пространство Π²ΠΎΠΊΡ€ΡƒΠ³ уравнСния гипСрплоскости), ΠΈ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ пытаСтся ΠΏΠΎΠ»ΡƒΡ‡ΠΈΡ‚ΡŒ ΠΌΠ°ΠΊΡΠΈΠΌΠ°Π»ΡŒΠ½Ρ‹ΠΉ запас с блиТайшими Ρ‚ΠΎΡ‡ΠΊΠ°ΠΌΠΈ (извСстными ΠΊΠ°ΠΊ ΠΎΠΏΠΎΡ€Π½Ρ‹Π΅ Π²Π΅ΠΊΡ‚ΠΎΡ€Ρ‹).

Π”Ρ€ΡƒΠ³ΠΈΠΌΠΈ словами, β€œ ЦСль состоит Π² Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΌΠ°ΠΊΡΠΈΠΌΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ минимальноС расстояниС. ”  для расстояния (упомянутого Ρ€Π°Π½Π΅Π΅ Π² Ρ€Π°Π·Π΄Π΅Π»Π΅ 2)

, прСдоставлСно:

Π˜Ρ‚Π°ΠΊ, Ρ†Π΅Π»ΡŒ понятна. ДСлая ΠΏΡ€ΠΎΠ³Π½ΠΎΠ·Ρ‹ Π½Π° ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰ΠΈΡ… Π΄Π°Π½Π½Ρ‹Ρ…, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π±Ρ‹Π»ΠΈ Π±ΠΈΠ½Π°Ρ€Π½ΠΎ классифицированы ΠΊΠ°ΠΊ ΠΏΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹Π΅ ΠΈ ΠΎΡ‚Ρ€ΠΈΡ†Π°Ρ‚Π΅Π»ΡŒΠ½Ρ‹Π΅ Π³Ρ€ΡƒΠΏΠΏΡ‹, Ссли Ρ‚ΠΎΡ‡ΠΊΠ° Π·Π°ΠΌΠ΅Π½Π΅Π½Π° ΠΏΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠΉ Π³Ρ€ΡƒΠΏΠΏΠΎΠΉ Π² ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠΈ гипСрплоскости, ΠΌΡ‹ ΠΏΠΎΠ»ΡƒΡ‡ΠΈΠΌ Π·Π½Π°Ρ‡Π΅Π½ΠΈΠ΅ большС 0 (ноль). ΠœΠ°Ρ‚Π΅ΠΌΠ°Ρ‚ΠΈΡ‡Π΅ΡΠΊΠΈ,

w T ( Ξ¦(x)) + b > 0

И прСдсказания ΠΈΠ· ΠΎΡ‚Ρ€ΠΈΡ†Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΠΉ Π³Ρ€ΡƒΠΏΠΏΡ‹ Π² ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠΈ гипСрплоскости Π΄Π°Π΄ΡƒΡ‚ ΠΎΡ‚Ρ€ΠΈΡ†Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΠ΅ Π·Π½Π°Ρ‡Π΅Π½ΠΈΠ΅ ΠΊΠ°ΠΊ

w T ( Ξ¦(x)) + b < 0. Β 

Но здСсь Π·Π½Π°ΠΊΠΈ Π±Ρ‹Π»ΠΈ ΠΎΠ± ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰ΠΈΡ… Π΄Π°Π½Π½Ρ‹Ρ…, ΠΈΠΌΠ΅Π½Π½ΠΎ Ρ‚Π°ΠΊ ΠΌΡ‹ ΠΎΠ±ΡƒΡ‡Π°Π΅ΠΌ Π½Π°ΡˆΡƒ модСль. Π§Ρ‚ΠΎ для ΠΏΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠ³ΠΎ класса Π΄Π°ΠΉΡ‚Π΅ ΠΏΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΉ Π·Π½Π°ΠΊ, Π° для ΠΎΡ‚Ρ€ΠΈΡ†Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΠ³ΠΎ — ΠΎΡ‚Ρ€ΠΈΡ†Π°Ρ‚Π΅Π»ΡŒΠ½Ρ‹ΠΉ.

Но ΠΏΡ€ΠΈ тСстировании этой ΠΌΠΎΠ΄Π΅Π»ΠΈ Π½Π° тСстовых Π΄Π°Π½Π½Ρ‹Ρ…, Ссли ΠΌΡ‹ ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎ прСдсказываСм ΠΏΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΉ класс (ΠΏΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΉ Π·Π½Π°ΠΊ ΠΈΠ»ΠΈ Π·Π½Π°ΠΊ большС нуля) ΠΊΠ°ΠΊ ΠΏΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΉ, Ρ‚ΠΎ Π΄Π²Π° ΠΏΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹Ρ… Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Π° Π΄Π°ΡŽΡ‚ ΠΏΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΉ ΠΈ, ΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚ большС нуля. Π’ΠΎ ΠΆΠ΅ самоС ΠΏΡ€ΠΈΠΌΠ΅Π½ΠΈΠΌΠΎ, Ссли ΠΌΡ‹ ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎ прСдсказываСм ΠΎΡ‚Ρ€ΠΈΡ†Π°Ρ‚Π΅Π»ΡŒΠ½ΡƒΡŽ Π³Ρ€ΡƒΠΏΠΏΡƒ, ΠΏΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ Π΄Π²Π° ΠΎΡ‚Ρ€ΠΈΡ†Π°Ρ‚Π΅Π»ΡŒΠ½Ρ‹Ρ… значСния снова Π΄Π°Π΄ΡƒΡ‚ ΠΏΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΉ Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚.

Но Ссли ошибка ΠΌΠΎΠ΄Π΅Π»ΠΈ классифицируСт ΠΏΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½ΡƒΡŽ Π³Ρ€ΡƒΠΏΠΏΡƒ ΠΊΠ°ΠΊ ΠΎΡ‚Ρ€ΠΈΡ†Π°Ρ‚Π΅Π»ΡŒΠ½ΡƒΡŽ Π³Ρ€ΡƒΠΏΠΏΡƒ, Ρ‚ΠΎΠ³Π΄Π° ΠΎΠ΄ΠΈΠ½ плюс ΠΈ ΠΎΠ΄ΠΈΠ½ минус ΡΠΎΡΡ‚Π°Π²Π»ΡΡŽΡ‚ минус, ΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, Π² Ρ†Π΅Π»ΠΎΠΌ мСньшС нуля.

Подводя ΠΈΡ‚ΠΎΠ³ Π²Ρ‹ΡˆΠ΅ΠΈΠ·Π»ΠΎΠΆΠ΅Π½Π½ΠΎΠΌΡƒ:

ΠŸΡ€ΠΎΠΈΠ·Π²Π΅Π΄Π΅Π½ΠΈΠ΅ прСдсказанной ΠΈ фактичСской ΠΌΠ΅Ρ‚ΠΊΠΈ Π±ΡƒΠ΄Π΅Ρ‚ большС 0 (ноля) ΠΏΡ€ΠΈ ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎΠΌ прСдсказании, Π² ΠΏΡ€ΠΎΡ‚ΠΈΠ²Π½ΠΎΠΌ случаС мСньшС нуля.

Β 

Для идСально Ρ€Π°Π·Π΄Π΅Π»ΠΈΠΌΡ‹Ρ… Π½Π°Π±ΠΎΡ€ΠΎΠ² Π΄Π°Π½Π½Ρ‹Ρ… ΠΎΠΏΡ‚ΠΈΠΌΠ°Π»ΡŒΠ½Π°Ρ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎ классифицируСт всС Ρ‚ΠΎΡ‡ΠΊΠΈ, Π΄ΠΎΠΏΠΎΠ»Π½ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ замСняя ΠΎΠΏΡ‚ΠΈΠΌΠ°Π»ΡŒΠ½Ρ‹Π΅ значСния Π² вСсовом ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠΈ.

Π—Π΄Π΅ΡΡŒ :

arg max β€” это Π°Π±Π±Ρ€Π΅Π²ΠΈΠ°Ρ‚ΡƒΡ€Π° для Π°Ρ€Π³ΡƒΠΌΠ΅Π½Ρ‚ΠΎΠ² максимумов, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π² основном ΡΠ²Π»ΡΡŽΡ‚ΡΡ Ρ‚ΠΎΡ‡ΠΊΠ°ΠΌΠΈ области опрСдСлСния Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ, Π² ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… значСния Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ ΠΌΠ°ΠΊΡΠΈΠΌΠ°Π»ΡŒΠ½Ρ‹.

(Для дальнСйшСй Ρ€Π°Π±ΠΎΡ‚Ρ‹ с arg max Π² машинном ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠΈ Ρ‡ΠΈΡ‚Π°ΠΉΡ‚Π΅ здСсь.)

Π”Π°Π»Π΅Π΅, Π²Ρ‹Π²Π΅Π΄Π΅Π½ΠΈΠ΅ нСзависимого Ρ‡Π»Π΅Π½Π° вСса Π½Π°Ρ€ΡƒΠΆΡƒ Π΄Π°Π΅Ρ‚:

Β 

Β 

Π’Π½ΡƒΡ‚Ρ€Π΅Π½Π½ΠΈΠΉ Ρ‡Π»Π΅Π½ (ΠΌΠΈΠ½ n y n |w T Ξ¦(x) + b | ) Π² основном прСдставляСт собой минимальноС расстояниС Ρ‚ΠΎΡ‡ΠΊΠΈ Π΄ΠΎ Π³Ρ€Π°Π½ΠΈΡ†Ρ‹ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ ΠΈ Π±Π»ΠΈΠΆΠ°ΠΉΡˆΡƒΡŽ Ρ‚ΠΎΡ‡ΠΊΡƒ ΠΊ Π³Ρ€Π°Π½ΠΈΡ†Π΅ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ H.

ИзмСнСниС ΠΌΠ°ΡΡˆΡ‚Π°Π±Π° расстояния Π΄ΠΎ блиТайшСй Ρ‚ΠΎΡ‡ΠΊΠΈ ΠΊΠ°ΠΊ 1Β Ρ‚.Π΅. (min n y n |w T Ξ¦(x) + b |) = 1. Π—Π΄Π΅ΡΡŒ Π²Π΅ΠΊΡ‚ΠΎΡ€Ρ‹ ΠΎΡΡ‚Π°ΡŽΡ‚ΡΡ Π² ΠΎΠ΄Π½ΠΎΠΌ Π½Π°ΠΏΡ€Π°Π²Π»Π΅Π½ΠΈΠΈ ΠΈ ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠ΅ гипСрплоскости Π½Π΅ измСнится. Π­Ρ‚ΠΎ ΠΏΠΎΡ…ΠΎΠΆΠ΅ Π½Π° ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΠ΅ ΠΌΠ°ΡΡˆΡ‚Π°Π±Π° изобраТСния; ΠΎΠ±ΡŠΠ΅ΠΊΡ‚Ρ‹ Ρ€Π°ΡΡˆΠΈΡ€ΡΡŽΡ‚ΡΡ ΠΈΠ»ΠΈ ΡΠΆΠΈΠΌΠ°ΡŽΡ‚ΡΡ, Π½ΠΎ направлСния ΠΎΡΡ‚Π°ΡŽΡ‚ΡΡ ΠΏΡ€Π΅ΠΆΠ½ΠΈΠΌΠΈ, ΠΈ ΠΈΠ·ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠ΅ остаСтся Π½Π΅ΠΈΠ·ΠΌΠ΅Π½Π½Ρ‹ΠΌ.

ИзмСнСниС ΠΌΠ°ΡΡˆΡ‚Π°Π±Π° расстояния осущСствляСтся ΠΏΡƒΡ‚Π΅ΠΌ подстановки,

Π£Ρ€Π°Π²Π½Π΅Π½ΠΈΠ΅ Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ становится (описывая, Ρ‡Ρ‚ΠΎ каТдая Ρ‚ΠΎΡ‡ΠΊΠ° находится Π½Π° расстоянии Π½Π΅ ΠΌΠ΅Π½Π΅Π΅ 1/||w||2 ΠΎΡ‚ гипСрплоскости) ΠΊΠ°ΠΊ

Π­Ρ‚Π° Π·Π°Π΄Π°Ρ‡Π° Π½Π° ΠΌΠ°ΠΊΡΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΡŽ эквивалСнтна ΡΠ»Π΅Π΄ΡƒΡŽΡ‰Π΅ΠΉ Π·Π°Π΄Π°Ρ‡Π΅ Π½Π° ΠΌΠΈΠ½ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΡŽ, которая умноТаСтся Π½Π° константу, ΠΏΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ ΠΎΠ½ΠΈ Π½Π΅ Π²Π»ΠΈΡΡŽΡ‚ Π½Π° Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Ρ‹.

3.1.2 ΠŸΠ΅Ρ€Π²ΠΈΡ‡Π½Π°Ρ Ρ„ΠΎΡ€ΠΌΠ° SVM (ΠΏΠΎΠ»Π½ΠΎΠ΅ Ρ€Π°Π·Π΄Π΅Π»Π΅Π½ΠΈΠ΅):

Π’Ρ‹ΡˆΠ΅ΡƒΠΏΠΎΠΌΡΠ½ΡƒΡ‚Π°Ρ Π·Π°Π΄Π°Ρ‡Π° ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΠΈ являСтся ΠΏΠ΅Ρ€Π²ΠΈΡ‡Π½ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΡƒΠ»ΠΈΡ€ΠΎΠ²ΠΊΠΎΠΉ, ΠΏΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ Π² постановкС Π·Π°Π΄Π°Ρ‡ΠΈ Π΅ΡΡ‚ΡŒ исходныС ΠΏΠ΅Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹Π΅.

3.2 БЛУЧАЙ 2: (Π½Π΅ идСальноС Ρ€Π°Π·Π΄Π΅Π»Π΅Π½ΠΈΠ΅)

Но всС ΠΌΡ‹ Π·Π½Π°Π΅ΠΌ, Ρ‡Ρ‚ΠΎ Π½Π΅ Π±Ρ‹Π²Π°Π΅Ρ‚ ситуации, ΠΊΠΎΠ³Π΄Π° всС идСально, Π° Ρ‡Ρ‚ΠΎ-Ρ‚ΠΎ всСгда ΠΈΠ΄Π΅Ρ‚ Π½Π°ΠΎΠ±ΠΎΡ€ΠΎΡ‚.

Π’ нашСм ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π΅ Π³Π΅Π½Π΄Π΅Ρ€Π½ΠΎΠΉ классификации ΠΌΡ‹ Π½Π΅ ΠΌΠΎΠΆΠ΅ΠΌ ΠΎΠΆΠΈΠ΄Π°Ρ‚ΡŒ, Ρ‡Ρ‚ΠΎ модСль даст Ρ‚Π°ΠΊΠΎΠ΅ ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠ΅ гипСрплоскости, ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠ΅ идСально Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚ ΠΎΠ±Π° ΠΏΠΎΠ»Π°, всСгда Π±ΡƒΠ΄Π΅Ρ‚ ΠΎΠ΄Π½Π° ΠΈΠ»ΠΈ нСсколько Ρ‚ΠΎΡ‡Π΅ΠΊ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π½Π΅ ΠΏΠΎΠΏΠ°Π΄ΡƒΡ‚ Π² свою ΠΊΠ°Ρ‚Π΅Π³ΠΎΡ€ΠΈΡŽ, Π² Ρ‚ΠΎ врСмя ΠΊΠ°ΠΊ ΠΎΠΏΡ‚ΠΈΠΌΠ°Π»ΡŒΠ½Π°Ρ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠ΅ ΠΏΠΎΠ΄Ρ…ΠΎΠ΄ΠΈΡ‚, извСстноС ΠΊΠ°ΠΊ классификация ΠΏΡ€ΠΎΠΌΠ°Ρ…ΠΎΠ². (Как ΠΏΠΎΠΊΠ°Π·Π°Π½ΠΎ Π½Π° ΠΈΠ·ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠΈ Π½ΠΈΠΆΠ΅)

Β 

Π’Π°ΠΊΠΈΠΌ ΠΎΠ±Ρ€Π°Π·ΠΎΠΌ, ΠΌΡ‹ Π½Π΅ ΠΌΠΎΠΆΠ΅ΠΌ ΠΎΠΆΠΈΠ΄Π°Ρ‚ΡŒ идСального/идСального корпуса. Π—Π΄Π΅ΡΡŒ ΠΌΡ‹ становимся ΡƒΠΌΠ½Π΅Π΅ ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΈ позволяСм ΠΌΠΎΠ΄Π΅Π»ΠΈ ΡΠ΄Π΅Π»Π°Ρ‚ΡŒ нСсколько ошибок ΠΏΡ€ΠΈ классификации Ρ‚ΠΎΡ‡Π΅ΠΊ ΠΈ, ΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ,

И, ΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, Π΄ΠΎΠ±Π°Π²ΡŒΡ‚Π΅ Ρ€Π΅Π·Π΅Ρ€Π²Π½ΡƒΡŽ ΠΏΠ΅Ρ€Π΅ΠΌΠ΅Π½Π½ΡƒΡŽ Π² качСствС ΡˆΡ‚Ρ€Π°Ρ„Π° Π·Π° ΠΊΠ°ΠΆΠ΄ΡƒΡŽ Π½Π΅ΡƒΠ΄Π°Ρ‡Π½ΡƒΡŽ ΠΊΠ»Π°ΡΡΠΈΡ„ΠΈΠΊΠ°Ρ†ΠΈΡŽ для ΠΊΠ°ΠΆΠ΄ΠΎΠΉ Ρ‚ΠΎΡ‡ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ…, прСдставлСнной Ξ² (Π±Π΅Ρ‚Π°). Π’Π°ΠΊΠΈΠΌ ΠΎΠ±Ρ€Π°Π·ΠΎΠΌ, отсутствиС ΡˆΡ‚Ρ€Π°Ρ„Π° ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ Ρ‚ΠΎΡ‡ΠΊΠ° Π΄Π°Π½Π½Ρ‹Ρ… ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎ классифицирована, Ξ² = 0, ΠΈ ΠΏΡ€ΠΈ любой классификации ΠΏΡ€ΠΎΠΌΠ°Ρ…ΠΎΠ² Ξ² > 1 Π² качСствС ΡˆΡ‚Ρ€Π°Ρ„Π°.

3.2.1 ΠŸΠ΅Ρ€Π²ΠΈΡ‡Π½Π°Ρ Ρ„ΠΎΡ€ΠΌΠ° SVM (нСидСальноС Ρ€Π°Π·Π΄Π΅Π»Π΅Π½ΠΈΠ΅):

Π—Π΄Π΅ΡΡŒ: для Ξ² ΠΈ C

Slack для ΠΊΠ°ΠΆΠ΄ΠΎΠΉ ΠΏΠ΅Ρ€Π΅ΠΌΠ΅Π½Π½ΠΎΠΉ Π΄ΠΎΠ»ΠΆΠ΅Π½ Π±Ρ‹Ρ‚ΡŒ ΠΊΠ°ΠΊ ΠΌΠΎΠΆΠ½ΠΎ мСньшС ΠΈ Π΄ΠΎΠΏΠΎΠ»Π½ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ Ρ€Π΅Π³ΡƒΠ»ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒΡΡ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€ΠΎΠΌ C

ΠŸΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π½ΠΎΠ΅ Π²Ρ‹ΡˆΠ΅ ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠ΅ являСтся ΠΏΡ€ΠΈΠΌΠ΅Ρ€ΠΎΠΌ Π²Ρ‹ΠΏΡƒΠΊΠ»ΠΎ-ΠΊΠ²Π°Π΄Ρ€Π°Ρ‚ΠΈΡ‡Π½ΠΎΠΉ ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΠΈ , ΠΏΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ цСлСвая функция ΠΊΠ²Π°Π΄Ρ€Π°Ρ‚ΠΈΡ‡Π½Π° ΠΏΠΎ W, Π° ограничСния Π»ΠΈΠ½Π΅ΠΉΠ½Ρ‹ ΠΏΠΎ W ΠΈ Ξ².

Раствор для ΠΏΠ΅Ρ€Π²ΠΈΡ‡Π½ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΡ‹ : (Π½Π΅ идСальноС Ρ€Π°Π·Π΄Π΅Π»Π΅Π½ΠΈΠ΅):

Π’Π°ΠΊ ΠΊΠ°ΠΊ Ρƒ нас Π΅ΡΡ‚ΡŒ Ξ¦, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΈΠΌΠ΅Π΅Ρ‚ комплСксноС ΠΎΠ±ΠΎΠ·Π½Π°Ρ‡Π΅Π½ΠΈΠ΅. ΠΌΡ‹ Π±Ρ‹ пСрСписали ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠ΅.

ΠšΠΎΠ½Ρ†Π΅ΠΏΡ†ΠΈΡ
 Π² основном состоит Π² Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΈΠ·Π±Π°Π²ΠΈΡ‚ΡŒΡΡ ΠΎΡ‚ Ξ¦ ΠΈ, ΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, ΠΏΠ΅Ρ€Π΅ΠΏΠΈΡΠ°Ρ‚ΡŒ ΠΎΡΠ½ΠΎΠ²Π½ΡƒΡŽ Ρ„ΠΎΡ€ΠΌΡƒΠ»ΠΈΡ€ΠΎΠ²ΠΊΡƒ Π² Π΄Π²ΠΎΠΉΠ½ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΡƒΠ»ΠΈΡ€ΠΎΠ²ΠΊΠ΅, извСстной ΠΊΠ°ΠΊ двойная Ρ„ΠΎΡ€ΠΌΠ° ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΡ‹, ΠΈ Ρ€Π΅ΡˆΠΈΡ‚ΡŒ ΠΏΠΎΠ»ΡƒΡ‡Π΅Π½Π½ΡƒΡŽ Π·Π°Π΄Π°Ρ‡Ρƒ ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΠΈ ΠΎΠ³Ρ€Π°Π½ΠΈΡ‡Π΅Π½ΠΈΠΉ с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ ΠΌΠ΅Ρ‚ΠΎΠ΄Π° мноТитСля Π›Π°Π³Ρ€Π°Π½ΠΆΠ°. 

Π”Ρ€ΡƒΠ³ΠΈΠΌΠΈ словами:

Двойная Ρ„ΠΎΡ€ΠΌΠ°: пСрСписываСт Ρ‚Ρƒ ΠΆΠ΅ Π·Π°Π΄Π°Ρ‡Ρƒ, ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡ Π΄Ρ€ΡƒΠ³ΠΎΠΉ Π½Π°Π±ΠΎΡ€ ΠΏΠ΅Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹Ρ…. Π’Π°ΠΊΠΈΠΌ ΠΎΠ±Ρ€Π°Π·ΠΎΠΌ, Π°Π»ΡŒΡ‚Π΅Ρ€Π½Π°Ρ‚ΠΈΠ²Π½Π°Ρ Ρ„ΠΎΡ€ΠΌΡƒΠ»ΠΈΡ€ΠΎΠ²ΠΊΠ° ΠΏΠΎΠΌΠΎΠΆΠ΅Ρ‚ ΡƒΡΡ‚Ρ€Π°Π½ΠΈΡ‚ΡŒ Π·Π°Π²ΠΈΡΠΈΠΌΠΎΡΡ‚ΡŒ ΠΎΡ‚ Ξ¦, Π° ΡƒΠΌΠ΅Π½ΡŒΡˆΠ΅Π½ΠΈΠ΅ эффСкта Π±ΡƒΠ΄Π΅Ρ‚ Π²Ρ‹ΠΏΠΎΠ»Π½Π΅Π½ΠΎ с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ Kernelization.

ΠœΠ΅Ρ‚ΠΎΠ΄ мноТитСля Π›Π°Π³Ρ€Π°Π½ΠΆΠ°: Π­Ρ‚ΠΎ стратСгия поиска Π»ΠΎΠΊΠ°Π»ΡŒΠ½Ρ‹Ρ… ΠΌΠΈΠ½ΠΈΠΌΡƒΠΌΠΎΠ² ΠΈΠ»ΠΈ максимумов Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ ΠΏΡ€ΠΈ условии, Ρ‡Ρ‚ΠΎ ΠΎΠ΄Π½ΠΎ ΠΈΠ»ΠΈ нСсколько ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠΉ Π΄ΠΎΠ»ΠΆΠ½Ρ‹ Ρ‚ΠΎΡ‡Π½ΠΎ ΡƒΠ΄ΠΎΠ²Π»Π΅Ρ‚Π²ΠΎΡ€ΡΡ‚ΡŒΡΡ Π²Ρ‹Π±Ρ€Π°Π½Π½Ρ‹ΠΌΠΈ значСниями ΠΏΠ΅Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹Ρ….

ΠšΡ€ΠΎΠΌΠ΅ Ρ‚ΠΎΠ³ΠΎ, Ρ„ΠΎΡ€ΠΌΠ°Π»ΡŒΠ½ΠΎΠ΅ ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½ΠΈΠ΅ двойствСнной Π·Π°Π΄Π°Ρ‡ΠΈ ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½ΠΎ ΠΊΠ°ΠΊ:

ДвойствСнная Π»Π°Π³Ρ€Π°Π½ΠΆΠ΅Π²Π° Π·Π°Π΄Π°Ρ‡Π° получаСтся ΠΏΡƒΡ‚Π΅ΠΌ формирования сначала Π»Π°Π³Ρ€Π°Π½ΠΆΠΈΠ°Π½Π° ΡƒΠΆΠ΅ ΠΏΠΎΠ»ΡƒΡ‡Π΅Π½Π½ΠΎΠΉ Π·Π°Π΄Π°Ρ‡ΠΈ ΠΌΠΈΠ½ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΠΈ с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ мноТитСля Π›Π°Π³Ρ€Π°Π½ΠΆΠ°, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΊ Ρ†Π΅Π»Π΅Π²ΠΎΠΉ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ ΠΌΠΎΠΆΠ½ΠΎ Π±Ρ‹Π»ΠΎ Π΄ΠΎΠ±Π°Π²ΠΈΡ‚ΡŒ Π½ΠΎΠ²Ρ‹Π΅ ограничСния , Π° Π·Π°Ρ‚Π΅ΠΌ Π±ΡƒΠ΄Π΅Ρ‚ Ρ€Π΅ΡˆΠ°Ρ‚ΡŒΡΡ для Π·Π½Π°Ρ‡Π΅Π½ΠΈΠΉ ΠΏΠ΅Ρ€Π²ΠΈΡ‡Π½ΠΎΠΉ ΠΏΠ΅Ρ€Π΅ΠΌΠ΅Π½Π½ΠΎΠΉ , ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΌΠΈΠ½ΠΈΠΌΠΈΠ·ΠΈΡ€ΡƒΡŽΡ‚ ΠΈΡΡ…ΠΎΠ΄Π½ΡƒΡŽ Ρ†Π΅Π»Π΅Π²ΡƒΡŽ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΡŽ

.

Π­Ρ‚ΠΎ Π½ΠΎΠ²ΠΎΠ΅ Ρ€Π΅ΡˆΠ΅Π½ΠΈΠ΅ Π΄Π΅Π»Π°Π΅Ρ‚ основныС ΠΏΠ΅Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹Π΅ функциями ΠΌΠ½ΠΎΠΆΠΈΡ‚Π΅Π»Π΅ΠΉ Π›Π°Π³Ρ€Π°Π½ΠΆΠ° ΠΈ называСтся двойствСнными ΠΏΠ΅Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹ΠΌΠΈ, Ρ‚Π°ΠΊ Ρ‡Ρ‚ΠΎ новая Π·Π°Π΄Π°Ρ‡Π° состоит Π² Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΌΠ°ΠΊΡΠΈΠΌΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Ρ†Π΅Π»Π΅Π²ΡƒΡŽ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΡŽ для двойствСнных ΠΏΠ΅Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹Ρ… с Π½ΠΎΠ²Ρ‹ΠΌΠΈ ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄Π½Ρ‹ΠΌΠΈ ограничСниями.

Π’ этом Π±Π»ΠΎΠ³Π΅ ΠΎΡ‡Π΅Π½ΡŒ Ρ…ΠΎΡ€ΠΎΡˆΠΎ ΠΎΠ±ΡŠΡΡΠ½ΡΠ΅Ρ‚ΡΡ Ρ€Π°Π±ΠΎΡ‚Π° ΠΌΠ½ΠΎΠΆΠΈΡ‚Π΅Π»Π΅ΠΉ Π›Π°Π³Ρ€Π°Π½ΠΆΠ°.

Π’ΠΎΠ·ΡŒΠΌΠ΅ΠΌ ΠΏΡ€ΠΈΠΌΠ΅Ρ€ примСнСния мноТитСля Π›Π°Π³Ρ€Π°Π½ΠΆΠ° Β  для Π»ΡƒΡ‡ΡˆΠ΅Π³ΠΎ понимания Ρ‚ΠΎΠ³ΠΎ, ΠΊΠ°ΠΊ ΠΏΡ€Π΅ΠΎΠ±Ρ€Π°Π·ΠΎΠ²Π°Ρ‚ΡŒ ΠΎΡΠ½ΠΎΠ²Π½ΡƒΡŽ Ρ„ΠΎΡ€ΠΌΡƒΠ»Ρƒ с использованиСм ΠΌΠ½ΠΎΠΆΠΈΡ‚Π΅Π»Π΅ΠΉ Π›Π°Π³Ρ€Π°Π½ΠΆΠ° для Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ Π·Π°Π΄Π°Ρ‡ΠΈ ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΠΈ .

НиТС x — исходная основная пСрСмСнная ΠΈ минимизация Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ f ΠΏΡ€ΠΈ Π½Π°Π±ΠΎΡ€Π΅ ΠΎΠ³Ρ€Π°Π½ΠΈΡ‡Π΅Π½ΠΈΠΉ, Π·Π°Π΄Π°Π½Π½ΠΎΠΌ g, ΠΈ пСрСписываниС для Π½ΠΎΠ²ΠΎΠ³ΠΎ Π½Π°Π±ΠΎΡ€Π° ΠΏΠ΅Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹Ρ…, Π½Π°Π·Ρ‹Π²Π°Π΅ΠΌΡ‹Ρ… мноТитСлями Π›Π°Π³Ρ€Π°Π½ΠΆΠ°.

РСшСниС простых ΠΏΠ΅Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹Ρ… ΠΏΡƒΡ‚Π΅ΠΌ диффСрСнцирования Π›Π°Π³Ρ€Π°Π½ΠΆΠ° Π±Π΅Π· ΠΎΠ³Ρ€Π°Π½ΠΈΡ‡Π΅Π½ΠΈΠΉ.

И, Π½Π°ΠΊΠΎΠ½Π΅Ρ†, обратная подстановка Π² ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠ΅ Π›Π°Π³Ρ€Π°Π½ΠΆΠ° ΠΈ пСрСписываниС ΠΎΠ³Ρ€Π°Π½ΠΈΡ‡Π΅Π½ΠΈΠΉ

  ВСрнСмся ΠΊ нашСй ΠΏΠ΅Ρ€Π²ΠΈΡ‡Π½ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΠ΅:  

Π¨Π°Π³ 1: ΠŸΠΎΠ»ΡƒΡ‡Π΅Π½ΠΈΠ΅ прямого числа ΠΈ ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½ΠΈΠ΅ Π»Π°Π³Ρ€Π°Π½ΠΆΠ΅Π²ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΡ‹ ΠΈΠ· простого числа

Π¨Π°Π³ 2: ΠŸΠΎΠ»ΡƒΡ‡Π΅Π½ΠΈΠ΅ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ ΠΏΡƒΡ‚Π΅ΠΌ прСдставлСния простого числа Π² Ρ„ΠΎΡ€ΠΌΠ΅ двойствСнного числа

Π¨Π°Π³ 3: ΠŸΠΎΠ΄ΡΡ‚Π°Π²ΠΈΡ‚ΡŒ ΠΏΠΎΠ»ΡƒΡ‡Π΅Π½Π½Ρ‹Π΅ значСния Π² Π»Π°Π³Ρ€Π°Π½ΠΆΠ΅Π²Ρƒ Ρ„ΠΎΡ€ΠΌΡƒ

ΠžΠΊΠΎΠ½Ρ‡Π°Ρ‚Π΅Π»ΡŒΠ½Π°Ρ двойная Ρ„ΠΎΡ€ΠΌΠ° ΠΈΠ· ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π½ΠΎΠ³ΠΎ Π²Ρ‹ΡˆΠ΅ упрощСния:

Π’Ρ‹ΡˆΠ΅ΡƒΠΏΠΎΠΌΡΠ½ΡƒΡ‚Π°Ρ двойная Ρ„ΠΎΡ€ΠΌΠ° всС Π΅Ρ‰Π΅ ΠΈΠΌΠ΅Π΅Ρ‚ Ξ¦ Ρ‚Π΅Ρ€ΠΌΠΎΠ², ΠΈ здСсь это Π»Π΅Π³ΠΊΠΎ Ρ€Π΅ΡˆΠ°Π΅Ρ‚ΡΡ с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ Kernelization

Π―Π΄Ρ€ΠΎ ΠΏΠΎ ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½ΠΈΡŽ ΠΈΠ·Π±Π΅Π³Π°Π΅Ρ‚ явного отобраТСния, Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎΠ³ΠΎ для получСния Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠΎΠ² Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎΠ³ΠΎ обучСния для изучСния Π½Π΅Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎΠΉ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ ΠΈΠ»ΠΈ Π³Ρ€Π°Π½ΠΈΡ†Ρ‹ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ Для всСх x ΠΈ x’ Π²ΠΎ Π²Ρ…ΠΎΠ΄Π½ΠΎΠΌ пространствС Ξ¦ Π½Π΅ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ k(x,x’) ΠΌΠΎΠ³ΡƒΡ‚ Π±Ρ‹Ρ‚ΡŒ Π²Ρ‹Ρ€Π°ΠΆΠ΅Π½Ρ‹ ΠΊΠ°ΠΊ скалярный ΠΏΡ€ΠΎΠ΄ΡƒΠΊΡ‚ Π² Π΄Ρ€ΡƒΠ³ΠΎΠΌ пространствС Ξ¨. Ѐункция

упоминаСтся ΠΊΠ°ΠΊ Π―Π΄Ρ€ΠΎ . ΠšΠΎΡ€ΠΎΡ‡Π΅ говоря, для машинного обучСния ядро ​​опрСдСляСтся ΠΊΠ°ΠΊ записанноС Π² Π²ΠΈΠ΄Π΅ Β«ΠΊΠ°Ρ€Ρ‚Ρ‹ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΉΒ»

ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ удовлСтворяСт

Для Π»ΡƒΡ‡ΡˆΠ΅Π³ΠΎ понимания ядСр ΠΌΠΎΠΆΠ½ΠΎ ΠΎΠ±Ρ€Π°Ρ‚ΠΈΡ‚ΡŒΡΡ ΠΊ этой ссылкС ΠΊΠ²ΠΎΡ€Π°

  Π―Π΄Ρ€ΠΎ ΠΈΠΌΠ΅Π΅Ρ‚ Π΄Π²Π° свойства:  
  •  Он симмСтричСн ΠΏΠΎ своСй ΠΏΡ€ΠΈΡ€ΠΎΠ΄Π΅ k(x  n  , x  m  ) = k(x  m  , x  n  ) 
  •  ΠŸΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΉ ΠΏΠΎΠ»ΡƒΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½Π½Ρ‹ΠΉ 

Π§Ρ‚ΠΎΠ±Ρ‹ ΠΈΠΌΠ΅Ρ‚ΡŒ прСдставлСниС ΠΎ Ρ€Π°Π±ΠΎΡ‚Π΅ ядСр, ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ ΠΏΠΎΠ»Π΅Π·Π½Π° эта ссылка ΠΊΠ²ΠΎΡ€Π°.

По ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½ΠΈΡŽ ядра ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΠΏΠΎΠ΄ΡΡ‚Π°Π²ΠΈΡ‚ΡŒ эти значСния

Π˜Ρ‚Π°ΠΊ, подставив свойства ядра ΠΈ ΠΏΠΎ ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½ΠΈΡŽ ядра Π² Π½Π°ΡˆΡƒ Π΄Π²ΠΎΠΉΡΡ‚Π²Π΅Π½Π½ΡƒΡŽ Ρ„ΠΎΡ€ΠΌΡƒ,

ΠœΡ‹ ΠΏΠΎΠ»ΡƒΡ‡Π°Π΅ΠΌ НовоС ΡƒΡ€Π°Π²Π½Π΅Π½ΠΈΠ΅ ΠΊΠ°ΠΊ:

И это Ρ€Π΅ΡˆΠ΅Π½ΠΈΠ΅ Π½Π΅ содСрТит Ξ¦, ΠΈ Π΅Π³ΠΎ Π³ΠΎΡ€Π°Π·Π΄ΠΎ ΠΏΡ€ΠΎΡ‰Π΅ Π²Ρ‹Ρ‡ΠΈΡΠ»ΠΈΡ‚ΡŒ. ΠΈ это Π±Ρ‹Π»Π° ΠΌΠ°Ρ‚Π΅ΠΌΠ°Ρ‚ΠΈΠΊΠ°, стоящая Π·Π° модСлью SVM.

Об Π°Π²Ρ‚ΠΎΡ€Π΅

alexxlab administrator

ΠžΡΡ‚Π°Π²ΠΈΡ‚ΡŒ ΠΎΡ‚Π²Π΅Ρ‚