kernel method - clover3/Roland GitHub Wiki

Kernel method

Pattern analysis λΆ„μ•Ό μ•Œκ³ λ¦¬μ¦˜μ˜ ν•œκ°ˆλž˜μ΄λ‹€. λŒ€ν‘œμ μΈ 예둜 SVM 이 μžˆλ‹€. 일반적인 Pattern Analysis 의 접근은 dataset μ—μ„œ μΌλ°˜ν™”μ‹œν‚¬ 수 μžˆλŠ” 관계λ₯Ό μ°ΎλŠ” 것이닀(clustering, ranking principal component, correlations, classification). λ‹€μˆ˜ μ•Œκ³ λ¦¬μ¦˜μ˜ 경우, 이런 문제λ₯Ό data λ₯Ό feature vector 둜 λ°”κΎΈμ–΄μ„œ ν•΄κ²°ν•œλ‹€. 반면 kernel algorithm 의 κ²½μš°λŠ” 두 data 쌍 μ‚¬μ΄μ˜ similarity function μ΄λΌλŠ” μ‚¬μš©μž μ •μ˜ ν•¨μˆ˜λ§Œμ„ μ΄μš©ν•˜μ—¬ 문제λ₯Ό ν•΄κ²°ν•œλ‹€.

Kernel method λΌλŠ” 이름은 kernel function 의 μ‚¬μš©μ—μ„œ λ”° μ™”λŠ”λ°, 이 ν•¨μˆ˜λŠ” κ³ μ°¨μ›μ˜ μ•”μ‹œμ μΈ feature κ³΅κ°„μ—μ„œ λ°μ΄ν„°μ˜ μ’Œν‘œλ₯Ό 직접 κ³„μ‚°ν•˜μ§€ μ•Šκ³  각 λ°μ΄ν„°μ˜ 내적을 κ³„μ‚°ν•¨μœΌλ‘œμ¨, μž‘λ™ν•˜κ²Œ ν•΄ μ€€λ‹€. 이런 연산은 보톡 직접 μ’Œν‘œλ₯Ό 계산 ν•˜λŠ” 것보닀 계산이 κ°€λ²Όμš΄ κ²½μš°κ°€ 보톡이닀. 이런 μ ‘κ·Ό 방법을 kernel trick 이라고 λΆ€λ₯Έλ‹€.

μƒμœ„ν•­λͺ©

Machine Learning