소개

1. 예측 모델링은 데이터 분석에서 가장 흥미로운 분야 중 하나 일 것입니다.
2. 다양한 업종에서 방대한 양의 데이터를 사용할 수 있기 때문에 최근 몇 년 동안 많은 주목을 받았습니다.
3. 미래 동향을 예측하기 위해 데이터 마이닝과 관련된 영역에서 매우 일반적으로 사용됩니다.

1. 예측 모델링에서는 모델을 훈련하기 위해 알려진 응답으로 데이터를 수집해야합니다.
2. 이 모델을 만든 후에는 몇 가지 메트릭을 사용하여 유효성을 검사 한 다음이를 사용하여 미래 값을 예측합니다.
3. 다양한 유형의 알고리즘을 사용하여 예측 모델을 만들 수 있습니다.
4. SVM을 사용하여 선형 및 비선형 모델을 구축합니다.
5. 예측 모델은 시스템 동작에 영향을 줄 수있는 여러 기능을 사용하여 구축됩니다.
6. 예를 들어 기상 조건을 추정하기 위해 온도, 기압, 강수 및 기타
   대기 과정 과 같은 다양한 유형의 데이터를 사용할 수 있습니다 . 마찬가지로, 다른 유형의 시스템을 다룰 때는 어떤 요인이 동작에 영향을 미칠 수 있는지 결정하고 모델을 학습하기 전에 특성 벡터의 일부로 포함해야합니다.

1. SVM : 분류 자 ​​및 회귀자를 생성하는 데 사용할 수있는지도 학습 모델.
2. SVM은 수학적 방정식 시스템을 풀고 두 점 세트 사이의 최상의 분리 경계를 찾습니다.

준비하기

당면한 문제를 이해하기 위해 데이터를 시각화합시다. SVM을 구축하기 전에 데이터를 이해합시다.

사용 된 데이터 세트 : 'data_multivar'파일을 https://github.com/appyavi/Dataset

데이터를 시각화하는 방법을 살펴 보겠습니다.

1. 라이브러리 및 데이터 가져 오기 :

import numpy as np
import matplotlib.pyplot as plt
import utilities
# Load input data
input_file = 'data_multivar.txt'
X, y = utilities.load_data(input_file)

# Load multivar data in the input file
def load_data(input_file):
    X = []
    y = []
    with open(input_file, 'r') as f:
        for line in f.readlines():
            data = [float(x) for x in line.split(',')]
            X.append(data[:-1])
            y.append(data[-1])
    X = np.array(X)
    y = np.array(y)
    return X, y

class_0 = np.array([X[i] for i in range(len(X)) if y[i]==0])
class_1 = np.array([X[i] for i in range(len(X)) if y[i]==1])

plt.figure()
plt.scatter(class_0[:,0], class_0[:,1], facecolors='black', edgecolors='black', marker='s')
plt.scatter(class_1[:,0], class_1[:,1], facecolors='None', edgecolors='black', marker='s')
plt.title('Input data')
plt.show()

그것을하는 방법

SVM을 사용하여 선형 분류기를 만드는 방법을 살펴 보겠습니다.

1. 데이터 세트를 훈련 및 테스트 데이터 세트로 분할해야합니다.

from sklearn.model_selection import train_test_split
from sklearn.svm import SVC
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=5)

params = {'kernel': 'linear'}
classifier = SVC(**params, gamma='auto')

classifier.fit(X_train, y_train)
Out: SVC(gamma='auto', kernel='linear')

utilities.plot_classifier(classifier, X_train, y_train, 'Training dataset')
plt.show()

       

y_test_pred = classifier.predict(X_test)
utilities.plot_classifier(classifier, X_test, y_test, 'Test dataset')
plt.show()

       

        the classifier boundaries on the input data are clearly identified.
       

from sklearn.metrics import classification_report
target_names = ['Class-' + str(int(i)) for i in set(y)]
print("\n" + "#"*30)
print("\nClassifier performance on training dataset\n")
print(classification_report(y_train, classifier.predict(X_train),target_names=target_names))
print("#"*30 + "\n")

       

print("#"*30)
print("\nClassification report on test dataset\n")
print(classification_report(y_test, y_test_pred, target_names=target_names))
print("#"*30 + "\n")

       

1. SVM은 분류 및 회귀 모두에 사용할 수있는지도 학습 방법 세트입니다.
2. 선형으로 분리 가능한 다차원 패턴의 두 클래스가 주어지면 가능한 모든 분리 하이퍼 플레인 중에서 SVM 알고리즘은 가능한 가장 큰 마진으로 클래스를 분리 할 수있는 클래스를 결정합니다.
3. 마진은 식별 된 초평면에서 훈련 세트의 두 클래스에있는 포인트의 최소 거리입니다.
4. 마진 극대화는 일반화와 관련이 있습니다.
5. 학습 세트 패턴이 큰 여백으로 분류되면 클래스 사이의 경계에 가까운 테스트 세트 패턴도 올바르게 관리되기를 바랍니다.
6. 다음에서 세 줄 (l1, l2 및 l3)을 볼 수 있습니다. 라인 l1은 두 클래스를 분리하지 않고 라인 l2는 두 클래스를 분리하지만 작은 여백을두고 l3 라인은 두 클래스 간의 거리를 최대화합니다.

8. 객체 좌표는 특성 함수라고하는 비선형 함수를 사용하여 특성 공간이라는 공간에 매핑됩니다.

9.이 공간은 매우 다차원 적이며 선형 분류기로 두 클래스를 분리 할 수 ​​있습니다. 따라서 초기 공간은 새 공간에서 다시 매핑되며, 이때 분류자가 식별 된 다음 초기 공간으로 반환됩니다.

더있다

SVM은 최근 문헌에 소개 된 학습 기계 클래스를 구성합니다. SVM은 학습의 통계 이론과 관련된 개념에서 파생되며 이론적 일반화 속성을 제시합니다.