Encuentre los parámetros óptimos de un clasificador

Cargue un conjunto de datos y divídalo en un conjunto de entrenamiento y un conjunto de prueba.

In[1]:=

data = RandomSample[ ExampleData[{"MachineLearning", "Titanic"}, "Data"] ]; training = data[[;; 1000]]; test = data[[1001 ;;]];

Defina una función que calcule el rendimiento de un clasificador como función de sus (hiper)parámetros.

In[2]:=

loss[{c_, gamma_, b_, d_}] := -ClassifierMeasurements[ Classify[training, Method -> {"SupportVectorMachine", "KernelType" -> "Polynomial", "SoftMarginParameter" -> Exp[c], "GammaScalingParameter" -> Exp[gamma], "BiasParameter" -> Exp[b], "PolynomialDegree" -> d } ], test, "LogLikelihoodRate"];

Defina el valor posible de parámetros.

In[3]:=

region = ImplicitRegion[And[ -3. <= c <= 3., -3. <= gamma <= 3. , -1. <= b <= 2., 1 <= d <= 3 , d \[Element] Integers], { c, gamma, b, d}]

Out[3]=

Busque un buen conjunto de parámetros.

In[4]:=

bmo = BayesianMinimization[loss, region]

Out[4]=

In[5]:=

bmo["MinimumConfiguration"]

Out[5]=

Entrene un clasificador con estos parámetros.

In[6]:=

Classify[training, Method -> {"SupportVectorMachine", "KernelType" -> "Polynomial", "SoftMarginParameter" -> Exp[2.979837222482109`], "GammaScalingParameter" -> Exp[-2.1506497693543025`], "BiasParameter" -> Exp[-0.9038364134482837`], "PolynomialDegree" -> 2} ]

Out[6]=