使用されるアルゴリズム
AutoML は 4 つの異なるモデルを使用して予測を行います。
回帰モデルの場合 ：
分類モデルの場合 ：
XGBRegressor
回帰モデルには、AutoML は XGBoost の XGBRegressorOpens in a new tab クラスを使用します。
このモデルのハイパーパラメータの詳細を以下に示します。
| ハイパーパラメータ | 値 |
|---|---|
| Max Depth | 3 |
| Learning Rate | 0.1 |
| Number of Estimators | 100 |
| Objective | Squared Error |
| Booster | Gbtree |
| Tree Method | Auto |
| Number of Jobs | [1] |
| Gamma (リーフでの分割のための最小損失削減量) | 0 |
| Min Child Weight | [1] |
| Max Delta Step | 0 |
| L2 Regularization Lambda | [1] |
| Scale Positive Weight | [1] |
| Base/Initial Score | 0.5 |
ニューラル・ネットワーク
ニューラル・ネットワーク・モデルには、AutoML は KerasOpens in a new tab をラッパとして TensorFlow を使用します。
入力層のサイズは、特徴の数に基づいています。その後、この層は 100 ニューロンで構成される 1 つの非表示層に密に接続されて、ReLU 活性化関数を実装します。この非表示層は最終出力層に密に接続されて、Softmax 活性化関数を実装します。出力層のニューロンの数は、分類のために存在するクラスの数と同じです。
このモデルのハイパーパラメータの詳細を以下に示します。
| ハイパーパラメータ | 値 |
|---|---|
| Optimizer (name) | Adam |
| Beta_1 | 0.9 |
| Beta_2 | 0.999 |
| Epsilon | 1e-07 |
| Amsgrad | False |
| Loss | Sparse Categorical Crossentropy |
ロジスティック回帰
ロジスティック回帰モデルには、AutoML は SciKit Learn のロジスティック回帰Opens in a new tabクラスを使用します。
このモデルのハイパーパラメータの詳細を以下に示します。
| ハイパーパラメータ | 値 |
|---|---|
| Penalty | L2 |
| Dual Formulation | False |
| Tolerance | 1e-4 |
| C (逆正則化パラメータ) | [1] |
| Fit Intercept | True |
| Intercept Scaling | [1] |
| Class Weight | Balanced |
| Solver | liblinear |
| Max Iterations | 100 |
| Multiclass | One-vs-Rest |
| Warm Start | False |
| Number of Jobs | [1] |
ランダム・フォレスト分類子
ランダム・フォレスト分類子モデルには、AutoML は SciKit Learn のランダム・フォレスト分類子Opens in a new tabクラスを使用します。
このモデルのハイパーパラメータの詳細を以下に示します。
| ハイパーパラメータ | 値 |
|---|---|
| Number of Estimators | 100 |
| Criterion | Gini Impurity |
| Max Depth | なし |
| Min Samples to Split | 2 |
| Min Samples to be Leaf Node | [1] |
| Min Fraction of Total Sum of Weights to be Leaf | 0 |
| Max Features | Square root of number of features |
| Max Leaf Nodes | なし |
| Min Impurity Decrease for Split | 0 |
| Bootstrap | True |
| Number of Jobs | [1] |
| Warn Start | False |
| Class Weight | Balanced |
