关于机器学习：spark中MinMaxScaler这样的缩放器有没有”inverse_transform”方法？

Is there no “inverse_transform” method for a scaler like MinMaxScaler in spark?

在训练模型时，比如线性回归，我们可能会在训练测试数据集时进行归一化，比如 MinMaxScaler。

在我们获得经过训练的模型并使用它进行预测并将预测缩减为原始表示之后。

在python中，有”inverse_transform”方法。例如：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

from sklearn.preprocessing import MinMaxScaler
scalerModel.inverse_transform

from sklearn.preprocessing import MinMaxScaler

data = [[-1, 2], [-0.5, 6], [0, 10], [1, 18]]

scaler = MinMaxScaler()
MinMaxScaler(copy=True, feature_range=(0, 1))
print(data)

dataScaled = scaler.fit(data).transform(data)
print(dataScaled)

scaler.inverse_transform(dataScaled)

spark中有类似的方法吗？

我搜索了很多，但没有找到答案。谁能给我一些建议？
非常感谢！

相关讨论

您好，欢迎来到 StackOverflow。您是否介意查看您的帖子并进行一些编辑：以当前的方式编写的某些短语没有多大意义，并且可能会导致人们忽略您的问题。您还可以使用代码块使您的代码片段更具吸引力。

在我们公司，为了解决 StandardScaler 上的相同问题，我们扩展了 spark.ml (除其他外)：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29

package org.apache.spark.ml

import org.apache.spark.ml.linalg.DenseVector
import org.apache.spark.ml.util.Identifiable

package object feature {

implicit class RichStandardScalerModel(model: StandardScalerModel) {

private def invertedStdDev(sigma: Double): Double = 1 / sigma

private def invertedMean(mu: Double, sigma: Double): Double = -mu / sigma

def inverse(newOutputCol: String): StandardScalerModel = {
val sigma: linalg.Vector = model.std
val mu: linalg.Vector = model.mean
val newSigma: linalg.Vector = new DenseVector(sigma.toArray.map(invertedStdDev))
val newMu: linalg.Vector = new DenseVector(mu.toArray.zip(sigma.toArray).map { case (m, s) => invertedMean(m, s) })
val inverted: StandardScalerModel = new StandardScalerModel(Identifiable.randomUID(“stdScal”), newSigma, newMu)
.setInputCol(model.getOutputCol)
.setOutputCol(newOutputCol)

inverted
.set(inverted.withMean, model.getWithMean)
.set(inverted.withStd, model.getWithStd)
}
}

}

修改它或为您的具体情况做类似的事情应该相当容易。

请记住，由于 JVM 的双重实现，您通常会在这些操作中失去精度，因此您将无法恢复转换之前的确切原始值??(例如：您可能会得到类似 1.9999999999999998 的东西，而不是2.0).

也许我来晚了，但是，最近遇到了完全相同的问题，找不到任何可行的解决方案。

假设这个问题的作者不必反转向量的 MinMax 值，而是只需要反转一列。
列的最小值最大值以及缩放器的最小值-最大值参数也是已知的。

根据 scikit 学习网站的 MinMaxScaler 背后的数学：

1 2	X_std = (X – X.min(axis=0)) / (X.max(axis=0) – X.min(axis=0)) X_scaled = X_std * (max – min) + min

“逆向工程” MinMaxScaler 公式

1 2	X_scaled = (X – Xmin) / (Xmax) – Xmin) * (max – min) + min X = (max * Xmin – min * Xmax – Xmin * X_scaled + Xmax * X_scaled)/(max – min)

实施

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19

from sklearn.preprocessing import MinMaxScaler
import pandas

data = [[-1, 2], [-0.5, 6], [0, 10], [1, 18]]

scaler = MinMaxScaler(copy=True, feature_range=(0, 1))
print(data)
dataScaled = scaler.fit(data).transform(data)

data_sp = spark.createDataFrame(pandas.DataFrame(data, columns=[“x”,”y”]).join(pandas.DataFrame(dataScaled, columns=[“x_scaled”,”y_scaled”])))
data_sp.show()
print(“Inversing column: y_scaled”)
Xmax = data_sp.select(“y”).rdd.max()[0]
Xmin = data_sp.select(“y”).rdd.min()[0]
_max = scaler.feature_range[1]
_min = scaler.feature_range[0]

print(“Xmax =”, Xmax,”Xmin =”, Xmin,”max =”, _max,”min =”, _min)
data_sp.withColumn(colName=”y_scaled_inversed”, col=(_max * Xmin – _min * Xmax – Xmin * data_sp.y_scaled + Xmax * data_sp.y_scaled)/(_max – _min)).show()

输出

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

[[-1, 2], [-0.5, 6], [0, 10], [1, 18]]
+—-+—+——–+——–+
| x| y|x_scaled|y_scaled|
+—-+—+——–+——–+
|-1.0| 2| 0.0| 0.0|
|-0.5| 6| 0.25| 0.25|
| 0.0| 10| 0.5| 0.5|
| 1.0| 18| 1.0| 1.0|
+—-+—+——–+——–+

Inversing column: y_scaled
Xmax = 18 Xmin = 2 max = 1 min = 0
+—-+—+——–+——–+—————–+
| x| y|x_scaled|y_scaled|y_scaled_inversed|
+—-+—+——–+——–+—————–+
|-1.0| 2| 0.0| 0.0| 2.0|
|-0.5| 6| 0.25| 0.25| 6.0|
| 0.0| 10| 0.5| 0.5| 10.0|
| 1.0| 18| 1.0| 1.0| 18.0|
+—-+—+——–+——–+—————–+

这里没有直接的解决方案。
由于只有当数组是列时才能将数组传递给 UDF(lit(array) 不会这样做)，所以我使用以下解决方法。

简而言之，它将倒置刻度数组转换为字符串，将其传递给 UDF，然后求解数学。

您可以在反函数(也附在此处)中使用该缩放数组(字符串)，获取反转值。

代码：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66

from pyspark.ml.feature import VectorAssembler, QuantileDiscretizer
from pyspark.ml.linalg import SparseVector, DenseVector, Vectors, VectorUDT

df = spark.createDataFrame([
(0, 1, 0.5, -1),
(1, 2, 1.0, 1),
(2, 4, 10.0, 2)
], [“id”, ‘x1’, ‘x2’, ‘x3’])

df.show()

def Normalize(df):

scales = df.describe()
scales = scales.filter(“summary = ‘mean’ or summary = ‘stddev'”)
scales = scales.select([“summary”] + [col(c).cast(“double”) for c in scales.columns[1:]])

assembler = VectorAssembler(
inputCols=scales.columns[1:],
outputCol=”X_scales”)

df_scales = assembler.transform(scales)

x_mean = df_scales.filter(“summary = ‘mean'”).select(‘X_scales’)
x_std = df_scales.filter(“summary = ‘stddev'”).select(‘X_scales’)

ks_std_lit = lit(‘|’.join([str(s) for s in list(x_std.collect()[0].X_scales)]))
ks_mean_lit = lit(‘|’.join([str(s) for s in list(x_mean.collect()[0].X_scales)]))

assembler = VectorAssembler(
inputCols=df.columns[0:4],
outputCol=”features”)

df_features = assembler.transform(df)
df_features = df_features.withColumn(‘Scaled’, exec_norm_udf(df_features.features, ks_mean_lit, ks_std_lit))

return df_features, ks_mean_lit, ks_std_lit

def exec_norm(vector, x_mean, x_std):
x_mean = [float(s) for s in x_mean.split(‘|’)]
x_std = [float(s) for s in x_std.split(‘|’)]

res = (np.array(vector) – np.array(x_mean)) / np.array(x_std)
res = list(res)

return Vectors.dense(res)

exec_norm_udf = udf(exec_norm, VectorUDT())

def scaler_invert(vector, x_mean, x_std):
x_mean = [float(s) for s in x_mean.split(‘|’)]
x_std = [float(s) for s in x_std.split(‘|’)]

res = (np.array(vector) * np.array(x_std)) + np.array(x_mean)
res = list(res)

return Vectors.dense(res)

scaler_invert_udf = udf(scaler_invert, VectorUDT())

df, scaler_mean, scaler_std = Normalize(df)
df.withColumn(‘inverted’, scaler_invert_udf(df.Scaled, scaler_mean, scaler_std)).show(truncate=False)

来源：https://www.codenong.com/46092114/

Is there no “inverse_transform” method for a scaler like MinMaxScaler in spark?

猜你喜欢