用S2S深度神经网络预测能量负荷具有k形聚类的网络
特别是长短期记忆（LSTM）具有序列到序列（S2S）架构的算法。
我们在预测聚合时，提高预测准确性通过使用k-Shape聚类算法加载网络创建更容易预测的消费者群体
本文中描述的方法在现实世界数据上进行了测试斯洛伐克企业的用电量。
电力消费者通常都有随机行为，使个人消费需求变得艰难预测。为了解决这个问题的消费数据
是汇总的。出于这个原因，使用聚类分析[1]将消费者分类为更可预测的群体。
建筑物水平的负荷预测得到了研究人员的更多关注。
前人工作：
在[2]中，作者使用了具有长期短期的递归神经网络（RNN）记忆细胞并将其与一个序列进行比较序列（S2S）架构在预测建筑物水平的能量需求。他们用S2S表明网络架构优于标准的LSTM架构。
在本文中，我们展示了使用k-Shape的有效性聚类算法结合S2S架构
数据记录于2013年7月1日到2015年2月16日，决议时间为15分钟。11281家企业的消费量合计为根据企业邮政编码1152时间序列。
数据集分为3部分与大约70-15-15的比例：训练设置从2013年7月1日到2014年8月19日，验证集从20-
08-2014至16-11-2014和测试设置从2014年11月17日到16-02-2015
本文只使用了负荷数据
对多种消费者有三种预测方法：
1、汇总的汇总方法[3]网络中所有消费者的需求并将其视为网络预测输入。
2、有方法预测每个消费者的需求，然后总结这些个人预测可以获得网络级别的需求预测
3、通过聚类个体消费者进入特定的集群来生成预测这些个体集群。然后预测总需求通过得出这些预测的总和
本人比较1和3中方法
K-shape聚类算法（没看）好像是用于时间序列聚类3步
1) Shape-Based Distance:
2) Time Series Shape Extraction:
3) Shape-based Time Series Clustering:
S2S架构由两个LSTM网络组成编码器和解码
编码器转换可变长度的输入序列并将它们映射到固定长度的矢量。然后将该固定长度矢量用作输入解码器然后生成长度的输出序列?。
Both are then trained to minimize a given loss of the target sequence given the input sequence.
S2S架构的主要优点是它允许可变长度的序列，用作预测的输入未来任意长度的序列。
聚合模型
网络参数
在S2S架构中，有两层40个LSTM隐藏单元。我们网络的输入包括96次序列代表15分钟电力负荷的步骤。间隔。
网络的输出是对需求的估计接下来的96个时间步骤。
我们使用小批量梯度下降[8]用RMSProp [9]作为基于梯度的优化器进行训练网络。由于我们选择了较小的学习率（= 0.001），我们执行1000个训练步骤，相当于1000次向网络显示批次。在网络培训期间和测试时应用计算模型，整个数据被标准化
用训练的平均μ和标准差σ数据集。
由于在训练期间我们使用的损失函数L最小化具有L 2正则项的L 2误差（两者都没有平方根）以获得更好的泛化能力
损失函数表示：
计算聚类相似度的系数(细节没看）
Davies-Bouldin指数是一种群集分离度量
表示计算出的簇的相似性。 该指数
使用聚类算法中使用的度量
我们的案例是SBD。
一小时 簇的数量k由下式确定使用Davies-Bouldin指数。 我们选择k = 6，因为它是
索引的局部最小值（详见表3）。