三、
混合深层结构是将生成模式和判别模式相结合而成的一类深层结构。在诸多混合深层模型训练中,生成单元首先将模型参数初始化为近似最优解,再使用判别单元全局微调,以达到有效解决高度复杂问题的建模与推广问题。

在此基础上,研究者不断对各种深度学习模型进行改进或优化学习算法,如使用CRBM代替RBM对连续数据建模,将传统CNN与贪心逐层无监督学习算法结合提高有标签数据稀少时特征提取器的训练性能,学习用预训练算法(CD算法)提高RBM的训练效率或全局优化算法解决深层神经网络模型中收敛速度慢、易于过拟合等问题。
随着对深度学习研究的深入,借助深度学习解决多种智能问题逐渐成为机器学习研究的主流,并逐渐占据核心地位,并为各种人工智能产品的研究提供了技术和思路基础。

目前,深度学习已为语音识别(如音乐流派,说话者识别,说话者性别分类,语音分类等)、图像视频识别(如手写体字符识别,人脸识别,图像识别和检索等)、语言处理和信息检索(词性标记,语义角色识别,基于情感分类器的在线评价、舆情分析和自适应学习方法等)等领域取得了多项令人瞩目的研发成果。