深度学习库和框架

在本章中，我们将深度学习与不同的图书馆和框架联系起来。

使用Theano的深度学习

如果想开始编码一个深度神经网络，最好有一个想法，了解不同的框架，如:Theano，TensorFlow，Keras，PyTorch等是如何工作的。

Theano是一个python库，它提供了一套用于构建在我们的机器上快速训练的深层网络的功能。

Theano由加拿大蒙特利尔大学在Yoshua Bengio领导下发展成为一位深度网络的先锋。

Theano可定义和评估数学表达式，其中矩阵是矩形数组。

从技术上讲，神经网络和输入数据都可以表示为矩阵，所有标准网络操作都可以重新定义为矩阵运算。这很重要，因为电脑可以非常快速地执行矩阵操作。

我们可以并行处理多个矩阵值，如果我们用这个底层结构构建一个神经网络，可以使用一台带有GPU的机器在合理的时间窗口内训练巨大的网络。

但是，如果使用Theano，必须从头开始建立深层网络。该库不提供用于创建特定类型的深层网络的完整功能。

相反，必须编码深层网络的每个方面，如模型，图层，激活，训练方法和任何特殊的方法来停止过度拟合。

然而，好消息是Theano允许在矢量化函数的顶层实现构建，为我们提供高度优化的解决方案。

还有许多其他库扩展了Theano的功能。 TensorFlow和Keras可以与Theano一起用作后端。

谷歌TensorFlow是一个Python库。这个库是构建商业级深度学习应用程序的绝佳选择。

TensorFlow从另一个库:DistBelief V2诞生，它是Google Brain Project的一部分。该库旨在扩展机器学习的可移植性，使研究模型可以应用于商业级应用。

与Theano库非常相似，TensorFlow基于计算图，其中节点表示持久数据或数学运算，边表示节点之间的数据流，即多维数组或张量; 因此得名TensorFlow

一个操作或一组操作的输出作为输入被馈送到下一个。

尽管TensorFlow是为神经网络设计的，但对于可以将计算模型化为数据流图的其他网络来说，它非常适用。

TensorFlow还使用了Theano的几个特性，如常见和子表达式消除，自动分化，共享和符号变量。

可以使用TensorFlow(卷积网，自动编码器，RNTN，RNN，RBM，DBM/MLP等)构建不同类型的深网。

但是，在TensorFlow中不支持超参数配置。对于此功能，我们可以使用Keras。

Keras是一个功能强大且易于使用的Python库，用于开发和评估深度学习模型。

它具有简约的设计，可以逐层建立网络; 训练它，并运行它。

它包装了高效的数值计算库Theano和TensorFlow，并允许我们用几行简短的代码定义和训练神经网络模型。

它是一个高级神经网络API，有助于广泛使用深度学习和人工智能。它运行在包括TensorFlow，Theano等许多底层库上面。 Keras码是可移植的; 可以在Keras中使用Theano或TensorFlow作为后端而不需要对代码进行任何更改来实现神经网络。