1.读取数据：把磁盘中的数据读取出来（模块的导入这里就不在叙述，需要什么模块就导入即可） 2.数据处理： a.这里提取年月日的方式是直接索引文件中需要的数据名称，并且赋值给我们定义的变量 b.字符编码，并且在表中删除‘真实结果’数据，然后表中剩下的都是‘X’变量，也就是说，可以把剩下的的整个表输入到训练模型中当作输入的‘X’ c.把字符类型的数据转换为数组格式 d.把数据变成标准的模式...

很多教程说用更小的样本数或者换显存更大的硬件。。。其实是治标不治本。 如果你是直接将全部训练样本以np.narray数组的形式输入fit，这种情况下的内存不够，即使使用更小的batchsize，也不会有明显的改善。 先说解决方案——那就是官方自定义的数据格式tfrecords. 在这种格式下，每次只从存储硬盘中读取一个batchsize的数据入内存（显存），而不是将整个训练样本一次性全部读入...

一个神经元有多个输入和输出。每个神经元的输入既可以是其他神经元的输出，也可以是整个神经网络的输入，所谓神经网络的结构指的就是不同神经元之间的连接结构。如下图所示，一个最简单的神经元结构的输出就是所有输入的加权和，而不同权重就是神经元的参数，神经网络的优化过程就是优化神经元中参数取值的过程。 计算神经网络的前向传播结果需要三部分信息，如下图所示： 第一部分是神经网络的输入...

1、关于深度学习框架的安装，如果单纯安装cpu版本的直接去下载到本地即可...

最近，另一个常用的深度学习框架 TensorFlow 也有了自己的高度模块化和高效处理库...

既然是图，则有节点（变量），边（操作（简单函数）） 反向传播通过使用计算图形在Tensorflow，Torch，Theano等深度学习框架中实现。

科研团队面临多样化的计算任务，需要满足不同应用、不同算法的一组高效计算设备，才能事半功倍，例如工程技术领域热门研究项目： 人工智能和机器学习 利用算法和模型来实现智能化和自动化，常用软件包括Python、TensorFlow

1.建立一个神经网络添加层 输入值、输入的大小、输出的大小和激励函数 学过神经网络的人看下面这个图就明白了，不懂的去看看我的另一篇博客（http://www.cnblogs.com/wjy-lulu/p/6547542.html） 复制 d

[[211061]] STATWORX 团队近日从 Google Finance API 中精选出了 S＆P 500 数据，该数据集包含 S＆P 500 的指数和股价信息。有了这些数据，他们就希望能利用深度学习模型和 500 支成分股价预测

时间序列预测的机器学习概述 当前，机器学习正在席卷全球，机器人能够以类似人类的精度完成许多领域中的任务。例如，在医疗领域，智能助手可以随时检查人们的健康状况；在金融领域，也有一些工具可以合理准确地预测投资回报；而在在线营销中，也已经研发出一些产品推荐工具能够根据人们的购买历史向其推荐特定的产品和品牌。 在上述这些应用领域中，人们可以使用不同类型的数据来训练机器学习模型。其中...

线性回归 步骤 构造线性回归数据 定义输入层 设计神经网络中间层 定义神经网络输出层 计算二次代价函数，构建梯度下降 进行训练...

本文将从iris数据集创建一个线性分类器。如前所述，用花萼宽度和花萼长度的特征可以创建一个线性二值分类器来预测是否为山鸢尾花...

图像编码处理+图像大小调整+图像翻转+图像色彩调整+处理标注框 #!/usr/bin/env python # -*- coding: UTF-8 -*- # coding=utf-8 """ @author: Li Tian @contact: 694317828@qq.com @software: pycharm @file: figure_deal_test1.py @time: 201

Seq2Seq 首先来简单说明一下 Seq2Seq 模型，如果搞过深度学习，想必一定听说过 Seq2Seq 模型，Seq2Seq 其实就是 Sequence to Sequence，也简称 S2S，也可以称之为 Encoder-Decoder 模型，这个模型的核心就是编码器（Encoder）和解码器（Decoder）组成的...

首先是确定好所有软件的版本是最重要的，现在控制面板中找到Nvida控制面板 在这里找到我们的显卡型号1050ti和对应的cuda版本： 点左下角的系统信息 然后在组件中可以查看 这里能够看到cuda的版本是11.1.70...

之前我们讲了神经网络的起源、单层神经网络、多层神经网络的搭建过程、搭建时要注意到的具体问题、以及解决这些问题的具体方法。本文将通过一个经典的案例：MNIST手写数字识别，以代码的形式来为大家梳理一遍神经网络的整个过程。 一 、MNIST手写数字数据集介绍 M是著名的公开数据集之一，通常这个数据集都会被作为深度学习的入门案例。数据集中的数字图片是由250个不同职业的人纯手写绘制...

1、神经网络优化算法 梯度下降算法主要用户优化单个参数的取值，而反向传播算法给出了一个高效的方式在所有参数上使用梯度下降算法，从而使神经网络模型在训练数据上的损失函数尽可能小。反向传播算法是训练神经网络的核心算法，它可以根据定义好的损失函数优化神经网络中参数的取值，从而使神经网络在训练数据集上的损失函数达到一个最小值。神经网络模型中参数的优化过程直接决定了模型的质量...

一、简介 Keras 是一个用于构建和训练深度学习模型的高阶 API。它可用于快速设计原型、高级研究和生产...

PS：对神经风格迁移的原理感兴趣的可以参考：Tensorflow2.0之神经风格迁移...

[[253678]] 机器学习(ML)是一种用于识别模式和预测未来概率的数据分析方法，它是人工智能(AI)研究的一部分。通过将答案预确定的数据输入到数学模型中，计算机可以训练自己、预测将来未知的输入集。 虽然ML迄今已成功解决了特定的任务，但分析参数更复杂的数据需要能够大规模部署简化操作的模型。这种机器学习将使计算机能够从更多数量的信息中找到解决方案并使之自动化。由于这些原因...

顾名思义，k均值聚类是一种对数据进行聚类的技术，即将数据分割成指定数量的几个类，揭示数据的内在性质及规律。 我们知道，在机器学习中，有三种不同的学习模式：监督学习、无监督学习和强化学习： 监督学习，也称为有导师学习，网络输入包括数据和相应的输出标签信息。例如，在 MNIST 数据集中，手写数字的每个图像都有一个标签，代表图片中的数字值。 强化学习，也称为评价学习，不给网络提供期望的输出...

支持向量机可以用来拟合线性回归。 相同的最大间隔（maximum margin）的概念应用到线性回归拟合。代替最大化分割两类目标是，最大化分割包含大部分的数据点（x，y）。我们将用相同的iris数据集，展示用刚才的概念来进行花萼长度与花瓣宽度之间的线性拟合。 相关的损失函数类似于max（0，|yi-（Axi+b）|-ε）。ε这里，是间隔宽度的一半，这意味着如果一个数据点在该区域，则损失等于0...

卷积神经网络的概念 在多层感知器（Multilayer Perceptrons，简称MLP）中，每一层的神经元都连接到下一层的所有神经元。一般称这种类型的层为完全连接。 多层感知器示例 反向传播 几个人站成一排第一个人看一幅画（输入数据），描述给第二个人（隐层）……依此类推，到最后一个人（输出）的时候，画出来的画肯定不能看了（误差较大）。反向传播就是，把画拿给最后一个人看（求取误差）...

进行深度学习模型训练的时候，一般使用GPU来进行加速，当训练样本只有百万级别的时候，单卡GPU通常就能满足我们的需求，但是当训练样本量达到上千万，上亿级别之后，单卡训练耗时很长，这个时候通常需要采用多机多卡加速。深度学习多卡训练常见有两种方式，一种是数据并行化（data parallelism），另外一种是模型并行化（model parallelism）。 数据并行化：每个GPU上面跑一个模型...

1介绍 深度学习后面的数学概念已经存在10多年，但是深度学习框架是最近几年才出来的。现在大量的框架在灵活性上和便于工业界使用上做了权衡，灵活性对于科研非常重要，但是对于工业界太慢了，但是换句话说，足够快，能够用于分布式的框架只适用于特别的网络结构，这对科研又不够灵活。 这留给了使用者一个矛盾的境地：我们是否应该尝试用没有那么灵活的框架做科研，这样当应用于工业界的时候...

一、保存模型的全部配置信息 使用model.save()函数搭配tf.keras.models.load_model()对模型的架构，权重以及配置进行保存与恢复...

一、准备数据 二、构建模型 三、训练模型 四、进行预测 五、批量随机梯度下降的实现 免责声明：本文系网络转载或改编，未找到原创作者，版权归原作者所有。如涉及版权...

卷积神经网络是目前深度学习的核心网络结构，被广泛的应用于计算机图像识别。 输入数据会通过多个卷积层及激活函数来获得输入数据的特征，每层之间的传递如下图： 在上面的图例中，每一个输入层的一格对应卷积层的四格，也可以更多。当然，一个输入层往往对应了很多个卷积层，比如RGB图片就有三个输入层，R图层，G图层与B图层，然后输入到大于3层或小于3层或刚好3层的卷积层中。卷积层后往往会有池化层...

1.建立模型(Model) 如下为我们进行某项实验获得的一些实验数据： 我们将这些数据放到一个二维图上可以看的更直观一些，如下，这些数据在图中表现为一些离散的点 我们需要根据现有的这些数据归纳出一个通用模型，通过这个模型我们可以预测其他的输入值产生的输出值。 如下图，我们选择的模型既可以是红线表示的鬼都看不懂的曲线模型，也可以是蓝线表示的线性模型，在概率统计理论的分析中...

一、保存、读取说明 我们创建好模型之后需要保存模型，以方便后续对模型的读取与调用，保存模型我们可能有下面三种需求：1、只保存模型权重参数；2、同时保存模型图结构与权重参数；3、在训练过程的检查点保存模型数据。下面分别对这三种需求进行实现...

第1章 张量的索引与切片 1.1 张量的维度方向 1.2 张量元素的访问：下标 张量元素的标识a[Idx-x][Idx-y][Idx-z] 其中Idx-x，Idx-y，Idx-z就是张量在不同维度方向的位置下标，代表了张量元素在整个张量空间中的位置。 1.3. 张量元素的下标切片 上述访问张量的方式称为下标访问，每次只能获取张量空间中的一个点...

[[242005]] 目标 本文的目标是解释一个可用于构建基本LSTM模型的简单代码。我不会讨论和分析结果。这只是为了让您开始编写代码。 设置环境 我将在本文中使用python编写LSTM代码。环境设置如下： 我建议您下载pycharm I

[[211918]] 在这篇文章中，我们将会介绍如何使用 TF.Learn API 同时训练一个广度线性模型和一个深度前馈神经网络。这种方法结合了记忆和泛化的优势。它在一般的大规模回归和具有稀疏输入特性的分类问题（例如，分类特征存在一个很大

1.结论 照惯例，先上结论，再说过程，不想看过程的可直接略过。 从这个图我们可以知道，一个LSTM cell中有4个参数，并且形状都是一样的shape=[output_size+n,output_size],其中n表示输入张量的维度,output_size通过函数BasicLSTMCell(num_units=output_size)获得...

一、如何搭建神经网络 在搭建神经网络中，需要通过训练集训练搭建的神经网络，训练完成后需要通过验证集测试我们神经网络训练的效果。 总体流程如下图所示： 二、代码 代码流程： 1、获取数据【x：特征 y：标签】 2、将数据转为tf格式，并将特征和标签配对做batch 3、确定神经网络层数，并初始化神经网络参数w,b,学习率，轮次等 4、循环将数据开始训练。记录loss...

一、异常检测 异常定义为偏离标准，很少发生且不遵循其余“模式”的事件。异常的例子包括： 由于世界大事而导致的股市大跌 工厂/传送带上的不良物品 实验室中被污染的样品 假设我们的数据服从一个正太分布，那么通常异常数据位于正态分布曲线的两侧。如下图所示。 正如我们看到的那样，这些事件将发生，但发生的可能性极低。从机器学习的角度来看，这使得很难检测异常-根据定义，我们有很多“标准”事件的示例...

本文将介绍如何使用Python和深度学习库Tensorflow来进行异常仿真。我们将以图像分类任务为例...

Tensor Flow 是一个采用数据流图（data flow graphs），用于数值计算的开源软件库。节点（Nodes）在图中表示数学操作，图中的线（edges）则表示在节点间相互联系的多维数据数组，即张量（tensor）。 这是谷歌开源的一个强大的做深度学习的软件库，提供了C++ 和 Python 接口，下面给出用Tensor Flow 建立MLP 网络做笑脸识别的一个简单用例...

一.全连接的BP神经网络 1.BP(back propagation反传播)神经网络 bp神经网络的基本思想是梯度下降法，利用梯度搜索技术，以期使网络的实际输出值和期望输出值的误差均方差为最小。基本BP算法包括信号的前向传播和误差的反向传播两个过程。即计算误差输出时按从输入到输出的方向进行，而调整权值和阈值则从输出到输入的方向进行。正向传播时，输入信号通过隐含层作用于输出节点，经过非线性变换...

了解机器学习概念之后，无涯教程现在可以将重点转移到深度学习概念上，深度学习是机器学习的一个分支，被认为是近几十年来研究人员迈出的关键一步。深度学习实现的示例包括图像识别和语音识别等应用。 以下是深度神经网络的两种重要类型- 卷积神经网络 递归神经网络 在本章中，将重点介绍CNN，即卷积神经网络。 卷积神经网络 卷积神经网络旨在通过多层数组处理数据，这种类型的神经网络用于图像识别或面部识别等应用中，

一、前述 ANN人工神经网络有两个或两个以上隐藏层，称为DNN 只有一个隐藏层是多层感知机 没有隐藏层是感知机 二、反向传播应用举例 举例： 正向传播，反向传播是一次迭代， 正向传播：在开始的每一层上都有一个参数值w，初始的时候是随机的,前向带入的是每一个样本值。 反向传播：然后反过来求所有的梯度值。如果是BGD则再根据公式wt=wt-1-ag进行调整所有w值。 然后再正向传播，迭代，以此类推...

本节将展示如何使用多层感知机（MLP）进行函数逼近，具体来说，是预测波士顿的房价。第2章使用回归技术对房价进行预测，现在使用 MLP 完成相同的任务。 准备工作 对于函数逼近，这里的损失函数是 MSE。输入应该归一化，隐藏层是 ReLU，输出层最好是 Sigmoid。 下面是如何使用 MLP 进行函数逼近的示例： 导入需要用到的模块：sklearn，该模块可以用来获取数据集，预处理数据...

TensorFlow.NET为广大.NET开发者提供了一个除了ML.NET的第二个机器学习框架选择。 什么是线性回归？

1、右键管理运行 2、全部勾选点击Install 3、下一步 4、Close 5、软件安装完成

概述 线性回归 (Linear Regression) 是利用回归分析来确定两种或两种以上变量间相互依赖的定量关系. 均方误差 (Mean Square Error): 是用来描述连续误差的一种方法. 公式: y_predict: 我们预测的值 y_real: 真实值线性回归 公式 w: weight, 权重系数 b: bias, 偏置顶 x: 特征值 y: 预测值 梯度下降 梯度下降 (Grad

概述 RNN (Recurrent Netural Network) 是用于处理序列数据的神经网络. 所谓序列数据, 即前面的输入和后面的输入有一定的联系. 权重共享 传统神经网络: RNN: RNN 的权重共享和 CNN 的权重共享类似, 不同时刻共享一个权重, 大大减少了参数数量.计算过程: 计算状态 (State) 计算输出: 案例 数据集 IBIM 数据集包含了来自互联网的 50000 条

张量的操作主要包括张量的结构操作和张量的数学运算。 张量结构操作诸如：张量创建，索引切片，维度变换，合并分割。 张量数学运算主要有：标量运算，向量运算，矩阵运算。另外我们会介绍张量运算的广播机制。 本篇我们介绍张量的结构操作。 一，创建张量 张量创建的许多方法和numpy中创建array的方法很像...

什么是标准化 传统机器学习中标准化也叫做归一化，一般是将数据映射到指定的范围，用于除去不同维度数据的量纲以及量纲单位 。 数据标准化让机器学习模型看到的不同样本彼此之间更加相似，这有助于模型的学习与对新数据的泛化。 常见的数据标准化形式： 标准化和归一化 标准化：将数据减去均值除以方差，使得它的均值为0，标准差为1（打个问号） 批标准化 Batch Normalization，批标准化...

封面图片：Photo by Daniel Stone on Unsplash 今早在GitHub上收到一则issue，发信人为Suaro。 Suaro希望使用OpenCV来实现模型加载与推演，但是没有成功，因此开了issue寻求我的帮助...

GAN 入门 自 2014 年 Ian Goodfellow 的《生成对抗网络（Generative Adversarial Networks）》论文发表以来，GAN 的进展突飞猛进，生成结果也越来越具有照片真实感。 就在三年前，Ian Goodfellow 在 reddit 上回答 GAN 是否可以应用在文本领域的问题时，还认为 GAN 不能扩展到文本领域。 “由于 GAN 定义在实值数据上...