神经网络核心知识点梳理--一图了然 基于上篇文章的简单入门,这里重点梳理了一下神经网络的核心知识点,并以图片的方式呈现(点击放大哦~): 神经网络核心知识点梳理 1.网络结构 1.1 输入层 1x2矩阵的输入数据X1和X2 Bias(偏置)项作为额外输入,增强模型表达能力 1.2 隐藏层 6维度的神经元结构 每个神经元包含加权求和(Σ)和激活函数(f) 常用激活函数: Sigmoid: 2023-05-01 深度学习 #深度学习 #笔记整理 #神经网络
深度学习框架中的动态图与静态图 深度学习框架中,动态图(Dynamic Computation Graph)和静态图(Static Computation Graph)是两种构建和执行计算图的方式。他们一个面向开发,一个面向部署,各有优势。 2023-04-01 深度学习 #深度学习 #笔记整理 #概念
Pytorch VS TensorFlow TensorFlow和PyTorch是两种流行的深度学习框架,它们各自具有独特的优缺点和优势领域。以下是对它们的比较: 2023-02-26 深度学习 #深度学习 #笔记整理 #学习框架
NER与关系抽取任务——关系三元组抽取问题中常用的模型 文本关系抽取的研究工作本身可以划分为很多类别,根据抽取的文本范围以划分为句子级关系抽取、文档级关系抽取和语料级关系抽取;数据集中样本的多少可以划分为正常关系抽取、少样本关系抽取和零样本关系抽取;根据是否定义关系类别和抽取领域可以划分为限定域关系抽取和开放域关系抽取;本文中的关系抽取方法内容仅关注限定域关系抽取中的句子级关系抽取。 本文关注的工作主要是关系三元组抽取(Relational Trip 2023-02-11 NLP #深度学习 #NER模型
模型剪枝原理与实现 仿照生物的稀疏神经网络, 将大型网络中的稠密连接变成稀疏的连接, 并同样达到SOTA的效果, 就是模型剪枝的原动力. 2023-01-14 模型压缩技术 #深度学习 #剪枝 #模型处理
知识蒸馏的原理与实现 1.什么是模型蒸馏 在工业级的应用中, 除了要求模型要有好的预测效果之外, 往往还希望它的"消耗"足够小. 也就是说一般希望部署在线上的应用模型消耗较小的资源. 这些资源包括存储空间, 包括算力. 在深度学习背景下, 如果希望模型的效果足够好, 通常会有两种方案: - 使用更大规模的参数. - 使用集成模型, 将多个弱模型集成起来. 注意: 上面两种方案往往需要较大的计算资源, 对部 2023-01-13 模型压缩技术 #深度学习 #剪枝 #模型处理
基于GRU模型的带编-解码器和注意力机制的英译法任务实现 模型整体结构示意 1.基础准备 1234567891011121314151617181920212223242526272829303132333435# 用于正则表达式import re# 用于构建网络结构和函数的torch工具包import torchimport torch.nn as nnimport torch.nn.functional as Ffrom torch. 2023-01-12 深度学习 #深度学习 #NLP #代码实现 #注意力机制
Transformer的代码实现-基于Pytorch 本文是Transfomrer的Pytorch版本实现. 实现的过程中非常考验维度控制的功底. 本文实现参考Transformer 的 PyTorch 实现, 我对其在个别地方进行了修改, 并对所有的数据全部加上了维度注释. 本文的代码已经放到了Colab上, 打开设置GPU就可以复现(需要科学上网). 右键我在COLAB中打开! 右键我在COLAB中打开! 如果你不能科学 2023-01-11 深度学习 #笔记整理 #transformer #代码实现
在CentOS上安装Neo4j 5x 本文档将逐步指导您在CentOS操作系统上安装Neo4j 5.21.2。 前提条件 在开始安装之前,请确保您有以下条件: - 一台运行CentOS的机器 - 具有sudo权限的用户 - 已经安装了curl和wget工具 步骤1:更新系统 首先,更新您的CentOS系统,以确保所有软件包都是最新的。 1sudo yum update -y 步骤2:安装OpenJDK 11 Neo4 2023-01-11 知识图谱 #环境配置 #技术整理
神经网络简明教程 本篇文章试图使用最简洁易懂的文字对一个典型神经网络做一个较为完整的介绍。力求读者在读完本篇文章后对神经网络能有一个清晰且全面的认识。 任务描述 如下图,我们已知四个数据点(1,1)(-1,1)(-1,-1)(1,-1),这四个点分别对应I~IV象限,如果这时候给我们一个新的坐标点(比如(2,2)),那么它应该属于哪个象限呢?(没错,当然是第I象限,但我们的任务是要让机器知道) “分类”是神经 2023-01-02 深度学习 #深度学习 #笔记整理 #神经网络