我的机器学习课笔记 #4-SVM支持向量机 SVM,全称Support Vector Machine,即支持向量机,是一种监督学习算法,基础的SVM是二分类线性模型,但可通过核函数拓展至非线性分类或者用其他方法拓展至多分类模型。本文是学习SVM基础模型、软间隔与正则项、核函数以及数学上的求解方法时所做的笔记。 2021-11-10 学习笔记 机器学习 机器学习 SVM
我的机器学习课笔记 #2-线性模型 线性模型就是一个通过属性的线性组合来进行预测的函数,线性模型的优点是可解释性强,缺点是拟合能力比较弱,这一章使用线性模型进行回归和分类任务,本文是学习这一章所做的笔记。 2021-11-09 学习笔记 机器学习 机器学习
CLIP4Caption论文笔记 这篇2021年10月发布在MM'21的论文提出了一个基于CLIP、CLIP4CLIP和Uni-VL的模型,用来做视频描述任务,效果拔群,METEOR和CIDEr指标都是SOTA。文章主要想利用已有的vision-language预训练模型来帮助下游任务。同时文章还提出了一种集成学习方法,效果也有提升。 2021-11-02 论文笔记 CLIP4Caption Transformer Video Captioning
Pytorch DDP多卡训练 Pytorch DDP多卡训练 DDP指的是DistributedDataParallel,即支持多机多卡的Pytorch官方库,位于torch.distributed中。 本文简单介绍使用DDP进行单机多卡训练的步骤。 1. 开头导入库、获取local_rank、初始化backend 123456789import torchimport torch.distributed as distfro 2021-10-25 PyTorch Pytorch DDP
Video Captioning任务 Transformer方向小综述 对于Video Captioning任务,对基于Transformer的论文进行小综述 2021-10-25 论文笔记 Transformer Video Captioning
Python Type Hints Python Type Hints Python是一门不注重类型转换的语言,不像C++那样需要进行显式类型声明,这样在程序编写的过程中或许会更方便,但是在debug的时候就可能会很麻烦了,所以Python在3.5版本中引入了Type Hints。 Type Hints指的是在Python中显式提示某个变量的类型,可以翻译为类型提示,假如用错了类型,IDE就会有提示,能够让开发者更加方便地找到错误。 2021-10-24 Python Python Type Hints