Kamino
  • 首页
  • 归档
  • 分类
  • 标签
  • 关于
  • 友链
  •   
  •   

The Platonic Representation Hypothesis

MIT团队发表的一篇ICML 2024论文,被ChatGPT之父Ilya Sutskever点赞过,对于大模型的未来提出了柏拉图表征假说(Platonic Representation Hypothesis),本文简单介绍这篇论文的观点和证明思路。

2024-06-20
论文笔记
大模型原理

近期LLM+视觉下游任务方法总结

最近,使用大语言模型(LLM)和多模态大语言模型(Multimodal LLM, MLLM)进行视觉下游任务的方法越来越多,本文对相关文献进行初步的调研,并形成了一篇总结的文章。(因个人水平,无法覆盖全,望谅解)。

2024-06-19
论文笔记
LLM MLLM

论文笔记 UniVTG:Towards Unified Video-Language Temporal Grounding

新加坡国立+MetaAI的一篇ICCV23论文,其将Moment Retrieval、Highlight Detection、Video Summarization统一成了Video-Language Temporal Grounding的任务,并进行了预训练,得到一个Unified的模型,展示了在下游任务的强劲性能。

2024-04-13
论文笔记
Moment Retrieval Video-Language Temporal Grounding Highlight Detection Video Summarization

论文笔记 Language-conditioned Detection Transformer

一篇CVPR2024的论文,提出了一种Open-Vocabulary的目标检测模型**DECOLA**,利用图像-文本对进行language-conditioned的训练以提升泛化性。

2024-04-10
论文笔记
Object Detection Open-Vocabulary

论文笔记 AttrSeg:Open-Vocabulary Semantic Segmentation via Attribute Decomposition-Aggregation

上交的一篇NIPS2023(2024.1),进行Open-vocabulary的语义分割,其将类别通过大语言模型和人工分解成多种属性,然后提出了一种AttrSeg网络来通过这些属性进行语义分割,从而提升Open的能力。

2024-04-06
论文笔记
Semantic Segmentation Open-Vocabulary AttrSeg

论文笔记 RWKV:Reinventing RNNs for the Transformer Era

EMNLP23的一篇文章,一作是Bo Peng,在知乎比较活跃,提出了RWKV模型,其将RNN和Transformer的思想进行结合,使时间复杂度降低到了线性,同时其性能在不同参数量下均得到了验证。

2024-03-27
论文笔记
Transformer RWKV RNN Linear Transformer LLM

论文笔记 MLP-Mixer:An all-MLP Architecture for Vision

NIPS2021的一篇论文,对Vision Transformer的架构进行了泛化和改进,提出了一种仅使用MLP的现代的类Transformer的模型,并在多个数据集上取得了非常好的性能,为人们理解CNN和ViT提供了新的思路。

2024-03-27
论文笔记
Transformer Vision Transformer MLP-mixer

论文笔记 Proposal-based Multiple Instance Learning for Weakly-supervised Temporal Action Localization

中国科学技术大学的一篇CVPR2023,针对弱监督时序动作定位任务(W-TAL),将原本的Segment-based MIL替换为Proposal-based MIL,解决了训练和测试不一致的问题。具体包括一个周围对比特征提取模块来已知short proposal,还有一个proposal完整性评估模块来抑制低质量proposal,以及一个实例级别的排序一致性损失。

2024-03-25
论文笔记
ActionFormer TAL

论文笔记 ActionFormer:Localizing Moments of Actions with Transformers

南京大学计算机软件新技术国家重点实验室的一篇ECCV2022论文,提出了时序动作定位(Temporal Action Localization,TAL)领域的一个新的架构,被后面非常多模型作为baseline。

2024-03-25
论文笔记
ActionFormer TAL

论文笔记 InternVideo:General Video Foundation Models via Generative and Discriminative Learning

上海人工智能实验室的OpenGVLab的一个视觉为主的多模态基础模型 InternVideo,2022年12月发布。本文大致介绍其idea、架构、训练方法和部分实验,由于知识受限,不会过于深入。

2024-03-22
论文笔记
InternVideo Foundation Model
12345…18

搜索

Hexo Fluid
载入天数... 载入时分秒...
总访问量 次 总访客数 人