(ECCV 2024 Oral)

（arxiv 2025）2507.20096 众所周知，注意力为$softmax(\frac{QK^T}{\sqrt{D_k}})V$。

（arxiv 2025） 《Trainable Dynamic Mask Sparse Attention》 Smalldoge出品，该组织专注于小型语言模型，专注于效率和易用性。

视觉-语言预训练模型(VLP安全) 共41篇论文。

Attention Sink是指某些（初始）token具有较大的注意力得分。最早明确提出于StreamingLLM (2309.17453)。

（ICLR 2025) 算法OATS假定模型权重$W\approx S+L$，其中S为稀疏，$||S_0||\le k$；L为低秩，$Rank(L)\le r$。

（CVPR 2024)

（Corr 2025/ AAAI 2025） 《Mitigating Hallucinations in Large Vision-Language Models by Adaptively Constraining Information Flow》

（AAAI 2025） 引言图像篡改定位（IML）用以识别图像中特定的篡改区域。 由于操作后图像上不可避免地会留下操作痕迹，这些痕迹可以分为语义和非语义（语义无关）特征。语义无关特征指的是突出低级痕迹信息的特征，这些特征独立于图像的语义内容。 几乎所有现有的IML模型都遵循了“语义分割骨干网络”和“手工制作的非语义特征提取”的设计。

基于李沐老师的《多模态论文串讲》，发布于2023年初左右。 发布之始已经看过。由于近日学习的需要，重拾并整理。