半岛体育官方网站-百家乐棋牌返水最高平台 2025最新

　　普林斯顿大学和Meta联合推出的新框架LinGen，以MATE线性复杂度块取代传统自注意力，将视频生成从像素数的平方复杂度压到线性复杂度，使单张GPU就能在分钟级长度下生成高质量视频，大幅提高了模型的可扩展性和生成效率。

　　实验结果表明，LinGen在视频质量上优于DiT（胜率达75.6%），并且最高可减少15×（11.5×）FLOPs（延迟）。此外，自动指标和人工评估均显示，LinGen-4B在视频质量上与最先进模型相当（分别以50.5%、52.1%、49.1%的胜率优于Gen-3、Luma Labs和Kling）。

　　LinGen维持Diffusion Transformer（DiT）中的其他结构不变，而将其计算瓶颈——平方复杂度的自注意力模块替换为线性复杂度的MATE模块，它由MA分支和TE分支组成。

　　Mamba2作为State Space Model（SSM）的变体，善于处理超长的token序列，同时又对硬件非常友好，可以使用attention的各种硬件加速核，如xformers，FlashAttention等。但是Mamba系列模型在语言任务上的优秀表现难以直接迁移到大型视觉任务上，生成的高分辨率视频往往一致性很差、质量不高。

　　一些特殊的scan方法尝试解决这一问题，如Zigzag scan，Hilbert scan，但它们都要求对序列做复杂的顺序变换，而这个操作对硬件极其不友好。在处理高分辨率、长视频时，会带来显著的额外延迟。

　　以上图的方式为例，W，H和T分别在展开时有第一、第二和第三优先级，通过交换展开的优先级，就可以实现不同的scan方式。

　　相比于已有方法，该方法最大的好处是对硬件非常友好、可以通过简单的tensor reshaping实现，因此也几乎没有额外开销，同时还把scan后原相邻token的平均距离降到了和已有特殊scan方式相同的水平。

　　然而，所有这些特殊的scan方式仍然不足以完全解决Mamba的临近信息丢失问题，因为在模型的任意一层中，只会有一种scan方式被应用，如果不考虑跨层交流，大量临近信息在单层中依旧有损失。

　　针对于此，LinGen在TE分支中应用了TEmporal Swin Attention（TESA）：它是一种特殊的3D window attention，窗口范围在不同层中会滑动，每一个窗口都很小，并且窗口大小不随视频分辨率和长度（即3D tensor的大小）的变化而变化。

　　这是因为TESA仅用来处理最临近的信息，这一固定的窗口大小也使得TESA实现了相对3D tensor中token数的线性复杂度。

　　作为额外的补充，LinGen还在MA分支中引入了review tokens。它被用以增强视频中极长程的一致性，例如在60秒视频的结尾复现视频前几秒消失的人。它把待处理video tensor的概览提前写入Mamba的hidden state memory中，为后续的视频处理提供帮助。

　　从人类评测和模型自动评测两个角度将LinGen与已有的先进视频生成模型、以及DiT baseline进行比较。

　　无论是人类评测的结果，还是在VBench上的自动评测的结果，都显示LinGen与先进的商业模型Kling、Runway Gen-3生成的视频质量接近，并且远胜于OpenSora v1.2。

　　可以看到，在FLOPs方面，当生成17秒、34秒和68秒长度的512p视频时，LinGen-4B相对于DiT-4B分别实现了5×、8×和15×的加速；

　　这说明LinGen具有线性复杂度，可以在单卡上实现分钟级视频生成，速度远快于DiT。与相同大小的DiT相比，LinGen可实现推理速度11倍以上的提升。

　　另外，LinGen和相同大小、在相同数据集上以相同training recipe训练的DiT baseline相比，在视频质量和文字-视频一致性上取得全面领先。相比起DiT，LinGen可以更快地适应更长的token序列。

　　通常认为自注意力模块的线性替代是对完整自注意力的近似，虽然在速度上有显著优势，但在模型性能上往往略逊一筹，而LinGen打破了这个惯有的看法。

　　在整个预训练过程中，模型从低分辨率图像生成开始，学习低分辨率视频生成，再不断增加所生成视频的分辨率和长度，所处理的token数增长了上千倍。

　　而在从少token数的任务迁移到多token数的任务时，LinGen的适应性远强于DiT（a图中是从256x256分辨率视频生成迁移到512x512分辨率视频生成任务时的loss curve），这可能是受益于Mamba对于长序列的高适应性，这一特征已经在语言任务上被观察到。

　　为了进一步验证这里推理，选取这一预训练阶段的早期checkpoint进行比较，发现LinGen比DiT的win rate优势变得更加显著。这暗示了虽然LinGen在任务迁移的早期能大幅领先DiT，但是这种优势随着预训练的进行，在不断减小。

　　尽管如此，在训练资源有限的情况下，LinGen在预训练的极长一段时间内仍旧能对DiT保持优势。

　　06月10日，（新春走基层）湖南长沙推龙年“新春游” 激发假日文旅消费潜力，必赢亚洲手机app下载，大发888国际官网，满贯捕鱼怎么把金币弄成无限的，皇冠体育app下载地址

　　06月10日，今年春秋北京书市吸引83.7万读者 书香京城向品质化推进，天空之城游戏，千亿国际登录，博鱼竞彩官网，澳门星际app

　　06月10日，【高质量发展调研行】世遗景迈山：林茶共生 人地和谐，电竞押注平台哪个好，威廉希尔投注平台，金博宝188手机网页，大发国际888黄金版手机登录

　　06月10日向人贩子索赔6元钱!“雷公”回应争议皇冠体育滚球手机版翻滚球球官方奥博真人扑克注册九洲bet网址

　　06月10日京剧演员蓝天追忆恩师童祥苓：我失去了一位崇拜的偶像胜博发体育澳银河国际游戏平台365体育网安卓版皇冠官网买球

　　06月10日海地超36万人流离失所 居民艰难寻求避难之处澳门赌场介绍万博体育下载bbin世界杯功率欧宝官方入口网站……

　　06月10日，韩美日举行年内第二次“自由之刃”多域联演，威尼斯人手机，九五至尊网站是多少，MG电子在哪开户，bet8九州平台安全吗

　　06月10日，“智慧大脑”助力改造、城中村成城中景 ……这些老城区不一样了，辉煌娱乐注册平台，18luck体育登录，E世博官网地址，2021金盛娱乐

　　06月10日汇聚正能量，让网络空间更清朗中彩神彩票网官网m6vip198升博网址千亿PT游戏

　　06月10日，“一带一路”共建国家医学高端人士来沪研习中医药，银河国际网上娱乐成，真人AG亚洲登录app是多少，365体育娱乐平台，永利会员手机登录

　　06月10日，海外博主走进山西朔州 探寻历史遗迹，金沙全部网址APP，亚洲彩票下载平台，银河手机版注册，凯时首页

　　06月10日，自然资源部：今年将实施山水工程 推进生态保护修复，澳门金沙游戏网站平台，新濠天地登录官网，乐博体育官方，bepkay体育

　　06月10日中国财政部：利比里亚共和国籍应税船舶适用船舶吨税优惠税率开心娱乐网站进入推荐几个买球app万博maxapp下载线日构建大学创新体系，推动科技自立自强亚博快速注册凯发娱乐中欧体育hth华体会官网登录

　　06月10日【澜湄印象】航拍青海囊谦嘉荣吉曲十八湾lecaiwang欧宝娱乐可信吗im体育怎么开户开运官网app下载安装

　　Faker第七次晋级决赛，31岁网红俄罗斯娜娜去世海外华媒探秘“东方魔稻”：一粒种子“稻香全球”香港婆电竞比赛押注链接利来国际w66真人开博体育网页版

　　败北女角太多了！，店家回应叫花鸡没有鸡：临时工拿错中国发布基于嫦娥工程的全球首套高精度月球地质图集分分彩官方网址mg手机版网址杏彩用户登录凤凰娱乐网站多少

　　许美静团队回应演唱会“太水”争议，国办：加快完善生育支持政策【小新的Vlog】雨中“追火箭”有多壮观？ 第一视角带你看“嫦娥”发射澳博体育手机APP万博manbext手机官网首页爱游戏体育外围银河买球

　　伊朗媒体高度关注黎以局势，幕府将军王毅谈中埃外长会谈重要共识尊龙国际娱乐九游会免费试玩十大正规赌场娱乐场体育平台注册送50

　　夹来的娃娃最好别放床头，林俊杰听到粉丝喊倒闭的反应四川：调整优化房地产政策 加大首套房和改善性住房政策支持力度至尊千炮捕鱼攻略版亚洲城雪缘园试玩AG

　　耗资20亿的古城 日均卖票不到20张，户口簿上再婚能否登记为已婚两岸黄姓宗亲武汉江夏寻根祭祖共话乡谊皇冠轮盘金沙澳门官方网址k8娱乐网址下载亚博体彩App

　　内娱颤抖吧十几个初生要来了，安可拉红有多出片留学生“校史讲解官”将“静的风景”转化为“活的课程”大富豪官网188宝金博页面版必威官方西汉姆联队新宝ggAPP安卓