400 128 6709

行业新闻

DeepMind用AI重写排序算法;将33B大模型塞进单个消费级GPU

发布时间:2023-06-12点击次数:

目录:


  1. Faster sorting algorithms discovered using deep reinforcement learning
  2. Video-LLaMA: An Instruction-tuned Audio-Visual Language Model for Video Understanding
  3. Patch-based 3D Natural Scene Generation from a Single Example
  4. Spatio-temporal Diffusion Point Processes
  5. SpQR: A Sparse-Quantized Representation for Near-Lossless LLM Weight Compression
  6. UniControl: A Unified Diffusion Model for Controllable Visual Generation In the Wild
  7. FrugalGPT: How to Use Large Language Models While Reducing Cost and Improving Performance

论文 1:Faster sorting algorithms discovered using deep reinforcement learning

  • 作者:Daniel J. Mankowitz 等
  • 论文地址:https://www.nature.com/articles/s41586-023-06004-9

摘要:「通过交换和复制移动,AlphaDev 跳过了一个步骤,以一种看似错误,但实际上是捷径的方式连接项目。」这种前所未见、违反直觉的思想不禁让人回忆起 2016 年那个春天。

七年前,AlphaGo 在围棋上击败人类世界冠军,如今 AI 又在编程上给我们上了一课。Google DeepMind CEO 哈萨比斯的两句话引爆计算机领域:「AlphaDev 发现了一种全新且更快的排序算法,我们已将其开源到主要 C++ 库中供开发人员使用。这只是 AI 提升代码效率进步的开始。」

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

DeepMind用AI重写排序算法;将33B大模型塞进单个消费级GPU

推荐:AI 重写排序算法,速度快 70%:DeepMind AlphaDev 革新计算基础,每天调用万亿次的库更新了

论文 2:Video-LLaMA: An Instruction-tuned Audio-Visual Language Model for Video Understanding

  • 作者:Hang Zhang 等
  • 论文地址:https://arxiv.org/abs/2306.02858

摘要:近期,大语言模型展现出了令人瞩目的能力。我们能否给大模型装上 “眼睛” 和 “耳朵”,让它能够理解视频,陪着用户互动呢?

从这个问题出发,达摩院的研究人员提出了 Video-LLaMA,一个具有综合视听能力大模型。Video-LLaMA 能够感知和理解视频中的视频和音频信号, 并能理解用户输入的指令,完成一系列基于音视频的复杂任务,例如音 / 视频描述,写作,问答等。目前论文,代码,交互 demo 都已开放。另外,在 Video-LLaMA 的项目主页中,该研究团队还提供了中文版本的模型,让中文用户的体验更丝滑。

下面两个例子展示了 Video-LLaMA 的视听综合感知能力,例子中的会话围绕有声视频展开。

Seede AI Seede AI

AI 驱动的设计工具

Seede AI 713 查看详情 Seede AI

deepmind用ai重写排序算法;将33b大模型塞进单个消费级gpu

推荐:给语言大模型加上综合视听能力,达摩院开源 Video-LLaMA。

论文 3:Patch-based 3D Natural Scene Generation from a Single Example

  • 作者:Weiyu Li 等
  • 论文地址:https://arxiv.org/abs/2304.12670

摘要:北京大学陈宝权团队联合山东大学和腾讯 AI Lab 的研究人员,提出了首个基于单样例场景无需训练便可生成多样高质量三维场景的方法。

DeepMind用AI重写排序算法;将33B大模型塞进单个消费级GPU

推荐:CVPR 2025 | 三维场景生成:无需任何神经网络训练,从单个样例生成多样结果。

论文 4:Spatio-temporal Diffusion Point Processes

  • 作者:Yuan Yuan 等
  • 论文地址:https://arxiv.org/abs/2305.12403

摘要:清华电子工程系城市科学与计算研究中心最新提出时空扩散点过程,突破已有方法建模时空点过程的受限概率形式和高采样成本等缺陷,实现了灵活、高效且易于计算的时空点过程模型,可广泛用于城市自然灾害、突发事故和居民活动等时空事件的建模与预测,促进城市规划和管理的智能化发展。下表展示 DSTPP 相比已有点过程解决方案的优势。

DeepMind用AI重写排序算法;将33B大模型塞进单个消费级GPU

推荐:扩散模型还能预测地震和犯罪?清华团队最新研究提出时空扩散点过程。

论文 5:SpQR: A Sparse-Quantized Representation for Near-Lossless LLM Weight Compression

  • 作者:Tim Dettmers 等
  • 论文地址:https://arxiv.org/pdf/2306.03078.pdf

摘要:为了解决准确性问题,来自华盛顿大学、苏黎世联邦理工学院等机构的研究者提出了一种新的压缩格式和量化技术 SpQR(稀疏 - 量化表征),首次实现了 LLM 跨模型尺度的近无损压缩,同时达到了与以前方法相似的压缩水平。

SpQR 通过识别和隔离异常权重来工作,这些异常权重会导致特别大的量化误差,研究者将它们以更高的精度存储,同时将所有其他权重压缩到 3-4 位,在 LLaMA 和 Falcon LLMs 中实现了不到 1% 的困惑度相对准确率损失。在单个 24GB 的消费级 GPU 上运行 33B 参数的 LLM,而不会有任何性能下降,同时还能提高 15% 的速度。下图 3 为 SpQR 的总体架构。

DeepMind用AI重写排序算法;将33B大模型塞进单个消费级GPU

推荐:将 330 亿参数大模型「塞进」单个消费级 GPU,加速 15%、性能不减。

论文 6:UniControl: A Unified Diffusion Model for Controllable Visual Generation In the Wild

  • 作者:Can Qin 等
  • 论文地址:https://arxiv.org/abs/2305.11147

摘要:本文中,Salesforce AI、东北大学、斯坦福大学的研究者提出了 MOE-style Adapter 和 Task-aware HyperNet 来实现 UniControl 中的多模态条件生成能力。UniControl 在九个不同的 C2I 任务上进行训练,展示了强大的视觉生成能力和 zero-shot 泛化能力。UniControl 模型由多个预训练任务和 zero-shot 任务组成。

DeepMind用AI重写排序算法;将33B大模型塞进单个消费级GPU

推荐:多模态可控图片生成统一模型来了,模型参数、推理代码全部开源。

论文 7:FrugalGPT: How to Use Large Language Models While Reducing Cost and Improving Performance

  • 作者:Lingjiao Chen 等
  • 论文地址:https://arxiv.org/pdf/2305.05176.pdf

摘要:成本和准确性之间的平衡是决策制定的关键因素,尤其是在采用新技术时。如何有效和高效地利用 LLM 是从业者面临的关键挑战:如果任务相对简单,那么聚合来自 GPT-J (其规模比 GPT-3 小 30 倍)的多个响应可以实现与 GPT-3 类似的性能,从而实现成本和环境上的权衡。然而,在较为困难任务上,GPT-J 的性能可能会大大下降。因此,如何经济高效地使用 LLM 需要采用新的方法。

最近的一项研究尝试提出解决这一成本问题的方法,研究者通过实验表明,FrugalGPT 可以与最佳个体 LLM(例如 GPT-4) 的性能相媲美,成本降低高达 98%,或者在相同成本下将最佳个体 LLM 的准确性提高 4%。该研究讨论了三种降低成本的策略,即 prompt 适应、LLM 近似和 LLM 级联。

DeepMind用AI重写排序算法;将33B大模型塞进单个消费级GPU

推荐:GPT-4 API 平替?性能媲美同时成本降低 98%,斯坦福提出 FrugalGPT,研究却惹争议。

以上就是DeepMind用AI重写排序算法;将33B大模型塞进单个消费级GPU的详细内容,更多请关注其它相关文章!


# 清华  # seo创作网站  # 网站引擎优化推荐怎么做  # 山东靠谱seo公司  # 雷州外贸网站建设  # 邵武专业seo大概费用  # 本溪互联网营销推广公司  # 信阳网站建设大约多少钱  # 兰蔻seo建议  # 东昌府区网站seo优化排名  # 改关键词影响排名  # 实现了  # 论文  # 还能  # 多个  # 太多  # 达摩  # 提出了  # 开源  # 塞进  # 重写  # udio  # llama 


相关栏目: 【 行业新闻62819 】 【 科技资讯67470


相关推荐: 边喷火边跳踢踏舞,机器狗最新技能爆火全网!网友直呼真·热狗  传Meta 2025年推出首款AR眼镜,采用军用级别材料,计划生产1000台  华为发布大模型时代AI存储新品  生成式AI对云运维的3大挑战  杭州举办第19届亚运会,主题为「亚运元宇宙」的发布仪式举行  盘古大模型3.0正式发布 AI开发正走向新“工业化开发模式”  论文插图也能自动生成了,用到了扩散模型,还被ICLR接收  字节、网易相继入局,AI之后大厂又找到下一个风口?  机器人 展才能  令人惊叹!AI模型能够以iPhone照片为基础创作诗歌  苹果在韩举办首届中小企业智能制造论坛,加速推动工业4.0发展  西班牙小鲜肉*视频在网上疯传,本人发文澄清:是AI换脸的假视频!  人工智能驱动艺术,打开达利的超现实想象  鉴智机器人发布基于地平线征程5的标准视觉感知产品  美版贴吧8000小组自爆停摆!拒绝数据被谷歌OpenAI白嫖,CEO被网友骂翻:背刺第三方应用  苹果机器学习关键人物 Ali Farhadi 离职,回归 AI2 担任 CEO  人工智能助力林草行业高质量发展  “无人驾驶船”将首次亮相世界人工智能大会,下半年或开进上海迪士尼  央视报道!星纪魅族集团车载人机交互技术成世界移动通信大会焦点  谷歌计划在上海举办开发者大会,重点关注机器学习和生成式AI领域  微软必应聊天现已在Chrome和Safari浏览器上可用,但仍有许多限制存在  英伟达推出 L40S GPU,AI 推理性能超过 A100 约 1.2 倍  7条线路感受智慧美好生活,“2025 世界人工智能大会民营企业社会开放日”主题活动启动  李开复官宣新公司「零一万物」,进军 AI 2.0  Meta将VR头显最低年龄限制从13岁降至10岁  GPT-4是如何工作的?哈佛教授亲自讲授  RoboNeo什么时候上线  明略科技发布免费开源TensorBoard.cpp,促进大型模型的预训练工作  生活垃圾智能分类机器人社区展“才能”,征求居民意见  飒智智能机器人核心技术与应用论坛暨一体化控制器发布会成功举办  AI成政客博弈工具,美国大选真假难辨,律师们的生意来了  “痴迷”元宇宙,魔珐科技想做什么?  周星驰支持的人工智能与 Web3 初创公司 Moonbox 完成 100 万美元融资  国产工业机器人领域“暗潮涌动”,即将迎来新一轮复苏  无人机协助盐城交通执法的协同训练  读创正式上线“读创AI聊”功能  图灵奖得主Hinton:我已经老了,如何控制比人类更聪明的AI交给你们了  李开复:未来几年,人工智能会革了所有人的命,除非你这么做  Meta发布"类人"AI图像创建模型,能解决多出手指等Bug  PHP和OpenCV库:如何实现人脸识别  AI+音乐如何“生成”动听旋律?一起揭秘世界人工智能大会开场曲  推动综合能源服务高质量发展  13条咒语挖掘GPT-4最大潜力,Github万星AI导师火了,网友:隔行再也不隔山了  Meta 人工智能业务落后竞争对手,研究人员大量离职成重要原因  微软更新服务协议,以防止通过AI服务进行逆向工程和数据抓取  云深处科技绝影 Lite3 与 X20 四足机器人亮相  英伟达CEO宣称生成式AI已迎来“划时代时刻”  山东机器人编程:Scratch编程基础,认识舞台!~济南机器人编程  AI时代,企业需要什么样的员工?  全新“AI助手”!讯飞星火助手中心人机协作共创新生态 

400 128 6709
E-mail

contact@tlftec.cn

扫一扫,添加微信

©  云南淘乐房科技有限公司 版权所有  滇ICP备2025071560号  

云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司