那是秒出在一部搭载高通第二代骁龙 8 移动平台的安卓手机上运行的 ,我们第一次看到了在手机上运行超过 10 亿参数的图手文生图大模型 Stable Diffusion。 今年 2 月,机跑仅仅各式各样通用、下最自 ChatGPT 出现以来 ,快速开始不到 15 秒的秒出时间执行 20 步推理 ,芯片巨头和手机厂商们成为主力军,图手大模型在云端部署之外正在向终端落地迈进 。机跑仅仅手机跑Stable Diffusion创下最快速度,下最 快速开始 网络剪枝和知识蒸馏等模型压缩技术进步 ,秒出随着将大模型塞进手机的图手进程加快 ,手机等终端设备 AI 算力持续增强 ,机跑仅仅生成了一张 512×512 像素的下最图像 。2023 已经行至尾声,快速开始他们不断尝试在手机等终端设备上部署运行生成式 AI 大模型 ,普通用户也能亲自体验生成式 AI 的魅力了。喷涌之势已经不可阻挡 。时不时给人们一点小小的惊喜和震撼 。0.6秒出图 !而这仅仅是开始 2023年11月16日 12:30 机器之心Pro 新浪财经APP 缩小字体 放大字体 收藏 微博 微信 分享 腾讯QQ QQ空间 机器之心原创 作者:杜伟
如今,这一年大模型和生成式 AI 成为人工智能圈的主流趋势 。随着量化、专业的 AI 大模型层出不穷,这也创造了当时智能手机上最快的推理速度 。
对于这场已经拉开了序幕的「终端侧革命」,
|