依星源码资源网,依星资源网

 找回密码
 立即注册

QQ登录

只需一步,快速开始

【好消息,好消息,好消息】VIP会员可以发表文章赚积分啦 !
查看: 14|回复: 0

一个模块化的交互数字人对话实现,能够在单台PC上运行完整功能。

[复制链接] 主动推送

1万

主题

1万

帖子

1万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
19972
发表于 7 小时前 | 显示全部楼层 |阅读模式
一个模块化的交互数字人对话实现,能够在单台PC上运行完整功能。
核心亮点
  • 低延迟数字人实时对话:平均回答延迟在2.2秒左右。
  • 多模态语言模型:支持多模态语言模型,包括文本、音频、视频等。
  • 模块化设计:使用模块化的设计,可以灵活地替换组件,实现不同功能组合。
更新日志
  • [2025.06.12] 版本 0.4.1发布:
    • 增加对MuseTalk数字人的支持,支持自定义形象(底版视频自定义)
    • 50个LiteAvatar新形象发布,丰富各种职业角色,请见LiteAvatarGallery
  • [2025.04.18] 版本 0.3.0发布:
    • 热烈祝贺LAM论文被SIGGRAPH 2025接收!
    • 增加对LAM数字人 (能够单图秒级打造超写实3D数字人的开源项目) 的支持
    • 增加使用百炼API的tts handler,可以大幅减少对GPU的依赖
    • 增加对微软Edge TTS的支持
    • 现在使用uv进行python的包管理,依赖可以按照配置中所激活的handler进行安装
    • CSS响应式布局更新
  • [2025.04.14] 版本 0.2.2发布:
    • 100个LiteAvatar新形象发布,请见LiteAvatarGallery
    • 默认使用GPU后端运行数字人lite-avata
  • [2025.04.07] 版本 0.2.1发布:
    • 增加历史记录支持
    • 支持文本输入
    • 启动时不再强制要求摄像头存在
    • 优化模块化加载方式
  • [2025.02.20] 版本 0.1.0发布:
    • 模块化的实时交互对话数字人
    • 支持MiniCPM-o作为多模态语言模型和云端的 api 两种调用方
    ModelScope HuggingFace上均部署了一个体验服务,音频部分采用SenseVoice + Qwen-VL + CosyVoice实现,可以对LiteAvatarLAM两种数字人能力进行切换,欢迎体验。

一个模块化的交互数字人对话实现,能够在单台PC上运行完整功能。目前支持MiniCPM-o作为多模态语言模型或者使用云端的 api 替换实现常规的ASR + LLM + TTS。这两种模式的结构如下图所示。

一个模块化的交互数字人对话实现,能够在单台PC上运行完整功能。

一个模块化的交互数字人对话实现,能够在单台PC上运行完整功能。

系统需求
  • Python版本 >=3.11.7
  • 支持CUDA的GPU
  • 未量化的多模态语言模型MiniCPM-o需要20GB以上的显存。
  • 数字人部分可以使用GPU/CPU进行推理,测试设备CPU为i9-13980HX,CPU推理下可以达到30FPS.

性能指标
在我们的测试中,使用配备 i9-13900KF 处理器和 Nvidia RTX 4090 显卡的 PC,我们记录了回答的延迟时间。经过十次测试,平均延迟约为 2.2 秒。延迟时间是从用户语音结束到数字人开始语音的时间间隔,其中包含了 RTC 双向数据传输时间、VAD(语音活动检测)停止延迟以及整个流程的计算时间。

组件依赖[td]
类型开源项目

RTCHumanAIGC-Engineering/gradio-webrtc
VADsnakers4/silero-vad
LLMOpenBMB/MiniCPM-o

LLM-int4OpenBMB/MiniCPM-o

AvatarHumanAIGC/lite-avatar
TTSFunAudioLLM/CosyVoice
Avataraigc3d/LAM_Audio2Expression

facebook/wav2vec2-base-960h
AvatarTMElyralab/MuseTalk



链接:https://pan.quark.cn/s/bdd8ddf78fb6

提取码下载:
文件名称:提取码下载.txt 
下载次数:0  文件大小:16 Bytes  售价:59金钱 [记录]
下载权限: 不限 [购买VIP]   [充值]   [在线充值]   【VIP会员6折;永久VIP4折】
安全检测,请放心下载





相关帖子

扫码关注微信公众号,及时获取最新资源信息!下载附件优惠VIP会员6折;永久VIP4折
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

免责声明:
1、本站提供的所有资源仅供参考学习使用,版权归原著所有,禁止下载本站资源参与商业和非法行为,请在24小时之内自行删除!
2、本站所有内容均由互联网收集整理、网友上传,并且以计算机技术研究交流为目的,仅供大家参考、学习,请勿任何商业目的与商业用途。
3、若您需要商业运营或用于其他商业活动,请您购买正版授权并合法使用。
4、论坛的所有内容都不保证其准确性,完整性,有效性,由于源码具有复制性,一经售出,概不退换。阅读本站内容因误导等因素而造成的损失本站不承担连带责任。
5、用户使用本网站必须遵守适用的法律法规,对于用户违法使用本站非法运营而引起的一切责任,由用户自行承担
6、本站所有资源来自互联网转载,版权归原著所有,用户访问和使用本站的条件是必须接受本站“免责声明”,如果不遵守,请勿访问或使用本网站
7、本站使用者因为违反本声明的规定而触犯中华人民共和国法律的,一切后果自己负责,本站不承担任何责任。
8、凡以任何方式登陆本网站或直接、间接使用本网站资料者,视为自愿接受本网站声明的约束。
9、本站以《2013 中华人民共和国计算机软件保护条例》第二章 “软件著作权” 第十七条为原则:为了学习和研究软件内含的设计思想和原理,通过安装、显示、传输或者存储软件等方式使用软件的,可以不经软件著作权人许可,不向其支付报酬。若有学员需要商用本站资源,请务必联系版权方购买正版授权!
10、本网站如无意中侵犯了某个企业或个人的知识产权,请来信【站长信箱312337667@qq.com】告之,本站将立即删除。
郑重声明:
本站所有资源仅供用户本地电脑学习源代码的内含设计思想和原理,禁止任何其他用途!
本站所有资源、教程来自互联网转载,仅供学习交流,不得商业运营资源,不确保资源完整性,图片和资源仅供参考,不提供任何技术服务。
本站资源仅供本地编辑研究学习参考,禁止未经资源商正版授权参与任何商业行为,违法行为!如需商业请购买各资源商正版授权
本站仅收集资源,提供用户自学研究使用,本站不存在私自接受协助用户架设游戏或资源,非法运营资源行为。
 
在线客服
点击这里给我发消息 点击这里给我发消息 点击这里给我发消息
售前咨询热线
312337667

微信扫一扫,私享最新原创实用干货

QQ|免责声明|小黑屋|依星资源网 ( 鲁ICP备2021043233号-3 )|网站地图

GMT+8, 2025-8-8 18:13

Powered by Net188.com X3.4

邮箱:312337667@qq.com 客服QQ:312337667(工作时间:9:00~21:00)

快速回复 返回顶部 返回列表