全体方案并不繁芜,据 Reed 先容,他先截了一些自己通过 Zoom 开会的图片,然后基于 Artyom.js 开源库(进行侦听和相应)构建了一个大略的 Web 运用程序,对其进行编程以便可以听懂一些大略的对话,比如“你好吗?”、“你明白了吗”、“再见”等。空想情形下,Zoombot 可以处理从“Hello”到“Bye”的全体会议过程,而不会引起任何人把稳,但现阶段的项目更多是出于兴趣建立的,不是很完善,以是,Reed 也把项目放到 GitHub 上面了,供开拓者考试测验。
GitHub 地址: https://github.com/mcreed/zoombot
Reed 认为比较好的部分是不必给它一个像“Hey,Siri”这样的唤醒词,就可以开始利用。只要外界有语音触发就可以相应,合营脸部的运动给出答复。

Zoombot 项目一共花费了大约四个小时来构建,而 Reed 又花了大约四个小时来组织 Zoom 会议并记录同事们的真实反应。Reed 调侃道:“诀窍是在聊完之前就离开会议室,由于一旦进入“我听不到你的声音,可以重复一遍吗?”的去世循环中就麻烦了。
Zoom 虚拟化身项目关键:一阶运动模型如果说上面这个项目以有趣为主,接下来先容的这个开源项目则更加靠近实用,并且其所依据的理论早在一年前便有人提出。
avatarify 项目也是一位国外开拓者发布在 GitHub 上的开源项目,可以为 Zoom、Skype 这类视频通话运用添加自己的替人,项目中利用的核心模型 first order model 来源于一篇 NIPS 论文《First Order Motion Model for Image Animation》。
一阶运动模型的好处是一旦经由一组描述相同种别工具的视频演习(例如人脸、人体),这种方法就可以运用于此类的任何工具。模型采取自监督的方法将外不雅观和运动信息分离,紧张由两个紧张模块组成:运动估计模块和图像天生模块。
模型动画示例
如上图所示,最左边的大图像是驱动视频,右侧第一排小图像是源视频,下面一排是驱动视频。
在安装和配置完成,如果想得到一些裁剪见地,可以利用 python crop-video.py --inp some_youtube_video.mp4,它将利用 ffmpeg 天生一些命令,须要 face-alligment 库:
git clone https://github.com/1adrianb/face-alignmentcd face-alignmentpip install -r requirements.txtpython setup.py install
其他内容可访问 GitHub 地址:
https://github.com/AliaksandrSiarohin/first-order-model
avatarify 项目地址:
https://github.com/alievk/avatarify
在 GitHub 上,作者给出了详细的安装方法,添加完成后在 Zoom 中选择设置摄像头利用 avatarify,就可以将天生的图像通过 OpenCV 实时推送到视频流了。
须要把稳的地方是只管即便利用头像缩放功能在预览窗口中将您的面部与目标化身的比例和位置尽可能地对齐。对齐后,单击“ X”以利用此帧作为参考来驱动别的动画。
其余,也可以在软件上按“ F”以考试测验自己找到一个更好的参考系。这会减慢帧速率,但是在发生以下情形时,可以连续移动头部:当预览窗口创造面部姿势与当前利用的头像更靠近时,它将闪烁绿色。您还将看到两个数字显示:第一个数字是您当前与化身对齐的紧密程度,第二个数字是参考系对齐的紧密程度。您可以选择一个好的对齐办法。完成后,再次按“ F”退出参考帧搜索模式。全体过程不须要很严格,其他一些配置仍旧可以产生很好的结果,但这是一个好的出发点。
此外,开拓者还演示了通过该项目让马斯克加入视频会议的效果,供大家参考。
可以通过 Reddit 不雅观看此视频:
https://www.reddit.com/r/MediaSynthesis/comments/fxc34i/elon_musk_joined_our_zoom_call_avatarify/
参考链接:
https://musebycl.io/index.php/makers/agency-guy-built-ai-clone-attend-zoom-meetings-him
https://www.reddit.com/r/MediaSynthesis/comments/fxc34i/elon_musk_joined_our_zoom_call_avatarify/
https://aliaksandrsiarohin.github.io/first-order-model-website/
https://github.com/alievk/avatarify