这是一个创建于 418 天前的主题，其中的信息可能已经有所发展或是发生改变。
最近在搞多模态搞得有点抑郁了，三个模态语音视频文本，不知道该怎么去对齐了，看了论文有的是抽关键帧，有的是把三维降维到二维做后续运算。。。求 v 友点拨。T T
 |
1
passive 2023-09-11 09:30:49 +08:00 via Android
看标题我还以为你要接光纤。。。
|
 |
2
aeron 2023-09-11 11:30:31 +08:00 via iPhone
没搞过多模态，点拨不了
|
 |
3
zhangyichent 2023-09-11 11:46:28 +08:00
图片和文本的应该可以借鉴现在很多多模态大模型的吧，视频是应该加上一些帧间对比的东西？我觉得可以借鉴下现在做生成视频时候减少抖动的思路？语音感觉实在不行你先转文字，把他转成两个模态的？（没真研究过，随便扯扯)
|
Select Language