مقاله T-FOLEY: یک مدل انتشار شکل موج کنترل‌پذیر برای سنتز صدای فولی با هدایت رویدادهای زمانی

چکیده

Foley sound, audio content inserted synchronously with videos, plays a critical role in the user experience of multimedia content. Recently, there has been active research in Foley sound synthesis, leveraging the advancements in deep generative models. However, such works mainly focus on replicating a single sound class or a textual sound description, neglecting temporal information, which is crucial in the practical applications of Foley sound. We present T-Foley, a Temporal-event-guided waveform generation model for Foley sound synthesis. T-Foley generates high-quality audio using two conditions: the sound class and temporal event feature. For temporal conditioning, we devise a temporal event feature and a novel conditioning technique named Block-FiLM. T-Foley achieves superior performance in both objective and subjective evaluation metrics and generates Foley sound well-synchronized with the temporal events. Additionally, we showcase T-Foley’s practical applications, particularly in scenarios involving vocal mimicry for temporal event control. We show the demo on our companion website.

چکیده به فارسی (ترجمه ماشینی)

Foley Sound ، محتوای صوتی همزمان با فیلم ها درج شده است ، نقش مهمی در تجربه کاربر محتوای چندرسانه ای دارد.به تازگی ، تحقیقات فعال در سنتز صدا Foley انجام شده است ، و پیشرفت های مدلهای تولیدی عمیق را اعمال می کند.با این حال ، چنین کارهایی عمدتاً بر تکرار یک کلاس صوتی واحد یا توضیحات صدای متنی متمرکز است ، و از اطلاعات زمانی غفلت می کند ، که در کاربردهای عملی صدای فولی بسیار مهم است.ما T-Foley ، یک مدل تولید شکل موج با هدایت موقتی برای سنتز صدای فولی را ارائه می دهیم.T-Foley با استفاده از دو شرط ، صدای با کیفیت بالا تولید می کند: کلاس صدا و ویژگی رویداد زمانی.برای تهویه موقتی ، ما یک ویژگی رویداد زمانی و یک روش تهویه جدید به نام بلوک فیلم را ابداع می کنیم.T-Foley در هر دو معیارهای ارزیابی عینی و ذهنی به عملکرد برتر می رسد و صدای فولی را به خوبی هماهنگ با وقایع زمانی ایجاد می کند.علاوه بر این ، ما برنامه های عملی T-Foley را به ویژه در سناریوهای مربوط به تقلید صوتی برای کنترل رویدادهای زمانی به نمایش می گذاریم.ما نسخه ی نمایشی را در وب سایت همراه خود نشان می دهیم.