ترجمه فارسی مقاله فوتگا: به سوی درک دقیق موسیقی از طریق تقویت مولد با بهبود زمانی

چکیده

Existing music captioning methods are limited to generating concise global descriptions of short music clips, which fail to capture fine-grained musical characteristics and time-aware musical changes. To address these limitations, we propose FUTGA, a model equipped with fined-grained music understanding capabilities through learning from generative augmentation with temporal compositions. We leverage existing music caption datasets and large language models (LLMs) to synthesize fine-grained music captions with structural descriptions and time boundaries for full-length songs. Augmented by the proposed synthetic dataset, FUTGA is enabled to identify the music’s temporal changes at key transition points and their musical functions, as well as generate detailed descriptions for each music segment. We further introduce a full-length music caption dataset generated by FUTGA, as the augmentation of the MusicCaps and the Song Describer datasets. We evaluate the automatically generated captions on several downstream tasks, including music generation and retrieval. The experiments demonstrate the quality of the generated captions and the better performance in various downstream tasks achieved by the proposed music captioning approach. Our code and datasets can be found in href{https://huggingface.co/JoshuaW1997/FUTGA}{textcolor{blue}{https://huggingface.co/JoshuaW1997/FUTGA}}.

چکیده به فارسی (ترجمه ماشینی)

روشهای زیرنویس موسیقی موجود محدود به تولید توضیحات جهانی کلیپ های موسیقی کوتاه است ، که نتوانند ویژگی های موسیقی ریز دانه و تغییرات موسیقی آگاهانه را ضبط کنند.برای پرداختن به این محدودیت ها ، ما Futga را پیشنهاد می کنیم ، مدلی مجهز به قابلیت های درک موسیقی جریمه شده از طریق یادگیری از تقویت تولیدی با ترکیبات زمانی.ما از مجموعه داده های زیرنویس موسیقی موجود و مدل های بزرگ زبان (LLMS) استفاده می کنیم تا زیرنویس های موسیقی ریز دانه را با توضیحات ساختاری و مرزهای زمانی برای آهنگ های تمام طول ترکیب کنیم.Futga که توسط مجموعه داده مصنوعی پیشنهادی تقویت شده است ، می تواند تغییرات زمانی موسیقی را در نقاط انتقال کلیدی و عملکردهای موسیقی آنها شناسایی کند و همچنین توضیحات مفصلی را برای هر بخش موسیقی ایجاد کند.ما در ادامه یک مجموعه داده زیرنویس موسیقی تمام قد تولید شده توسط Futga ، به عنوان تقویت مجموعه های موسیقی و مجموعه داده های توصیف آهنگ را معرفی می کنیم.ما زیرنویس های تولید شده به طور خودکار را در چندین کار پایین دست از جمله تولید موسیقی و بازیابی ارزیابی می کنیم.این آزمایشات نشان دهنده کیفیت زیرنویس های تولید شده و عملکرد بهتر در کارهای مختلف پایین دست است که با رویکرد زیرنویس موسیقی پیشنهادی حاصل می شود.کد و مجموعه داده های ما را می توان در href {https://huggingface.co/joshuaw1997/futga} { textcolor {blue {https://huggingface.co/joshuaw1997/futga}} یافت.