ترجمه فارسی مقاله ترکیب چندوجهی با LLM برای پیشبینی تعامل در مکالمه طبیعی
عنوان مقاله به انگلیسی
Multimodal Fusion with LLMs for Engagement Prediction in Natural Conversation
عنوان مقاله به فارسی
ترکیب چندوجهی با LLM برای پیشبینی تعامل در مکالمه طبیعی
نویسندگان
Cheng Charles Ma, Kevin Hyekang Joo, Alexandria K. Vail, Sunreeta Bhattacharya, Álvaro Fernández García, Kailana Baker-Matsuoka, Sheryl Mathew, Lori L. Holt, Fernando De la Torre
Artificial Intelligence,Computation and Language,Human-Computer Interaction,Machine Learning,هوش مصنوعی , محاسبات و زبان , تعامل انسان و رایانه , یادگیری ماشین ,
توضیحات
Submitted 13 September, 2024; originally announced September 2024. , Comments: 22 pages, first three authors equal contribution
توضیحات به فارسی
ارسال شده 13 سپتامبر 2024 ؛در ابتدا سپتامبر 2024 اعلام شد ، نظرات: 22 صفحه ، سه نویسنده اول سهم برابر
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
چکیده
Over the past decade, wearable computing devices (``smart glasses'') have undergone remarkable advancements in sensor technology, design, and processing power, ushering in a new era of opportunity for high-density human behavior data. Equipped with wearable cameras, these glasses offer a unique opportunity to analyze non-verbal behavior in natural settings as individuals interact. Our focus lies in predicting engagement in dyadic interactions by scrutinizing verbal and non-verbal cues, aiming to detect signs of disinterest or confusion. Leveraging such analyses may revolutionize our understanding of human communication, foster more effective collaboration in professional environments, provide better mental health support through empathetic virtual interactions, and enhance accessibility for those with communication barriers. In this work, we collect a dataset featuring 34 participants engaged in casual dyadic conversations, each providing self-reported engagement ratings at the end of each conversation. We introduce a novel fusion strategy using Large Language Models (LLMs) to integrate multiple behavior modalities into a ``multimodal transcript'' that can be processed by an LLM for behavioral reasoning tasks. Remarkably, this method achieves performance comparable to established fusion techniques even in its preliminary implementation, indicating strong potential for further research and optimization. This fusion method is one of the first to approach ``reasoning'' about real-world human behavior through a language model. Smart glasses provide us the ability to unobtrusively gather high-density multimodal data on human behavior, paving the way for new approaches to understanding and improving human communication with the potential for important societal benefits. The features and data collected during the studies will be made publicly available to promote further research.
چکیده به فارسی (ترجمه ماشینی)
در طول یک دهه گذشته ، دستگاه های محاسبات پوشیدنی ("عینک های هوشمند") در فناوری سنسور ، طراحی و قدرت پردازش پیشرفتهای چشمگیری داشته اند و در دوره جدیدی از فرصت برای داده های رفتار انسانی با چگالی بالا استفاده می کنند.این عینک مجهز به دوربین های پوشیدنی ، فرصتی بی نظیر برای تجزیه و تحلیل رفتار غیر کلامی در تنظیمات طبیعی با تعامل افراد ارائه می دهد.تمرکز ما در پیش بینی مشارکت در تعامل های دودی با بررسی نشانه های کلامی و غیر کلامی ، با هدف تشخیص علائم عدم تمایل یا سردرگمی نهفته است.اعمال چنین تجزیه و تحلیل ممکن است درک ما از ارتباطات انسانی را متحول کند ، همکاری مؤثرتر در محیط های حرفه ای را تقویت کند ، از طریق تعامل مجازی همدلی ، پشتیبانی سلامت روانی بهتری را فراهم کند و دسترسی را برای افراد مبتلا به موانع ارتباطی تقویت کند.در این کار ، ما یک مجموعه داده با 34 شرکت کننده درگیر مکالمه های دودی گاه به گاه جمع آوری می کنیم که هرکدام در پایان هر مکالمه رتبه بندی نامزدی خود را ارائه می دهند.ما یک استراتژی همجوشی جدید را با استفاده از مدلهای بزرگ زبان (LLM) معرفی می کنیم تا چندین روش رفتاری را در "متن چند حالته" ادغام کنیم که می تواند توسط یک LLM برای کارهای استدلال رفتاری پردازش شود.نکته قابل توجه ، این روش به عملکرد قابل مقایسه با تکنیک های همجوشی تعیین شده حتی در اجرای اولیه آن دست می یابد ، که نشانگر پتانسیل قوی برای تحقیقات بیشتر و بهینه سازی است.این روش همجوشی یکی از اولین کسانی است که به "استدلال" در مورد رفتار انسان در دنیای واقعی از طریق یک مدل زبان نزدیک می شود.عینک های هوشمند این امکان را برای ما فراهم می کند که به طور محاسبه داده های چندمادی با چگالی بالا را در مورد رفتار انسان جمع آوری کنیم و راه را برای رویکردهای جدید برای درک و بهبود ارتباطات انسانی با پتانسیل مزایای مهم اجتماعی فراهم کنیم.ویژگی ها و داده های جمع آوری شده در طول مطالعات برای ارتقاء تحقیقات بیشتر در دسترس عموم قرار خواهد گرفت.
📚 محتوای این محصول آموزشی (پکیج کامل)
علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیقتر و تسلط کامل بر مباحث مجموعهای از کتابهای آموزشی نیز ارائه میشود.
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs