آقای محمد عبدوس دانشجوی دکتری دکتربهروز مینایی بیدگلی مورخ: ۱۴۰۵/۰۶/۱۵ ساعت: ۱۴:۰۰ از رساله دکتری خودباعنوان «شباهتیابی معنایی بین زبانی جملات با استفاده از یادگیری عمیق» دفاع خواهند نمود.(ادامه مطلب)
دانشجو: محمد عبدوس استاد راهنما:دکتربهروز مینایی بیدگلی استاد راهنما:دکتربهروز مینایی بیدگلی اعضاء هیات داوری: دکتر محمدرضا کنگاوری
دکتر سید صالح اعتمادی
دکترهشام فیلی( دانشگاه تهران)
دکتر سعیده ممتازی( دانشگاه امیرکبیر)
تاریخ دفاع: ۱۵/۰۶/۱۴۰۵ ساعت: ۱۴ بعد از ظهر محل: مجازی
چکیده: شباهتیابی معنایی متون یکی از زیرشاخههای پردازش زبان طبیعی (NLP) است که در چند سال اخیر توجه زیادی را به خود جلب کرده است. شباهتیابی معنایی به معنای محاسبه میزان شباهت معنایی بین دو سند متنی، پاراگراف یا جمله بوده و به دو صورت تکزبانه و چندزبانه مطرح میشود. سنجش تشابه معنایی بین کلمات، جملات، پاراگرافها و اسناد نقش مهمی در پردازش زبان طبیعی و زبانشناسی رایانشی دارد. کاربردهای شباهتیابی معنایی متون شامل سامانههای پرسش و پاسخ، کشف تقلب، ترجمه ماشینی و بازیابی اطلاعات است. در این رساله، علاوه بر تولید اولین پیکره دوزبانه شباهتیابی معنایی فارسی-انگلیسی، روشهای مختلفی مبتنی بر شبکههای عصبی عمیق برای سنجش شباهت معنایی بین جملات در دو زبان مختلف پیادهسازی و آزمون شدهاند. یکی از مهمترین یافتههای این پژوهش این است که میتوان با استفاده از شبکههای عصبی عمیق فضای برداری مشترک بین زبانی را ایجاد نمود و آز آن فضا میتوان جهت محاسبه میزان شباهت معنایی بین دو زبان مختلف بهره برد. برخی از روشهای موجود بهطور مستقیم و با ایجاد فضای برداری یکسان این کار را انجام میدهند، در حالی که برخی دیگر از ترجمه ماشینی برای یکسان کردن زبان دو جمله استفاده کرده و سپس با استفاده از روشهای شباهتیابی جملات تکزبانه، میزان شباهت آنها را اندازهگیری میکنند. چالش اصلی در مدلهای اولیه چندزبانه، عدم وجود فضای مشترک برداری بین زبانهای با ساختار مختلف است. هرچه بردارهای جملات از لحاظ مفهومی شبیهتر باشند، در فضای برداری به یکدیگر نزدیکترند و سامانه شباهتیابی معنایی دقت بالاتری دارد. بنابراین، یکی از مهمترین نکات در بحث شباهتیابی معنایی جملات، نحوه جانمایی بردارهای جملات است که در این رساله به تفصیل بررسی شده است. در چند سال اخیر، مدلهای زبانی مبتنی بر مبدلها ارائه شدهاند که پیشرفت قابل توجهی در زمینه شباهتیابی متون ایجاد کردهاند. در روش پیشنهادی این رساله، علاوه بر ترکیب مدلهای مبتنی بر مبدلها، مدلهای زبانی بزرگ نیز مورد آزمون قرار گرفتهاند. روشهای ترکیبی ارائهشده در این پژوهش، علاوه بر حفظ مزایای روشهای پیشین، معایب آنها را برطرف کرده و نسبت به مدلهای مبتنی بر مبدلها، بهبود حدود ۱۰ تا ۱۲ درصدی در همبستگی پیرسون برای جفت زبان فارسی-انگلیسی به همراه داشته است. در این رساله، با توجه به برخی از آزمایشهای انجامشده، نشان دادهایم که شبکههای عصبی عمیق میتوانند چالش فضای مشترک برداری بین دو زبان با ساختار متفاوت را حل کنند و از مدل ایجادشده برای شباهتیابی معنایی بین زبانی استفاده شود.
Abstract Semantic Textual Similarity (STS) is a prominent subfield of Natural Language Processing (NLP) that has attracted considerable research interest in recent years. It involves quantifying the degree of semantic resemblance between textual units—such as words, sentences, paragraphs, or entire documents—and can be applied in both monolingual and multilingual contexts. STS plays a vital role in various NLP and computational linguistics applications, including question-answering systems, plagiarism detection, machine translation, and information retrieval. In this dissertation, we introduce the first Persian-English bilingual semantic similarity corpus and evaluate a range of deep neural network-based approaches for measuring cross-lingual sentence similarity. A central finding of this research is that semantically similar sentences should be positioned close to one another in a vector space, allowing their similarity to be computed using standard distance or similarity metrics. Some existing methods achieve this by constructing a shared vector space directly, while others rely on machine translation to map sentences into a common language before applying monolingual similarity measures. Early multilingual models faced a significant challenge due to the absence of a unified vector space across structurally divergent languages. The greater the conceptual alignment between sentence vectors, the closer they reside in the vector space, which in turn enhances the accuracy of the similarity system. Consequently, vector representation alignment emerges as a critical factor in sentence-level STS, and it is thoroughly examined in this dissertation. In recent years, the advent of transformer-based language models has substantially advanced the field of textual similarity. In our proposed approach, we not only integrate transformer-based architectures but also evaluate the performance of large language models (LLMs). The hybrid methods introduced in this study retain the strengths of prior techniques while mitigating their shortcomings, achieving an improvement of approximately ۱۰–۱۲% in Pearson correlation for Persian-English language pairs compared to transformer-only baselines. Through a series of experiments, we demonstrate that deep neural networks can effectively overcome the challenge of establishing a shared vector space between two structurally distinct languages, thereby enabling the developed model to be successfully employed for cross-lingual semantic similarity measurement.
