Удосконалення методу семантичного пошуку фільмів на основі зваженого агрегування багатоджерельних ембедингів
Анотація
Досліджено особливості підвищення ефективності семантичного пошуку фільмів поєднанням різнорідних текстових джерел, які описують різні аспекти кіноконтенту. Перевірено підхід до зваженого агрегування щільних векторних подань, сформованих з метаданих, користувацьких відгуків та англомовних субтитрів, на наборі даних зі 100 фільмів і 50 природномовних запитів із наперед визначеними релевантними фільмами. В експерименті застосовано косинусну подібність, Recall@5, Hit Rate@5, Mean Reciprocal Rank, bootstrap-довірчі інтервали та критерій Вілкоксона для оцінювання окремих і комбінованих конфігурацій. Встановлено, що векторні подання на основі відгуків забезпечили найвищу ефективність семантичного пошуку фільмів серед окремих джерел: Recall@5 = 0,63, Hit Rate@5 = 0,90 і MRR = 0,78, перевищивши результати метаданих і субтитрів. Це свідчить про те, що відгуки краще узгоджуються з природномовними запитами, оскільки містять оцінкові описи, тематичні узагальнення, емоційні враження та згадки про сюжетні елементи. Визначено, що субтитри, попри найбільший обсяг тексту, не забезпечили найкращої якості ранжування релевантних фільмів через наявність діалогових заповнювачів, контекстно залежних висловлювань і семантично нейтральних фрагментів. Підтверджено, що зважене агрегування різнорідних текстових подань покращило ефективність пошуку релевантних фільмів порівняно з окремими поданнями: збалансована конфігурація вагомостей джерел досягла найвищого середнього MRR = 0,89, тоді як конфігурація з домінуванням відгуків досягла найвищого середнього Recall@5 = 0,73. Проведено статистичне тестування результатів експерименту, яке підтвердило значні покращення зважених конфігурацій порівняно з найкращим окремим текстовим джерелом для окремих метрик; однак відмінності між збалансованою конфігурацією та конфігурацією з домінуванням відгуків не були статистично значущими. Отже, ці конфігурації доцільно розглядати як порівнянні зважені стратегії з різними профілями пошуку. Проаналізовано категорії запитів і встановлено, що описові запити тяжіють до метаданих, суб'єктивні до відгуків, а контекстні та персонажно орієнтовані запити залежать від кількох джерел. Практична цінність дослідження полягає у визначенні внеску метаданих, відгуків і субтитрів у семантичний пошук фільмів та підтвердженні ефективності зваженого поєднання джерел. Окреслені подальші етапи дослідження доцільно спрямувати на розширення набору даних, порівняння кількох embedding-моделей і розроблення адаптивних стратегій зважування залежно від типу запиту.
Завантаження
Посилання
Bain, M., Nagrani, A., Brown, A., & Zisserman, A. (2020). Condensed movies: Story based retrieval with contextual embeddings. Proceedings of the Asian Conference on Computer Vision (ACCV 2020). 460–479. https://doi.org/10.48550/arXiv.2005.04208
Chen, C., Zhang, M., Liu, Y., & Ma, S. (2018). Neural Attentional Rating Regression with Review-level Explanations. Proceedings of the 2018 World Wide Web Conference (WWW 18). 2021, pp. 1583–1592. https://doi.org/10.1145/3178876.3186070
Eden, S., Livne, A., Shalom, O. S., Shapira, B., & Jannach, D. (2022). Investigating the Value of Subtitles for Improved Movie Recommendations. Proceedings of the 30th ACM Conference on User Modeling, Adaptation and Personalization (UMAP 22). 2022, pp. 99–109. https://doi.org/10.1145/3503252.3531291
Gao, T., Yao, X., & Chen, D. (2021). SIMCSE: Simple Contrastive Learning of Sentence Embeddings. arXiv (Cornell University). https://doi.org/10.48550/arxiv.2104.08821
Iliopoulou, K., Kanavos, A., Ilias, A., Makris, C., & Vonitsanos, G. (2020). Improving movie recommendation systems filtering by exploiting User-Based reviews and movie synopses. In IFIP advances in information and communication technology (pp. 187–199). https://doi.org/10.1007/978-3-030-49190-1_17
Karpukhin, V., Oğuz, B., Min, S., Lewis, P., Wu, L., Edunov, S., Chen, D., & Yih, W. (2020). Dense passage retrieval for open-domain question answering. Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP). 2020, 6769–6781. https://doi.org/10.48550/arXiv.2004.04906
Korikov, A., Saad, G., Baron, E., Khan, M., Shah, M., & Sanner, S. (2024). Multi-Aspect Reviewed-Item retrieval via LLM query decomposition and aspect fusion. arXiv (Cornell University). https://doi.org/10.48550/arxiv.2408.00878
Mustafa, A., Mheidat, H., & Shatnawi, A. (2024). A semantic similarity search engine for movies. International Journal of Power Electronics and Drive Systems/International Journal of Electrical and Computer Engineering, 14(6), article ID 7137. https://doi.org/10.11591/ijece.v14i6.pp7137-7144
Nazir, S., Cagali, T., Newell, C., & Sadrzadeh, M. (2020). Cosine similarity of multimodal content vectors for TV programmes. arXiv (Cornell University). https://doi.org/10.48550/arxiv.2009.11129
Nussbaum, Z., Morris, J. X., Duderstadt, B., & Mulyar, A. (2024). Nomic Embed: Training a reproducible long context text embedder. arXiv (Cornell University). https://doi.org/10.48550/arxiv.2402.01613
Reimers, N., & Gurevych, I. (2019). Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks. TUbilio (Technical University of Darmstadt). https://doi.org/10.48550/arxiv.1908.10084
VectorSearch: Enhancing Document Retrieval with Semantic Embeddings and Optimized Search. (n.d.). https://arxiv.org/html/2409.17383v1#S5
Wang, L., Yang, N., Huang, X., Jiao, B., Yang, L., Jiang, D., Majumder, R., & Wei, F. (2022). Text embeddings by Weakly-Supervised contrastive pre-training. arXiv (Cornell University). https://doi.org/10.48550/arxiv.2212.03533
Zheng, L., Noroozi, V., & Yu, P. S. (2017). Joint deep modeling of users and items using reviews for recommendation. arXiv (Cornell University). https://doi.org/10.48550/arxiv.1701.04783
