Vector representation of words using the apparatus of quantum probability theory
A.V. Platonov, Igor Bessmertny, Ю А Королёва
Рассмотрена проблема моделирования семантики текстовых документов на основе векторного представления слов в гильбертовом пространстве.Векторное представление отражает семантику слов, окружающих данное (контекст).Если слово встречается в исследуемом документе неоднократно, множество контекстов слова образует его обобщенный контекст.Можно рассматривать разные контексты слова как разные проекции, а обобщенный контекст -как восстановленный многомерный объект.Целью исследования является повышение качества восстановления контекста слова за счет учета дополнительных факторов, в частности, возможной неортогональности контекстов.Использована квантовая теория вероятностей.Восстановление контекста соответствует задаче квантовой томографии в квантовой физике.Задача восстановления контекста слова, или в терминах квантовой математики -матрицы плотности вероятностей, решается методом градиентного спуска с помощью машинного обучения.Набор регуляризаторов обеспечивает сходимость процесса по критерию дивергенции Кульбака-Лейблера.
Известия высших учебных заведений. Приборостроение•Dec 19, 2019•0 citations