WikiDer > Многолинейный анализ главных компонент

Multilinear principal component analysis

Многолинейный анализ главных компонент (MPCA) это полилинейный расширение Анализ главных компонентов (СПС). MPCA используется при анализе n-мерных массивов, то есть куба или гиперкуба чисел, также неофициально называемых «тензором данных». N-сторонние массивы могут быть разложены, проанализированы или смоделированы с помощью

  • линейные тензорные модели, такие как CANDECOMP / Parafac или
  • полилинейные тензорные модели, такие как полилинейный анализ главных компонент (MPCA) или полилинейный анализ независимых компонентов (MICA) и т. д.

Происхождение MPCA можно проследить до Разложение Таккера[1] и работа Питера Крооненберга "M-mode PCA / 3-mode PCA".[2] В 2000 году Де Латхаувер и др. переформулировали работу Такера и Крооненберга в ясных и сжатых терминах численных вычислений в своей статье SIAM, озаглавленной "Мультилинейное разложение по сингулярным значениям",[3] (HOSVD) и в их статье «О лучшем ранге-1 и ранге- (R1, Р2, ..., РN ) Аппроксимация тензоров высших порядков ».[4]

Приблизительно в 2001 г. Василеску переформулировал задачи анализа, распознавания и синтеза данных как полилинейные тензорные задачи, основываясь на понимании того, что большинство наблюдаемых данных являются композиционным следствием нескольких причинных факторов формирования данных и хорошо подходят для многомодального тензорного анализа данных. Сила тензорной структуры была продемонстрирована путем анализа углов суставов движущихся людей, изображений лиц или текстур с точки зрения причинных факторов формирования данных в следующих работах: Сигнатуры движения человека[5](CVPR 2001, ICPR 2002), распознавание лиц - TensorFaces,[6][7](ECCV 2002, CVPR 2003 и др.) И компьютерная графика - ТензорТекстуры[8] (Сигграф 2004).

Исторически MPCA упоминается как «M-mode PCA», эта терминология была введена Питером Круненбергом в 1980 году.[2] В 2005 году Василеску и Терзопулос представила Multilinear PCA[9] терминология как способ лучше различать линейное и полилинейное тензорное разложение, а также лучше различать работу[5][6][7][8] который вычислял статистику 2-го порядка, связанную с каждым режимом тензора данных (осью), и последующая работа над мультилинейным анализом независимых компонентов[9] который вычисляет статистику более высокого порядка, связанную с каждой тензорной модой / осью.

Полилинейный PCA может применяться для вычисления причинных факторов формирования данных или в качестве инструмента обработки сигналов для тензоров данных, индивидуальные наблюдения которых были векторизованы,[5][6][7][8] или чьи наблюдения рассматриваются как матрица[10] и объединены в тензор данных.

MPCA вычисляет набор ортонормированных матриц, связанных с каждым режимом тензора данных, которые аналогичны ортонормированному пространству строк и столбцов матрицы, вычисляемой матрицей SVD. Это преобразование направлено на захват как можно большей дисперсии с учетом как можно большей изменчивости данных, связанных с каждой модой (осью) тензора данных.

Алгоритм

Решение MPCA следует подходу альтернативных наименьших квадратов (ALS).[2] Он носит итеративный характер. Как и в PCA, MPCA работает с центрированными данными. Для тензоров центрирование немного сложнее и зависит от задачи.

Выбор функции

Возможности MPCA: контролируемый выбор функции MPCA используется при распознавании объектов[11] в то время как неконтролируемый выбор функций MPCA используется в задаче визуализации.[12]

Расширения

Были разработаны различные расширения MPCA:[13]

  • Некоррелированный MPCA (UMPCA)[14] Напротив, некоррелированный MPCA (UMPCA) генерирует некоррелированные полилинейные функции.[14]
  • Повышение+ MPCA[15]
  • Неотрицательный MPCA (NMPCA)[16]
  • Надежный MPCA (RMPCA)[17]
  • Мульти-тензорная факторизация, которая также автоматически находит количество компонентов (MTF)[18]

Рекомендации

  1. ^ Такер, Ледьярд Р (Сентябрь 1966 г.). «Некоторые математические заметки по трехрежимному факторному анализу». Психометрика. 31 (3): 279–311. Дои:10.1007 / BF02289464. PMID 5221127.
  2. ^ а б c П. М. Крооненберг и Дж. Де Леу, Анализ главных компонент трехрежимных данных с помощью алгоритмов альтернативных наименьших квадратов, Психометрика, 45 (1980), стр. 69–97.
  3. ^ Lathauwer, L.D .; Moor, B.D .; Вандевалле, Дж. (2000). «Полилинейное разложение по сингулярным числам». Журнал SIAM по матричному анализу и приложениям. 21 (4): 1253–1278. Дои:10.1137 / s0895479896305696.
  4. ^ Lathauwer, L.D .; Moor, B.D .; Вандевалле, Дж. (2000). «О наилучшей аппроксимации ранга-1 и ранга- (R1, R2, ..., RN) тензоров высших порядков». Журнал SIAM по матричному анализу и приложениям. 21 (4): 1324–1342. Дои:10.1137 / s0895479898346995.
  5. ^ а б c M.A.O. Василеску (2002) «Сигнатуры движения человека: анализ, синтез, распознавание», Труды Международной конференции по распознаванию образов (ICPR 2002), Vol. 3, Квебек, Канада, август 2002 г., стр. 456–460.
  6. ^ а б c M.A.O. Василеску, Д. Терзопулос (2002) «Полилинейный анализ ансамблей изображений: TensorFaces», Proc. 7-я Европейская конференция по компьютерному зрению (ECCV'02), Копенгаген, Дания, май 2002 г., in Computer Vision - ECCV 2002, Lecture Notes in Computer Science, Vol. 2350, A. Heyden et al. (Ред.), Springer-Verlag, Берлин, 2002, 447–460.
  7. ^ а б c M.A.O. Василеску, Д. Терзопулос (2003) «Мультилинейный анализ подпространств для ансамблей изображений, M. A. O. Vasilescu, D. Terzopoulos, Proc. Конф. Компьютерного зрения и распознавания образов. (CVPR '03), Том 2, Мэдисон, Висконсин, июнь 2003 г., стр. 93–99.
  8. ^ а б c M.A.O. Василеску, Д. Терзопулос (2004) "TensorTexture: мультилинейная визуализация на основе изображений", M. A. O. Vasilescu и D. Terzopoulos, Proc. ACM SIGGRAPH 2004 Conference Los Angeles, CA, август 2004 г., in Computer Graphics Proceedings, Annual Conference Series, 2004, 336–342.
  9. ^ а б М. А. О. Василеску, Д. Терзопулос (2005) «Мультилинейный независимый компонентный анализ», "Труды конференции IEEE по компьютерному зрению и распознаванию образов (CVPR’05), Сан-Диего, Калифорния, июнь 2005 г., том 1, 547–553".
  10. ^ Lu, H .; Plataniotis, K. N .; Венецанопулос, А. Н. (2008). "MPCA: Многолинейный анализ главных компонент тензорных объектов" (PDF). IEEE Trans. Нейронная сеть. 19 (1): 18–39. CiteSeerX 10.1.1.331.5543. Дои:10.1109 / tnn.2007.901277. PMID 18269936.
  11. ^ М. А. О. Василеску, Д. Терзопулос (2003) «Мультилинейный подпространственный анализ ансамблей изображений», "Труды конференции IEEE по компьютерному зрению и распознаванию образов (CVPR’03), Мэдисон, Висконсин, июнь 2003 г."
  12. ^ Х. Лу, Х.-Л. Энг, М. Тида и К. Платаниотис "Визуализация и кластеризация массового видеоконтента в подпространстве MPCA, "в материалах 19-й конференции ACM по управлению информацией и знаниями (CIKM 2010), Торонто, Онтарио, Канада, октябрь 2010 г.
  13. ^ Лу, Хайпин; Plataniotis, K.N .; Венецанопулос, А. (2011). "Обзор мультилинейного обучения подпространству тензорных данных" (PDF). Распознавание образов. 44 (7): 1540–1551. Дои:10.1016 / j.patcog.2011.01.004.
  14. ^ а б Х. Лу, К. Н. Платаниотис и А. Н. Венетсанопулос "Некоррелированный полилинейный анализ главных компонент для обучения полилинейных подпространств без учителя, "IEEE Trans. Neural Netw., Том 20, № 11, стр. 1820–1836, ноябрь 2009 г."
  15. ^ Х. Лу, К. Н. Платаниотис и А. Н. Венетсанопулос "Повышение способности дискриминантных учащихся к распознаванию походки с помощью функций MPCA В архиве 2010-10-22 на Wayback Machine", Журнал EURASIP по обработке изображений и видео, том 2009 г., идентификатор статьи 713183, 11 страниц, 2009 г. Дои:10.1155/2009/713183.
  16. ^ Ю. Панагакис, К. Котропулос, Г. Р. Арсе, "Неотрицательный полилинейный анализ главных компонент слуховых временных модуляций для классификации музыкальных жанров", IEEE Trans. по обработке звука, речи и языка, т. 18, нет. 3. С. 576–588, 2010.
  17. ^ К. Иноуэ, К. Хара, К. Урахама, "Робастный полилинейный анализ главных компонент", Proc. Конференция IEEE по компьютерному зрению, 2009 г., стр. 591–597.
  18. ^ Хан, Сулейман А .; Леппяхо, Ээмели; Каски, Самуэль (2016-06-10). «Байесовская мульти-тензорная факторизация». Машинное обучение. 105 (2): 233–253. arXiv:1412.4679. Дои:10.1007 / s10994-016-5563-у. ISSN 0885-6125.

внешняя ссылка