دسته‌بندی نیمه نظارتی منیفلدهای متقاطع بر مبنای تمایز نقاط داخلی منیفلدها از سایر نقاط

نویسندگان
زهره کریمی 1
سعید شیری قیداری 2
محمد رحمتی 1
روح اله رمضانی 3
1 دانشکده مهندسی کامپیوتر و فناوری اطلاعات، دانشگاه صنعتی امیرکبیر، تهران، ایران
2 دانشکده ریاضی و علوم کامپیوتر، دانشگاه صنعتی امیرکبیر، تهران، ایران
3 دانشکده ریاضی و علوم کامپیوتر، دانشگاه دامغان، دامغان، ایران
چکیده
دسته‌بندی نیمه نظارتی مبتنی بر منیفلد در سال‌های اخیر مورد توجه بسیاری از پژوهشگران واقع شده است. رویکردهای موجود از فاصله اقلیدسی به صورت محلی برای تقریب فاصله روی منیفلدها و اعمال فرض هموار بودن روی منیفلد استفاده می‌کنند. در فضایی که چند منیفلد با یکدیگر اشتراک دارند این تقریب در نواحی اشتراک صحیح نبوده و باعث انتشار اشتباه برچسب‌ها می‌شود. در این مقاله الگوریتمی بر مبنای تفکیک نقاط داخلی منیفلد از سایر نقاط جهت دسته‌بندی نیمه‌نظارتی روی منیفلدهای متقاطع جهت یادگیری دسته‌بند مبتنی بر اتصالات مطمئن‌تر در گراف ارائه‌کننده‌ی داده پیشنهاد شده است. الگوریتم پیشنهادی وزن یال‌های گراف ارائه‌کننده‌ی منیفلد را جهت انتشار برچسب اصلاح می‌کند. در مقایسه با رویکردهای دسته‌بندی نیمه نظارتی روی چند منیفلد، رویکرد پیشنهادی بر مبنای این فرض‌های محدودکننده نیست: مشخص بودن ابعاد ذاتی منیفلدها، نیاز به تعداد خیلی زیاد داده‌های بدون برچسب جهت تخمین منیفلدها و انتساب خصوصیات همسایگی مشابه به تمام نقاط. آزمایش‌ها روی مجموعه داده‌های مصنوعی و واقعی نشان‌دهنده‌ی دقت خوب روش پیشنهادی نسبت به روش‌های مشابه است.

کلیدواژه‌ها

  • [1] M. Belkin, P. Niyogi and V. Sindhwani, "Manifold regularization: A geometric framework for learning from labeled and unlabeled examples," Journal of Machine Learning Research 7, pp. 2399-2434, 2006.
  • [2] M. Belkin, Q. Que, Y. Wang and X. Zhou, "Toward Understanding Complex Spaces: Graph Laplacians on Manifolds with Singularities and Boundaries," in The 25th Annual Conference on Learning Theory (COLT 2012), Edinburgh, Scotland, 2012.
  • [3] K. M. Carter, R. Raviv and A. O. Hero, "On local intrinsic dimension estimation and its applications," IEEE Transactions on Signal Processing, vol 58, no. 2, pp. 650-663, 2010.
  • [4] S. Chen, S. Li, S. Su, Q. Tian and R. Ji, "Online MIL tracking with instance-level semi-supervised learning," Neurocomputing 139, pp. 272-288, 2014.
  • [5] M. Z. X. L. Z. Z. Z. B. H. Fan, "A Regularized Approach for Geodesic Based Semi-Supervised Multi-Manifold Learning," IEEE Transactions on Image Processing, Vol. 23, no. 5, pp. 2133-2147, 2014.
  • [6] Q. Gao, Y. Huang, X. Gao, W. Shen and H. Zhang, "A novel semi-supervised learning for face recognition," Neurocomputing 152, pp. 69-76, 2015.
  • [7] B. Geng, D. Tao, C. Xu, Y. Yang and X.-S. Hua, "Ensemble manifold regularization," IEEE Transactions on Pattern Analysis and Machine Intelligence 34, no. 6, pp. 1227-1233, 2012.
  • [8] A. B. Goldberg, X. Zhu, A. Singh, Z. Xu and R. Nowak, "Multi-manifold semi-supervised learning," in International Conference on Artificial Intelligence and Statistics, 2009.
  • [9] M. H. Rohban and H. R. Rabiee, "Supervised neighborhood graph construction for semi-supervised classification," Pattern Recognition 45, no. 4, pp. 1363-1372, 2012.
  • [10] Y. Wang, S. Chen, H. Xue and Z. Fu, "Semi-supervised classification learning by discrimination-aware manifold regularization," Neurocomputing 147, pp. 299-306, 2015.
  • [11] Y. Wang, Y. Jiang, Y. Wu and Z.-H. Zhou, "Spectral clustering on multiple manifolds," IEEE Transactions on Neural Networks 22, no. 7, pp. 1149-1161, 2011.
  • [12] X. Xing, Y. Yu, H. Jiang and S. Du, "A multi-manifold semi-supervised Gaussian mixture model for pattern classification," Pattern Recognition Letters 34, no.16, pp. 2118-2125, 2013.
  • [13] W. Yang, C. Sun and L. Zhang, "A multi-manifold discriminant analysis method for image feature extraction," Pattern Recognition 44, no. 8, pp. 1649-1657, 2011.
  • [14] B. Li, D. Huang and C. L. K. Wang, " Feature extraction using constrained maximum variance mapping," Pattern Recognition. 2008 Nov 1;41(11), pp. 3287-94, 2008.
  • [15] L. Ma, M. C. Melba, Y. Xiaoquan and G. Yan, "Local-manifold-learning-based graph construction for semisupervised hyperspectral image classification," IEEE Transactions on Geoscience and Remote Sensing 53, no. 5, pp. 2832-2844, 2015.
  • [16] D. Meng, Y. Leung, T. Fung and Z. Xu, "Nonlinear dimensionality reduction of data lying on the multicluster manifold," IEEE Transactions on Systems, Man, and Cybernetics, Part B (Cybernetics) 38, no. 4, pp. 1111-1122, 2008.
  • [17] Y. Su, S. Li, S. Wang and Y. Fu, " Submanifold decomposition," IEEE Transactions on Circuits and Systems for Video Technology, 24(11), pp. 1885-1897, 2014.
  • [18] J. Wang, H. Bensmail, N. Yao and X. Gao, "Discriminative sparse coding on multi-manifolds," Knowledge-Based Systems. 2013 Dec 1;54, pp. 199-206, 2013.
  • [19] H.-B. Huang, H. Hong and F. Tao, "Hierarchical manifold learning with applications to supervised classification for high-resolution remotely sensed images," IEEE Transactions on Geoscience and Remote Sensing 52.3 (2014), pp. 1677-1692, 2014.
  • [20] T. N. Lal, S. Michael, H. Thilo, W. Jason, B. Martin, B. Niels and S. Bernhard, "Support vector channel selection in BCI," IEEE transactions on biomedical engineering 51, no. 6, pp. 1003-1010, 2004.
  • [21] S. de, A. R. Celso, O. R. Solange and E. B. Gustavo, "Influence of graph construction on semi-supervised learning," in Joint European Conference on Machine Learning and Knowledge Discovery in Databases, Heidelberg, 2013.
  • [22] W. Chen, Y. Shao, N. Deng and Z. Feng, "Laplacian least squares twin support vector machine for semi-supervised classification," Neurocomputing. 2014 Dec 5;145, pp. 465-76, 2014.
  • [23] P. PA, "CBCL Face Database," USA. MIT Center For Biological and Computation Learning, 2001.
  • [24] O. Chapelle, B. Schölkopf and Z. Alexander, Semi-supervised learning, Cambridge: MIT press, 2006.
علوم رایانش و فناوری اطلاعات
دوره 16، شماره 1
بهار و تابستان
بهار 1397