Інваріантно-структурне навчання: формування концептів як динаміка гіперграфових атракторів

Автор(и)

  • Микита Лапін Національний технічний університет "Харківський політехнічний інститут"
  • Юрій Паржин Школа Комп'ютерних та Кібер Наук Університету Огасти
  • Костянтин Бохан Національний технічний університет "Харківський політехнічний інститут"
  • Кирило Перевозник Національний технічний університет "Харківський політехнічний інститут"
  • Тетяна Александрова Національний технічний університет "Харківський політехнічний інститут"

DOI:

https://doi.org/10.30837/2522-9818.2026.2.070

Ключові слова:

інваріантно-структурне навчання; структурний атрактор; формування концепту; відстань редагування графа; маловибіркове розпізнавання; пояснювальний штучний інтелект; MNIST; редукція гіперграфа

Анотація

Предметом дослідження є формування концептів класів об’єктів у системах машинного навчання як процесу структурної та параметричної редукції гіперграфового подання, а не як оптимізації функціонала втрат. Мета роботи – побудувати альтернативний підхід статистичного навчання штучних нейронних мереж без використання функції помилки (зворотне поширення), у якому реалізується інваріантне структурне навчання, де концепт класу визначається як структурний атрактор (нерухома точка монотонного оператора редукції на частково впорядкованому просторі гіперграфів), і підтвердити цю теорію на прикладі розпізнавання рукописних цифр. Завдання: 1) формалізувати основу з аксіомами стабільності сегментації, строгої редуктивності, навчання за позитивними прикладами й локальності уваги; 2) довести збіжність і єдиність атрактора; 3) встановити інваріантність щодо порядку поглинання прикладів; 4) розкласти атрактор на структурний і параметричний рівні; 5) оцінити конвеєр на підмножині MNIST із цілісними контурами. Методи дослідження: гіперграфи отримано за допомогою скелетизації бінарних контурів (Growing Neural Gas + Рамер – Дуглас – Пекер); концепти-атрактори сформовано редукцією за анкорами – критичними точками контуру. Класифікація використовує порівнювач за відстанню редагування графа з вартостями ознак і логарифмічним апріорі за складністю. Тренувальна множина – 76 оригіналів MNIST, доповнених аугментацією (ротація ±10°, зсув ±10%) до 805 примірників. Результати. Конвеєр навчає 13 концептів-атракторів із кількістю вузлів від 3 до 15. З 8 707 допустимих зображень MNIST з цілісними контурами 8 685 утворили валідні скелетні графи; на цій валідній підмножині досягнуто точність 85,80%, зважену влучність 89,31%, повноту 85,80% і F1-міру 86,66%. Структура помилок інтерпретована поконцептно: кожна помилка простежувана до конкретного атрактора й діапазону ознак. Висновки. Зафіксована продуктивність, досягнута без функціонала втрат і з трьох до дев’яти унікальних оригіналів на концепт-атрактор, підтверджує теоретичне твердження, що навчання є побудовою структурного атрактора, а не мінімізацією функціонала помилки. Основа дає принциповий шлях до пояснювальної маловибіркової класифікації та конструктивну альтернативу градієнтному навчанню.

Завантаження

Дані завантаження ще не доступні.

Біографії авторів

Микита Лапін, Національний технічний університет "Харківський політехнічний інститут"

здобувач вищої освіти ступеня доктора філософії кафедри системного аналізу та інформаційно-аналітичних технологій

Юрій Паржин, Школа Комп'ютерних та Кібер Наук Університету Огасти

доктор технічних наук, професор, постдокторант

Костянтин Бохан, Національний технічний університет "Харківський політехнічний інститут"

кандидат технічних наук, доцент кафедри системного аналізу та інформаційно-аналітичних технологій

Кирило Перевозник, Національний технічний університет "Харківський політехнічний інститут"

здобувач вищої освіти ступеня доктора філософії кафедри системного аналізу та інформаційно-аналітичних технологій

Тетяна Александрова, Національний технічний університет "Харківський політехнічний інститут"

доктор технічних наук, професор, завідувачка кафедри системного аналізу та інформаційно-аналітичних технологій

Посилання

References

European Parliament, Council of the European Union (2024), "Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act)", Official Journal of the European Union, L series, 12 July 2024.

European Parliament, Council of the European Union (2016), "Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation)", Official Journal of the European Union, L 119, 4 May 2016, pp. 1–88

Parzhyn, Y. (2025), "Architecture of information", arXiv preprint arXiv:2503.21794, 81 p. DOI: https://doi.org/10.48550/arXiv.2503.21794

LeCun, Y., Bottou, L., Bengio, Y., and Haffner, P. (1998), "Gradient-based learning applied to document recognition", Proceedings of the IEEE, Vol. 86, No. 11, pp. 2278–2324. DOI: https://doi.org/10.1109/5.726791

Snell, J., Swersky, K., and Zemel, R. (2017), "Prototypical networks for few-shot learning", Advances in Neural Information Processing Systems 30 (NeurIPS 2017), pp. 4077–4087. DOI: https://doi.org/10.48550/arXiv.1703.05175

Vinyals, O., Blundell, C., Lillicrap, T., Kavukcuoglu, K., and Wierstra, D. (2016), "Matching networks for one-shot learning", Advances in Neural Information Processing Systems 29 (NeurIPS 2016), pp. 3630–3638. DOI: https://doi.org/10.48550/arXiv.1606.04080

Finn, C., Abbeel, P., and Levine, S. (2017), "Model-agnostic meta-learning for fast adaptation of deep networks", Proceedings of the 34th International Conference on Machine Learning (ICML 2017), pp. 1126–1135. DOI: https://doi.org/10.48550/arXiv.1703.03400

Minh, D., Wang, H. X., Li, Y. F., and Nguyen, T. N. (2022), "Explainable artificial intelligence: a comprehensive review", Artificial Intelligence Review, Vol. 55, No. 5, pp. 3503–3568. DOI: https://doi.org/10.1007/s10462-021-10088-y

Hooshyar, D., and Yang, Y. (2024), "Problems with SHAP and LIME in interpretable AI for education: a comparative study of post-hoc explanations and neural-symbolic rule extraction", IEEE Access, Vol. 12, pp. 137472–137490. DOI: https://doi.org/10.1109/ACCESS.2024.3463948

Rajabi, E., and Etminani, K. (2024), "Knowledge-graph-based explainable AI: a systematic review", Journal of Information Science, Vol. 50, No. 4, pp. 1019–1029. DOI: https://doi.org/10.1177/01655515221112844

Nawaz, U., Anees-ur-Rahaman, M., and Saeed, Z. (2025), "A review of neuro-symbolic AI integrating reasoning and learning for advanced cognitive systems", Intelligent Systems with Applications, Vol. 26, Article 200541. DOI: https://doi.org/10.1016/j.iswa.2025.200541

Ribeiro, M. T., Singh, S., and Guestrin, C. (2016), "Why should I trust you?: Explaining the predictions of any classifier", Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD 2016), pp. 1135–1144. DOI: https://doi.org/10.1145/2939672.2939778

Lundberg, S. M., and Lee, S.-I. (2017), "A unified approach to interpreting model predictions", Advances in Neural Information Processing Systems 30 (NeurIPS 2017), pp. 4765–4774. DOI: https://doi.org/10.48550/arXiv.1705.07874

Slack, D., Hilgard, S., Jia, E., Singh, S., and Lakkaraju, H. (2020), "Fooling LIME and SHAP: adversarial attacks on post hoc explanation methods", Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society (AIES ‘20), pp. 180–186. DOI: https://doi.org/10.1145/3375627.3375830

Ding, K., Wang, J., Li, J., Shu, K., Liu, C., and Liu, H. (2020), "Graph prototypical networks for few-shot learning on attributed networks", Proceedings of the 29th ACM International Conference on Information and Knowledge Management, pp. 295–304. DOI: https://doi.org/10.1145/3340531.3411922

Lapin, M., and Bokhan, K. (2025), "Few-shot learning of a graph-based neural network model without backpropagation", Management Information System and Devices, No. 187, pp. 103–122. DOI: https://doi.org/10.30837/0135-1710.2025.187.103

Sanfeliu, A., and Fu, K.-S. (1983), "A distance measure between attributed relational graphs for pattern recognition", IEEE Transactions on Systems, Man, and Cybernetics, Vol. SMC-13, No. 3, pp. 353–362. DOI: https://doi.org/10.1109/TSMC.1983.6313167

Conte, D., Foggia, P., Sansone, C., and Vento, M. (2004), "Thirty years of graph matching in pattern recognition", International Journal of Pattern Recognition and Artificial Intelligence, Vol. 18, No. 3, pp. 265–298. DOI: https://doi.org/10.1142/S0218001404003228

Riesen, K., and Bunke, H. (2009), "Approximate graph edit distance computation by means of bipartite graph matching", Image and Vision Computing, Vol. 27, No. 7, pp. 950–959. DOI: https://doi.org/10.1016/j.imavis.2008.04.004

Piao, C., Xu, T., Sun, X., Rong, Y., Zhao, K., and Cheng, H. (2023), "Computing graph edit distance via neural graph matching", Proceedings of the VLDB Endowment, Vol. 16, No. 8, pp. 1817–1829. DOI: https://doi.org/10.14778/3594512.3594514

Moscatelli, A., Piquenot, J., Berar, M., Heroux, P., and Adam, S. (2024), "Graph node matching for edit distance", Pattern Recognition Letters, Vol. 184, pp. 14–20. DOI: https://doi.org/10.1016/j.patrec.2024.05.020

Xie, Y., Liang, Y., Wen, C., Qin, A. K., and Gong, M. (2024), "Federated collaborative graph neural networks for few-shot graph classification", Machine Intelligence Research, Vol. 21, No. 6, pp. 1077–1091. DOI: https://doi.org/10.1007/s11633-023-1463-3

Chukhran, I., Udovenko, S., Shergin, V., and Chala, L. (2025), "Method for augmenting 3D point cloud models using graph neural networks", Innovative Technologies and Scientific Solutions for Industries, No. 2(32), pp. 129–150. DOI: https://doi.org/10.30837/2522-9818.2025.2.129

von der Malsburg, C. (1999), "The what and why of binding: the modeler’s perspective", Neuron, Vol. 24, No. 1, pp. 95–104. DOI: https://doi.org/10.1016/S0896-6273(00)80825-9

Buzsáki, G. (2010), "Neural syntax: cell assemblies, synapsembles, and readers", Neuron, Vol. 68, No. 3, pp. 362–385. DOI: https://doi.org/10.1016/j.neuron.2010.09.023

Yarbus, A. L. (1967), Eye Movements and Vision, Plenum Press, New York, 222 p. DOI: https://doi.org/10.1007/978-1-4899-5379-7

Bajcsy, R., Aloimonos, Y., and Tsotsos, J. K. (2018), "Revisiting active perception", Autonomous Robots, Vol. 42, No. 2, pp. 177–196. DOI: https://doi.org/10.1007/s10514-017-9615-3

Rucci, M., and Victor, J. D. (2015), "The unsteady eye: an information-processing stage, not a bug", Trends in Neurosciences, Vol. 38, No. 4, pp. 195–206. DOI: https://doi.org/10.1016/j.tins.2015.01.005

Quiroga, R. Q., Reddy, L., Kreiman, G., Koch, C., and Fried, I. (2005), "Invariant visual representation by single neurons in the human brain", Nature, Vol. 435, pp. 1102–1107. DOI: https://doi.org/10.1038/nature03687

Quiroga, R. Q. (2012), "Concept cells: the building blocks of declarative memory functions", Nature Reviews Neuroscience, Vol. 13, No. 8, pp. 587–597. DOI: https://doi.org/10.1038/nrn3251

Magee, J. C. (2000), "Dendritic integration of excitatory synaptic input", Nature Reviews Neuroscience, Vol. 1, No. 3, pp. 181–190. DOI: https://doi.org/10.1038/35044552

Häusser, M. (2001), "Synaptic function: dendritic democracy", Current Biology, Vol. 11, No. 1, pp. R10–R12. DOI: https://doi.org/10.1016/S0960-9822(00)00034-8

Branco, T., and Häusser, M. (2010), "The single dendritic branch as a fundamental functional unit in the nervous system", Current Opinion in Neurobiology, Vol. 20, No. 4, pp. 494–502. DOI: https://doi.org/10.1016/j.conb.2010.07.009

Larkum, M. E. (2022), "Are dendrites conceptually useful?", Neuroscience, Vol. 489, pp. 4–14. DOI: https://doi.org/10.1016/j.neuroscience.2022.03.008

Parzhin, Y., Galkyn, S., and Sobol, M. (2022), "Method for binary contour images vectorization of handwritten characters for recognition by detector neural networks", 2022 IEEE 3rd KhPI Week on Advanced Technology (KhPIWeek), pp. 1–6. DOI: https://doi.org/10.1109/KhPIWeek57572.2022.9916331

Caspard, N., Leclerc, B., and Monjardet, B. (2012), Finite Ordered Sets: Concepts, Results and Uses, Cambridge University Press, Cambridge, 337 p. DOI: https://doi.org/10.1017/CBO9781139005135

Hanika, T., and Hirth, J. (2022), "Knowledge cores in large formal contexts", Annals of Mathematics and Artificial Intelligence, Vol. 90, No. 6, pp. 537–567. DOI: https://doi.org/10.1007/s10472-022-09790-6

Krotov, D. (2023), "A new frontier for Hopfield networks", Nature Reviews Physics, Vol. 5, No. 7, pp. 366–367. DOI: https://doi.org/10.1038/s42254-023-00595-y

Ramsauer, H., Schäfl, B., Lehner, J., Seidl, P., Widrich, M., Adler, T., Gruber, L., Holzleitner, M., Pavlović, M., Sandve, G. K., Greiff, V., Kreil, D., Kopp, M., Klambauer, G., Brandstetter, J., and Hochreiter, S. (2021), "Hopfield Networks is All You Need", International Conference on Learning Representations (ICLR 2021). DOI: https://doi.org/10.48550/arXiv.2008.02217

Bodnar, C., Di Giovanni, F., Chamberlain, B. P., Liò, P., and Bronstein, M. M. (2022), "Neural Sheaf Diffusion: A Topological Perspective on Heterophily and Oversmoothing in GNNs", Advances in Neural Information Processing Systems 35 (NeurIPS 2022). DOI: https://doi.org/10.48550/arXiv.2202.04579

Parzhin, Y., Kosenko, V., Podorozhniak, A., Malyeyeva, O., and Timofeyev, V. (2020), "Detector neural network vs connectionist artificial neural networks", Neurocomputing, Vol. 414, pp. 191–203. DOI: https://doi.org/10.1016/j.neucom.2020.07.025

Riesen, K. (2015), Structural Pattern Recognition with Graph Edit Distance: Approximation Algorithms and Applications, Springer International Publishing, Cham. DOI: https://doi.org/10.1007/978-3-319-27252-8

Fritzke, B. (1995), "A growing neural gas network learns topologies", Advances in Neural Information Processing Systems 7 (NeurIPS 1994), pp. 625–632. DOI: https://doi.org/10.5555/2998687.2998765

Douglas, D. H., and Peucker, T. K. (1973), "Algorithms for the reduction of the number of points required to represent a digitized line or its caricature", Cartographica: The International Journal for Geographic Information and Geovisualization, Vol. 10, No. 2, pp. 112–122. DOI: https://doi.org/10.3138/FM57-6770-U75U-7727

Hagberg, A. A., Schult, D. A., and Swart, P. J. (2008), "Exploring network structure, dynamics, and function using NetworkX", Proceedings of the 7th Python in Science Conference (SciPy 2008), pp. 11–15. DOI: https://doi.org/10.25080/TCWV9851.

Parzhyn, Y., Lapin, M., and Bokhan, K. (2025), "A new approach to building energy models of neural networks", Advanced Information Systems, Vol. 9, No. 4, pp. 100–119. DOI: https://doi.org/10.20998/2522-9052.2025.4.13

##submission.downloads##

Опубліковано

2026-06-27

Як цитувати

Lapin, M., Parzhyn, Y., Bokhan, K., Perevoznyk, K. і Aleksandrova, T. (2026) «Інваріантно-структурне навчання: формування концептів як динаміка гіперграфових атракторів», СУЧАСНИЙ СТАН НАУКОВИХ ДОСЛІДЖЕНЬ ТА ТЕХНОЛОГІЙ В ПРОМИСЛОВОСТІ, (2(36), с. 70–94. doi: 10.30837/2522-9818.2026.2.070.

Номер

№ 2(36) (2026): Сучасний стан наукових досліджень та технологій в промисловості

Розділ

ІНФОРМАЦІЙНІ ТЕХНОЛОГІЇ

Ліцензія

Creative Commons License

Ця робота ліцензується відповідно до Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.

Наше видання використовує положення про авторські права Creative Commons для журналів відкритого доступу.

Автори, які публікуються у цьому журналі, погоджуються з наступними умовами:

  • Автори залишають за собою право на авторство своєї роботи та передають журналу право першої публікації цієї роботи на умовах ліцензії Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License (CC BY-NC-SA 4.0), котра дозволяє іншим особам вільно розповсюджувати опубліковану роботу з обов'язковим посиланням на авторів оригінальної роботи та першу публікацію роботи у цьому журналі.

  • Автори мають право укладати самостійні додаткові угоди щодо не комерційного та не ексклюзивного розповсюдження роботи у тому вигляді, в якому вона була опублікована цим журналом (наприклад, розміщувати роботу в електронному сховищі установи або публікувати у складі монографії), за умови збереження посилання на першу публікацію роботи у цьому журналі.

  • Політика журналу дозволяє і заохочує розміщення авторами в мережі Інтернет (наприклад, у сховищах установ або на особистих веб-сайтах) рукопису опублікованої роботи, оскільки це сприяє виникненню продуктивної наукової дискусії та позитивно позначається на оперативності та динаміці цитування опублікованої роботи.