UML-diagrams generation with large language models

Abstract

Цель данной работы --- исследовать возможности генерации PlantUML-диаграмм по текстовому описанию на английском языке с использованием небольших нейронных сетей трансформерного типа. В ходе исследования с помощью модели Phi-3-mini были достигнуты результаты, сопоставимые с результатами GPT-4, которая имеет в 500 раз больше параметров и применение которой неэкономично и небезопасно с точки зрения передачи данных. Полученные выводы подтверждают возможность использования языковых моделей для генерации изображений с помощью PlantUML, а также демонстрируют, что маленькие языковые трансформеры могут быть дообучены для решения узкоспециализированных задач.

The aim of this study is to explore the possibilities of generating PlantUML diagrams from textual descriptions using small using small transformer-based neural networks neural networks. In the course of the research, the Phi-3-mini model achieved results comparable to those of GPT-4, which has 500 times as many parameters and whose use is neither economical nor secure in terms of data transmission. The findings confirm the feasibility of using language models to generate images via PlantUML and demonstrate that small language transformers can be fine-tuned to solve specialized tasks.