title: Research and development of a method for effective representation of the project context for large language models in tasks applicable to source texts in programming languages
metadata.name: dc.contributor.advisor
metadata.value: Булычев Егор Геннадьевич
metadata.lang: ru_RU
metadata.name: dc.contributor.advisor
metadata.value: Bulycev Egor Gennadevic
metadata.lang: en_GB
metadata.name: dc.contributor.author
metadata.value: Савин Сергей Александрович
metadata.lang: ru_RU
metadata.name: dc.contributor.author
metadata.value: Savin Sergej Aleksandrovic
metadata.lang: en_GB
metadata.name: dc.contributor.editor
metadata.value: Шалымов Дмитрий Сергеевич
metadata.lang: ru_RU
metadata.name: dc.contributor.editor
metadata.value: Salymov Dmitrij Sergeevic
metadata.lang: en_GB
metadata.name: dc.date.accessioned
metadata.value: 2024-07-25T11:49:37Z
metadata.lang: -
metadata.name: dc.date.available
metadata.value: 2024-07-25T11:49:37Z
metadata.lang: -
metadata.name: dc.date.issued
metadata.value: 2024
metadata.name: dc.identifier.other
metadata.value: 085395
metadata.lang: en_GB
metadata.name: dc.identifier.uri
metadata.value: http://hdl.handle.net/11701/46217
metadata.lang: -
metadata.name: dc.description.abstract
metadata.value: В рамках данной работы предлагается метод эффективного представления проектного контекста для больших языковых моделей в задаче генерации документации. Он заключается в анализе графа вызовов проекта для определения используемых функций и дообучении модели на понимание контекстной информации. Описанный метод был протестирован для языков C/C++ и модели Code Llama Instruct с 7 миллиардами параметров.
metadata.lang: ru_RU
metadata.name: dc.description.abstract
metadata.value: In this work, an approach to effectively represent project context for large language models in the task of documentation generation is proposed. Its key idea is to analyze the project call graph to find used functions and finetune the model to understand contextual information. The proposed approach was tested for C/C++ languages and the Code Llama Instruct model with 7 billion parameters.
metadata.lang: en_GB
metadata.name: dc.language.iso
metadata.value: ru
metadata.name: dc.subject
metadata.value: машинное обучение
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: глубокое обучение
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: большие языковые модели
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: генерация документации
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: документация
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: длинный контекст
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: machine learning
metadata.lang: en_GB
metadata.name: dc.subject
metadata.value: deep learning
metadata.lang: en_GB
metadata.name: dc.subject
metadata.value: large language models
metadata.lang: en_GB
metadata.name: dc.subject
metadata.value: documentation generation
metadata.lang: en_GB
metadata.name: dc.subject
metadata.value: documentation
metadata.lang: en_GB
metadata.name: dc.subject
metadata.value: long context
metadata.lang: en_GB
metadata.name: dc.title
metadata.value: Research and development of a method for effective representation of the project context for large language models in tasks applicable to source texts in programming languages
metadata.lang: en_GB
metadata.name: dc.title.alternative
metadata.value: Исследование и разработка метода эффективного представления проектного контекста для больших языковых моделей в задачах, применимых к исходным текстам на программных языках
metadata.lang: ru_RU
resources.filename: thesis.pdf
resources.url: https://dspace.spbu.ru/bitstream/11701/46217/2/thesis.pdf
resources.format: Adobe PDF
resources.description: Article
resources.size: 247,24 kB
resources.filename: reviewSV_review_Savin.docx
resources.url: https://dspace.spbu.ru/bitstream/11701/46217/3/reviewSV_review_Savin.docx
resources.format: Microsoft Word XML
resources.description: ReviewSV
resources.size: 19,13 kB
resources.filename: reviewSV_st085395_Savin_Sergej_Aleksandrovic_(supervisor)(Ru).txt
resources.url: https://dspace.spbu.ru/bitstream/11701/46217/4/reviewSV_st085395_Savin_Sergej_Aleksandrovic_%28supervisor%29%28Ru%29.txt
resources.format: Text
resources.description: ReviewSV
resources.size: 5,4 kB