title: Natural language text completion using deep learning
metadata.name: dc.contributor.advisor
metadata.value: Юршина Анастасия Александровна
metadata.lang: ru_RU
metadata.name: dc.contributor.advisor
metadata.value: Ursina Anastasia Aleksandrovna
metadata.lang: en_GB
metadata.name: dc.contributor.author
metadata.value: Менчуков Павел Александрович
metadata.lang: ru_RU
metadata.name: dc.contributor.author
metadata.value: Mencukov Pavel Aleksandrovic
metadata.lang: en_GB
metadata.name: dc.contributor.editor
metadata.value: Блеканов Иван Станиславович
metadata.lang: ru_RU
metadata.name: dc.contributor.editor
metadata.value: Blekanov Ivan Stanislavovic
metadata.lang: en_GB
metadata.name: dc.date.accessioned
metadata.value: 2023-04-06T21:49:40Z
metadata.lang: -
metadata.name: dc.date.available
metadata.value: 2023-04-06T21:49:40Z
metadata.lang: -
metadata.name: dc.date.issued
metadata.value: 2022
metadata.name: dc.identifier.other
metadata.value: 068359
metadata.lang: en_GB
metadata.name: dc.identifier.uri
metadata.value: http://hdl.handle.net/11701/40086
metadata.lang: -
metadata.name: dc.description.abstract
metadata.value: В данной работе рассматривается задача автодополнения текстов на естественном языке с использованием средств машинного обучения на примере решений российских судов. Для решения задачи предлагается использовать нейросетевые модели архитектуры Трансформер. В работе сравниваются две модели этой архитектуры, выбирается и дообучается наиболее подходящая из них, а также предлагается и реализуется метод улучшения результатов путём учёта контекста конкретного документа с помощью биграммной языковой модели.
metadata.lang: ru_RU
metadata.name: dc.description.abstract
metadata.value: In this paper, the problem of auto-completion of texts in natural language using machine learning tools is considered on the example of judgments of Russian courts. To solve the problem, it is proposed to use neural network models of the Transformer architecture. The paper compares two models of this architecture, selects and fine-tune the most suitable of them, and also proposes and implements a method for improving results by taking into account the context of a particular document using a bigram language model.
metadata.lang: en_GB
metadata.name: dc.language.iso
metadata.value: ru
metadata.name: dc.subject
metadata.value: автодополнение текста
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: обработка естественных языков
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: машинное обучение
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: глубокое обуение
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: Трансформеры
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: GPT-2
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: биграммная языковая модель
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: text completion
metadata.lang: en_GB
metadata.name: dc.subject
metadata.value: natural language processing
metadata.lang: en_GB
metadata.name: dc.subject
metadata.value: machine learning
metadata.lang: en_GB
metadata.name: dc.subject
metadata.value: deep learning
metadata.lang: en_GB
metadata.name: dc.subject
metadata.value: Transformers
metadata.lang: en_GB
metadata.name: dc.subject
metadata.value: GPT-2
metadata.lang: en_GB
metadata.name: dc.subject
metadata.value: bigram language model
metadata.lang: en_GB
metadata.name: dc.title
metadata.value: Natural language text completion using deep learning
metadata.lang: en_GB
metadata.name: dc.title.alternative
metadata.value: Автодополнение текста на естественном языке c использованием глубокого обучения
metadata.lang: ru_RU
resources.filename: Diplom__Mencukov_.pdf
resources.url: https://dspace.spbu.ru/bitstream/11701/40086/2/Diplom__Mencukov_.pdf
resources.format: Adobe PDF
resources.description: Article
resources.size: 129,77 kB
resources.filename: reviewSV_Otzyv_Mencukov.pdf
resources.url: https://dspace.spbu.ru/bitstream/11701/40086/3/reviewSV_Otzyv_Mencukov.pdf
resources.format: Adobe PDF
resources.description: ReviewSV
resources.size: 105,51 kB
resources.filename: reviewSV_st068359_Mencukov_Pavel_Aleksandrovic_(supervisor)(Ru).txt
resources.url: https://dspace.spbu.ru/bitstream/11701/40086/4/reviewSV_st068359_Mencukov_Pavel_Aleksandrovic_%28supervisor%29%28Ru%29.txt
resources.format: Text
resources.description: ReviewSV
resources.size: 4,14 kB