title: Using Shapley value for Interpretive artificial intelligence based on feature interactions graph
metadata.name: dc.contributor.advisor
metadata.value: Михеев Викентий Сергеевич
metadata.lang: ru_RU
metadata.name: dc.contributor.advisor
metadata.value: Miheev Vikentij Sergeevic
metadata.lang: en_GB
metadata.name: dc.contributor.author
metadata.value: Сюй Фэйжань
metadata.lang: ru_RU
metadata.name: dc.contributor.author
metadata.value: Suj Fejzan
metadata.lang: en_GB
metadata.name: dc.contributor.editor
metadata.value: Петросян Ованес Леонович
metadata.lang: ru_RU
metadata.name: dc.contributor.editor
metadata.value: Petrosan Ovanes Leonovic
metadata.lang: en_GB
metadata.name: dc.date.accessioned
metadata.value: 2023-07-26T12:44:44Z
metadata.lang: -
metadata.name: dc.date.available
metadata.value: 2023-07-26T12:44:44Z
metadata.lang: -
metadata.name: dc.date.issued
metadata.value: 2023
metadata.name: dc.identifier.other
metadata.value: 066457
metadata.lang: en_GB
metadata.name: dc.identifier.uri
metadata.value: http://hdl.handle.net/11701/42729
metadata.lang: -
metadata.name: dc.description.abstract
metadata.value: С увеличением вычислительной мощности компьютеров ИИ широко используется в различных областях жизни, но в то же время все больше случаев показывают нам неинтерпретируемость алгоритмов ИИ. Поэтому интерпретируемость ИИ особенно важна. В последние годы все больше ученых предлагают работать над интерпретируемостью моделей машинного обучения по значениям Шапли в теории кооперативных игр, но когда в наборе данных больше особенностей, вычисление значений Шапли становится сложной задачей. Некоторые авторы ввели методы приближенного вычисления по Шэпли. Однако при увеличении числа игроков остается сложной задачей найти баланс между размером выборки и временными затратами. Метод выборки для расчета значений Шапли - это метод, при котором выборка самих признаков осуществляется путем имитации болезни случайной перестановки, а затем оценивается вклад каждого признака в результат предсказания на основе каждого результата выборки, но при использовании мы обнаружили, что процесс случайной перестановки все еще длителен при большом количестве участников. Поэтому мы предлагаем новый подход, используя коалицию "высокоэффективных" участников. Значения Шапли вычисляются за меньшее время, и предлагается более значимый способ измерения правдоподобности интерпретации результатов.
metadata.lang: ru_RU
metadata.name: dc.description.abstract
metadata.value: With the increase of computer computing power, AI has been widely used in various fields of life, but at the same time, more and more cases show us the uninterpretability of AI algorithms. Therefore, the interpretability of AI is particularly important. In recent years, more scholars have proposed to work on the interpretability of machine learning models by Shapley values in cooperative game theory, but when there are more features in the dataset, calculating Shapley values becomes a challenge. Some authors have introduced approximate Shapley calculation techniques. However, as the number of players increases, it remains a challenge to strike a balance between sample size and time cost. The sampling method to calculate shapley values is a method that samples the features themselves by simulating random permutation disease and then estimates the contribution of each feature to the prediction result based on each sampling result, but in use, we found that the random permutation process is still long when the number of participants is large. Therefore, we propose a new approach by using a coalition of "high impact" participants. Shapley values are calculated in less time and a more meaningful way to measure the plausibility of the interpretation of the results is proposed.
metadata.lang: en_GB
metadata.name: dc.language.iso
metadata.value: ru
metadata.name: dc.subject
metadata.value: Объяснимый ИИ
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: Обнаружение аномалий
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: Проблема высоких измерений
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: Значение Шепли
metadata.lang: ru_RU
metadata.name: dc.subject
metadata.value: Explainable AI
metadata.lang: en_GB
metadata.name: dc.subject
metadata.value: Anomaly Detection
metadata.lang: en_GB
metadata.name: dc.subject
metadata.value: High-dimension Problem
metadata.lang: en_GB
metadata.name: dc.subject
metadata.value: The Shapley Value
metadata.lang: en_GB
metadata.name: dc.title
metadata.value: Using Shapley value for Interpretive artificial intelligence based on feature interactions graph
metadata.lang: en_GB
metadata.name: dc.title.alternative
metadata.value: Использование значения Шепли для интерпретационного искусственного интеллекта на основе графа взаимодействия признаков
metadata.lang: ru_RU
resources.filename: XuFeiran_Thesis.pdf
resources.url: https://dspace.spbu.ru/bitstream/11701/42729/2/XuFeiran_Thesis.pdf
resources.format: Adobe PDF
resources.description: Article
resources.size: 1,12 MB
resources.filename: reviewSV_Review___Feiran.pdf
resources.url: https://dspace.spbu.ru/bitstream/11701/42729/3/reviewSV_Review___Feiran.pdf
resources.format: Adobe PDF
resources.description: ReviewSV
resources.size: 439,94 kB