Объяснимый искусственный интеллект и методы интерпретации результатов
Воронежский институт высоких технологий, 2021
Online
unknown
Zugriff:
Системы искусственного интеллекта используются во многих сферах обеспечения жизни человека, будь то, например, финансы или медицина. С каждым годом интеллектуальные системы обрабатывают все больше и больше данных и принимают все больше и больше решений. Эти решения оказывают большее влияние на судьбы людей. Краеугольным камнем становится недоверие к полностью нечеловеческим, автономным системам искусственного интеллекта. Ключ недоверия кроется в непонимании того, почему интеллектуальные системы принимают то или иное решение, исходя из каких убеждений такие системы действуют (и есть ли у них свои собственные убеждения или только те, что им передали разработчики). Для решения проблемы «недоверия» к таким системам стали применять методы объяснимого искусственного интеллекта. В этой статье представлен краткий обзор методов, получивших наибольшую популярность в академической среде (методы PDP, SHAP, LIME, DeepLIFT, permutation importance, ICE plots). На примере практических упражнений продемонстрирована легкость применения методов PDP и SHAP, а также удобство «чтения» графических результатов работы этих методов, которые объясняют построенные дерево решений и случайный лес на примере небольшого набора данных о продажах.
Artificial intelligence systems are used in many areas of human life support, for example, finance or medicine. Every year intelligent systems process more and more data and make more and more decisions. All these decisions have an increasing impact on the fate of people. The cornerstone is a distrust of completely non-human, autonomous artificial intelligence systems. The key to not believing lies in the misunderstanding of why intelligent systems make this or that decision, based on what beliefs such systems operate (and whether they have their views or only those given them by the developers). The methods of explainable artificial intelligence have been used to solve the problem of distrust in such systems. This article provides a brief overview of the most popular technics in the academic environment, such as PDP, SHAP, LIME, DeepLIFT, permutation importance, ICE plots. Practical exercises demonstrate the ease of application of PDP and SHAP methods, as well as the convenience of "reading" the graphical results of these methods, which explain the constructed decision tree model and random forest model on the example of a small set of sales data
МОДЕЛИРОВАНИЕ, ОПТИМИЗАЦИЯ И ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ, Выпуск 2 (33) 2021, Pages 24-25
Titel: |
Объяснимый искусственный интеллект и методы интерпретации результатов
|
---|---|
Link: | |
Veröffentlichung: | Воронежский институт высоких технологий, 2021 |
Medientyp: | unknown |
DOI: | 10.26102/2310-6018/2021.33.2.024 |
Schlagwort: |
|
Sonstiges: |
|