Объяснимые модели искусственного интеллекта на Python. Модель искусственного интеллекта. Объяснения с использованием библиотек, расширений и фреймворков на основе языка Python

Description

В книге рассматриваются так называемые модели «черного ящика» для повы- шения адаптивности, интерпретируемости и объяснимости решений, принимае- мых алгоритмами искусственного интеллекта (ИИ) с использованием библиотек Python XAI, TensorFlow 2.0+, Keras, а также пользовательских фреймворков с ис- пользованием Python Wrappers. Издание предназначено специалистам по анализу данных, инженерам по вне- дрению моделей ИИ, а также может быть полезно бизнес-пользователям и ру- ководителям проектов, использующих результаты работы решений ИИ в своей деятельности Об авторе О рецензентах Благодарности Введение Глава 1 Объяснимость и интерпретируемость модели Создание основ Искусственный интеллект Необходимость XAI Сравнение объяснимости с интерпретируемостью Типы объяснимости Инструменты для объяснимости моделей SHAP LIME ELI5 Skater Skope_rules Методы XAI для ML Совместимые с XAI модели XAI удовлетворяет требованиям ответственного AI Оценка XAI Заключение Глава 2 Этика, предвзятость и надежность AI Основы этики AI Предвзятость в AI Предвзятость данных Алгоритмическая предвзятость Процесс снижения предвзятости Предвзятость интерпретации Предвзятость при обучении Надежность в AI Заключение ГЛАВА 3 Объяснимость для линейных моделей Линейные модели Линейная регрессия VIF и проблемы, которые он может породить Окончательная модель Объяснимость модели Доверие к модели ML: SHAP Локальное объяснение и индивидуальные прогнозы в модели ML Глобальное объяснение и общие прогнозы в модели ML Объяснение LIME и модель ML Объяснение Skater и модель ML Объяснение ELI5 и модель ML Логистическая регрессия Интерпретация Вывод LIME Заключение ГЛАВА 4 Объяснимость для нелинейных моделей Нелинейные модели Объяснение дерева решений Подготовка данных для модели дерева решений Создание модели Дерево решений – SHAP График частичной зависимости PDP с использованием Scikit-Learn Объяснение нелинейной модели – LIME Нелинейное объяснение – Skope-Rules Заключение ГЛАВА 5 Объяснимость для ансамблевых моделей Ансамблевые модели Типы ансамблевых моделей Почему ансамблевые модели? Использование SHAP для ансамблевых моделей Использование интерпретации, объясняющей модель повышения Модель классификации ансамблей: SHAP Использование SHAP для объяснения категориальных моделей повышения Использование многоклассовой категориальной модели повышения SHAP Использование SHAP для объяснения модели легкой GBM Заключение ГЛАВА 6 Объяснимость для моделей временных рядов Модели временных рядов Выбор подходящей модели Стратегия прогнозирования Доверительный интервал прогнозов Что происходит с доверием? Временные ряды: LIME Заключение ГЛАВА 7 Объяснимость для NLP Задачи обработки естественного языка Объяснимость для классификации текстов Набор данных для классификации текста Объяснение с помощью ELI5 Вычисление весов характеристик для локального объяснения Локальное объяснение. Пример 1 Локальное объяснение. Пример 2 Локальное объяснение. Пример 3 Объяснение после удаления стоп-слов Классификация текста на основе N-грамм Объяснимость многоклассовой классификации текста по меткам Локальное объяснение. Пример 1 Локальное объяснение. Пример 2 Локальное объяснение. Пример 3 Заключение ГЛАВА 8 Справедливость модели AI, использующей сценарий «Что, если» Что такое WIT? Установка WIT Метрика оценки Заключение ГЛАВА 9 Объяснимость для моделей глубокого обучения Объяснение моделей DL Использование SHAP с DL Использование Deep SHAP Использование Alibi Объяснитель SHAP для глубокого обучения Еще один пример классификации изображений Использование SHAP Deep Explainer для табличных данных Заключение ГЛАВА 10 Контрфактуальные объяснения для моделей XAI Что такое CFE? Применение CFE CFE с помощью Alibi Контрфактуал для задач регрессии Заключение ГЛАВА 11 Контрастные объяснения для машинного обучения Что такое CE для ML? CEM, использующие Alibi Сравнение оригинального изображения и изображения, сгенерированного автокодировщиком Объяснения CEM для табличных данных Заключение ГЛАВА 12 Модельно независимые объяснения путем определения инвариантности прогноза Что такое независимость от модели? Что такое якорь? Объяснения якорей с помощью Alibi Якорь текста для классификации текста Якорь изображения для классификации изображений Заключение ГЛАВА 13 Объяснимость модели для экспертных систем, основанных на правилах Что такое экспертная система? Прямая и обратная цепочки Извлечение правил с помощью Scikit-Learn Потребность в системе, основанной на правилах Проблемы экспертной системы Заключение ГЛАВА 14 Объяснимость моделей для компьютерного зрения Почему объяснимость для данных изображений? Якорь изображения с помощью Alibi Метод интегрированных градиентов Заключение