В наше время разработки на основе ИИ широко применяются в предпринимательской деятельности, завоёвывая всё новые ниши. Поэтому так важно рассмотреть этические и правовые аспекты его использования. О том, как найти решения, которые будут соответствовать всем необходимым нормам, рассказала Анастасия Кондакова — эксперт по развитию бизнеса, ритейлу и цифровизации бизнеса, ex-соучредитель компании Redecoro (офлайн-магазины товаров для… Читать далее Искусственный интеллект для бизнеса: как использовать с учётом требований закона и этики?
В наше время разработки на основе ИИ широко применяются в предпринимательской деятельности, завоёвывая всё новые ниши. Поэтому так важно рассмотреть этические и правовые аспекты его использования. О том, как найти решения, которые будут соответствовать всем необходимым нормам, рассказала Анастасия Кондакова — эксперт по развитию бизнеса, ритейлу и цифровизации бизнеса, ex-соучредитель компании Redecoro (офлайн-магазины товаров для дома, которые стали заменой ушедшей Zara), учредитель сервиса IT-решений для бизнеса VRTOOLapp — первого российского сервиса виртуальной примерки товаров из карточки товара.
Объяснимый ИИ: для чего он нужен?
Сегодня искусственный интеллект является незаменимым помощником предпринимателей, оказывая значительное влияние на многие бизнес-процессы: от работы с кадрами до сложной аналитики кредитоспособности клиентов. Широкие возможности новых технологий помогают сокращать расходы, увеличивать эффективность и успешно справляться с конкуренцией.
Важно подумать не только о преимуществах ИИ, но и о необходимости соблюдать определённые стандарты. Надо понимать, что некоторые алгоритмы способны нанести компании репутационный ущерб и спровоцировать юридические последствия. Чтобы избежать неприятностей, предлагается использовать объяснимый искусственный интеллект (XAI, Explainable AI).
Возможности XAI
Работа ИИ требует всё меньше человеческого участия, и это несёт в себе серьёзные риски. На данный момент не хватает эффективных инструментов, которые могут оценить результаты такой деятельности. XAI помогает решить данную задачу и выявить ошибки.
Необходимо учитывать, что ИИ анализирует огромное количество информации, часть из которой противоречит закону, усиливает неравенство и нарушает принципы справедливости. Например, банк определяет кредитоспособность заёмщиков с помощью ряда показателей.
Значение некоторых из них, например возраста, может быть преувеличено системой, что вызывает дискриминацию определённых групп клиентов. XAI помогает увидеть и устранить этот дисбаланс.В итоге его применение приводит к росту доверия к ИИ и позволяет улучшить работу программ. Поэтому сегодня происходит активное внедрение объяснимого ИИ в сферы страхования, банковской деятельности и финансовых услуг.
Особенности позиционирования XAI
Сейчас всё чаще говорится о необходимости применения Explainable AI. Однако это стремление касается скорее организаций — рядовому потребителю интересны основные инструменты искусственного интеллекта, а тема прозрачности алгоритмов отходит на второй план. В результате технологии XAI пока выступают в связке с ключевыми возможностями ИИ.
Например, растёт популярность 3D-визуализации товаров на маркетплейсах. Для этого можно использовать сервис VRTOOLapp. В описании продукта указаны важные для заказчиков сведения о цифровых инструментах, которые обеспечивают его эффективность. А объясняемый ИИ решает другие задачи: он даёт дополнительные данные и способствует формированию доверия клиентов в долгосрочной перспективе.
Будущее технологий XAI
Громкие проекты последних двух лет, связанные с XAI, реализованы известными компаниями Temenos, Ericsson, Apple, Fujitsu Limited и другими. Они касаются цифрового инжиниринга, банковской сферы, коммуникаций, финансовой и деловой информации.
Технологии Explainable AI появились совсем недавно, но уже существует приличное количество инструментов для интерпретации данных: ELI5, SHAP, LIME, DALEX. Наиболее популярны SHAP и LIME, удачно дополняющие друг друга. Первый помогает оценить вклад каждого элемента ML-модели в общий результат, а второй даёт возможность проанализировать совокупность факторов в каждом конкретном случае.
В Explainable AI уже вложены значительные средства — около 10 миллиардов долларов. Сегодня XAI делает работу нейросетей более понятной для потребителя, помогает наладить контакт между людьми и автоматическими системами. Аналитики прогнозируют дальнейшее увеличение объёма инвестиций в развитие XAI — до 21,19 миллиарда долларов к 2029 году. Специалисты Mordor Intelligence подсчитали, что темпы роста этого сегмента приблизятся к отметке 20% (CAGR — 19,69%). Похожие цифры и у Precedence Research: CAGR — 18,22%.
Технологии Explainable AI проникают в различные области: медицину, управление транспортом, промышленное производство, сферу потребительских услуг. Особенно активно XAI используется в США благодаря инициативе американских военных. Начиная с 2018 года, этой темой занимаются несколько университетов, которые проводят исследования для министерства обороны. В перспективную программу DARPA уже вложено более 2 миллиардов долларов.
Ситуация на российском рынке
В нашей стране технологии объяснимого ИИ ещё не получили такого распространения, как на Западе. Однако один из главных принципов развития ИИ в России, отмеченный в официальных документах, — прозрачность работы алгоритмов AI.
Сегодня увеличивается финансирование научных исследований в сфере Explainable AI. Данное направление разрабатывается в отечественных университетах, например, в Нижегородском университете и в РЭУ имени Г. В. Плеханова. Они посвящены способам применения XAI в различных областях, созданию систем нового поколения, основанных на методах объяснимого ИИ.
Возможно, скоро на российском рынке будут представлены готовые проекты с применением инструментов Explainable AI. По мнению участников форума AI Journey, который состоялся в 2023 году, искусственный интеллект должен быть объяснимым. Это позволит переучивать уже существующие модели, а не создавать новые, более совершенные.
Известно, что применение ИИ значительно повышает эффективность бизнеса, однако важно помнить о требованиях этики и права. Необходимо обеспечить прозрачность алгоритмов, защиту данных пользователей и соблюдение законодательства. Регулярные корректировки ИИ-систем помогут выявить потенциальные риски и убедиться, что технологии используются ответственно, в интересах всех сторон.