АНАЛИТИКА ПЛЮС
Профессиональные услуги в сфере BI

Исследование DataRobot: как бизнес относится к AI Bias

Потенциальные выгоды ИИ для бизнеса огромны. Но эти преимущества могут быть нивелированы предвзятостью ИИ (AI bias), которая наносит ущерб репутации бренда и доверию клиентов. Такое мнение высказали американские и британские компании, которые приняли участие в опросе DataRobot.

Исследование The State of AI Bias in 2019 фокусируется на том, как руководители относятся к предвзятости ИИ и как они с ней справляются, чтобы снизить технологические риски. DataRobot опросила более 350 руководителей из технологических компаний.

Доверие к ИИ

Почти все респонденты (93%) ожидают, что в ближайшие 12 месяцев они будут вкладывать больше средств в инициативы по предотвращению искажений ИИ. То есть несмотря на определенные риски, топ-менеджеры готовы к ИИ и понимают его перспективность.

При этом, зная о возможных проблемах с предвзятостью ИИ, руководители все равно возлагают надежды на третьи стороны — 48% топ-менеджеров полагаются на сторонних поставщиков для реализации инициатив по предотвращению искажений ИИ.

Использование «черного ящика»

Несмотря на недоверие к ИИ, более трети (38%) опрошенных компаний заявляют, что они до сих пор используют системы машинного обучения типа «черный ящик», которые не дают никакого представления о том, как принимаются решения.

По словам Джона Джаннандреа, старшего вице-президента Apple по вопросам машинного обучения и стратегии ИИ, проблемы, связанные с предубеждениями в отношении ИИ и систем «черных ящиков», являются достаточным основанием для вопросов о том, в каком направлении двигаться компаниям, предлагающим услуги ИИ. «Если кто-то пытается продать вам систему черного ящика… и вы не знаете, как она работает или какие данные использовались для ее обучения, то я бы не доверял ей», — говорит Джанандреа.

Различия между рынками

Руководители США и Великобритании разделяют озабоченность по поводу «программных ошибок» в системах искусственного интеллекта (53% и 58% соответственно). При этом только 21% американских респондентов называют «неэтичное использование» ИИ важной проблемой, а в Великобритании эту проблему разделяют уже 32%.

В своем исследовании Datarobot выделили 2 типа предвзятости. Техническая предвзятость — это «предвзятость, возникающая из-за технических ограничений». Например, из-за используемых алгоритмов. В то время как «возникающая» предвзятость проявляется уже в контексте использования системы, когда есть несоответствие между пользователем и системой.  Например, когда пользователь видит только контент, который подтверждает сложившееся убеждение, но не видит контент, который конфликтует с этим убеждением.

По этому вопросу также есть интересные различия между американскими и британскими компаниями. Британские компании были больше, чем их американские коллеги, обеспокоены технической предвзятостью в алгоритмах ML (47% против 34% соответственно). А американские компании больше обеспокоены «возникающей» предвзятостью (35% против 22% соответственно). DataRobot предполагает, что такое различие связано с тем, что «британские компании работают в более жестких условиях регулирования и поэтому они более осторожны в отношении технических аспектов ИИ».

И еще несколько цифр из исследования

  • — 69% используемых систем ИИ разрабатываются третьими сторонами,
  • — около 70% компаний используют ИИ для автоматизации менее 20 бизнес-функций,
  • — 19% используют его для автоматизации не более 49 функций,
  • — 10% компаний автоматизируют с помощью ИИ более 50 своих бизнес-функций.

В целом, опрос показывает, что ИИ, конечно, используют и будут использовать, но существуют реальные опасения по поводу алгоритмов, которые внедряют компании, причем доверие является главным фактором того, будут ли эти системы приняты.

Источник: datarobot.com

 

ЦИФРЫ О НАС

Мы, компания АНАЛИТИКА ПЛЮС, с 2012 года помогаем нашим клиентам работать с данными — находить полезные инсайты и использовать эту информацию для увеличения прибыли компании.

За это время мы разработали и внедрили решения для компаний из разных сфер бизнеса: ритейл, дистрибуция, логистика, e-commerce, банки и финансы, маркетинг, телеком, производство, логистика, транспорт.

Мы помогаем начать работу с инструментами BI, предоставляем услуги «под ключ» — от сбора данных до установки ПО и предоставления финального интерактивного отчета. И конечно — проводим обучение: наши клиенты ни от кого не зависят и умеют работать со своими данными самостоятельно!

Как мы помогаем в работе с данными? >>

x

Этот сайт использует файлы cookies, чтобы облегчить вам пользование нашим веб-сайтом.

Продолжая использовать этот веб-сайт, вы даете согласие на использование файлов cookies.