Автомобильный ИИ: доверие против надёжности

Интеграция ИИ в повседневную жизнь высветила важный вопрос: как то, как мы описываем ИИ, влияет на его принятие и удобство использования? Такие понятия, как «надежный ИИ» и «заслуживающий доверия ИИ», широко используются производителями и регулирующими органами, но как эти термины влияют на отношение и ожидания пользователей? Недавнее исследование под названием «The Impact of Labeling Automotive AI as Trustworthy or Reliable on User Evaluation and Technology Acceptance» («Влияние маркировки автомобильного ИИ как заслуживающего доверия или надежного на оценку пользователей и принятие технологии»), опубликованное в журнале Scientific Reports 15, 1481 (2025), направлено на раскрытие этого вопроса. В исследовании, проведенном Джоном Доршем и Офелией Дерой, изучается, как эти ярлыки влияют на восприятие автомобильных технологий с поддержкой ИИ, проливая свет на пересечение языка, этики и поведения пользователей.

Доверие и надежность в ИИ

Различие между доверием и надежностью в ИИ не просто семантическое; оно имеет глубокие последствия для того, как оцениваются и используются эти системы. Доверие подразумевает моральную чувствительность, доброжелательность и ответственность — качества, которые обычно ассоциируются с людьми. В отличие от этого, надежность сосредоточена исключительно на производительности и последовательности, лишенных человекоподобных качеств. Философы утверждают, что, хотя «доверять» машинам в моральном смысле может быть нерационально, акцент на надежности может предложить более практичные и этически обоснованные рамки. Данное исследование посвящено изучению того, как эти разные ярлыки влияют на восприятие пользователей, особенно в контексте автомобильного ИИ.

В исследовании использовалась односторонняя межсубъектная модель, в которой 478 участников были разделены на две группы: в одной из них использовался термин «надежный ИИ», а в другой — «надежный ИИ». Участникам были представлены рекомендации, соответствующие присвоенному им ярлыку, и предложено оценить три сценария вождения с помощью ИИ — планирование, парковка и помощь в управлении. Для оценки ответов использовалась упрощенная версия Модели принятия технологий, в которой основное внимание уделялось таким факторам, как воспринимаемая простота использования, полезность и доверие. Исследователи также оценивали такие специфические конструкты, как ответственность  и вина ИИ и доверие ему с помощью опросников.

Исследование выявило нюансы различий в том, как ярлыки «достойный доверия» и «надежный» формируют восприятие пользователей:

• Отсутствие существенных различий в отношении вины и ответственности. Участники не продемонстрировали значительных различий в своих оценках ответственности или виновности ИИ в зависимости от двух ярлыков, что указывает на то, что ни один из терминов не влияет на то, как пользователи распределяют ответственность.
• Воспринимаемая простота использования и доброжелательность. Ярлык «надежный ИИ» значительно повысил восприятие простоты использования и доброжелательности, что свидетельствует об антропоморфном эффекте, когда пользователи приписывают системе ИИ человекоподобные качества, такие как забота и доброжелательность.
• Стереотипы о человекоподобном ИИ. Хотя ярлык «надежный ИИ» способствовал позитивному восприятию намерений системы, он не привел к повышению уверенности в использовании технологии или намерению внедрить ее. Это свидетельствует о несоответствии между восприятием надежности и практической пригодностью.

Разработка описаний для лучшего внедрения ИИ

Полученные результаты свидетельствуют о том, что маркировка ИИ как «заслуживающего доверия» может непреднамеренно антропоморфировать технологию, заставляя пользователей ожидать от ИИ качеств, которые он не может обеспечить. Это может подорвать доверие пользователей, если система не оправдает этих ожиданий. Напротив, акцент на надежности в большей степени соответствует эксплуатационным достоинствам ИИ, предлагая реалистичную основу для взаимодействия с пользователями.

Для разработчиков и политиков эти выводы подчеркивают важность выбора описаний, которые эффективно управляют ожиданиями. Подчеркивание надежности может смягчить такие проблемы, как неприятие алгоритмов, когда пользователи отвергают ИИ, несмотря на его доказанные преимущества. Кроме того, разработка четких коммуникационных стратегий, касающихся возможностей и ограничений ИИ, может повысить уровень принятия и доверия пользователей к новым технологиям.

Проблемы и ограничения

В исследовании признается ряд ограничений. Во-первых, наблюдаемые эффекты были скромными, и на них могла повлиять конкретная формулировка определений, предоставленных участникам. Во-вторых, исследование было сосредоточено исключительно на автомобильном ИИ, что ограничивает его применимость к другим областям, таким как здравоохранение или обслуживание клиентов. В будущих исследованиях следует изучить, как маркировка доверия и надежности влияет на различные типы технологий ИИ и демографические характеристики пользователей.

Еще одним важным ограничением является возможность влияния на ответы предубеждений пользователей. Участники могли сформировать мнение о благонадежности или надежности ИИ до начала эксперимента, что могло ослабить влияние обозначений. Решение этих вопросов в будущих исследованиях позволит получить более полное представление о роли языка в формировании восприятия ИИ.

На пути к этичной и эффективной коммуникации в области ИИ

Будущие исследования должны расширить эти выводы, изучив влияние ярлыков доверия и надежности в более широком спектре приложений, включая здравоохранение и обслуживание клиентов с помощью ИИ. Изучение роли культурных и демографических факторов в формировании восприятия пользователей также может принести ценные сведения. Кроме того, интеграция сценариев реального мира и продольные исследования помогут оценить долгосрочное влияние этих меток на поведение пользователей и принятие технологий.

Разработчики и регулирующие органы также должны вести более глубокий этический разговор о языке, используемом для описания ИИ. Хотя доверие может быть привлекательным маркетинговым термином, он рискует ввести пользователей в заблуждение относительно возможностей ИИ. Фокус на надежности в сочетании с прозрачной коммуникацией предлагает путь к построению реалистичных и устойчивых отношений пользователей с технологиями ИИ.