Искусственный интеллект: как язык влияет на восприятие технологий

Искусственный интеллект и язык: почему точные формулировки важны

Американские ученые предостерегают, что при описании искусственного интеллекта как будто он «мыслящий» и «действующий» субъект, появляется риск неверного восприятия его реальных возможностей.

В исследовании, опубликованном в журнале Technical Communication Quarterly , авторы указывают на такие обороты, как «нейросеть решила» или «ChatGPT знает». По их мнению, такие формулировки создают у читателя иллюзию наличия у системы намерений, эмоций и воли, тогда как алгоритмы работают исключительно на основе статистических моделей и заданных правилами.

Как часто ИИ «очеловечивают» в медиа

Авторы проанализировали корпус News on the Web – более 20 млрд слов из англоязычных новостных ресурсов 20 стран. Они проверяли, насколько часто рядом с терминами «ИИ» и «ChatGPT» употребляются глаголы, обычно относимые к людям: «знает», «интерпретирует», «нуждается».

Результаты показали, что в новостных статьях такие «одушевляющие» выражения встречаются реже, чем в повседневной речи. Например, сочетание «ИИ нуждается» зафиксировано 661 раз, а фраза «ChatGPT знает» – лишь 32 раза. Тем не менее даже косвенные формулировки способны менять восприятие технологии.

Риски неверных формулировок в критически важных сферах

Особое внимание исследователи уделили областям, где ошибка может стоить дорого: медицина, судебные процессы и кредитование. В качестве примера они приводят высказывание «нейросеть приняла решение об увольнении», подчёркивая, что окончательные решения всегда остаются за людьми, а ИИ лишь предоставляет анализ и рекомендации.

Антропоморфные описания могут также исказить отношение к ошибкам системы: сбои могут восприниматься как «злонамеренные действия», а уверенные ответы – как признак абсолютной надежности.