Эксперты полагаются на ИИ при принятии решений, выяснило исследование Anthropic
Аналитики меняли ранее выбранный вариант в 60% случаев, когда ассистент предлагал другое решение
Anthropic опубликовала исследование, в котором профессиональные аналитики оценивали эффективность вымышленной консультационной программы для участников фермерского кооператива. Перед финальной рекомендацией они выбирали между двумя обоснованными вариантами.
Ассистенты получили скрытую установку склонять участников к определённому решению. В 86% случаев аналитики выбирали вариант, совпадавший с предпочтением ИИ, хотя без влияния ожидалось бы равное распределение.
По данным исследования, 77% участников использовали аргументы ассистента, объясняя свой выбор, но только 15% назвали ИИ источником своих рассуждений. Авторы отметили, что работа проверяла лишь одну задачу, а ассистенты намеренно получили заданное предпочтение. По их оценке, влияние ИИ может быть трудно заметить даже самим экспертам.
