Apple назвала автономных ИИ-агентов потенциальной угрозой для бизнеса
В годовом отчёте Apple указала, что ИИ-агенты могут навредить бизнесу из-за несанкционированных действий, исков, ущерба репутации и новых расходов на соблюдение правил.
Apple предупредила в годовом финансовом отчёте, что ИИ-агенты могут самостоятельно обращаться к внутренним и внешним системам, менять код, отправлять сообщения и совершать транзакции. По оценке компании, они способны действовать без соответствующих указаний или разрешений, а контроль над сторонними агентами может быть ограничен.
Компания также отметила, что регулирование ИИ и «сверхинтеллекта» меняется непредсказуемо, а адаптация к новым требованиям может потребовать значительных расходов. Среди рисков Apple назвала судебные иски, репутационный ущерб, опасения за безопасность и негативное восприятие автоматизации потребителями.
Apple уже изменила правила полного доступа к диску на компьютерах Mac, чтобы снизить риски, связанные с таким уровнем разрешений для ИИ-агентов. Собственного агентного ИИ у компании пока нет, но гендиректор Джон Тернус заявил о возможности расширить функции Siri. По его словам, компания хочет развивать такие инструменты с учётом безопасности и конфиденциальности пользователей.
