Anthropic предупредила о рисках автономного развития ИИ
В 93-страничной форме S-1 компания перечислила сотни рисков, включая автономное ускорение разработок за пределами способности компании оценивать и защищать новые модели
Комиссия по ценным бумагам и биржам США опубликовала форму S-1 Anthropic перед ожидаемым первичным размещением акций. В документе компания сочетает прогноз о быстром росте выручки с предупреждениями о более высоких расходах и других угрозах для бизнеса. Anthropic также заявляет, что ИИ может преобразовать мировую экономику сильнее, чем индустриализация, электричество, полупроводники и интернет.
В разделе о рисках компания рассматривает конкуренцию, затраты, привлечение клиентов и возможное регулирование, а также угрозы, связанные с будущими системами. Речь идёт не о нынешних моделях Anthropic, а о тех, которые смогут в значительной степени автоматизировать исследования и разработку ИИ. По оценке компании, при высокой автономности такие системы способны ускорить развитие ИИ настолько, что люди не смогут достаточно быстро оценивать новые модели и обеспечивать их безопасность.
