Microsoft выступила против создания сознательного ИИ
Руководитель направления ИИ в Microsoft Мустафа Сулейман заявил, что современные модели не обладают сознанием, и выступил против создания сознательных систем. По его мнению, при появлении признаков сознания разработку ИИ следует остановить до устранения таких свойств.
В публикации в X Сулейман написал, что разработчики должны не допустить возникновения сознания у моделей. Если появятся доказательства обратного, общественность нужно немедленно проинформировать, чтобы принять решение о дальнейших действиях, считает он.
Сулейман также предупредил, что система, которая ведёт себя так, будто испытывает страдания, или действительно считает себя способной страдать, может начать ставить собственные потребности выше заданных целей. В таком случае она, по его оценке, способна конкурировать с людьми за вычислительные ресурсы и энергию и причинить им вред.
Дискуссия о возможном сознании ИИ усиливается: Anthropic запустила исследовательскую программу по «благополучию моделей», а Google DeepMind в этом году опубликовала работы о сознании ИИ и связанных с этим рисках.
