Anthropic sunʼiy intellektning rekursiv oʻzini-oʻzi takomillashtirishiga yaqinlashayotgani haqida ogohlantirdi

Anthropic yangilangan S-1A shaklida sunʼiy intellekt yordamida tadqiqotlarni jadallashtirish haqidagi maʼlumotlarni xatarlar boʻlimiga qoʻshdi. Kompaniya yangi modellarni yaratishda sunʼiy intellektdan allaqachon foydalangan, biroq ularning imkoniyatlari keskin oshganini darhol anglamagan.

Anthropicning ichki siyosatiga koʻra, kelajakdagi modellar tez orada sunʼiy intellekt bilan bogʻliq «keskin tezlashgan taraqqiyot»ga olib kelishi mumkin. Shu bilan birga, kompaniya hozircha amaldagi modellardan birortasi bu bosqichga yetganini tan olmagan va maʼlumotlarni tahlil qilishda davom etmoqda.

Anthropic, shuningdek, yaqin istiqbolda Claudeʼga ilgʻor modellarning keyingi avlodlarini toʻliq avtonom tarzda loyihalash va yaratishni xavfsiz ravishda topshira olishiga umid qilmayotganini bildirdi. Kompaniya insonning muhim nazoratini saqlab qolish uchun siyosatini yangilashni koʻrib chiqmoqda.