Anthropicning yangi prototipi AI javoblarining haqiqiyligini tekshirishga yordam beradi
Anthropic FlashProve nomli ochiq prototipni taqdim etdi. U javobni aynan muayyan model yaratganini tasdiqlovchi kriptografik dalil hosil qiladi.
Anthropic tekshirilishi mumkin boʻlgan AI natijalari uchun FlashProve tizimini chiqardi. U javobni xarajatlarni kamaytirish yoki test natijalarini oʻzgartirish maqsadida yashirincha ulangan boshqa model emas, aynan koʻrsatilgan model yaratganini tasdiqlash imkonini berishi kerak.
Tizim ishlashi uchun ishlab chiquvchilar modelning kriptografik “iz”ini eʼlon qilishi kerak. Bu iz model vaznlarini oshkor qilmaydi, shu sababli ushbu yondashuv tijoriy yopiq modellar uchun ham qoʻllanishi mumkin. Anthropic texnik hujjatlar va manba kodini ham Apache 2.0 litsenziyasi ostida ochiqladi. Tadqiqot davom etmoqda, FlashProveʼni Anthropic yoki boshqa laboratoriyalarda joriy etish rejalari hozircha yoʻq.
Yana oʻqing
Uzun kontekst oʻzgarishlarni aniq kuzatishni kafolatlamaydi — buni StateBench koʻrsatdi
Tadqiqotlar10:58
Anthropic sunʼiy intellektning rekursiv oʻzini-oʻzi takomillashtirishiga yaqinlashayotgani haqida ogohlantirdi
Tadqiqotlar3-noyabr, 10:47