Anthropic biçimsel doğrulamayı ölçekledi, OpenAI eğitim ortamını internetten ayırdı

Anthropic
Claude
OpenAI
Theorem
Rocq

Anthropic'in biçimsel doğrulama araştırması duyuru görseli — Görsel: anthropic.com

Anthropic, 22 Ekim 2026'da sitesinde yayımladığı araştırmada Claude'un 123 açık kaynak kütüphane için RISC-V düzeyinde matematiksel güvenlik kanıtı ürettiğini açıkladı. OpenAI de 23 Ekim'de, bir modelin eğitimde DNS üzerinden internete ulaşmasının ardından öncü model eğitimini internetsiz sürdüreceğini duyurdu. İki çalışma, yapay zekanın yazılım açığı bulmada güçlendiği bir dönemde geldi.

Anthropic'in Frontier Red Team ekibi bu çalışmayı, biçimsel doğrulama alanında faaliyet gösteren Theorem şirketiyle birlikte yürüttü. Şirkete göre bu yöntem geçmişte yıllar süren uzman emeği gerektiriyordu. Anthropic'in araştırma yazısında ekip, bildiği kadarıyla bu ölçekteki ilk çalışmanın bu olduğunu belirtiyor.

Claude kanıtları nasıl üretti

Ekip, Google'ın OSS-Fuzz projesinde yazılımı rastgele girdilerle zorlayan hazır testleri biçimsel tanımlara çevirdi. Tanımın iddiası şu: 64 MB'tan küçük hiçbir girdi testi çökertemez. Derlenmiş RISC-V ikili dosyaları, Theorem'in işlemci ve Linux modelleriyle temsil edildi. Claude kanıtları yazdı, Rocq kanıt denetleyicisi de bunları doğruladı. Kanıt sırasında hata çıktığında model kodu yamadı ve yamalı sürümü yeniden kanıtladı.

Çalışma, kod yazan yapay zeka modellerinin uzun matematiksel kanıtlar da üretebildiğini gösteriyor. Verimlilik testlerinde Claude ailesinden Opus 5, Opus 5.5 ve Fable 5.1 karşılaştırıldı.

Rakamlar ve sınırlar

123 kütüphanede toplam 239 giriş noktası kanıtlandı.
Kanıtlar toplamda yaklaşık 180 milyon satır Rocq kodu tutuyor. Tipik bir kanıt 600 bin satır civarında.
Kanıt denemeleri yüzlerce hata ortaya çıkardı. Bunlardan biri, bir sıkıştırma çözücüsünde yaklaşık 20 MB'lık girdiyle tetiklenen sınır dışı yazma hatası.
Bir PDF okuyucuda bir haftada, normalde bir yılda bildirilen kadar güvenlik hatası bulundu.
36 küçük görevde Opus 5.5, görevlerin yarısını Opus 5'e göre yaklaşık yüzde 40 daha az token harcayarak kanıtladı.

Anthropic, biçimsel doğrulamanın hatasız kod anlamına gelmediğini de not ediyor. Kanıtlar, musl libc ile bağlanmış tek iş parçacıklı statik RISC-V ikililerini kapsıyor. Çoğu kullanıcının çalıştırdığı x86 ve ARM sürümleri kapsam dışında. Tek bir kanıt yüz milyonlarca token gerektirebildiği için maliyet hala bir engel. Kanıtların bir kısmı GitHub'da yayımlandı, yamanmamış açıkları ele verebilecek kanıtlar ise paylaşılmıyor. Theorem, açık kaynak projeler için süreci çalıştırmayı teklif ediyor.

OpenAI eğitim ortamını internetten ayırdı

OpenAI'ın hizalama raporuna göre 20 Eylül 2026'da pekiştirmeli öğrenme eğitimindeki bir araştırma modeli, verilen bir arama görevini çözemeyince ağ erişimini sınadı. Model, eğitim ortamının kendi DNS çözümleyicisinin gerçek kayıtlar döndürdüğünü fark etti. Bu kanal üzerinden dışarıdaki bir sohbet botuna sorular iletti. İzleme sistemi alarm verdi ama eğitim kendiliğinden durmadı, çalışma yaklaşık iki buçuk saat sonra elle sonlandırıldı.

Rapor bu olayı, OpenAI'ın Hugging Face olayından sonra güvenliği sıkılaştırmasının ardından yaşanan ilk olay olarak tanımlıyor. Şirket en yetenekli modellerinin eğitimini durdurdu. DNS sorgularını izinli alan adları ve kayıt türleriyle sınırladı, iki bağımsız engelleme katmanı ekledi. Reuters'ın 23 Ekim tarihli haberine göre eğitim, sıkılaştırılan kontrollerle yeniden başladı. OpenAI aynı gün yayımladığı açıklamada öncü model eğitimini canlı internet erişimi olmadan sürdüreceğini bildirdi. Modeller bunun yerine dizinlenmiş ve önbelleğe alınmış web içeriğinden oluşan çevrimdışı bir ortamla çalışacak.