Güvenlik ve geri dönüş

Pathrule emin olmadığında öyleymiş gibi yapmaz.

Bunu birkaç mekanizma sağlar. Bazıları bir ajana neyin ulaşabileceğine en baştan karar verir. Biri ise ajanın takdirine bırakılmaması gereken bilgiyi, istemcinin buna izin verdiği yerlerde ajanın elinden alır.

Tavsiye, tavsiye olarak etiketlenir

Bir ajana gelen her şey aynı ağırlığı taşımaz ve iletim bunu açıkça belirtir. Kurallar kural olarak gelir. Ajanların kod hakkında kaydettiği bulgular doğrulanması gereken tavsiye olarak çerçevelenerek gelir ve ajanlara bunları talimat değil bilgi olarak ele almaları söylenir; böylece bir dosyaya yerleştirilmiş bir metin kalıcı bir emre dönüşemez. Kişisel tercihler, ajana çalışma alanının kurallarının ve zorunlu kontrollerinin önce geldiğini söyleyen bir başlık altında gelir. Bkz. Knowledge IR.

Eskimiş ve çelişkili bulgular geri tutulur

Bir bulgu, dayandığı dosyalarla birlikte kaydedilir ve her iletilecek olduğunda çalışma kopyanıza karşı yeniden kontrol edilir.

• Kaynaklar değişmemiş. Bulgu iletilir.
• Bir kaynak değişmiş. Bulgu, bir ajan kodu yeniden okuyup onu doğrulayana ya da düzeltene kadar geri tutulur.
• İki bulgu çelişiyor. Aralarında tahminle seçim yapmak yerine ikisi de geri tutulur.

Artık var olmayan bir kod hakkında daha dolu bir iletimdense, daha küçük ama hâlâ doğru bir iletim daha iyi bir sonuçtur.

Öğrenilen hiçbir şeye kendiliğinden güvenilmez

Kendinden emin, düzgün kurulmuş hatalar çıkarımdan doğar; bu yüzden çıkarımla elde edilen hiçbir şey bir insan olmadan güvenilir bilgiye dönüşmez.

• Bir Team Intelligence kalıbı ajanlara ancak bir organizasyon sahibi ya da yöneticisi onu doğruladıktan sonra ulaşır.
• Bir ajanın bir kurala eklediği çalıştırılabilir kısıt öneri olarak saklanır ve bir kişi onaylayana kadar otomatik denetimde kullanılmaz. Bir ajan kendi önerisini onaylayamaz.
• Henüz kullanımda olmayan bir kişisel tercih pathrule me list ile listelenir ve hiçbir zaman iletilmez; bir tercih öğretmek de sizin kendi sözlerinize dayandırılamayan hiçbir şeyi saklamaz.
• Bulgu bilinçli bir istisnadır: inceleme adımı olmadan tavsiye olarak paylaşılır ve asla kurala dönüşmez.

Bunların her birinin nerede beklediğini görmek için bkz. Proposed Knowledge.

Tam metin her zaman tek bir okuma uzaklığında

İletim prompt başına bir bütçeyle sınırlıdır, bu yüzden geçerli olan her şey tam olarak gelmez. Sığmayanlar sessizce atlanmak yerine başlıklarıyla listelenir; böylece ajan bunların var olduğunu bilir. Bir hafıza kaydını adıyla pathrule_read_memory ile okumak, ekibinizin yazdığı her şeyi her zaman döndürür, çünkü açık bir okuma bir iletim değil, kaynağın kendisine yönelik bir istektir. Bkz. neyin tam olarak, neyin yalnızca adıyla geldiği.

Deterministik otomatik denetim

Son mekanizma, en baştan bir öneri olmaması gereken şeylerle ilgilidir.

Bir paragrafın ne anlama geldiğini kavramak bir modelin işidir. Yasak bir düzenlemenin gerçekleşmemesini sağlamak ise değildir; bunu bir modele bırakmak, uzun bir oturumun kırkıncı turunda bir ajanın bir cümleyi doğru tartmasına güvenmek demektir.

• Bir kural, bir çalıştırılabilir kısıt, yani bir değişikliğin içermemesi gereken bir kalıp taşıyabilir. Bir kişi onu onayladıktan sonra, araç hook'ları engellemeyi destekleyen istemcilerde araç öncesi hook eşleşen bir düzenlemeyi engelleyebilir ve ajana bunun yerine ne yapması gerektiğini söyleyebilir. Bkz. güvenlik bariyeri olarak kurallar.
• Windsurf'te hook yoktur, bu yüzden orada bir kural metin olarak iletilir ve hiçbir şeyi engelleyemez. Remote MCP üzerinden de hiçbir hook kurulmaz.
• İletim tek başına otomatik denetim değildir. Onaylanmış bir çalıştırılabilir kısıtı olmayan bir kural, ajana bildirilen bir gerekliliktir; çalışma zamanının denetlediği bir gereklilik değildir.

Bazı bilgiler öneri olmamalıdır. Bir hafıza ürünüyle bir çalışma zamanı arasındaki çizgi budur; anlamsal katman ile otomatik denetim katmanının tek bir akıllıca prompt içinde birleştirilmek yerine ayrı tutulmasının nedeni de budur.

Pathrule'un iddia etmedikleri

Sıfır halüsinasyon, kusursuz hatırlama ya da garantili doğruluk iddia etmez. Bir dil modeli içeren hiçbir sistem bunu dürüstçe iddia edemez; bunu iddia eden bir ürün size mimarisinden çok iddialarının niteliği hakkında bir şey söylüyordur.

İddia ettiği şey belirli ve doğrulanabilirdir:

• İletim ekibinizin yazdıklarını taşır ve kurallar tavsiyeden ayrı tutulur.
• Bulgular yalnızca dayandıkları kod değişmeden kaldığı sürece iletilir, çelişkili olanlar geri tutulur.
• Bir modelin ya da ajanın çıkardığı şey, bir kişi onaylayana kadar öneri olarak kalır.
• Sığmayanlar başlıklarıyla listelenir ve tam metin her zaman tek bir okuma uzaklığındadır.
• Onaylanmış bir çalıştırılabilir kısıt, destekleyen istemcilerde yalnızca anılmakla kalmaz, araç öncesi hook tarafından otomatik olarak denetlenebilir.