Son birkaç yılın bir yerinde AI, insanların içini döktüğü şey oldu. Gece birdeki iş korkusu, evlilik şüphesi, sağlık paniği, bir ebeveyn hakkında hiç yüksek sesle söylenmemiş olan şey. Mantıklı — bir AI irkilmez, dedikodu yapmaz ve gece birde oradadır. Ama o itirafları yazan çoğu insan, önemli olan tek soruyu hiç sormadı: kelimeler nereye gidiyor?
Genel amaçlı sohbet botlarıyla yapılan konuşmaların hiçbir yasal gizlilik taşımadığı geniş biçimde haberleştirildi — en büyük AI şirketlerini yönetenler tarafından da açıkça söylendi. Doktor-hasta ya da avukat-müvekkil ayrıcalığına benzer hiçbir şey geçerli değil. Sohbet kayıtları ticari kayıtlardır: saklanabilir, incelenebilir ve bir davada talep edilebilirler. O haberler bir sürü insanı aynı ifadeyi aramaya yolladı: özel AI günlüğü. Bu rehber, aslında sordukları şeyin sade dilli versiyonu.
Genel bir asistana yazılan kelimelere ne olur
Korku tellallığı yok — sadece, çoğu genel amaçlı sohbet botuna şu ya da bu bileşimde uygulanan mekanik:
- Saklama, okunabilir halde. Konuşmaların tipik olarak şirket sunucularında, şirketin sistemlerinin okuyabildiği bir biçimde saklanır. Bir sohbeti kendi görünümünden silmek, onu onlarınkinden her zaman silmez; saklama süreleri değişir ve yasal beklemelerle uzatılabilir.
- Eğitim, çoğu zaman varsayılan olarak. Birçok tüketici sohbet botu, sen ayarı bulup çıkmadıkça konuşmaları modelleri geliştirmek için kullanır. Sırrın, bir eğitim derleminde bir damla olur — niyette anonim, fiiliyatta senin elinden çıkmış.
- İnsan incelemesi, mümkün. Birçok sağlayıcıda güvenlik ve kalite süreçleri, konuşma örneklerinin çalışanlar ya da yükleniciler tarafından okunmasına izin verir. Mesaj başına nadir — ama yapısal olarak mümkün, ki mesaj bir sır olduğunda önemli olan tam da budur.
- Delil talebi, gerçek. Ayrıcalık olmadığı için sohbet kayıtları, e-postalar gibi davalarda talep edilebilir. Mahkemeler AI şirketlerine konuşma verilerini büyük ölçekte saklamalarını çoktan emretti. Güvenle yazdığın şey, bir ifade tutanağında okunabilir.
Bunların hiçbiri genel sohbet botlarını kötü yapmaz. Hayatın hassas olmayan yüzde doksanı için gayet iyi araçlardır. Sorun, insanların onları öbür yüzde on için kullanması — çünkü gece birde arayüz özel hissettirir. Arayüz, mimari değildir.
Mahremiyet-mimarili bir günlük neyi farklı yapar
Sırlar için inşa edilmiş bir günlük, varsayılanları tersine çevirir — çünkü varsayılan kurulumda uygulama günlüğünü okuyabilir. Üç yapısal fark, sade dille:
Sıfır bilgi saklama. Girişlerin, saklanmadan önce, yalnızca senin elindeki bir kimlik bilgisinden türetilen bir anahtarla cihazında şifrelenir. Sunucuda duran şey şifreli metindir — anahtarın olmadan matematiksel olarak okunamaz. Bu bir poliçe vaadi değildir ('bakmayacağız'); mimari bir olgudur ('bakamayız'). Yönetici görünümü diye bir şey yoktur. Bir destek mühendisi günlüğünü açamaz. Bir veritabanı ihlali anlamsız gürültü sızdırır. Bir satın alıcı, şifreli metin satın alır.
Yazdıklarınla eğitim yok. Gerçek bir özel günlük, girişlerini model eğitiminden sözleşmeyle hariç tutar. En kötü gecen, kimsenin ürününü geliştirmiyor.
Verin olmayan bir iş modeli. Parayı izle. Bir uygulama sonsuza dek ücretsizse ve hiçbir geliri yoksa, gelir senin verindir. Abonelikle dönen bir günlüğün parasını sen ödersin, sana hizmet etsin diye — şirketin teşviki senin kalman, senin bilgin değil. Sıkıcı, ve taşıyıcı.
Tek kelime yazmadan önce her uygulamaya sorulacak 5 soru
Bir uygulamanın gizlilik sayfasıyla iki dakika, bunları cevaplar. Sayfa herhangi birinden kaçıyorsa, kaçış cevabın kendisidir.
- Yazdıklarım durağan halde şifreli mi — ve nasıl? 'Şifreleme kullanıyoruz' asgari koşuldur ve neredeyse anlamsızdır (aktarımdaki HTTPS seni kafedeki wifi'dan korur, şirketten değil). Soru, saklanan girişlerin şifreli metin olup olmadığıdır.
- Anahtarları kim tutuyor? Bütün oyun bu. Anahtarları şirket tutuyorsa, şifreleme seni dışarıdakilerden korur ama şirketten, personelinden, ihlallerinden ya da celplerinden korumaz. Anahtar yalnızca sendeyse, bu tarafların hiçbiri arşivini okuyamaz.
- Yazdıklarım model eğitiminde kullanılıyor mu? Yazılı, düz bir hayır ara. 'Hizmetlerimizi geliştirmek için', takım elbise giymiş bir evettir.
- İş modeli ne? Abonelik mi, reklam mı, 'ücretsiz' mi? Ya müşterisin ya da stok.
- Dışa aktarabilir ve silebilir miyim — gerçekten silebilir miyim? Gerçek bir cevap, silmenin neyi kapsadığını (yedekler, türetilmiş veri) söyler ve yazdıklarınla çıkıp gitmene izin verir. Dışarı alamadığın ya da yok edemediğin veri, kontrol etmediğin veridir.
Hiçbir uygulamanın vaat edemeyeceği şey — bunun da dahil
İşte çoğu gizlilik sayfasının atladığı ve bir şirkete söylediği için daha çok güvenmen gereken kısım.
Çıkarım adımı düz metin işler. Bir AI girişine cevap veriyorsa, cevap anında bir makine kelimelerini okuyordur — alakalı bir cevap üretmek bu demektir. Bugünün dil modellerini şifreli metin üzerinde çalıştırmanın bilinen bir yolu yok. İyi inşa edilmiş bir günlük bu maruziyeti asgariye indirir: giriş yalnızca işleme anı için çözülür, okunabilir halde saklanmayacağına ve eğitimde kullanılmayacağına dair anlaşmalar altında gönderilir, ve sonrasında kalıcı olan yine şifreli metindir. Bu gerçekten küçük bir yüzeydir. Sıfır değildir — ve sana AI günlüğünün 'tamamen uçtan uca şifreli' olduğunu söylerken aynı zamanda AI cevapları üreten herkes, ikisi birden doğru olamayacak bir şeyi anlatıyordur.
Hiçbir dijital şey, kasadaki kâğıda denk değildir. Evindeki yanmaz kasada duran kâğıt bir günlüğün tehdit modeli tam olarak birdir: birinin kasanı fiziksel olarak açması. Hiçbir dijital ürün buna denk gelmez, hiçbir zaman — ve denk geldiğini iddia edenden uzaklaşmalısın. Küçük, iyi mühendislik görmüş bir dijital yüzeyi kabul etmenin karşılığında aldığın şey, kâğıdın yapamadığı her şeydir: yazdığına cevap veren bir mentor, aylar boyunca hafıza, kendi geçmişinden yüzeye çıkarılan örüntüler ve bir ev yangınını atlatan bir arşiv. Gerçek takas bu. Gözlerin açık yap, ya da hiç yapma.
The Architect her soruda nerede duruyor
Kendi beş sorusuyla ölçüldüğünde: girişler cihazında şifrelenir ve yalnızca senin anahtarının açtığı şifreli metin olarak saklanır — yönetici görünümü yoktur ve şirket günlüğünü okuyamaz. Yazdıkların model eğitiminde kullanılmaz. Ürün abonelikle döner; reklam yoktur ve verin ürün değildir. Dışa aktarma ve silme senindir. Ve yukarıdaki dürüst sınır burada da geçerlidir: mentor cevap verdiğinde girişin, o an için, düz metin olarak işlenir — asla okunabilir halde saklanmaz, asla eğitimde kullanılmaz — çünkü herhangi bir AI'ın herhangi bir şeye cevap vermesinin tek yolu budur. Ücretsiz katman, önemli bir şeyi emanet etmeden önce deneyimi test edebilesin diye var.
Dürüst kapanış
Bir AI'a sırlarını anlatmak güvenli mi? Soru biraz yanlış. Doğrusu şu: bu AI'a, bu mimariyle, bu şekilde finanse edilirken anlatmak güvenli mi? Genel bir sohbet botu için dürüst cevap, sırlarının saklanan, incelenebilen, talep edilebilen ticari kayıtlara dönüştüğüdür — ona göre davran. Sıfır bilgili bir günlük için dürüst cevap, arşivinin senden başka herkese okunmaz olduğu, cevap anında küçük ve beyan edilmiş tek bir istisnayla. Beş soruyu sor. Sırlarına layık her uygulama onları çoktan kamuya açık cevaplamıştır. Cevaplamayanlar, susarak cevaplıyor.