Son birkaç yılın bir yerinde yapay zeka, insanların içini döktüğü şey oldu. Gece birdeki iş korkusu, evlilik şüphesi, sağlık paniği, bir ebeveyn hakkında hiç yüksek sesle söylenmemiş olan şey. Anlaşılır da: yapay zeka irkilmez, dedikodu yapmaz ve gece birde oradadır. Ama o itirafları yazanların çoğu asıl soruyu hiç sormadı: bu kelimeler nereye gidiyor?
Genel amaçlı sohbet botlarıyla yapılan konuşmaların hiçbir yasal gizlilik taşımadığı geniş biçimde haberleştirildi — en büyük yapay zeka şirketlerini yönetenler de bunu açıkça söyledi. Doktor-hasta ya da avukat-müvekkil gizliliğine benzer bir koruma geçerli değil. Sohbet kayıtları ticari kayıttır: saklanabilir, incelenebilir ve bir davada istenebilir. O haberler bir sürü insanı aynı aramaya yolladı: özel yapay zeka günlüğü. Bu rehber, aslında sordukları şeyin sade dille cevabı.
Genel bir asistana yazılan kelimelere ne olur
Korku pazarlamak niyetinde değilim — aşağıdaki, çoğu genel amaçlı sohbet botunda şu ya da bu bileşimle işleyen mekanik:
- Saklama, okunur hâlde. Konuşmalar tipik olarak şirketin sunucularında, şirketin sistemlerinin okuyabildiği bir biçimde durur. Bir sohbeti kendi ekranından silmek onu her zaman onların tarafından silmez; saklama süreleri değişir ve yasal beklemelerle uzayabilir.
- Eğitim, çoğu zaman varsayılan. Birçok tüketici sohbet botu, sen gidip ayarı kapatmadıkça konuşmaları modelleri geliştirmek için kullanır. Sırrın bir eğitim derleminde bir damla olur — niyette anonim, fiiliyatta senin elinden çıkmış.
- İnsan incelemesi, mümkün. Birçok sağlayıcıda güvenlik ve kalite süreçleri, konuşmalardan alınan örneklerin çalışanlar ya da yükleniciler tarafından okunmasına izin verir. Tek bir mesaj için ihtimal düşük — ama yapısal olarak mümkün, ki mesaj bir sırsa önemli olan tam da budur.
- Delil talebi, gerçek. Ortada gizlilik ayrıcalığı olmadığı için sohbet kayıtları da e-postalar gibi davalarda istenebilir. Mahkemeler, yapay zeka şirketlerine konuşma verilerini büyük ölçekte saklamalarını çoktan emretti. Güvenle yazdığın cümle, bir ifade tutanağında okunabilir.
Bunların hiçbiri genel sohbet botlarını kötü yapmaz. Hayatın hassas olmayan yüzde doksanı için gayet iyi araçlar. Sorun, insanların onları öbür yüzde on için kullanması — çünkü gece birde arayüz özel hissettiriyor. Arayüz, mimari değildir.
Mahremiyetin üstüne kurulmuş bir günlük neyi değiştirir
Sırlar için kurulmuş bir günlük varsayılanları tersine çevirir — çünkü olağan kurulumda uygulama günlüğünü okuyabilir. Üç yapısal fark, sade dille:
Sıfır bilgi saklama. Yazdıkların, saklanmadan önce, yalnızca senin elindeki bir bilgiden türetilen bir anahtarla cihazında şifrelenir. Sunucuda duran şey şifreli metindir — anahtarın olmadan matematiksel olarak okunamaz. Bu bir poliçe vaadi değil ('bakmayacağız'); mimari bir olgu ('bakamayız'). Yönetici ekranı diye bir şey yok. Bir destek mühendisi günlüğünü açamaz. Bir veritabanı sızıntısı anlamsız gürültü sızdırır. Bir satın alıcı, şifreli metin satın alır.
Yazdıklarınla eğitim yok. Gerçekten özel bir günlük, yazdıklarını model eğitiminden sözleşmeyle çıkarır. En kötü gecen, kimsenin ürününü geliştirmiyor.
Verini satmayan bir iş modeli. Parayı takip et. Bir uygulama sonsuza dek ücretsizse ve hiçbir geliri yoksa, gelir senin verindir. Abonelikle dönen bir günlüğün parasını sen ödersin, sana çalışsın diye — şirketin çıkarı senin kalmanda, senin bilgilerinde değil. Sıkıcı, ve taşıyıcı.
Tek kelime yazmadan önce her uygulamaya sorulacak 5 soru
Bir uygulamanın gizlilik sayfasında geçireceğin iki dakika bunları cevaplar. Sayfa herhangi birinden kaçıyorsa, kaçışın kendisi cevaptır.
- Yazdıklarım saklanırken şifreli mi — ve nasıl? 'Şifreleme kullanıyoruz' asgari koşuldur ve neredeyse hiçbir şey anlatmaz (aktarımdaki HTTPS seni kafedeki wifi'dan korur, şirketten değil). Soru şu: sunucuda duran girişler şifreli metin mi?
- Anahtarları kim tutuyor? Bütün oyun burada. Anahtarlar şirketteyse şifreleme seni dışarıdakilerden korur; şirketten, çalışanlarından, sızıntılarından ya da mahkeme taleplerinden korumaz. Anahtar yalnızca sendeyse bunların hiçbiri arşivini okuyamaz.
- Yazdıklarım model eğitiminde kullanılıyor mu? Yazılı, düz bir hayır ara. 'Hizmetlerimizi geliştirmek için', takım elbise giymiş bir evettir.
- İş modeli ne? Abonelik mi, reklam mı, 'ücretsiz' mi? Ya müşterisin ya da satılan şey.
- Dışa aktarabilir ve silebilir miyim — gerçekten silebilir miyim? Gerçek bir cevap, silmenin neyi kapsadığını (yedekler, türetilmiş veri) söyler ve yazdıklarını alıp çıkmana izin verir. Dışarı çıkaramadığın ya da yok edemediğin veri, senin elinde değildir.
Hiçbir uygulamanın vaat edemeyeceği şey — bunun da dahil
Çoğu gizlilik sayfasının atladığı kısım burası — ve bir şirket bunu söylediği için ona daha çok güvenmen gereken kısım.
Cevap anında düz metin işlenir. Bir yapay zeka girişine cevap veriyorsa, o anda bir makine kelimelerini okuyordur; yerinde bir cevap üretmek bu demektir. Bugünün dil modellerini şifreli metin üzerinde çalıştırmanın bilinen bir yolu yok. İyi kurulmuş bir günlük bu yüzeyi asgariye indirir: giriş yalnızca işlem anı için çözülür, okunur hâlde saklanmayacağına ve eğitimde kullanılmayacağına dair anlaşmalar altında gönderilir, sonrasında kalıcı olan yine şifreli metindir. Bu gerçekten küçük bir yüzey. Sıfır değil — ve sana yapay zeka günlüğünün 'tamamen uçtan uca şifreli' olduğunu söylerken bir yandan yapay zeka cevapları üreten herkes, ikisi birden doğru olamayacak bir şey anlatıyordur.
Hiçbir dijital şey, kasadaki kâğıda denk değildir. Evindeki yanmaz kasada duran kâğıt bir günlüğün tehdit modeli tektir: birinin kasanı fiziksel olarak açması. Hiçbir dijital ürün buna denk gelmez, hiçbir zaman — ve denk geldiğini iddia edenden uzaklaşman gerekir. Küçük ve iyi mühendislik görmüş bir dijital yüzeyi kabul etmenin karşılığında aldığın şey, kâğıdın yapamadığı her şeydir: yazdığına cevap veren bir mentor, aylara yayılan bir hafıza, kendi geçmişinden yüzeye çıkan kalıplar ve bir ev yangınını atlatan bir arşiv. Gerçek takas bu. Gözlerin açık yap, ya da hiç yapma.
The Architect her soruda nerede duruyor
Kendi beş sorusuyla ölçüldüğünde: girişler cihazında şifrelenir ve yalnızca senin anahtarının açtığı şifreli metin olarak saklanır — yönetici ekranı yok, şirket günlüğünü okuyamaz. Yazdıkların model eğitiminde kullanılmaz. Ürün abonelikle döner; reklam yok, verin satılık değil. Dışa aktarma ve silme senin elinde. Ve yukarıdaki dürüst sınır burada da geçerli: mentor cevap verirken girişin, yalnızca o an için, düz metin olarak işlenir — okunur hâlde saklanmaz, eğitimde kullanılmaz — çünkü herhangi bir yapay zekanın herhangi bir şeye cevap vermesinin başka yolu yok. Ücretsiz katman da bunun için var: önemli bir şeyi emanet etmeden önce ürünü kendin sınayabilesin diye.
Dürüst kapanış
Bir yapay zekaya sırlarını anlatmak güvenli mi? Soru biraz yanlış kurulmuş. Doğrusu şu: bu yapay zekaya, bu mimariyle, böyle para kazanırken anlatmak güvenli mi? Genel bir sohbet botu için dürüst cevap, sırlarının saklanan, incelenebilen, mahkemede istenebilen ticari kayıtlara dönüştüğüdür — ona göre davran. Sıfır bilgili bir günlük için dürüst cevap, arşivinin senden başka herkese kapalı olduğudur; cevap anındaki küçük ve açıkça beyan edilmiş tek istisnayla. Beş soruyu sor. Sırlarına layık her uygulama onları çoktan herkese açık cevaplamıştır. Cevaplamayanlar, susarak cevaplıyor.