Kimsenin konuşmadığı hafıza sorunu
Yapay zekâ asistanları bir şeyleri hatırlamakta gerçekten iyileşiyor. Tercih ettiğiniz çıktı biçimi. Çalıştığınız teknoloji yığını. Saat diliminiz, ekip yapınız, hep kaynak istediğiniz gerçeği. Bu kalıcı bağlam yapay zekâyı çarpıcı biçimde daha kullanışlı yapıyor — her oturumda kendinizi yeniden anlatmayı bırakıyorsunuz ve asistan bir arama kutusundan çok bir iş arkadaşı gibi hissettirmeye başlıyor.
Ama bu faydanın yanında sessiz bir bağımlılık büyüyor. Asistan sizinle ilgili şeyleri hatırlıyor ve neyi hatırladığını siz denetlemiyorsunuz. Kolayca denetleyemiyor, taşınabilir bir biçimde dışa aktaramıyorsunuz; sağlayıcı hafıza ürününü değiştirmeye — ya da basitçe kapatmaya — karar verdiğinde başvuracak bir yeriniz yok. Yalnızca kolaylığı değil, aylarca süren etkileşimlerle biriken bağlamı da kaybediyorsunuz.
Bu varsayımsal değil. Bugün her büyük yapay zekâ platformunun varsayılan hâli.
Pazarlık konusu olmaması gereken üç hak
Veri hakları tartışması yeni değil. GDPR, CCPA ve sosyal platformlar üzerine on yıllık tartışma, kullanıcıların kendi verileri üzerinde meşru talepleri olduğunu kabul ettirdi. Yapay zekâ hafızası da aynı normlara tabi olmalı. Üç hak özellikle önemli:
İnceleme hakkı. Sistemin sizinle ilgili tuttuğu her bilginin sade dille bir listesini görebilmelisiniz. Bulanık bir özet değil, pazarlama dilinde bir "kişiselleştirme profili" değil — istediğiniz zaman gözden geçirilebilen gerçek saklı bilgiler. Sistem sizi kısa cevapları tercih eden ve edilgen çatıdan hoşlanmayan bir arka uç geliştiricisi sanıyorsa, bunu aynen okuyabilmelisiniz.
Unutulma hakkı. Saklanan her bilgi kullanıcı tarafından tek tek ya da toptan, anında etkili olacak şekilde silinebilmelidir. Silme gerçek olmalı — model davranışını içeriden etkilemeye devam eden yumuşak bir gizleme değil — ve doğrulanabilir olmalı. "Onu sildim" demek, modelin artık ona göre davranmadığı anlamına gelmeli.
Dışa aktarma ve taşıma hakkı. Bir sağlayıcıda bir yıl boyunca faydalı bir hafıza bağlamı biriktirdiyseniz ve başkasına geçmek istiyorsanız, o bağlamı yanınızda götürebilmelisiniz. Hafıza taşınabilirliği, başka herhangi bir kategorideki veri taşınabilirliğiyle aynı sorundur. İşin içinde bir hesap tablosu yerine bir vektör gömmesi ya da bir JSON bloğu olması bunu kavramsal olarak farklı kılmaz.
Bu hakların hiçbiri ürün kalitesinden vazgeçmeyi gerektirmez. Kullanıcılara veri kaynağı değil özne olarak davranmayı gerektirir.
Platformlar buna neden direniyor
Direnç öncelikle teknik değil, yapısaldır. Hafıza bağlamı bir tutundurma altyapısıdır. Tercihlerinizi derinlemesine öğrenmiş bir platformun, öğrenmemiş olana karşı bir geçiş maliyeti üstünlüğü vardır. Hafızayı taşınabilir ya da kolayca silinebilir kılmak bu kilidi zayıflatır ve etkileşim metriklerine göre iyileştirme yapan çoğu ürün ekibi kullanıcı denetimini sessizce arka plana atar.
Bir de bilgikuramsal bir sorun var: hafıza sistemlerini kuran ekipler modelin tam olarak neyi tuttuğunu çoğu zaman bilmez, çünkü hafıza sıklıkla temiz ve yapılandırılmış bir liste değil, gömme uzayının ya da yumuşak ince ayarın beliren bir özelliğidir. Net bir denetim izi sunmak, açık mimari kararlar gerektirir — hafızayı opak model durumu olarak değil, incelenebilir yapılandırılmış bilgiler olarak saklamak — ve bu kararların erken alınması gerekir.
Opak bir sisteme denetlenebilirliği sonradan eklemek pahalıdır. Başından itibaren kurmak değildir. Tercih, önceliklerin aynasıdır.
ToRun nerede duruyor
ToRun'da hafıza, açık ve kullanıcının okuyabileceği bilgiler olarak saklanır. Sizinle ilgili bildiği her şeyi listeleyebilir, tek tek ya da hepsini silebilirsiniz; silme anlık ve gerçektir — bir sonraki turda modelin gördüğünü etkiler. Hafıza sistemi ayrıca dilden bağımsızdır: platformun desteklediği 29 dilin hepsinde çalışır, güvenilir hatırlama için İngilizce yazmanızı gerektirmez.
Bunu böyle kurduk çünkü zorunda kalmadık, öyle olması gerektiğine inandık. Alternatifi — hafızayı kullanıcının sorgulayamayacağı bir kara kutu olarak saklamak — ürünü yönlendiren dürüst kullanılabilirlik ilkeleriyle bağdaşmıyor. Bir kullanıcı "benim hakkımda ne hatırlıyorsun?" diye sorduğunda, sistem bu soruya yaklaşık değil eksiksiz ve doğru cevap verebilmelidir.
Dışa aktarma taşınabilirliği o zamandan beri çıktı. Bir veri talebi, hafızanızı kişisel verilerinizin geri kalanıyla birlikte, kendiniz indirdiğiniz bir dosya olarak döndürür — bilgiler zaten yapılandırılmış olduğu için bu, depolamayı yeniden tasarlamak değil uç noktayı kurmak meselesiydi.
Bu dar bir iddia: yapay zekâ hafızanız size ait olmalı, sizin tarafınızdan okunabilmeli ve sizin tarafınızdan silinebilmeli. Tartışmalı bir konum değil. Sektörün buna olduğundan daha hızlı yakınsaması gerekiyor.