Bir gün bir kuruma başvurduğunuzu düşünün. Karşınızdaki sistem sizi tanıdığını söylüyor. Geçmiş işlemlerinizi biliyor, alışkanlıklarınızı analiz ediyor, davranışlarınızdan sonuçlar çıkarıyor. Fakat sizin kendiniz hakkında anlattıklarınızla sistemin oluşturduğu profil birbirini tutmuyor.
Siz değiştiğinizi söylüyorsunuz. Sistem eski kayıtlarınıza bakıyor.
Siz bir kararın nedenini açıklıyorsunuz. Sistem olasılıkları hesaplıyor.
Ve sonunda sizin kim olduğunuzla ilgili kararı, sizi hiç tanımamış bir mekanizma veriyor.
Peki, bir gün dijital kimliğimiz bizden daha gerçek kabul edilirse ne olacak?
Bugün dijital kimlik denildiğinde çoğumuzun aklına kullanıcı hesapları, şifreler veya elektronik kimlik belgeleri geliyor. Fakat mesele bundan daha geniş. Dijital sistemler, hakkımızda biriken verilerden davranış modelleri oluşturabiliyor. Ne satın aldığımız, hangi içeriklerle ilgilendiğimiz, hangi hizmetleri kullandığımız ve geçmişte nasıl kararlar verdiğimiz, sistemlerin bizi sınıflandırmak için kullandığı işaretlere dönüşebiliyor.
Böylece gerçek insanın yanında, verilerden oluşturulmuş ikinci bir kişi ortaya çıkıyor: Dijital profilimiz.
Bu profil bizim kendimiz değiliz. Ama bazı durumlarda, bizim yerimize konuşmaya başlayabilir.
Sistemler bizi tanıyor mu, yoksa yalnızca tahmin mi ediyor?
Bir insanı tanımak, onun davranışlarını tahmin etmekten daha fazlasıdır. İnsanlar fikir değiştirir, hatalarından öğrenir, beklenmedik kararlar alır. Bazen geçmişleriyle çelişir, bazen de kendilerinin bile henüz anlayamadığı bir dönüşüm yaşarlar.
Algoritmalar ise çoğunlukla erişebildikleri verilere ve belirli örüntülere dayanır. Bu örüntüler yararlı tahminler üretebilir; ancak hiçbir profil, bir insanın bütün hayatını kapsayamaz.
Geçmişte sürekli aynı ürünleri alan biri artık başka bir yaşam biçimini seçebilir. Bir zamanlar başarısız olan biri kendini geliştirebilir. Daha önce riskli görünen bir kişi, koşullar değiştiğinde son derece güvenilir kararlar verebilir.
Fakat sistem geçmiş verileri değişmez bir gerçek gibi ele alırsa, insanın değişme ihtimali gözden kaçabilir.
İşte dijital kimlikle gerçek insan arasındaki uçurum burada büyür: Sistem, bizim kim olduğumuzu açıklamak yerine, geçmişte nasıl göründüğümüzü geleceğimizin sınırı hâline getirebilir.
Peki, kendi kimliğimiz üzerinde söz sahibi olmaya devam edebilecek miyiz?
Dijital profillerin etkisi arttıkça önemli bir soru ortaya çıkıyor: Hakkımızda oluşturulan bir değerlendirme yanlışsa bunu düzeltme hakkımız olacak mı?
Bir algoritmanın verdiği kararın gerekçesini öğrenemiyorsak, hatalı verilerimizi düzeltemiyorsak veya kendimizi anlatabileceğimiz bir yol bulunmuyorsa, görünmez bir sınıflandırmanın içinde sıkışabiliriz.
Üstelik bu durum yalnızca bireysel bir sorun değildir. Dijital profillerin eğitim, çalışma hayatı, finansal hizmetler veya kamu hizmetleri gibi alanlarda kullanılması, insanların karşılaştığı fırsatları da etkileyebilir. Böylece bir değerlendirme, yalnızca mevcut durumumuzu tarif etmekle kalmaz; gelecekte hangi imkânlara erişebileceğimizi de belirleyebilir.
Elbette dijital sistemler insanlara ilişkin değerlendirmeleri kolaylaştırabilir. Sorun, bu değerlendirmelerin sorgulanamaz hâle gelmesidir. Teknolojinin insanlara hizmet etmesiyle insanların teknoloji tarafından tanımlanması arasında büyük bir fark vardır.
Gelecekte bu farkı korumak için yalnızca verilerimizi güvence altına almak yetmeyebilir. Yanlış bir değerlendirmeye itiraz edebilmek, değiştiğimizi gösterebilmek ve bir algoritmanın bizi bütünüyle açıklayamayacağını kabul ettirmek de gerekecek.
Çünkü insan, geçmiş davranışlarının toplamından ibaret değildir. Kendini değiştirme, yeniden başlama ve başkalarının kendisi hakkında düşündüklerini aşma kapasitesine sahiptir.
Bir sistem bizi geçmişimizden tanıyabilir. Ama gelecekte kim olacağımızı bütünüyle bilemez.
Ve belki dijital çağın en önemli haklarından biri, yalnızca kimliğimizi kanıtlamak değil, hakkımızda oluşturulan kimliğin eksik veya yanlış olduğunu söyleyebilmek olacak.
Çünkü bir gün sistemlerin bizi nasıl gördüğü, kim olduğumuzdan daha önemli hâle gelirse, kendimizi tanımlama hakkımızı hâlâ koruyor olacak mıyız?
Bir Cevap Yaz
E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir.