Yapay Zekanın Gizli Kara Listesinde Olabilir misiniz?

Bugün bankaya kredi başvurusu için gittiniz ama alamadınız.
Ya da çok istediğiniz tam size göre olan iş ilanına başvurdunuz ama daha ilk dakikada otomatik ret mesajını yediniz.
Veya bir e-ticaret sitesinin müşteri hizmetlerini aradınız ama saatlerce beklediğiniz halde bir türlü bağlanamadınız.
Bütün bunların sebeplerini bildiğinizi sanıyorsunuz.
"Kredin notum düşükmüş.", "Kriterlerim uymamış demek ki." ya da "Sistemde yoğunluk var." gibi öyle değil mi?

Çok ama çok büyük ihtimalle yanılıyorsunuz.
Muhtemelen bir yerlerde, Silikon Vadisi’nin klimalı sunucu odalarında ya da adını bile duymadığınız bir veri şirketinin bulut sisteminde çalışan bir algoritma, hakkınızdaki milyonlarca veri kırıntısını saniyeler içinde taradı.
Gece yarısı izlediğiniz bir video, üç ay önce attığınız sinirli tweet, harita uygulamasındaki konum geçmişiniz veya ekranı kaydırırken nerede kaç milisaniye duraksadığınız analiz edildi.
Hemen sonra yanınıza görünmez, silinmez bir damga vurdu.
Ve damganın üzerinde de işte bunlar yazıyor: "Değersiz Müşteri", "Riskli Profil" ya da "Göz Ardı Edilebilir İnsan."

Hoş geldiniz!
Hiçbir fikrinizin olmadığı, itiraz bile edemediğiniz ve her geçen gün hayatımızı biraz daha kuşatan Algoritmik Kast Sistemi’nin tam merkezindesiniz artık.
Üstelik en ürkütücü olanı da siz çoktan dijital olarak aforoz edilmiş olabilirsiniz ama ruhunuzun bile haberi yok.



Eskiden kast sistemini, insanların doğuştan gelen sınıflara ayrılmasını ve dokunulmazları hayretle okurdum.
Modern dünyanın bizi artık eşit kıldığını düşünür ve buna inanmak isterdim.
Ama bugün, tarihin en acımasız ve en kusursuz kast sistemi çoktandır inşa edilmeye başlandı.
Adı da Shadow Score, yani Gölge Skoru.

Büyük teknoloji şirketleri, bankalar ve sigorta devleri hakkımızda her saniye gizli itibar skorları tutuyor.
Bu ise bildiğimiz kredi notlarına benzemiyor.
Bu skor, bizim insan olarak verimliliğimizi ve itaatkarlığımızı ölçüyor.
Eğer algoritma bizim çok fazla şikayet eden, hakkımızı arayan, harcama potansiyeli düşük ya da sistemin algoritmasına uyum sağlamayan biri olduğumuzu tespit ederse, bizi yavaşça oyunun dışına itiyor.

Bir uygulamayı açtığınızda önünüze çıkan fiyatlar neden arkadaşınızınkinden farklı?
Neden bazı iş ilanları sizin ekranınıza hiç düşmüyor?
Çünkü yapay zeka çoktan sınıflandırmasını yaptı bile.
Algoritmik kast sisteminin en alt basamağına itildiniz.
Karşınızda tartışabileceğiniz bir insan veya mahkemeye vereceğiniz bir kurum da yok.
Sizi reddeden şey, gerçekten basit bir kod satırı.


Bu sistemin en tehlikeli tarafı, mantık yürütme sınırlarını aşan bir kararlılıkla çalışması.
Algoritma bir kez hakkınızda "Bu insan başarısız olmaya meyilli." veya "Bu kullanıcı değersiz." kararı verdi mi, artık önünüze hep o kararı besleyecek içerikler, ilanlar ve fırsatlar çıkarıyor.
Siz daha düşük kaliteli iş ilanları görüyorsunuz, daha yüksek faiz oranlarına maruz kalıyorsunuz, sosyal medyada sesiniz daha az insana ulaşıyor.
Yani algoritma kendi yazdığı kehaneti, sizin hayatınızı manipüle ederek zorla gerçekleştiriyor.
Dijital bir labirentin içine hapsediliyorsunuz ve duvarlar da bir yandan sürekli yer değiştiriyor.
İşin acı tarafı ise labirentin dışına çıkmak için harcadığınız her çaba, sisteme daha fazla veri vererek duvarları daha da kalınlaştırıp sağlamlaştırıyor.


Peki, bu görünmez diktatörlükten kaçış mümkün mü?
Akıllı telefonları çöpe atıp tuşlu telefonlara dönmek, ya da tüm hesapları kapatıp dağ başına yerleşmek bir çözüm olur mu?
Hayır çözüm olmayacak çünkü bu sadece teslim olmak anlamına gelecek.

İnsanlar binlerce yıldır hep başkalarından rehberlik bekledi.
Şimdi ise cebinde taşıdığı ekranlara bakıp algoritmalardan hayat tavsiyesi alıyor.
Özgür irade dediğimiz kutsal kavram, yapay zekanın optimizasyonu için cömertçe kurban ediliyor.

Dünya son 20 yılda ikiye ayrıldı.
Birinci grup algoritmaları yazan, onları yöneten ve sistemin seçkin kabul ettiği üst azınlık.
Diğeri ise yapay zekanın görünmez kara listelerinde sürünen sistemin sürekli elediği dijital mülteciler.

Bir an durup düşünün ve kendinize sorun:
Ben gerçekten kendi kararlarımla yaşayan özgür bir birey miyim, yoksa bir algoritmanın göz ardı edilebilir ilan ettiği bir veri yığınından mı ibaretim?
Düşünün, sorgulayın, araştırın, doğrunun ve gerçeğin peşinden çocuğunuzun kaçan topunu kovalar gibi kovalayın.
Bir de dikkat edin, belki de bir sonraki bildiriminiz sistemden tamamen silindiğinizin sessiz bir ilanı olmasın.