Makaleyi PDF Olarak İndir

Cathy O’Neil’in dikkate değer kitabı Matematiksel İmha Silahları yayımlandı. Matematiğin günümüzdeki kullanımının toplumsal anlamıyla bir şekilde ilgileniyorsanız, gidip bu kitabı almalısınız. Ayrıca yazarın Mathbabe’de uzun süredir tuttuğu blogunu takip edebilirsiniz. Hatta konuya olan ilginiz kitabı okuyacak kadar fazla değilse, blog daha iyi bir başlangıç noktası olacaktır.

Cathy meslektaşım olarak burada, Columbia’daki matematik bölümünde geçirdiği dönem dahil olmak üzere oldukça ilginç bir kariyer geçmişine sahip. Talih ve heyecanı kovalamak üzere buradan ayrılıp en büyük koruma fonlarından biri olan D. E. Shaw Hedge Fonu’na geçti. Bu sayede, finansal endüstrinin 2008 yılındaki çöküşünü ön sıralardan izleme fırsatını elde etti. O çöküşün en büyük etkenlerinden biri de matematik modellerinin oynadığı roldü ve zaten kitabında bu hikâyenin bir kısmını anlatıyor (bu konuda başka bir kaynak olarak Columbia’lı diğer meslektaşım Emanuel Derman’ın Models.Behaving.Badly kitabı var). Benim anlayabildiğim kadarıyla, ipoteğe dayalı menkul kıymet bozgununda matematiksel modellemenin oynadığı rol, düpedüz dolandırıcılığa alet olmaktı. Şaibeli ve hileli borç verme araçları matematikle ambalajlanarak nispeten güvenli bir yatırım aracı gibi pazarlandı. Kullanılan modelin buradaki asıl işlevi, olup bitenin anlaşılmasını güçleştirmekti. Nitekim, satış yapanlar için işler gayet yolunda gitti, seçilen modeller ortadaki dolandırıcılığı gizlemede ve tüm failleri hapisten uzak tutmada işe yaradı.

Hikâyenin bu kısmı artık epey eskimiş ve klişeleşmiş olsa da Matematiksel İmha Silahları’nda önemli ve yeni olan, matematiksel modellemenin toplumumuz üzerindeki çok daha geniş rolünü inceliyor olması. Cathy, D. E. Shaw’daki işini bırakarak yeni kurulan bir internet medya kuruluşunun risk yönetimine geçti, daha sonra yine bu kuruluşta veri bilimci olarak göreve devam etti. Aynı süreçlerin bazılarına, buradaki görevinde de tanık oldu;

Aslında, finans sektörü ile Büyük Veri arasında her tür paralelliği gördüm. Her iki endüstri de MIT, Princeton ve Stanford gibi seçkin üniversitelerin yetenek havuzundan besleniyor. Bu havuzdan seçtikleri yeni elemanlar, tüm yaşamları boyunca Akademik Yeterlilik Testi (SAT) puanları ve üniversitelere girmek gibi harici başarı ölçümlerine odaklanmış, başarıya aç bireylerden oluşuyor. Finans veya teknoloji sektöründe olmaları fark etmiyor, zengin olacaklarına ve dünyayı kendilerinin yöneteceğine dair mesajı zaten almış oluyorlar.

Her iki endüstride de gerçek dünya tüm karmaşasıyla ayrı bir yerde duruyor. Belirli bir amacı optimize etmek için insanların yerine veri izleri koyarak onları daha etkin müşterilere, seçmenlere veya işçilere dönüştürmenin peşindeler… Teknik modeller ile insanlar arasındaki ayrım ile bu ayrımın ahlaki yansımaları hakkında gittikçe daha fazla endişe duyuyorum. Gerçek şu ki, daha önce finans sektöründe tanık olduğum bir örüntünün ortaya çıkışını gördüm: Yanlış bir güvenlik algısı, kusurlu modellerin, kendini besleyen başarı tanımlarının ve artan geribildirim döngülerinin yaygın kullanımına yol açıyor, buna karşı gelenler ise eski kafalı ve yenilik karşıtı (Luddit^[1]) ilan ediliyordu.

Kredi krizinin Büyük Veri’de neye denk düşebileceğini düşündüm. İflas yerine eşitsizliğin arttığı, büyüyen bir distopya gördüm. Algoritmalar, bir kez kaybedenlerin hep o şekilde kalmasını garanti altına alıyor. Diğer yandan şanslı bir azınlık veri ekonomisi üzerinde gittikçe daha fazla hakimiyet kazanıyor; muazzam zenginlikler elde edip, bunu hak ettiklerine kendilerini inandırıyorlar.

Buradan sonra kitapta, Büyük Veri’nin ve karmaşık algoritmaların uygulamadaki örnekleri inceleniyor. Bunlardan bazıları şöyle;

• S. News & World Report’un üniversite sıralamasında kullandığı, bir yanda algoritmayı alt etmeye çalışan üniversitelere, diğer yanda seçkin üniversitelerin öğrenci kabul sistemlerini çözmeye uğraşan ailelere sebep olan algoritmanın etkisi;
• Özellikle saldırgan reklamcıların, sahtekarlıklara karşı en savunmasız grupları oldukça etkin biçimde izlemesine olanak sağladığı düşünüldüğünde, hedefli reklam uygulamalarının etkisi,
• Kanunlar önünde eşitlik ilkesi yerine, farklı kesimden insanlara farklı düzeylerde kolluk kuvvetleri gönderebilecek bir algoritmayı esas alan, öngörüye dayalı emniyet uygulamasının etkileri,
• Toplumsal sınıflar arasında dolaylı ayrımcılığa neden olan, iş başvurularını sınıflandırılmada ve reddetmede kullanılan otomatik algoritmaların etkileri,
• Öğretmen yeterliklerinin değerlendirilmesinde kullanılan ve kimi zaman mükemmel öğretmenlerin işini kaybetmesine yol açan, yetersiz tasarlanmış algoritmaların etkileri,
• Kredi hesaplaması yapan, ipotekli borçların verilip verilmeyeceğini veya sigortaları tespit eden, başarısız olduğuna kanaat getirilen kişilerin hep bu hâlde kalmalarını garanti altına almak gibi dolaylı bir sonuca yol açan algoritmaların etkileri.

Kitapta son olarak, Facebook ve sunduğu bilgilerin siyasal çıkarlara hizmet edecek mesajları belirlemek üzere, demokrasiyi yıpratarak nasıl kullanıldığına dair bir bölüm yer alıyor.

Bana göre, kitapta yer alan Büyük Veri ile ilgili meselelerin muhtemelen en kaygı verici olanı bu Facebook konusu. Facebook artık insanların hangi bilgileri göreceği hususunda olağanüstü bir etkiye sahip ve yeri geldiğinde bu etki, en yüksek teklif verene satılabiliyor. Amazon, Google ve Apple ile birlikte ekonomimiz ve toplumumuz ilk defa her hareketi izleyen tekellerce kontrol edilmeye başladı. Hükümet gözetimi altındayken Edward Snowden, “etiketlenmiş hayvanlar gibiyiz, onlardan farklı olarak etiketlerimizin parasını kendimiz ödüyor ve bunları cebimizde taşıyoruz” demişti. Bu etiketlere hükümetlerden çok daha fazla erişim hakkına sahip bir dizi aşırı varlıklı büyük şirket, her hareketimizi, diğer bireylerle iletişimlerimizi ve hatta internetle etkileşime girdiğimizde aklımızdan geçen her düşünce dizisini dahi kayıt altına alıyor.

Bu kuruluşlar etiketlerimizden ve dolayısıyla bizlerden en iyi şekilde nasıl yararlanacaklarını yeni yeni keşfetmeye başlıyorlar. Bugün burada matematik bölümündeki eğitimine yeni başlayan öğrencilerden birçoğu, vereceğimiz eğitim sayesinde kariyerlerine bu şirketlerde devam edecekler. Her birimizin yaşamlarını yönlendirecek algoritmalar üzerinde çalışmak üzere buradan giderlerken, umarım bu kitabı okuyarak ve ileri sürdüğü konular üzerinde kafa yorarak işe koyulurlar.

Dipnot

[1] Ludditler, 19. yüzyılda İngiliz tekstil işçilerinin gizli yemin temelli bir örgütü, tekstil makinelerini bir protesto biçimi olarak yok eden radikal bir gruptu. Grup, makineleri standart işçilik uygulamalarını aşmak için “hileli ve aldatıcı bir şekilde” kullandıkları iddiasıyla üreticileri protesto ediyordu, Kaynak. —ÇN