Körü körüne inanmanın bir diğer adı: Büyük veri

1952 yılında bilinçaltında yatan ön yargılar nedeniyle en iyi müzisyenleri seçmeyen Boston Senfoni Orkestrası şefi gibi, biz de bilinçaltımızdaki ön yargılar nedeniyle büyük veri ve algoritmalara körü körüne inanıyoruz. Büyük veri günümüzde körü körüne inanmanın bir diğer adı sayılabilir.

1952 yılında Boston Senfoni Orkestrası, adam kayırmacılık nedeniyle müzik standartlarının düşmesinden endişe etmeye başlamıştı. Şefin, en iyiler yerine kendi öğrencilerini seçtiğini düşünüyorlardı.

Bu nedenle elemelerin şef ve katılımcılar arasına bir perde gerilerek yapılmasına karar verdiler.

Kimin çaldığını bilmeyen şef, ancak beceriye göre seçim yapabilecekti.

Deneme hüsranla sonuçlandı.

Az çok aynı genç adamlar seçilmişti.

Ardından müzisyenlerden elemeye tekrar katılmaları, yalnız bu kez ayakkabılarını çıkarmaları rica edildi.

Bunu yaptıkları zaman çok farklı sonuçlar aldılar.

Bu kez seçilen müzisyenlerin yarısı kadındı – önceki elemelerde neredeyse hiç kadın müzisyen seçilmemişti.

Başvuran kişileri görmedikleri için haksızlık etmediklerini düşünüyorlardı ama farkında olmadan katılımcıların cinsiyetlerini ayakkabı seslerinden duyuyorlardı.

Dinledikleri şey müzik değil, bilinçaltlarında yatan ön yargılardı.

1952’den beri kör seçmeler sıklıkla yapılmaya başlandı ve en iyi 250 orkestranın yarısında müzisyenler çoğunlukla kadınlardan oluşuyor.

Bilinçaltında yatan ön yargılar, içinde bulunduğumuz büyük veri ve algoritmalara inanç çağında da büyük rol oynuyor.

Bunlara ek bir ön yargıya daha sahibiz: Ölçüm önyargısı.

Anlamı, ölçülebilir olanı ölçülemeyecek olandan daha değerli görme.

Algoritmalar objektif değildir

Cathy O’Neil bir matematikçi ve veri bilimci, kendisi Matematiksel İmha Silahları (Weapons of Math Destruction) kitabının yazarı.

“Algoritmalar adalet sağlamaz, sadece geçmişteki pratikleri tekrarlarlar – statükoyu otomatize ederler” cümlesini yazmış.

Bunun nedeni olarak, “Algoritmalar sadece koda işlenmiş görüşlerdir. İnsanlar algoritmaların gerçek ve bilimsel olduğunu düşünürler ama bu bir pazarlama hilesidir. İnsanlar algoritmalara güvenir ve onlardan korkarlar çünkü aynı zamanda matematiğe güvenir ve ondan da korkarlar” diyor.

Sözlerini şöyle özetliyor: “Algoritmalar objektif değildir, onları oluşturan insanlar, algoritmalara kendi önem verdikleri değerleri yüklerler.”

Büyük veri daha iyi kararlar almamızı sağlamıyor

Tricia Wang, Harvard’ın Berkman Klein İnternet ve Toplum Merkezi mezunlarından biri.

Diyor ki, “Sadece büyük veriye güvenmek, bize her şeyi bildiğimiz hissini aşıladığı için, önemli bir şeyi gözden kaçırma riskimizi yükseltir.”

Ardından şu soruyu soruyor: “Neden büyük veri daha iyi kararlar almamızı sağlamıyor?”

Amerika’da büyük veri, 122 milyar dolar değerinde bir sektör ve Wang burada şirketlere teknolojinin kullanımı konusunda danışmanlık veriyor.

“Algoritmalar denetlenmelidir çünkü ölçümlemek bir bağımlılıktır,” diyor ve şöyle devam ediyor:

“İnsanlar rakamlara o kadar takıldı ki onlar dışında kalan hiçbir şeyi göremiyorlar.”

Genel bir bakış açısıyla, büyük veri ve algoritmalarla ilgili temel problem de bu.

O’Neill’in söylediği gibi, “Bir algoritma sadece veri ile başarı tanımının toplamından ibarettir. Veri geçmişten toplanır ve kullanılan veriler, algoritmayı kuran kişi tarafından belirlenir. Aynen başarı tanımının aynı kişiler tarafından belirlendiği gibi.”

Dolayısıyla nesnel bir ölçümden ziyade algoritmalar, öznellik artı daha fazla öznelliktir.

Ne kullanılan veriler ne de başarı ölçütü bir makine tarafından belirlenir. Her ikisinin seçimi de kusurlu, ön yargılı insanların elindedir.

İnsanın yargılara sahip olmasında bir sorun yok, hepimiz öyleyiz.

Tek sorun, ön yargıların farkında olmamak ve bunu kabul etmemek.

Sadece algoritmaların sonuçları bir makineden çıkıp elimize geçtiği için bu gizli ön yargıların gerçekler olduğunu zannediyoruz.

 

Dave Trott

Creative Mischief, Predatory Thinking ve One Plus One Equals Three kitaplarının yazarı

 

 

Bu yazı ilk olarak Campaign Türkiye Mart 2018 sayısında yayımlanmıştır.