Yapay zekanın bariyeri ön yargı mı?

Campaign Global Teknoloji Editörü Omar Oakes, ‘İnsanlar neden daima hayatın yapay zeka içermediği %1’lik kısma sadık kalacak?’ sorusunun cevabını veriyor.

Steven Pinker ve Adam Singolda, yapay zekanın sınırları olduğu konusunda güçlü görüşlere sahip çünkü bir fikrin nereden geldiği, fikrin kendisi kadar önemli. 

“Yapay zeka insan konuşmasını taklit etmekte neden bu kadar kötü?” sorusu için kısa ve öz bir cevap arıyorsanız Harvard Psikoloğu Profesör Steven Pinker’da bulabilirsiniz. Son zamanlarda yaptığı bir konuşmada dilin karmaşıklığını tanımlayan Pinker, makinelerin yerine getirdiği görevlerin skalasını açıkladı: “Eğer bir insan 10.000 isim biliyorsa, bir cümleyi kurmanın 10.000 yolunu bulabilir. 4000 fiil olduğunu da düşünürseniz sadece iki kelime barındıran bir cümleyi, 40.000 farklı yol ile oluşturabilirsiniz.”

Bu yıl Uluslararası Yaratıcılık Festivali Cannes Lions’ta Pinker, içerik keşif platformu Taboola’nın Kurucusu Adam Sigolda ile birlikte sahne aldı. Bu ikiliyi bir araya getiren neydi?

“Yapay zekaya ilgim lisansüstü öğrencisi olduğum yıllarda başladı.” diyor Pinker. Kendisi, dünyanın en etkili bilimsel düşünürlerinden biri olarak kabul ediliyor; bilişsel psikoloji ve insan doğası hakkında ‘en iyi satan’ kitaplar yazdı. İnsan beyninin aslında boş bir tuval olduğu inancını ikna edici bir şekilde kamçılayan The Blank Slate kitabının yazarı. Bu, sol görüşlü eşitlikçiler arasında tartışmalıydı ancak Pinker, beyinlerimize doğduğumuz andan itibaren işlenmiş ön yargıları da içeren insan doğasının ana nitelikleri sebebi ile bizim aslında eşit yaratılmadığımızı etkili bir şekilde ispatladı.

“Ön yargılardan arınmış bir yapay zeka için bu oldukça büyük bir problem.” diye açıklıyor Pinker. Çünkü algoritmalar, toplanan ve analiz edilen veri yoluyla beşeri ön yargıları yeniden keşfetmeye dayalıdır. Ancak bu, ilgi çekici deneme çabalarını durdurmadı; bu yıl cinsiyetsiz ses teknolojisini ve reklam dünyasında chatbot ile işe alım yapmanın giderek yaygınlaştığını gördük. 

“Bir adamın elinde hiçbir şey olmadan bir sineği öldürebilme olasılığının kadına göre daha yüksek olması gerçekten doğru. Bu bir klişe. Doktor olmak için büyüyen birçok yahudiye sahip olduğunuz da aşağı yukarı doğru bir klişe.” diye devam ediyor.

“Ahlaki ve politik sebeplerden dolayı istediğimiz ancak sahip olamadığımız birçok ön yargı var. Algoritmalar bunları yeniden keşfediyor çünkü bunlar istatistiksel yapısal dünyayı yakalıyor. Adalet için istatistiki doğruluğu feda etmeye karar verdiğimiz durumlar olabilir; birinin ırkını, dinini ya da cinsiyetini mahkemede veya üniversite kabullerinde hesaba katmazsınız.”

Ön yargıları doğruluğa tercih etmek  

Ön yargılarla hep birlikte savaşmak yerine Pinker, yapay zeka sistemlerinin yaratıcılarının “nasıl ön yargılarla yaşamak istediğimiz” konusunda karar vermek zorunda kalacaklarını iddia ediyor. Bu, modelin daha az doğruluk payı taşıyacağı anlamına gelse bile…

“Tahmin doğruluğunu hissetmekle görevli zeka ve ahlaki değerlerimiz arasında bir değiş tokuş durumu var; adil olmak adına biraz ön yargı satın almak için doğruluk payını bir miktar feda etmeye karar verebiliriz.” diye ekliyor. 

Amazon geçen yıl kadınlara karşı ön yargılı olan yapay zeka ile işe alım denemesi yaptığında bu dersi aldı. Sistem, kadın adaylara karşı ayrımcılık yaptı çünkü makine öğrenim süreci 10 yıllık süreçte çoğu erkekler tarafından yazılmış olan CV’lerde kalıplar gözlemledi. Bu, spam mail gönderen kişilerin sahte haberler yaratmasını zorlaştırarak yapay zekanın onun işinde en büyük etkiyi yaratacağını savunan Singolda için çok daha kişisel bir konu. Taboola kişiselleştirilmiş içerik önerileri yaratarak yayıncılara içeriğini paraya çevirmesinde yardımcı oluyor.

“Buna değer çünkü ortağım NBC News. İnsanlar itibarlı bir marka olan NBC News’e güveniyor. NBC News’in makalenin sonundaki ‘Eğer bunu alırsanız başınıza bu gelir.’ öğüdünü kabullenemiyorum, bu bir hata.” şeklinde uyarıyor Singolda. 

Yapay zekaya olan ön yargılar konusunda Singolda aşikar bir noktaya değiniyor “çöp atmak, çöpü çıkarmak anlamına gelir” ancak sonra kışkırtıcı bir şekilde şunu öne sürüyor: “Belki de soruları hep birlikte engellemeliyiz.”

“Belki Alexa bizim ona sormamız gereken soruları bize önerecek… Önerebileceğim şeyler, yapmayı sevebileceğiniz şeyler ancak bunların var olduğunu hiç bilmiyordunuz. Bir yapay zeka sizi milyonlarca insanla karşılaştırarak adil olmayan bir avantaja sahip oluyor.” diye açıklıyor.

Yapay esinlenmeye karşı insan yaratıcılığı    

Her şeyi bilen Alexa fikri biraz korkutucu olsa da tüketicilerin kendileri adına karar vermek için makinelere güvenmeye ne kadar istekli olduğunu gibi önemli bir konuyu gündeme getiriyor. Sınırlı görevleri yerine getirirken bizlere zarar vermeyecek makinelere güvenmek yerine, makinelerin bizim için neyin iyi olduğunu bizden daha iyi bilebileceklerini kabul etmeye yönelik riskli adımı atmamız istenecektir. 

Pinker böyle düşünmüyor ve bir fikrin ne kadar iyi olabileceğinden bağımsız olarak nereden geldiğini önemsediğimiz için yapay zeka sınırlarının, bizim tabiatımızda olan direnç tarafından belirlendiğini açıklıyor.

“Bir şeyi başarıyla tamamlamak yeterli değil. Bir sanat çalışmasının ve çok tatmin edici bir portre arasındaki fark (birbirlerine denk olsalar bile) bunun Vinci veya bir öğrenci tarafından yapılmış olup olmadığını dikkate alırız. Yale Üniversitesi Psikoloğu Paul Bloom’dan örnek verecek olursak; John F Kennedy’nin golf kulüplerinin milyon dolarlara satıldığı bir müzayede gerçekleşti ancak bu golf kulüplerinin aslında John F Kennedy tarafından kullanılmadığı ortaya çıktı; değerleri neredeyse sıfıra düştü.”

Omar Oakes 

Campaign Global Teknoloji Editörü

 

 

 

Bu yazı ilk kez Campaign Türkiye’nin 92. sayısında yayımlandı. 
Bunları da beğenebilirsin

Cevap bırakın

E-posta hesabınız yayımlanmayacak.