Twitter yapay zekanın kulağını çekiyor
Twitter yazılımının görselleri kırparken cinsiyet ya da ırk seçimleri yapması gittikçe daha çok sıkıntı yaratıyor. Şirket bunu çözmek için harekete geçmeye karar verdi.
Yapay zekanın var olan eğilimlerden beslenmesi, bu eğilimleri büyüterek daha çok kabul edilebilir hale getirmesi anlamına geliyor ve yapay zeka konusunda çalışan birçok şirket bunun yarattığı problemlere çözüm bulma peşinde.
Örneğin Google Translate’te Türkçe gibi cinsiyetsiz bir dilde yazdığınız şu cümleleri ele alalım:
Bu ifadeler, Türkçe okuduğunuzda tek bir kişiden bahsediyor. Bu insan tezini yazdıktan sonra ev işlerini yapıyor ve bir hemşireyle evli. Burada anlatılan insan bir erkek ya da kadın olabilir. Metinde bununla ilgili hiçbir net işaret yok.
Google Translate’in yapay zekası cinsiyetlerle eylemleri öyle bir eşleştiriyor ki, İngilizce gibi bir dile çeviri yaptığınızda hikaye bir anda değişiyor:
Doktora tezini yazan kişi bir anda erkek oldu. Ama çamaşırı bulaşığı yıkayan o değil. Çünkü bunları yapan kadın olmalı. Yani ev işlerini “doğru” cinsiyetle eşleştirmek için Google Translate paragrafın anlamını bile değiştiriyor. Finalde de hemşireyle evli olanın ancak erkek olabileceğine hükmediyor.
Ufak bir detay ekleyip bir deneme daha yapalım:
Çamaşırların adama ait olduğunu anladı ama bulaşıklar için hala evde bir kadın olması gerektiğini düşünüyor gördüğünüz gibi.
Bu tarz problemler, yapay zekanın yine insan eğilimlerinden beslenmesinden kaynaklanıyor. Makine öğrenmesi, elindeki veriden yola çıkarak sonuçlara varıyor. Yazılımla net düzenlenebilen sonuçlar değil bunlar. Google Translate’i yürüten yazılım, elindeki milyonlarca cümleye bakarak sonuca ulaşmaya çabalıyor.
Problem, geçmişteki veriden elde edilen doğrunun illa ki ideal doğru olmaması. Tıpkı aile ortamında önyargıyla yetişen birinin sonradan kendi bildiklerini sorgulayıp düzeltme ihtiyacı gibi, makine öğrenmesinin de bu konuda “uyarılması” gerekiyor.
Twitter’da bu problemin yansıması şöyle:
Görsel fazla geniş veya yüksekse tweet içinde görünebilecek alana sığdırmak için kesiliyor bildiğiniz gibi. Görselde birden fazla yüz varsa yazılım görselde insan yüzü göstermeye çalışıyor ama tercihte bulunmak zorunda kalıyor.
Farklı kökenlerden iki yüzü birbirine uzak koyduğunuzda, yazılım sürekli beyaz olanı seçiyor. Mesela aşağıdaki deneyde, Mitch McConnell ve Barack Obama’nın olduğu iki görsel var. Birinde McConell üstte diğerinde Obama üstte. Twitter iki seferde de Barack Obama’yı kırpıyor.
Bu da tabii ki farklı kökenlerden insanların görünürlüklerini doğrudan etkileyen bir durum.
Twitter bu problemi çözmek için makine öğrenmesi konusunda sorumluluk alacağını açıkladı:
Buna göre Twitter:
- Algoritma kararları için sorumluluk alacak
- Sonuçların eşit ve adil olmasını sağlayacak
- Kararlarla ve sebepleriyle ilgili şeffaf olacak
- Gerekli kurumlarla iş birliği ve seçim şansı getirecek
Bakalım genelde “insanlığın çocuğu” olarak görülen yapay zekaya işin doğrusunu öğretebilecek miyiz?
_____
Fotoğraf: Matheus Viana from Pexels
