Yapay Zekâda BIAS (Önyargı) Nedir? Sektörel Örnekler ve Çözüm Yolları

Yapay zekâ sistemleri ilk yaygınlaşmaya başladığında teknoloji dünyasında yaygın bir yanılgı vardı: "İnsanlar duygusaldır ve önyargılıdır; oysa algoritmalar sadece saf matematik ve istatistiğe bakar, dolayısıyla tamamen tarafsızdır."

Bugün sahadaki acı tecrübeler, bu varsayımın ne kadar tehlikeli olduğunu gösterdi. Yapay zekâ modelleri gökten inmez; insanların ürettiği, insanların kararlarını içeren ve toplumun asırlık önyargılarını barındıran tarihsel verilerle (historical data) eğitilir. Sonuç olarak model, geçmişin adaletsizliklerini "doğru kural" sanarak öğrenir, otomatikleştirir ve binlerce kat büyüterek geleceğe yansıtır.

İşte bu olguya Algoritmik Önyargı (AI Bias) diyoruz.

Günümüzde ISO/IEC 42001 Yapay Zekâ Yönetim Sistemi Standardı (özellikle Ek B.7.4 ve Ek B.9.3) ve ISO/IEC TS 12791 (Treatment of unwanted bias in machine learning tasks) ile EU AI Act (Madde 10), yapay zekâ modellerindeki önyargının tespit edilmesini ve giderilmesini yasal bir zorunluluk haline getirmiştir.

Peki, BIAS nasıl oluşur, sektörlerde hangi skandallara yol açmıştır ve teknik olarak nasıl engellenir? Sahadaki gerçek vakalarla adım adım inceliyoruz.

---

1. Yapay Zekâda BIAS (Önyargı) Nasıl Oluşur?

Bir yapay zekâ modelinin önyargılı hale gelmesinin 4 temel kök nedeni vardır:

1. Tarihsel Veri Önyargısı (Historical Bias): Verinin toplandığı dünyada zaten var olan eşitsizliklerin yansımasıdır. Örneğin, geçmiş 20 yılda üst düzey yönetici pozisyonlarının %90'ı erkekler tarafından doldurulmuşsa, model "iyi bir yönetici olmanın gizli kuralı erkek olmaktır" sonucunu çıkarır.
2. Temsil Eksikliği (Representation Bias): Eğitim verisinin hedef kitleyi eşit yansıtmamasıdır. Örneğin, yüz tanıma modellerinin çoğunlukla açık tenli yetişkin erkek fotoğraflarıyla eğitilmesi, kadınlarda ve koyu tenli bireylerde hata payını katlar.
3. Ölçüm ve Etiketleme Hataları (Measurement Bias): Veriyi etiketleyen insanların kendi sübjektif yargılarını sisteme aktarması veya hatalı vekiller (proxy variables) seçilmesidir.
4. Geri Bildirim Döngüsü (Feedback Loop): Modelin verdiği önyargılı kararların yeni veriyi kirletmesi ve modelin kendi hatasını doğrulayarak daha da radikalleşmesidir (Örn: Tahmini suç haritalarının polisleri sürekli aynı yoksul mahallelere göndermesi ve orada daha çok tutuklama yapılması).

---

2. Farklı Sektörlerden Çarpıcı ve Gerçek BIAS Vakaları

Algoritmik önyargı teorik bir felsefe konusu değil; şirketleri milyonlarca dolarlık davalarla, prestij kaybıyla ve regülatör cezalarıyla karşı karşıya bırakan somut bir operasyonel risktir.

💼 1. İnsan Kaynakları & İşe Alım: Amazon CV Eleme Skandalı

• Vaka: Dünyanın en büyük teknoloji devlerinden Amazon, gelen on binlerce iş başvurusunu otomatik puanlamak için bir makine öğrenimi modeli geliştirdi. Model, son 10 yılda şirkete kabul edilen başarılı mühendislerin CV'leriyle eğitildi.
• Ortaya Çıkan BIAS: Teknoloji sektöründe tarihsel olarak erkek çalışan oranı yüksek olduğu için, algoritma kadın adayları sistematik olarak cezalandırmaya başladı. İçinde "Women's Chess Club" (Kadınlar Satranç Kulübü) gibi "kadın" kelimesi geçen CV'lerin puanını düşürdü ve sadece iki kadın kolejinden mezun olanların başvurularını reddetti.
• Sonuç: Amazon sistemi düzeltemedi ve projeyi tamamen çöpe atmak zorunda kaldı.

🏦 2. Finans & Bankacılık: Apple Card Kredi Limiti Ayrımcılığı

• Vaka: Apple ve Goldman Sachs ortaklığıyla çıkarılan Apple Card, başvuranların kredi limitlerini yapay zekâ tabanlı bir kredi skorlama algoritmasıyla belirledi.
• Ortaya Çıkan BIAS: Ünlü yazılımcı David Heinemeier Hansson ve ardından Apple kurucularından Steve Wozniak, eşleriyle ortak mal varlığına ve hatta eşlerinin daha yüksek kredi notuna sahip olmasına rağmen, algoritmik olarak kendilerine eşlerinin 10 ila 20 katı kredi limiti tanımlandığını kamuoyuna duyurdu.
• Sonuç: New York Finansal Hizmetler Departmanı (NYDFS) kurum hakkında "cinsiyete dayalı algoritmik ayrımcılık" soruşturması başlattı.

🏥 3. Sağlık & Tıp Teşhisi: Cilt Kanseri ve Hasta Bakım Algoritmaları

• Vaka 1 (Ten Rengi Önyargısı): Deri kanseri (melanom) tespit eden derin öğrenme modelleri, tıp literatüründeki açık tenli (Fitzpatrick Tip I-II) hasta görselleriyle eğitildiği için, koyu tenli hastalarda melanomu tespit edememiş ve ölümcül teşhis gecikmelerine yol açmıştır.
• Vaka 2 (Sağlık Sigortası & Gelir Vekili): ABD hastanelerinde yüksek riskli hastaları tespit eden ticari bir algoritma, "hastanın sağlık ihtiyacını" tahmin etmek için "geçmiş sağlık harcamalarını" vekil değişken (proxy) olarak kullanmıştır. Düşük gelirli siyah hastalar sigortasızlık nedeniyle daha az harcama yaptığı için, algoritma bu hastaları beyaz hastalara kıyasla "daha sağlıklı" olarak sınıflandırmış ve ek bakım programlarından mahrum bırakmıştır (Science dergisinde yayımlanan ünlü araştırma).

⚖️ 4. Hukuk & Ceza Adaleti: COMPAS Algoritması

• Vaka: ABD mahkemelerinde sanıkların kefaletle serbest bırakılması veya ceza sürelerinin belirlenmesinde kullanılan COMPAS algoritması, bir sanığın 2 yıl içinde yeniden suç işleme (recidivism) riskini puanlamaktadır.
• Ortaya Çıkan BIAS: ProPublica tarafından yapılan bağımsız araştırmada, algoritmanın beyaz sanıklara kıyasla siyah sanıklara neredeyse iki kat daha fazla haksız yere "yüksek suç riski" (False Positive) puanı verdiği kanıtlanmıştır.

📸 5. Güvenlik & Yüz Tanıma: Yanlış Gözaltılar

• Vaka: ABD ve İngiltere'de polis teşkilatlarının kullandığı yüz tanıma sistemleri, Asyalı ve Afro-Amerikan kadınlarda %35'e varan hata paylarıyla çalışmıştır.
• Sonuç: Hiçbir suçu olmayan masum vatandaşlar, AVM'lerde veya sokakta algoritmanın hatalı eşleşmesi nedeniyle kelepçelenerek gözaltına alınmıştır (Detroit Polis Departmanı skandalları).

---

3. ISO/IEC 42001 ve ISO/IEC TS 12791 Uyarınca BIAS Nasıl Ölçülür ve Giderilir?

Kurumunuzda bir yapay zekâ modeli devreye alırken veya danışmanlık projelerinde önyargıyı engellemek için 3 aşamalı mühendislik yaklaşımı uygulanır:

[ 1. Pre-Processing ] (Veri Dengeleme & Örnekleme) ➔ [ 2. In-Processing ] (Adalet Kısıtlı Model Eğitimi) ➔ [ 3. Post-Processing ] (Karar Eşik Optimizasyonu)

A. Pre-Processing (Eğitim Öncesi Veri İyileştirmesi)

Model henüz eğitilmeden veri kümesi temizlenir:

• Yeniden Ağırlıklandırma (Reweighting): Az temsil edilen korunan grupların (kadınlar, azınlıklar vb.) eğitimdeki matematiksel ağırlığı artırılır.
• Sentetik Veri Üretimi (SMOTE / GAN): Eksik gruplar için sentetik ancak gerçekçi eğitim verileri üretilerek küme dengelenir.
• Vekil Değişkenlerin Ayıklanması: Cinsiyet veya ırkı doğrudan çıkarmak yetmez; posta kodu veya mezun olunan lise gibi doğrudan etnik/sosyoekonomik kökeni ele veren vekiller (proxies) tespit edilip elenmelidir.

B. In-Processing (Eğitim Esnasında Müdahale)

Algoritmanın kayıp fonksiyonuna (Loss Function) adalet cezaları eklenir:

• Adversarial Debiasing: Ana model görevi öğrenirken, ikinci bir yardımcı model kararların korunan nitelikle ilişkisini çözmeye çalışır. Ana model, bu yardımcı modeli yanıltacak (yani cinsiyetsiz/tarafsız) öznitelikler öğrenmeye zorlanır.

C. Post-Processing (Model Çıktısı Aşaması)

Modelin tahmin olasılıkları korunur ancak karar eşikleri gruplara göre optimize edilir (Threshold Tuning / Reject Option Classification).

Matematiksel Adalet Metrikleri:

• Demographic Parity: Modelin korunan gruplara eşit oranda pozitif karar vermesi (P(hat{Y}=1 | A=0) = P(hat{Y}=1 | A=1)).
• Equal Opportunity: Gerçekten hak eden bireyler arasında modelin doğru pozitif oranının (True Positive Rate) tüm gruplarda eşit olması.
• Disparate Impact (%80 Kuralı): Dezavantajlı grubun kabul oranının, avantajlı grubun en az %80'ine eşit olması kuralı.

---

ISO 42001 ve EU AI Act Uyumunda BIAS Denetimi

Yapay zekâ modellerinizdeki önyargı, sadece bir etik meselesi değil; EU AI Act Madde 10 (Veri ve Yönetişim) uyarınca küresel pazara girişinizi durdurabilecek veya cironuzun %7'sine varan para cezaları getirebilecek bir uyum şartıdır.

Kurumunuzun yapay zekâ modellerini bağımsız algoritmik denetimden geçirmek, önyargı ve adalet metriklerini ölçümlemek ve ISO/IEC 42001 sertifikasyonuna hazırlanmak için profesyonel danışmanlık hizmetlerimizden yararlanabilirsiniz.

👉 Hizmet kapsamımız ve metodolojimiz hakkında detaylı bilgi almak için Yapay Zeka Yönetişimi Danışmanlığı sayfamızı inceleyebilir veya doğrudan benimle iletişime geçebilirsiniz.