ISO/IEC 23894: Yapay Zekâ Risk Yönetimi ve ISO 42001 Entegrasyonu

Yapay zekâ yönetişimi danışmanlığı yürüttüğüm kurumlarda en sık karşılaştığım metodolojik hata, geleneksel bilgi güvenliği (ISO 27001/27005) ya da kurumsal risk (ISO 31000) matrislerinin kopyalanıp doğrudan yapay zekâ projelerine yapıştırılmasıdır.

BT ekipleri bir ilişkisel veritabanı veya web sunucusu için risk analizi yaparken mantık basittir: Sistem deterministiktir; girdi bellidir, işlem mantığı kod satırlarında yazılıdır ve güvenlik açığı genellikle yetkilendirme veya yama eksikliğinden kaynaklanır.

Ancak bir Büyük Dil Modeli (LLM) veya derin öğrenme algoritması söz konusu olduğunda oyunun kuralları baştan yazılır:

• Sistem olasılıksaldır (stokastik); aynı girdiye farklı zamanlarda farklı çıktılar verebilir.
• Model zamanla öğrenir ya da sapar (concept/data drift).
• Karar mekanizması genellikle kara kutudur (black box) ve açıklanması zordur.
• Model sadece dışarıdan hacklenmez; bizzat ürettiği uydurma bilgilerle (halüsinasyon) veya barındırdığı algoritmik önyargıyla (bias) kurumu telafisi imkansız zararlara uğratabilir.

İşte tam bu noktada, ISO/IEC 23894:2023 (Information technology — Artificial intelligence — Guidance on risk management) standardı devreye giriyor. Bu rehberde, ISO 23894'ün getirdiği metodolojiyi, ISO/IEC 42001 standardı Madde 6.1 ile nasıl entegre ettiğimizi, kurumsal yapay zekâ yönetişimi çerçevesini ve sahada uyguladığımız yapay zekâ risk değerlendirmesi modelini inceliyoruz.

---

1. ISO/IEC 23894:2023 Standardının Konumu ve Amacı

ISO/IEC 23894, küresel risk yönetim standardı olan ISO 31000:2018'in ilkelerini alır ve yapay zekâ yaşam döngüsünün özgün gerçeklerine uyarlar.

Burada altını çizmemiz gereken kritik bir ayrım var:

Standart, yapay zekâ risk yönetimini tek seferlik bir proje dokümanı olarak değil; modelin fizibilite aşamasından başlayıp veri toplama, eğitim, test, devreye alma, izleme ve sistemin emekliye ayrılmasına (decommissioning) kadar süren kesintisiz bir döngü olarak tanımlar.

---

2. Yapay Zekâya Özgü Risk Taksonomisi (Geleneksel BT'den Ayrılan Noktalar)

ISO 23894 danışmanlıklarımızda ilk yaptığımız iş, kurumun risk envanterine yapay zekâya özgü tehdit kategorilerini eklemektir. Standart riskleri dört temel katmanda ele alır:

A. Veri ve Mühendislik Katmanı Riskleri

• Veri Zehirleme (Data Poisoning): Modelin eğitim kümesine kasıtlı olarak enjekte edilen manipüle edilmiş verilerle karar mekanizmasının bozulması.
• Temsil Eksikliği ve Sapma (Sampling Bias): Eğitim kümesinin gerçek hayat dağılımını yansıtmaması sonucu üretilen adaletsiz kararlar.
• Veri Sızıntısı (Data Leakage): Eğitim ve test kümelerinin birbirine karışması sonucu modelin pratikte başarısız olması veya model ağırlıklarından gizli eğitim verilerinin geri çıkarılması (Model Inversion).

B. Algoritmik ve Model Davranışı Riskleri

• Halüsinasyon (Fabulation): Üretken yapay zekâ modellerinin son derece ikna edici fakat tamamen uydurma, hukuken veya tıbben hatalı çıktılar üretmesi.
• Model Kayması (Data & Concept Drift): Zaman içinde değişen tüketici davranışları, ekonomik koşullar veya regülasyonlar nedeniyle modelin doğruluğunun habersizce düşmesi.
• Açıklanamazlık (Lack of Explainability): Modelin neden o kararı verdiğinin kurumun kendi mühendisleri ve denetçileri tarafından bile matematiksel olarak gerekçelendirilememesi.

C. Otonomi ve Etki Katmanı Riskleri

• Aşırı Güven ve İnsan Gözetiminin Zayıflaması (Automation Bias): Operatörlerin modelin kararlarını körü körüne onaylaması, kontrol reflekslerini yitirmesi.
• Geri Döndürülemez Zararlar: Kredi reddi, işe alım elemesi, tıbbi teşhis veya adli risk skorlaması gibi bireylerin temel haklarını doğrudan etkileyen senaryolarda telafi mekanizmasının bulunmaması.

D. Hukuki, Etik ve Telif Riskleri

• Modelin eğitiminde kullanılan verilerin telif haklarını ihlal etmesi (IP infringement).
• AB Yapay Zekâ Tüzüğü (EU AI Act) Madde 9 ve Madde 14 uyarınca yüksek riskli sistem sınıfına girilmesine rağmen zorunlu teknik dosyalama ve risk süreçlerinin işletilmemesi.

---

3. ISO/IEC 23894 Uyumlu Risk Değerlendirme Metodolojisi

ISO 23894 çerçevesinde bir yapay zekâ risk değerlendirmesini sahada 4 adımda hayata geçiriyoruz:

`` [1. Kapsam ve Bağlam] ──> [2. AI Tehdit Analizi] ──> [3. 3 Boyutlu Skorlama] ──> [4. Mitigasyon & HITL] ``

Adım 1: Bağlamın ve Amaçlanan Kullanımın Tanımlanması

Sistem ne yapacak? Sistemin otonomi derecesi nedir? Karar tamamen yapay zekâda mı (Full Automation), yoksa insana tavsiye mi veriyor (Human-in-the-loop)? Modelin nihai kullanıcıları kimler ve sistemin hata yapması durumunda zarar görebilecek hassas gruplar var mı?

Adım 2: Risk Tanımlama ve Tehdit Senaryoları

Geleneksel risk matrislerinin aksine, burada senaryolar modelin arızalanması üzerinden değil, modelin tasarlandığı gibi çalışırken üretebileceği yan etkiler üzerinden kurulur.

Adım 3: Çok Boyutlu Risk Skorlama Matrisi

Klasik Risk = Olasılık × Etki formülü yapay zekâ için yetersizdir. Sahada geliştirdiğimiz ISO 23894 modelinde riski şu parametrelerle ağırlıklandırıyoruz:

• \alpha_{otonomi} (Otonomi Çarpanı): İnsan onay mekanizması yoksa risk çarpanı yükselir.
• \beta_{tersinmezlik} (Geri Döndürülemezlik Çarpanı): Kararın etkisinin geri alınabilirliği (örneğin hatalı e-posta kategorizasyonu tersine çevrilebilir; ancak organ nakli sırası veya işe alım iptali kolayca geri döndürülemez).

---

4. ISO 42001 Madde 6.1 ile Entegrasyon ve Kontrol Seçimi

Riskleri değerlendirdikten sonra, ISO/IEC 42001 Ek A ve Ek B kontrolleriyle eşleştirme yapılır:

1. A.6 Veri Yönetimi Kontrolleri: Eğitim verilerinin kalitesi, etiketleme doğruluğu ve veri zehirleme testleri.
2. A.7 Yapay Zekâ Sistemi Yaşam Döngüsü: MLOps hattında otomatik drift tespiti ve model versiyonlama.
3. A.8 Yapay Zekâ Sisteminin Kullanımı: Prompt injection koruması, guardrail filtreleri ve çıktı doğrulama.
4. B.7.4 İnsan Gözetimi (HITL/HOTL): Modelin kritik eşik altındaki tüm kararlarını insan uzman onayına düşüren iş akışlarının yazılıma gömülmesi.

---

5. Sahadan Danışman Notları ve Sık Yapılan Hatalar

• "Model Doğruluğu (%Accuracy) Yüksekse Risk Yoktur" Yanılgısı: %98 doğrulukla çalışan bir model, kalan %2'lik kısımda sistematik olarak belirli bir etnik grubu veya kadın adayları eliyorsa, kurumunuz çok ciddi bir yasal ve itibar riskiyle karşı karşıyadır.
• Statik Risk Analizi Raporu Hazırlamak: Model eğitime girdikçe, kullanıcı promptları çeşitlendikçe risk profili değişir. ISO 23894, risk değerlendirmesinin CI/CD ve MLOps hattına entegre edilmesini ve otomatik tetikleyicilerle (örneğin veri dağılımında %5 kayma olduğunda) risk değerlendirmesinin yenilenmesini ister.
• İş Birimlerini Dışarıda Bırakmak: Yapay zekâ risk analizi sadece veri bilimcilerin işi değildir. Hukuk, uyum, insan kaynakları ve operasyon ekiplerinin yer almadığı bir ISO 23894 çalışması denetimden geçemez.