Önceki yazımızda üretken yapay zekâyı verimli kullanmanın püf noktalarını ve prompt engineering sanatını ele almıştık. Bu hafta ise yapay zekâ ile çalışmanın bir diğer kritik yönünü masaya yatırıyoruz: bias (önyargı) sorunu. Halüsinasyon olgusundan farklı olarak, bias yapay zekânın cevabının içeriğinde belirli bir yönlü hata veya taraflılık olması anlamına gelir. Bir yapay zekâ modelinin diline sinmiş önyargılar bazen fark edilmesi zor, ancak sonuçları itibariyle son derece problemli olabilir. Peki bias nedir, nasıl ortaya çıkar ve hukukçular olarak bu problemden kurtulmak için neler yapabiliriz? Bu yazımızda bunları ele alacağız.

Bias (Önyargı) Nedir?

Bias, genel anlamıyla bir yapay zekâ sisteminin sistematik taraflılık veya ayrımcılık eğilimi göstermesidir. Yapay zekâ ön yargısı, modelin insanları veya belirli grupları farkında olmadan ayrımcılığa uğratacak şekilde eğitilmesi ya da tasarlanması sonucu ortaya çıkar. Başka bir deyişle, yapay zekâ modelinin verdiği yanıtlarda belirli bir bakış açısının, stereo tiplerin veya dengesiz yaklaşımların ortaya çıkmasıdır. Bu önyargı, kastî bir düşmanlıktan ziyade, modelin öğrendiği verilerdeki kalıplardan kaynaklanan bir yansıma hatası olarak görülebilir. Sonuç olarak, modelin çıktılarında farkında olmadan ayrımcı veya taraflı ifadeler belirebilir.

Hukuk dilinde düşünürsek, yapay zekâdaki bias, hakim veya savcının bilinçdışı önyargılarına benzetilebilir. Nasıl ki bir yargıcın geçmiş deneyimleri veya toplumsal şartlanmayı kararlarına istemeden de olsa yön verebiliyorsa, yapay zekâ da eğitildiği metinlerdeki ağırlıklara göre taraflı bir bakış açısı sergileyebilir. Örneğin, modelin eğitildiği metinlerin büyük çoğunluğu belirli bir kültürün, cinsiyetin veya ideolojinin görüşlerini yansıtıyorsa, model de soruları yanıtlarken bu perspektifi merkeze alabilir.

Yapay Zekâ Modellerinde Bias Nasıl Ortaya Çıkar?

Bias, yapay zekâ sistemlerinin geliştirilme sürecinin farklı aşamalarında filizlenebilir. Başlıca üç kaynakta önyargı oluşma riski vardır:

• Eğitim Verisi Önyargısı (Training Data Bias): Modelin öğrendiği büyük veri setlerinde zaten var olan dengesizlikler veya stereo tipler, yapay zekâya da aynen sirayet eder. Örneğin, Amazon'un 2015 yılında işe alım için kullandığı bir yapay zekâ algoritması, geçmiş 10 yılın özgeçmişlerinden eğitildiği için kadın adaylara karşı ayrımcı hale gelmişti. Çünkü veri setindeki özgeçmişlerin çoğu erkeklerden geliyordu ve algoritma, "ideal çalışan" profilini erkekler lehine öğrenmişti. Benzer şekilde, yüz tanıma sistemleri sadece açık tenli insanların fotoğraflarıyla eğitildiğinde koyu tenli bireyleri tanımakta başarısız olabiliyor; bu da veri kaynaklı önyargının tipik bir sonucudur.

• Algoritmik Önyargı (Algorithmic Bias): Modelin geliştirilme aşamasında, farkında olmadan geliştiricinin önyargılarının veya hatalı varsayımlarının modele yansımasıdır. Örneğin, ceza adaletinde kullanılan COMPAS adlı risk değerlendirme algoritmasının tasarımında ve veri işleme yönteminde yapılan tercihler, sonucun ırksal bir yanlılık içermesine neden olmuştur. COMPAS, bir sanığın tekrar suç işleme ihtimalini tahmin ederken siyahi sanıkları orantısız şekilde yüksek riskli göstermiş; beyaz sanıklara kıyasla iki kat fazla "yanlış pozitif" üretmiştir. Bu durum, algoritmanın matematiksel formülasyonundaki veya veri işleme şeklindeki bir önyargıdan kaynaklanmıştır. Algoritmik önyargı, çoğu zaman kasıtsız olsa bile sonuçta belirli bir gruba haksızlık eden sistematik hatalara yol açar.

• İnsan Etkileşimi ve Bilişsel Önyargı: Yapay zekâ sistemleri kullanıcılarla etkileşime girdikçe veya insan geribildirimiyle şekillendirildikçe de önyargı kazanabilir. Örneğin, Microsoft'un 2016'da kullanıma sunduğu Tay isimli sohbet botu, Twitter kullanıcılarıyla etkileşim kurarak kendini geliştirmeye programlanmıştı. Ancak kötü niyetli kullanıcılar Tay'e ırkçı ve kadın düşmanı ifadeler tekrarlatınca, bot kısa sürede bu söylemleri benimsedi ve benzer nefret söylemleri üretmeye başladı. Benzer şekilde, büyük dil modelleri insan moderatörlerin geribildirimleriyle eğitilirken, o moderatörlerin ve veri kaynaklarının kültürel veya siyasi bakış açıları modele sirayet edebilir. Nitekim OpenAI kendi yardım dokümanında, ChatGPT'nin tamamen önyargısız olmadığını ve özellikle Batı görüşlerine ve İngilizce diline eğilim gösterdiğini belirtmiştir. Model, diyalog esnasında kullanıcıların güçlü fikirlerine kolaylıkla uyum sağlayıp onları pekiştirebilir; bu da mevcut önyargıları onaylayan bir döngü yaratabilir.

Özetle, yapay zekâ "ne yerse onu çıkarır" ilkesiyle çalışır: Eğer modele sunulan veri veya kurallar taraflıysa, ortaya çıkan yanıtlar da kaçınılmaz olarak taraflı olacaktır. Bu durum, istemeden de olsa ayrımcı veya hatalı önerilere yol açabilir.

Hukuk Alanında Bias Neden Önemli?

Adalet kavramının temeli, tarafsızlık ve eşitlik prensiplerine dayanır. Bir avukat veya hâkim, bilinçli ya da bilinçdışı önyargılarla hareket ettiğinde adil yargılanma hakkı zarar görür. Aynı şekilde, yapay zekâ araçlarının hukuk alanında kullanımı yaygınlaştığında, bu araçların da benzer önyargılar taşıması ciddi sonuçlar doğurabilir. İşte hukukçuların bias konusunda dikkat etmesi gereken noktalar:

• Adil Olmayan Öneriler: Eğer bir hukuk araştırma asistanı olarak kullandığınız yapay zekâ modeli önyargılıysa, müvekkilinizin durumunu değerlendirirken size eksik veya yanıltıcı öneriler sunabilir. Örneğin, modelin eğitildiği hukuki metinlerin çoğu geçmiş yıllara aitse ve o dönemde kadına karşı şiddet davalarında hafif cezalar verildiyse, "ortalamayı" yakalayan bir AI aracı benzer bir soruya daha düşük ceza önerisiyle cevap verebilir. Bu, güncel hukuki yaklaşım ve toplumsal duyarlılıkla çelişebilir.

• Müvekkil İletişiminde ve Dilekçelerde Taraflı Dil: Avukatlar, yapay zekâ araçlarını dilekçe taslakları veya hukuki metinler hazırlamak için kullanmaya başladı. Eğer modelin dilinde ince bir önyargı varsa, hazırlanan taslakta istemeden taraflı veya ayrımcı ifadeler yer alabilir.

• Yanlış Yönlendirme ve Sorumluluk: Önyargılı bir yapay zekâ, müvekkile verilecek tavsiyelerde ciddi yanlış yönlendirmelere sebep olabilir. Diyelim ki KVKK (kişisel verilerin korunması) konusunda bir danışmanlık için modeli kullandınız. Model, eğitim setindeki çoğunluk görüşe dayanarak "Bu tür ihlaller genelde cezasız kalır" gibi hatalı ve tehlikeli bir genelleme yaparsa, müvekkiliniz yanlış bir rahatlık duygusuna kapılabilir. Halbuki belki de güncel uygulamada çok ciddi yaptırımlar söz konusudur. Hukuken sorumluluk her zaman avukatta olduğundan, yapay zekânın önyargılı veya güncellikten uzak tavsiyelerini körü körüne benimsemek mesleki risktir. Nitekim uluslararası baro raporlarında, yapay zekâ araçlarından kaynaklanan hataların sorumluluğunun avukatın üzerinden atılamayacağı vurgulanmaktadır. Bias kaynaklı bir hatada da müvekkil zarar görürse, "ama yapay zekâ böyle dedi" demek mazeret olmaz. Fakat buna daha sonraki bir yazımızda değineceğiz.

• Yargı Süreçlerinde ve Delil Değerlendirmede Risk: Bazı ülkelerde yargıçlar da karar destek sistemleri olarak yapay zekâdan faydalanmayı tartışıyor. Eğer böyle bir sistem önyargılı olursa (örneğin belli bir etnik gruba karşı daha yüksek risk skoru veriyorsa), adil yargılanma ilkesi ciddi şekilde zedelenir. Türkiye'de yargıda yapay zekâ kullanımı henüz sınırlı olmakla birlikte, halihazırda bazı alanlarda kullanılmaya başlanmıştır, yakın gelecekte örneğin yargı kararlarının özetlenmesi veya emsal içtihat tavsiyesi gibi konularda yapay zekâ araçları gündeme gelebilir. Bu noktada hukukçuların, algoritmik önyargıların farkında olarak bu araçları değerlendirmesi gerekecek. Şeffaflık talebi önem kazanacaktır: "Bu sonuca varan algoritma hangi verilere dayanıyor, bir grubu sistematik olarak dezavantajlı konuma sokuyor mu?" soruları sorulmalıdır. Örneğin Leagle gibi sistemlerde olduğu gibi, verilen sonuçların hangi verilere dayandığı açık biçimde gösterilmelidir.

Bias Problemini Aşmak İçin Ne Yapmalı?

Tamamen önyargısız bir yapay zekâ yaratmak belki imkânsız bir hedef, ancak bias sorununu yönetmek ve etkisini azaltmak kesinlikle mümkün. İşte hukukçuların ve AI geliştiricilerinin bu konuda alabileceği bazı önlemler ve stratejiler:

• Kritik ve Sürekli Denetim: Yapay zekâdan bir yanıt aldığınızda onu doğrudan doğruya doğru kabul etmeyin. İçeriği eleştirel bir süzgeçten geçirmek ilk kuraldır. Eğer yanıt, belirli bir gruba karşı negatif bir ima taşıyor ya da size aşırı tek taraflı geliyorsa hemen alarm zillerini çalın. Gerekirse ikinci bir prompt ile modelden daha tarafsız bir dil kullanmasını isteyin veya konuyu farklı bir açıdan ele almasını sağlayın. Örneğin, "Cevabını tarafsız bir şekilde, hem lehte hem aleyhte argümanları göstererek yeniden yaz" şeklinde bir komut verebilirsiniz.

• Çeşitli Kaynaklar ve Karşılaştırma: AI'dan gelen bilgi veya analizi mutlaka güvenilir kaynaklarla karşılaştırın. Yapay zekâ araçları bazen hatalı veya uydurma yargı kararları üretebilir; bu nedenle özellikle emsal karar araştırmalarında Leagle gibi doğrulanmış hukuk veri tabanlarını kullanmak daha güvenilirdir. Benzer şekilde, modelin tek bir perspektifle yanıtladığını düşünüyorsanız, alternatif bakış açılarını sunan başka kaynaklara bakın. Örneğin, ceza hukukunda tartışmalı bir konuda model sadece bir görüşü savunuyorsa, karşıt görüşü de siz manuel olarak araştırıp denkleme katın. Yapay zekâ yardımcı bir araçtır, tek otorite değil. Onu birinci ve tek kaynak haline getirmemek, bias etkisini azaltmak için kritiktir.

• Prompt Mühendisliğini Kullanın: Önceki yazımızda detaylı anlattığımız prompt engineering teknikleri, bias azaltmada da işinize yarayabilir. Modele doğru soruları sorarak veya ona belirli roller vererek, daha dengeli cevaplar alabilirsiniz. Örneğin, "Daha teknik açıdan değerlendir" veya "Farklı yargı mercilerinin görüşlerini de dikkate alarak açıkla" gibi istemler, modelin tek taraflı bir cevap vermesini önlemeye yardımcı olur. Ayrıca, eğer modelin belli bir kültüre veya dile aşırı ağırlık verdiğini düşünüyorsanız, prompt'ta bağlamı çeşitlendirin: "ABD ve Türk hukuku açısından ayrı ayrı değerlendir" gibi. Bu sayede modelin yanıtı, birden fazla perspektifi içerecek şekilde genişler.

• Model ve Veri Seçimine Dikkat: Eğer elinizde birden fazla yapay zekâ aracı veya modeli kullanma imkânı varsa, bias konusunda daha iyi performans verenleri tercih edin. Örneğin GPT-4, OpenAI'nin açıklamalarına göre, istenmeyen ve uygunsuz içerik üretme eğilimini GPT-3.5'e kıyasla %82 azaltmış durumdadır. Daha gelişmiş modeller sadece bilgi kalitesi değil, güvenlik ve etik filtreler açısından da ilerleme kaydetmiştir. Yine de "daha az önyargılı" diye bir modele tamamen güvenmek yerine, hassas konularda daima insan denetimini kullanın. ChatGPT gibi genel amaçlı modellerin yüksek halüsinasyon oranına (olmayan bilgiler veya emsal kararlar üretme eğilimi) sahip olduğunu unutmayın. Eğer mümkünse, hukuki çalışmalarınızda kullanılmak üzere Leagle gibi özelleştirilmiş yapay zekâ modelleri geliştirmeyi düşünebilirsiniz. Kendi kurumunuzun veri setleriyle eğitilmiş bir model, genel amaçlı bir modele kıyasla ihtiyacınıza uygun ve kontrollü sonuçlar verecektir – önyargı konusunda da beklenmedik sürprizler çıkarma ihtimali azalır.

• Farkındalık ve Eğitim: Son olarak, hukuk camiasının yapay zekâ konusunda sürekli öğrenen bir tutum takınması gerekiyor. Bias problemini tamamen ortadan kaldıramayacağımız bir gerçek. O halde onunla mücadelede en önemli silahımız, farkındalık. Meslek içi eğitimlerde, stajyer avukatlara ve genç hukukçulara yapay zekâ araçlarının potansiyel önyargıları öğretilmeli; gerçek örnekler üzerinden ("case study") tartışmalar yapılmalı. Örneğin, bir eğitim oturumunda büyük bir dil modelinin (LLM) aynı senaryoyu farklı şekillerde yanıtlaması sağlanarak, soru biçimindeki küçük değişikliklerin bile cevaptaki önyargıyı nasıl etkilediği gösterilebilir. Baroların yayınladığı rehberlerde, avukatların yapay zekâ çıktılarının doğruluğunu ve tarafsızlığını teyit etmeden kullanmamaları öğütlenmektedir. Bu tür prensipleri içselleştirmek, yapay zekâyı sorumlu bir şekilde kullanmanın anahtarıdır.

Yapay zekâ, hukuk dünyasında hız ve verimlilik kazandırırken beraberinde yeni etik ve profesyonel sorumluluk sorularını da getiriyor. Bias problemi, bu teknolojilerin sadece teknik değil, aynı zamanda insani ve toplumsal yönlerinin de dikkatle ele alınması gerektiğini gösteriyor. Unutmamak gerekir ki, tarafsızlık yalnızca algoritmaların değil, onları kullanan hukukçuların da sorumluluğudur.

Hukuk pratiğinde yapay zekâyı güvenle kullanmanın yolu, farkındalık, eleştirel düşünme ve sürekli denetimden geçiyor. Modellerin çıktıları ne kadar gelişmiş olursa olsun, nihai yargı her zaman insanda olmalı.

Haftaya, yapay zekâların sıkça düştüğü bir başka tuzağı, "halüsinasyon" sorununu ele alacağız. Peki bir yapay zekâ hiç bilmediği bir konuyu nasıl "uydurabiliyor"? Gerçekle kurguyu ayırt etmek neden bu kadar zor olabiliyor? Ve hukukçular olarak bu "halüsinatif yanıtlarla" nasıl başa çıkabiliriz? Tüm bu soruların yanıtlarını önümüzdeki yazımızda bulacaksınız.