Sınırlı ve tam algoritmik irade kapasitesi: sorumluluk tespitinde çözülmesi gereken ön sorun

Yapay zekâ destekli ürünlerin kullanımından doğan zararlarda sorumluluk tartışması çoğunlukla yanlış yerden başlar: doğrudan “kim sorumlu?” sorusuyla. Oysa bu soru, önce bir başka sorunun cevaplanmasını gerektirir. Ürünün algoritmik irade kapasitesi nedir?

Bütün yapay zekâ destekli ürünler aynı öğrenme modeliyle ve aynı algoritmalarla çalışmaz. Bu nedenle sorumluluğun tespiti, ürünün algoritmik irade kapasitesi bağlamında ikili bir ayrımla ele alınmalıdır.

İki kapasite

Sınırlı algoritmik irade kapasiteli ürünler, tanımlanmış görev ve işlemler için belirli parametreler dâhilinde çalışan, algoritmik izlenebilirliği mümkün ürünlerdir. Tasarımlarında kullanılan öğrenme modelleri sınırlı öğrenme ve sınırlı çıktı üretme formatındadır. Bu ürünlerin özerk karar verme ve çevresel girdilerle öğrenme modelini kendi başına geliştirme yeteneği bulunmaz. Algoritmik şeffaflıkları ve izlenebilirlikleri yüksektir.

Tam algoritmik irade kapasiteli ürünler ise çevresel koşullara göre algoritma modellerini geliştirebilen, özerk karar alabilen ve sürekli öğrenme yeteneğine sahip ürünlerdir. Sürekli öğrenme modeli sayesinde başlangıçtaki algoritmik tasarımın ötesine geçerler. Algoritmik izlenebilirlikleri belirli bir aşamadan sonra mümkün değildir; dışarıdan gelen talimatlara bağımlı olmadan hareket edebilir ve öğrenme süreci boyunca kendilerini yeniden programlayabilirler.

Bu ayrım yalnızca tasvirî değildir. İki kategori için sorumluluk rejimi fiilen farklı işler.

Sınırlı kapasitede: kusur tespit edilebilir

Sınırlı algoritmik irade kapasiteli ürünlerde algoritma tasarımının ve potansiyel risklerin izlenebilir olması, aktörlerin kusurunun tespitini mümkün kılar. Sorumluluk, ürün sorumluluğu ve kusura dayalı sorumluluk hükümleriyle belirlenebilir.

• Üretici, donanımsal eksiklikler, güvenlik açıkları veya üretim hatalarından doğan zararlardan sorumludur.
• Yazılım geliştirici, öğrenme modellerinin seçimi, karar verme mekanizması ve yazılım mimarisinin kurulmasından sorumludur. Ürünün zarara yol açan davranışı geliştiricinin tasarladığı işleyişten kaynaklanıyorsa sorumluluğu doğar. Bu ürünlerde öngörülebilirlik yüksek olduğundan, geliştiricinin özen yükümlülüğünün kapsamı daha geniş değerlendirilir.
• Kullanıcı, ürünü tanımlanmış amacı dışında veya hatalı biçimde kullanmasından sorumlu tutulabilir.

Teknik bilirkişilik zorunluluğu

Sorumluluğun paylaştırılması gerektiğinde mahkemeler olayın teknik yönünü değerlendirmek üzere bilirkişi raporlarına başvurmaktadır. Yargıtay 15. Hukuk Dairesi’nin 2015/5140 E. ve 2016/3865 K. sayılı kararı bu bakımdan emsal niteliğindedir. Karar metninde, “canlı video aktarımı ve araç-yaya sayımı konusundaki yazılımların incelenmesi, kullanılan algoritmaların anlaşılması, problemlerin yazılım içindeki sebepleri bulunarak olası çözümlerin analiz edilmesi ve bu işin de konusunda uzman (bilgisayar–yazılım mühendisi, görüntü izleme ile yapay zekâ konusunda) bilirkişiler tarafından yapılması gerektiği” ifade edilmiştir.

Karardan anlaşılan şudur: yargı, algoritmik tasarım için kaynak kodların tespit edilmesini ve sistemin ayıpsız çalışıp çalışmadığının çözümlenmesini aramaktadır. Hedeflenen, üretici ve yazılım geliştiricinin kusurunun saptanmasıdır.

Sınırın kayması

Sınırlı kapasiteli olarak tasarlanmış bir ürün, öğrenme modelinin sınırlandırılmaması hâlinde zamanla algoritmik izlenebilirliğini yitirebilir.

2018 yılında küresel ölçekte hizmet veren bir şirket, insan kaynaklarında kullandığı otomatik aday değerlendirme sistemini cinsiyet ayrımcılığı yaptığı gerekçesiyle devre dışı bırakmıştır. Sistem, geçmiş işe alım verilerine dayanarak adayları puanlıyordu; bu veriler ağırlıklı olarak erkek adayların tercih edildiği örnekler içerdiğinden, algoritma kadın isimli adaylara otomatik olarak daha düşük puan vermeye başlamıştır.

Ürün sınırlı algoritmik irade kapasiteli olarak tasarlanmış olmasına rağmen, önyargılı veri setinden öğrenerek ayrımcı sonuç üretmiştir. Hukuki değerlendirmede üretici ve yazılım geliştirici, ayrımcı sonuçları engelleyecek mekanizmaları kurmamaları ve algoritmik şeffaflığı ihlal etmeleri nedeniyle özen yükümlülüğü kapsamında sorumlu olacaktır.

Tam kapasitede: illiyet bağı kopuyor

Tam algoritmik irade kapasitesine sahip ürünlerde klasik kusur ve kusursuz sorumluluk kuramları yeterli olmamaktadır.

Temel güçlük şudur: üretici, yazılım geliştirici ve kullanıcının fiili ile ürünün algoritmik iradesinden doğan durumun ayrımını yapmak her zaman mümkün değildir. Sürekli öğrenme modeliyle gelişen ve başlangıçtaki tasarımdan bağımsız bir versiyona geçebilen bir üründe, zararın kaynağını belirlemek teknik olarak güçleşir. Yapay zekânın özerkliği arttığı ölçüde, zarar ile hukuken sorumlu tutulabilecek gerçek veya tüzel kişi arasındaki illiyet bağının kurulması zorlaşır.

2018 yılında Amerika Birleşik Devletleri’nde meydana gelen bir kazada, otonom sürüş modu aktif hâldeki bir araç otoyoldaki güvenlik bariyerine çarpmış ve sürücü hayatını kaybetmiştir. Ulusal Ulaşım Güvenliği Kurulu’nun (NTSB) incelemesi, sistemin kazadan önce sürücüye önleyici nitelikte bir uyarıda bulunmadığını ve otonom sistemin yoldaki şerit çizgilerini teknik hata nedeniyle yanlış yorumladığını ortaya koymuştur. Üretici, sistemin yardımcı sürüş teknolojisi olduğunu ve sürücünün her an müdahaleye hazır bulunması gerektiğini savunmuş; ancak sistemin öngörülebilirlik ve şeffaflık yükümlülüğü tartışmaya açılmıştır.

Etki alanı: üçüncü bir ölçüt

Algoritmik irade kapasitesi tespit edildikten sonra ürünün etki alanı belirlenmelidir. Üç kategori ayırt edilebilir.

Kapalı sistemler, önceden programlanmış algoritmalar çerçevesinde sınırlı bir işlev yelpazesinde faaliyet gösterir ve çevresel değişkenlere en düşük düzeyde uyum sağlar. Belirli bir görev için programlanmış endüstriyel bir robot, yalnızca tanımlanan görevleri yerine getirir; beklenmedik durumda durur veya güvenli moda geçer.

Üçüncü kişileri doğrudan etkileyen sistemler, yalnızca kullanıcıyla sınırlı kalmayıp üçüncü kişilerin hukuki statüsünü, çıkarlarını veya temel haklarını etkileyebilecek sonuçlar doğurur. Bankaların kredi risk analiz sistemleri ve otonom araçlar bu kategoridedir. Otonom bir aracın karar mekanizması yalnızca kullanıcıyı değil, yayaları, diğer sürücüleri ve genel trafik güvenliğini etkiler.

Açık sistemler, adaptif öğrenme kapasitesine sahip, çevreyle sürekli etkileşim içinde gelişen ürünlerdir.

Üçüncü kişilere zarar verme riski taşıyan ürünlerde denetim mekanizmaları, yazılım mimarisi ve algoritmik şeffaflık sorumluluk analizinin merkezindedir.

Pratik sonuç

Yapay zekâ destekli ürün geliştiren, tedarik eden veya kullanan bir şirket için çıkarım nettir: ürünün algoritmik irade kapasitesi ve etki alanı, uyuşmazlık çıkmadan önce belgelenmelidir. Bu belgeleme yapılmamışsa, kapasitenin ne olduğu bilirkişi marifetiyle ve dava sürerken tespit edilecek; sorumluluk dağılımı bu tespite göre şekillenecektir.

Tam algoritmik irade kapasiteli ürünler bakımından ise mevcut hükümlerin yetersiz kaldığı açıktır. Bu ürünlerin barındırdığı riskin büyüklüğü ve belirsizliği nedeniyle, konunun tehlike sorumluluğu altında özel bir kusursuz sorumluluk türü olarak düzenlenmesi ve kurtuluş kanıtı getirme imkânı tanınmaması isabetli olacaktır.

---

Bu yazı, Av. Nur Gülmez’in Akdeniz Üniversitesi Sosyal Bilimler Enstitüsü’nde tamamladığı “Algoritmik İrade Kapasitesi Bağlamında Yapay Zekâ Destekli Ürünlerin Kullanımından Doğan Sorumluluk” başlıklı yüksek lisans tezinin üçüncü bölümünden uyarlanmıştır.