Üretici, yazılım geliştirici ve kullanıcı: algoritmik iradenin kaynağına göre sorumluluğun dağılımı

Yapay zekâ destekli ürünlerde irade ilişkileri katmanlı ve kümülatif bir yapı gösterir. Bu sarmal yapıda üç temel aktör bulunur: üretici, yazılım geliştirici ve kullanıcı. Hukuki sorumluluğun tespiti, her bir aktörün algoritmik iradeye katkısının ve bu iradeyi nasıl yönlendirdiğinin analiz edilmesine bağlıdır.

Bu analiz, ürüne hukuki kişilik tanınmadığı sürece sorumluluğun kurulabileceği tek yoldur.

Aktörlerin konumu

Üretici, ürünün başlangıç evresinde sistematiği kuran aktördür. Kullanım amacı doğrultusunda tasarım ve performans gibi parametreleri belirler. Ürünün ne için var olduğunu ve hangi sınırlar içinde çalışacağını tanımlayan iradedir.

Yazılım geliştirici, teknik anlamda ürünün algoritmalarını tasarlayan ve geliştiren aktördür. Öğrenme modellerinin tercihi, algoritma tasarımı, geliştirilmesi ve çalıştırılmasında aktif rol oynar. Algoritmik iradenin teknik mimarisi bu aktörün elindedir.

Kullanıcı, ürünü belirli bir amaç için kullanan aktördür. Kullanıcının konumu çoğu zaman hafife alınır; oysa kullanıcının talebi üretici ve yazılım geliştiriciyi yönlendirir, ürüne veriyi çoğunlukla kullanıcı sağlar, uygulamayı kullanıcı yürütür ve çıktıları kullanıcı şekillendirir. Bu nedenle kullanıcı, ürünün kurgusunda etkili bir aktördür.

Sorumluluğun ilk dağılımı bu konumlardan çıkar: üretici üretim ve tasarım hatalarından, geliştirici algoritma ve öğrenme modeli kusurlarından, kullanıcı ise hatalı kullanımdan sorumlu tutulabilir.

AB Yapay Zekâ Yasası’nın çizdiği çerçeve

Yapay zekâ destekli ürünler için en kapsamlı yasal düzenleme olan AI Act, bu üç aktörün yükümlülüklerini açıkça tanımlamakta ve algoritmik iradenin kaynağı bağlamında sorumluluk tespiti için referans oluşturmaktadır.

Üretici bakımından: ürünün tasarımı, geliştirilmesi ve piyasaya ilk arzından sorumludur. Teknik hazırlıkları ve risk sınıfına uygunluk değerlendirmesini yapmakla yükümlüdür. Yüksek riskli sistemler için gerekli sertifikasyon işlemlerinin tamamlanması gerekir. Kullanım sonrası performans izlemesi ve oluşabilecek risklerin değerlendirilmesi de üreticinin sorumluluğundadır. Sistem ciddi bir risk doğuruyorsa üretici geri çağırma işlemini başlatmak ve yetkili otoriteyi bilgilendirmekle yükümlüdür.

Yazılım geliştirici bakımından: algoritmanın mimarisi, eğitim verisinin hazırlanması ve modelin eğitimi geliştiricinin sorumluluğundadır. Kullanılan veri setinin kalitesinden ve önyargı barındırmamasından geliştirici sorumludur. Sistemin şeffaf, izlenebilir ve açıklanabilir olmasını sağlamak da bu aktörün yükümlülüğüdür.

Somut bir örnek: sohbet botu davası

Üç aktörün sorumluluğu güncel bir uyuşmazlıkta gündeme gelmiştir. 2024 yılında Florida’da meydana gelen olayda, 14 yaşındaki bir çocuk yapay zekâ destekli bir sohbet botunu kullanmaya başlamasının ardından intihar etmiştir. Aile, ürünün çocuğun psikolojisine olumsuz etki ettiğini ve bağımlılık oluşturan bir ilişki kurarak intihara neden olduğunu ileri sürmüştür. Ürünü geliştiren ve sisteme erişimi sağlayan şirketlere karşı dava açılmıştır. Mahkeme, 2025 yılı Mayıs ayındaki ön değerlendirmesinde olayın toplumsal etkisi ve iddiaların ciddiyeti nedeniyle davanın devamına karar vermiştir.

Bu dava, yapay zekâ destekli ürünlerin yol açabileceği zararlar bakımından üç aktörün sorumluluğunun birlikte tartışıldığı ve telafisi mümkün olmayan zararların söz konusu olabildiği bir örnektir.

Dinamik yapı: tek seferlik tespit yetmez

Yapay zekâ destekli ürünler doğaları gereği dinamik yapıya sahiptir. Algoritmalar ve öğrenme modeli tasarımlarına göre irade kapasiteleri değişiklik gösterir. Özellikle makine öğrenmesi ve derin öğrenme modelleri kullanılan ürünler, öğrenme yetenekleri sayesinde başlangıçtaki irade kurgusunu kendi kendine geliştirebilir.

Bunun hukuki sonucu önemlidir: irade yapılanması öğrenme modeliyle değişime uğradığında, sorumluluk tespitinin yeniden yapılması gerekir. Ürünün piyasaya sürüldüğü andaki sorumluluk dağılımı, iki yıl sonraki dağılımla aynı olmayabilir.

Öğrenme modelleriyle algoritmik tasarımlarını değiştirebilen ve çevresel girdilere göre davranışı farklılaşan sistemlerde, öngörülebilirlik ve denetim ilkelerinin üretici ve yazılım geliştirici bakımından sağlanması giderek güçleşmektedir.

İrade temsili mekanizmaları

Aktörler arasındaki ilişkileri düzenlemek üzere kurumsal mekanizmalar geliştirilmiştir. Yapay zekâ etik kurulları, algoritma denetim komiteleri ve kullanıcı temsilcilikleri, farklı aktörlerin iradelerinin tezahüründen doğan hukuki sorumlulukların dengelenmesini sağlayan yapılardır.

Bu mekanizmaların sınırı şudur: kanun koyucu bakımından çoğunlukla yalnızca tavsiye niteliğinde içerik üretirler. Bağlayıcılıkları, sözleşmeyle kurulmadıkları sürece sınırlıdır. Bu nedenle kurumsal yapıların varlığı, sözleşmesel sorumluluk dağılımının yerini tutmaz.

Arz–talep mantığı ve sözleşmesel düzenleme

Sorumluluk tespitinde ürünün teknik mimarisi belirleyicidir; ancak aktörler arasındaki ilişkide arz–talep mantığı da tayin edicidir. Kullanıcının talebi ürünün kurgusunu yönlendirdiğinde, kullanıcının sorumluluk payı artar.

Bu nedenle ürünün içeriğinin, yeteneklerinin ve sınırlarının ilk etapta ve açıkça belirlenmesi, tarafların sorumluluklarının tespitinde kritik önemdedir. Uygulamada bu, tedarik ve geliştirme sözleşmelerinde şu hususların yazılı hâle getirilmesi anlamına gelir:

• ürünün tanımlanmış kullanım amacı ve bu amacın dışına çıkılması hâlinde sonuç
• öğrenme modelinin sınırlandırılıp sınırlandırılmadığı
• eğitim verisinin kaynağı ve kalitesinden kimin sorumlu olduğu
• algoritmik şeffaflık ve kayıt tutma yükümlülüğünün hangi tarafta olduğu
• modelin güncellenmesi hâlinde sorumluluğun yeniden değerlendirilip değerlendirilmeyeceği

Bu hususlar sözleşmede düzenlenmediğinde, boşluk genel hükümlerle doldurulacak; genel hükümlerin tam algoritmik irade kapasiteli ürünlerde yetersiz kaldığı ise bilinen bir sorundur.

Sonuç

Yapay zekâ destekli ürünlerde geleneksel irade anlayışı dinamik hâle getirilmeli; üretici, geliştirici ve kullanıcı arasındaki karmaşık irade ilişkileri disiplinler arası bir yaklaşımla değerlendirilmelidir. Bu ilişkilerin dengeli ve adil biçimde düzenlenmesi, yalnızca uyuşmazlık çıktığında değil, ürünün tasarlandığı anda başlayan bir sorumluluktur.

---

Bu yazı, Av. Nur Gülmez’in Akdeniz Üniversitesi Sosyal Bilimler Enstitüsü’nde tamamladığı “Algoritmik İrade Kapasitesi Bağlamında Yapay Zekâ Destekli Ürünlerin Kullanımından Doğan Sorumluluk” başlıklı yüksek lisans tezinden uyarlanmıştır.