Algoritmik irade: otomatizasyon ile otonomi arasında bir kavram denemesi

Hukuk düzeni, iradeyi insan merkezli bir perspektiften tanımlar. Klasik teoride irade üç unsurdan oluşur: bilinç, yani kişinin eyleminin ve bu eylemden doğacak sonuçların farkında olması; tercih özgürlüğü, yani ihtimaller arasında bilinçli seçim yapabilmek; ve eylem yeteneği, yani seçileni uygulamaya koyacak fiziksel ve zihinsel güç. Türk Borçlar Kanunu’nun 1. maddesi uyarınca sözleşmenin kurulabilmesi için tarafların karşılıklı ve birbirine uygun irade beyanları aranır. İrade beyanı, kişinin hukuki sonuç doğurma amacıyla iradesini dış dünyaya yansıtmasıdır.

Bu yapı, kararı veren ile karardan sorumlu olanın aynı kişi olduğu varsayımı üzerine kuruludur. Makine öğrenmesi ve derin öğrenme modelleriyle çalışan ürünler bu varsayımı doğrudan hedef alır.

Sorunun kaynağı: öngörülemeyen çıktı

Yapay zekâ destekli ürünler, algoritmaların doğası gereği büyük miktarda veriden öğrenme yeteneğine sahiptir. Bu veriler içselleştirildiğinde sistem, insanlara benzer biçimde deneysel ya da sezgisel görünen kararlar üretebilmektedir. Özerk çalıştığı durumlarda, belirli bir hedefe ulaşmakla görevli bir sistemin davranışı ile bir insanın davranışı ayırt edilemez hâle gelebilir.

Kritik nokta şudur: tıpkı bir insanın öngörülemez biçimde davranabilmesi gibi, yapay zekâ destekli bir ürün de — özellikle black box durumunda — kullanıcısının ve üreticisinin öngöremediği çözümlere ulaşabilir. Büyük dil modellerinin bellek, planlama ve yürütme birimleriyle birleştirilmesi, bu ürünlerin kendileri için hedefler oluşturmasını, bu hedefleri somut planlara dönüştürmesini ve planları iyileştirmesini mümkün kılmaktadır. Ortaya çıkan davranış, neredeyse insan benzeri bir ajan davranışıdır.

Bu noktada hukukun elindeki kavram seti yetersiz kalmaktadır.

Neden “algoritmik irade”

Kavram seçiminde iki alternatif değerlendirilmiştir. Birincisi, yapay zekâ çalışmalarında yaygın olarak kullanılan decision making kavramıdır. Bu kavram, bir dizi alternatif aksiyonu değerlendirmek ve önceden tanımlı amaç veya performans kriterlerini en iyi şekilde karşılayacak seçeneği otomatik olarak saptamak sürecini ifade eder. İkincisi, temsilci anlamında kullanılan agent kavramıdır.

Her iki kavram da önceden tanımlı bir amaç fonksiyonunu ve izlenebilir bir karar sürecini varsaymaktadır. Oysa asıl hukuki sorun, algoritmik izlenebilirliğin mümkün olmadığı ve özerk karar alma yetisi bulunan ürünlerde doğmaktadır. Bu nedenle, irade kavramının yapay zekâ teknolojileriyle bütünleşmesini tarif etmek üzere algoritmik irade kavramı tercih edilmiştir.

Algoritmik irade, klasik irade kavramından farklı olarak merkezinde insan bulunmayan, otomatizasyon ve otonomi mantıklarıyla oluşturulmuş yapay bir irade türüdür.

Otomatizasyon ve otonomi ayrımı

Algoritmik iradenin hukuki incelemesinde iki teknik kavram belirleyicidir.

Otomatizasyon, işlem ve görevlerin önceden belirlenmiş kurallar çerçevesinde insan müdahalesi olmadan gerçekleştirilmesi sürecidir. Otomatizasyonla çalışan ürünler, programlanmış kurallar ve seçilmiş öğrenme modeli çerçevesinde planlanmış ve öngörülebilir çıktılar üretir. Bir bankanın kredi risk analizi yapan sistemi, algoritmik irade kodlarıyla belirlenen kriterler dâhilinde sonuç üretir; bu sonuç geriye doğru izlenebilir.

Otonomi ise sistemin çevresel değişkenlere göre bağımsız karar verebilme yeteneğidir. Otonom sistemler, öğrenme süreçlerindeki deneyimlerinden kendi karar algoritmalarını yeniden yapılandırabilir. Burada çıktı, başlangıçtaki tasarımdan bağımsızlaşabilir.

Hukuki sorumluluk bakımından bu ayrım kozmetik değildir. Otomatizasyon düzeyinde kalan bir üründe kusur ve illiyet bağı tespit edilebilirken, otonomi düzeyine geçmiş bir üründe aynı tespit teknik olarak imkânsız hâle gelebilir.

Kavramın iki boyutu

Algoritmik irade teknik ve hukuki olmak üzere iki boyutta incelenebilir.

Teknik boyutta öğrenme modeli ve veri, algoritmik iradenin temel bileşenlerini oluşturur. Modelin mimarisi, eğitim verisinin niteliği ve sistemin öğrenmeye devam edip etmediği, iradenin kapasitesini belirler.

Hukuki boyutta ise yasal düzenlemeler, şeffaflık yükümlülükleri ve veri koruma politikaları algoritmik iradenin çerçevesini çizer. Bu çerçeve, iradenin ne kadar serbest bırakılacağını belirleyen dış sınırdır.

Kişilik tanınmıyor — sorumluluk nereye gidiyor?

Mevcut hukuk düzenlerinde algoritmik iradenin kurgusal bir kişilik olarak kabulü yoktur. E-kişilik modeline ilişkin çalışmalar bulunmakla birlikte genel kabul, kişilik tanınmaması yönündedir. AB Yapay Zekâ Yasası da yapay zekâ destekli ürüne doğrudan hukuki kişilik tanımak yerine risk temelli bir sınıflandırma ve insan merkezli dolaylı bir sorumluluk zinciri benimsemiştir.

Bunun pratik sonucu şudur: algoritmik irade, hukuken insan merkezli dolaylı bir sorumluluk kapsamında ele alınmaktadır. Sorumluluk, ürünün kendisine değil, algoritmik iradenin kaynağındaki aktörlere — üretici, yazılım geliştirici ve kullanıcıya — dağıtılmaktadır.

Buradan çıkan temel ölçüt de nettir: algoritmik iradenin özerklik derecesi yalnızca teknik bir kapasite değil, aynı zamanda hukuki sorumluluğun sınırlarını belirleyen kıstastır.

Uygulama için ne anlama geliyor?

Yapay zekâ destekli bir ürünü geliştiren, piyasaya süren veya ticari faaliyetinde kullanan bir şirket için bu tartışma teorik değildir. Sözleşme görüşmelerinde, tedarik zincirinde sorumluluk dağıtılırken ve uyuşmazlık çıktığında ilk sorulacak soru, ürünün algoritmik irade kapasitesidir. Bu kapasite belgelenmemişse, sorumluluğun kime ait olduğu sonradan ve mahkeme önünde tartışılacaktır.

Algoritmik iradenin hukuk düzeninde tam olarak karşılık bulabilmesi için klasik irade teorisinin yeniden yorumlanması ve yapay zekâ destekli ürünlerin “özne” statüsünün kavramsal olarak sorgulanması gerekmektedir. Bu sorgulama tamamlanana kadar sorumluluk, iradenin kaynağı üzerinden kurulmaya devam edecektir.

---

Bu yazı, Av. Nur Gülmez’in Akdeniz Üniversitesi Sosyal Bilimler Enstitüsü’nde tamamladığı “Algoritmik İrade Kapasitesi Bağlamında Yapay Zekâ Destekli Ürünlerin Kullanımından Doğan Sorumluluk” başlıklı yüksek lisans tezinin üçüncü bölümünden uyarlanmıştır.