Geleneksel sorumluluk hukukunun "kusur" merkezli yapısı, yapay zekanın (YZ) otonom karar verme süreci karşısında yetersiz kalmaktadır. YZ’nin bir "kara kutu" (black box) gibi çalışması, zararın kaynağını (yazılım hatası mı, veri kirliliği mi, yoksa kullanıcı yanlışlığı mı?) tespit etmeyi imkansız hale getirebilir. Bu nedenle, sorumluluğun tayininde TBK bünyesindeki kusursuz sorumluluk hallerinin genişletici yorumu zorunluluk arz etmektedir.
Yapay zekanın (YZ) otonom karar alma yetisi, geleneksel "kusur sorumluluğu" ilkesini sarsmaktadır. Zira YZ'nin öngörülemez bir "halüsinasyon" veya algoritma hatası sonucu verdiği zararda, işletenin veya kullanıcının subjektif bir kusurunu (kast veya ihmal) tespit etmek her zaman mümkün olmayabilir. Bu noktada Türk Borçlar Kanunu (TBK) bünyesindeki kusursuz sorumluluk halleri devreye girmektedir.
KUSURSUZ SORUMLULUK HALLERİ :
- ADAM ÇALIŞTIRANIN SORUMLULUĞU (TBK M. 66) BAĞLAMINDA YAPAY ZEKA
Geleneksel hukukta adam çalıştıran, yardımcı kişinin işini gördüğü sırada verdiği zarardan sorumludur. Günümüzde şirketlerin operasyonel süreçlerini (örneğin; kredi skorlama, işe alım elemeleri veya müşteri analizi) YZ sistemlerine devretmesi, YZ'yi bir "elektronik yardımcı kişi" statüsüne yaklaştırmaktadır.
Şirket, YZ aracını seçerken (instructing), yapılandırırken ve denetlerken gerekli özeni gösterdiğini kanıtlamalıdır. Ancak YZ’nin "kara kutu" (black-box) doğası gereği, şirketin denetim imkanının kalmadığı durumlarda TBK m. 66 uyarınca kurtuluş kanıtı getirmesi güçleşecektir. İşletme, YZ entegrasyonu nedeniyle çalışma düzeninde meydana gelen riskleri üstlenmek zorundadır.
Adam çalıştıranın sorumluluğunda, yardımcıya talimat verme imkanı esastır. YZ’ye verilen "prompt"lar (komutlar) birer talimat mahiyetindedir. Ancak YZ’nin bu talimatı alışılagelmişin dışında yorumlayarak zarar vermesi durumunda, işleten "seçmede, talimat vermede ve denetlemede özen gösterdim" diyerek kurtuluş kanıtı getirebilir mi? Yargıtay’ın yerleşik içtihatlarındaki "organizasyon kusuru" ilkesi gereği, işletmenin YZ’nin yaratacağı öngörülebilir riskleri absorbe edecek bir yapı kurmaması, kurtuluş kanıtı getirmesini imkansız kılacaktır.
- TEHLİKE SORUMLULUĞU VE YÜKSEK RİSKLİ ALANLAR
Yapay zekanın otonom sürüş (Tesla, Waymo vb.) veya cerrahi robotlar gibi fiziksel dünyada doğrudan etkileşime girdiği alanlar, TBK m. 71 anlamında "önemli ölçüde tehlike arz eden işletme" kapsamında değerlendirilebilir.
Bir cerrahi robotun yanlış kesi yapması veya otonom bir aracın kaza yapması durumunda, mağdurun işletenin kusurunu ispatlamasına gerek kalmaksızın, faaliyetin yarattığı tehlike nedeniyle işletenin sorumluluğuna gidilmesi hakkaniyete uygun düşecektir. Bu noktada, AB Yapay Zeka Yasası’ndaki (AI Act) "yüksek riskli sistemler" sınıflandırması, Türk hukuku için de yorumlayıcı bir rehber niteliğindedir.
Eğer bir YZ sistemi, kontrol dışı hareket etme potansiyeline sahipse (örneğin otonom bir İHA’nın sinyal kesilmesi sonucu düşmesi), burada işletenin kusuruna bakılmaksızın fedakarlığın denkleştirilmesi ilkesi uyarınca sorumluluk doğar.
- ALGORİTMA HATALARI VE "HALÜSİNASYON" PROBLEMİ
YZ sistemlerinin yanlış bilgi üretmesi (halüsinasyon) veya önyargılı algoritmalara sahip olması durumunda sorumluluk, sadece kullanıcıda değil, sistemi geliştiren (OpenAI, Google, Meta vb.) teknoloji şirketindedir.
7223 sayılı Ürün Güvenliği ve Teknik Düzenlemeler Kanunu çerçevesinde, YZ yazılımı bir "ürün" olarak kabul edildiğinde, yazılımdaki tasarım hatası (algoritma hatası) nedeniyle doğan zararlardan üretici müteselsilen sorumlu tutulabilir. Bir YZ botunun hukuki veya tıbbi bir tavsiyeyi yanlış vermesi sonucu oluşan maddi/manevi zararlarda, üreticinin "yeterli uyarıda bulunup bulunmadığı" ve "verinin doğruluğunu denetleme mekanizmaları" sorumluluğun sınırını belirleyecektir. Zarar, kullanıcının hatasından değil de doğrudan algoritmanın kendisinden (yazılımsal açık veya veri seti kirliliği) kaynaklanıyorsa, sorumluluk "Üretici"ye (OpenAI, Google vb.) sirayet eder.
Eğer bir YZ modeli, eğitildiği veri setindeki önyargılar nedeniyle (örneğin sadece belirli bir etnik kökeni "suç riski yüksek" göstererek) maddi/manevi zarara yol açarsa, bu bir "üretim hatası"dır. 7223 sayılı Ürün Güvenliği Kanunu uyarınca, üretici piyasaya sürdüğü yazılımın güvenliğinden sorumludur.
YZ’nin gerçekte var olmayan bir Yargıtay kararını veya tıbbi tanıyı "gerçekmiş gibi" sunması sonucu doğan zararlarda; üreticinin "uyarı yükümlülüğü" (disclaimer) devreye girer. Ancak, eğer üretici sistemi "kesin doğru bilgi kaynağı" olarak pazarlıyorsa, yanıltıcı beyan nedeniyle m. 71 ve Tüketici Kanunu kapsamında sorumlu tutulacaktır.
- İLLİYET BAĞININ KESİLMESİ VE SORUMLULUĞUN PAYLAŞIMI
Her ne kadar üretici veya işleten sorumlu tutulsa da, illiyet bağının kesildiği hallerde sorumluluk ortadan kalkabilir veya azalabilir (TBK m. 51-52). Eğer kullanıcı, YZ’nin güvenlik filtrelerini kırmak için özel teknikler (Prompt Injection) kullanmış ve sistemi zararlı içerik üretmeye zorlamışsa, illiyet bağı kesilir. Üretici sorumlu tutulamaz.
Kullanıcının, YZ’nin güvenlik duvarlarını aşarak (prompt injection gibi yöntemlerle) sistemi suç teşkil eden veya zararlı içerik üretmeye zorlaması durumunda, üreticinin sorumluluğu ile
zarar arasındaki illiyet bağı kesilir. Eğer kullanıcı, YZ’nin çıktılarını kontrol etmeden (insan denetimi/human-in-the-loop prensibine aykırı şekilde) doğrudan işleme koymuşsa, bu durum "mağdurun/kullanıcının ağır kusuru" olarak nitelendirilerek tazminattan indirim sebebi sayılabilir. Sistemin dışarıdan bir hack girişimiyle manipüle edilmesi durumunda, üretici "en güncel güvenlik önlemlerini" aldığını kanıtlarsa (State of the art defense), sorumluluktan kurtulabilir.
- SONUÇ VE GELECEK PROJEKSİYONU ÖNERİSİ, ZORUNLU SİGORTA
YZ zararlarının tazmininde "sorumlu bulma" zorluğu nedeniyle, tıpkı trafik kazalarındaki gibi bir "Zorunlu YZ Mali Sorumluluk Sigortası" kurulması hukuk politikası açısından zorunluluktur. Bu sistem, mağdurun zararını hemen karşılayacak, sigorta şirketi ise hatanın kaynağını (yazılım mı, kullanım mı?) teknik incelemeyle tespit ederek ilgili tarafa rücu edecektir.
Av. Tuğçe TEMELLİ