Yapay zekâ (YZ) etrafındaki hararetli tartışmalar, genellikle teknolojik bir "patlamanın" eşiğinde olduğumuz varsayımıyla yürütülüyor. Ancak bu teknolojinin mimarisini en derinden bilen isimlerden, OpenAI kurucu üyesi ve Tesla'nin eski YZ direktörü Andrej Karpathy, geçtiğimiz günlerde Dwarkesh Patel'e verdiği kapsamlı röportajda, bu abartılı beklentilere karşı soğukkanlı bir mühendislik perspektifi sundu. Karpathy, gerçek anlamda otonom ve güvenilir "ajanlar" için önümüzde "yaklaşık 10 yıllık" bir süreç olduğunu belirtiyor.
Karpathy, "Yapay Zekâ Ajanları Yılı" ilan edilen 2025 fikrine şüpheyle yaklaşıyor ve gerçek anlamda otonom, güvenilir ve bilişsel yeteneklere sahip ajanlar için önümüzde "yaklaşık 10 yıllık" bir süreç olduğunu belirtiyor. Bu tespit, hukuk için bir "nefes alma" alanı sağlıyor. Hukukçuların görevi, Karpathy'nin bugünkü sistemler ile gelecekteki ajanlar arasına çizdiği net farkı anlamak ve stratejilerini buna göre belirlemektir.
Bu tespit, hukuki düşünce için hayati bir yol haritası çizerken, sahada iki farklı aktör için bambaşka anlamlar taşıyor: Bir yanda bu teknolojiyi toplumsal riskleri açısından düzenlemeye çalışan "hukuk düzenleri"; diğer yanda bu teknolojiyi mesleki verimlilik için kullanmaya çalışan "hukukçular". Karpathy'nin analizi, bu iki aktörün bugünkü ve gelecekteki sınavlarını net bir şekilde ayırıyor.
1. Bugünü Yönetmek: "Hayaletler" ve Çifte Sorumluluk
Karpathy'nin en güçlü söylemi, mevcut büyük dil modellerinin (LLM) zekâ yapısına ilişkindir. O, bu sistemlerin biyolojik "hayvanlar" gibi olmadığını, daha çok "internete bırakılmış verilerin taklidi yoluyla eğitilmiş" varlıklar olduğunu söylüyor. Onun çarpıcı metaforuyla: "Biz hayvanlar inşa etmiyoruz; hayaletler çağırıyoruz."
Şu anki teknolojinin bize sunduğu bu "dijital hayaletler", Karpathy'nin altını çizdiği gibi amaçlanan "sürekli öğrenme" yeteneğinden henüz yoksun. Yani, bir şeyi öğrendikten 5 dakika sonra unutabiliyorlar.
- Hukuk Düzenleri Açısından Yorum: Bu tespit, iradesi, hafızası ve anlama yetisi olmayan bir "hayalete" "haklar" veya "cezai ehliyet" atfetmenin anlamsızlığını ortaya koyarak düzenleyicilerin işini basitleştirir. Hukuk düzeni için bugünün acil sorunu, bu "hayaletin" gördüğü "halüsinasyonlar" veya "otomatik tamamlama" hatalarından kaynaklanan zararlardır. Sorumluluk, "hayalette" değil, onu "çağıranlarda" (üretici şirket) ve onu belirli bir amaç için "kullananlarda" (şirketler ve son kullanıcı hukukçular) olmalıdır. Hukuki odak, bu noktada, klasik "ürün sorumluluğu" ve "haksız fiil" rejimlerinin güçlendirilmesi olmalıdır.
- Hukukçular Açısından Yorum: Hukuk uygulayıcıları için durum çok daha karmaşıktır. Hukukçu, "hayaleti çağıran" (üretici) değil, bizzat "kullanan" konumundadır ve bu kullanımı müvekkiline karşı mesleki bir sorumlulukla yapar. Karpathy'nin mevcut yapay zekâ modellerinde "sürekli öğrenme" ve "hafıza" olmadığı tespiti, hukukçu için şu anlama gelir: Bu araç şimdilik bir "stajyer" veya "yardımcı" bile değildir; güvenilmez bir "otomatik tamamlama" aracıdır. Hukukçu, yapay zekânın ürettiği bir dilekçe taslağını veya hukuki mütalaayı, bizzat kendisi hazırlamışçasına her kelimesini doğrulamak zorundadır. Dolayısıyla hukuk alanında yapay zekanın sağladığı verimlilik kazanımı, "düşünme" sürecinde değil, sadece "taslak yazma" sürecindedir. Bu "hayaleti" denetimsiz kullanan bir hukukçu, mesleki özen yükümlülüğünü doğrudan ihlal etmiş olur.
2. Geleceği Tasarlamak: "Ajanlar" ve İki Boyutlu Hazırlık Zorunluluğu
Karpathy'nin yaptığı 10 yıllık tahmin, hukukun asıl sınavının ne zaman başlayacağını da işaret ediyor. Önümüzdeki "Ajanlar On Yılı" bugünün "otomatik tamamlama" makinelerinden farklı olarak "bilişsel olarak eksik" olmayan, kendi kendine öğrenen, öğrendiklerini hatırlayan ve kendi kararlarını verebilen sistemlere geçişin zamanıdır. Karpathy'ye göre bu ilerleme bir "patlama" değil, güvenilirliğin "yavaş bir 'dokuzlar yürüyüşü' şeklinde, yani %99'dan %99.9'a çıkmanın giderek zorlaştığı yavaş bir süreç olacaktır.
- Hukuk Düzenleri Açısından Yorum: Önümüzdeki bu 10 yıllık süre, düzenleyiciler için önemli bir "nefes alma" alanı sağlıyor. Hukuk düzeni, bu "yavaş" ilerleyen süreci, panikle değil öngörüyle yönetmek zorundadır. Hukukun şu an "araç" olarak gördüğü yapının gelecekte "fail" olma potansiyeli taşıyan bir "aktöre" dönüşeceği 2035'ler için "elektronik kişilik", "otonom ajanların hukuki statüsü" ve "zincirleme sorumluluk" gibi devasa doktrinel sorunları çözmenin tam zamanıdır.
- Hukukçular Açısından Yorum: Hukuk uygulayıcıları için bu 10 yıl, "nefes alma" değil, "mesleki adaptasyon" süresidir. 2035'in yapay zekâ "ajanı", bugünkü yapay zekalı "hayaletten" farklı olarak, bir dava dosyasını "hatırlayabilen", ilgili tüm içtihatları "öğrenebilen" ve hukuki gerekçeler "geliştirebilen" bir varlık olacaktır. Bu, verimliliğin "yazmaktan" "düşünmeye" kaydığı gerçek bir devrime işaret eder. Bugünün "güvenilmez hayaletlerini" etkin ve güvenli bir şekilde (yani doğrulamayı öğrenerek) kullanamayan bir hukukçu, yarının "güvenilir ajanlarını" yönetebilecek yetkinliğe asla ulaşamayacaktır. 10 yıl sonra hukukçunun üretebileceği mesleki değer, "bilgiye sahip olmak" değil, "bilgiyi yöneten ajana doğru soruları sormak" olacaktır.
3. Metodoloji: "Pipetle Denetim" Tuzağı ve Çifte Denetim İhtiyacı
Hukukun bu gelişmeler karşısında nasıl bir düzenleme modeli kurması gerektiğine dair en güçlü metaforu da yine Karpathy'nin yapay zekaya ilişkin yaptığı teknik eleştirisinde buluyoruz. Karpathy, mevcut YZ eğitim yöntemlerinden "pekiştirmeli öğrenmeyi", "berbat" olarak nitelendiriyor. Nedeni: Modelin binlerce adım atıp sonda sadece tek bir "doğru/yanlış" sinyali alması. Karpathy, bunu "denetimi bir pipetle çekmeye" benzetir. Yani denetim çok sınırlı bir alana kör bir şekilde uygulanıyor.
- Hukuk Düzenleri Açısından Yorum: Bu metafor, günümüzün YZ yasa tasarıları için doğrudan bir eleştiridir. Sistemleri "yüksek riskli" veya "kabul edilemez riskli" gibi katı ve kabaca dizayn edilmiş kutulara ayırmak, tam da Karpathy’nin ifade ettiği "pipetle denetim" çabasıdır. Bu düzenleme tarzı, yapay zekanın işlem sürecini değil, sadece ondan çıkacak "sonucu" etkilemeye çalışır. Hukuk düzeni, bu içine ne atıldığı ve içinden ne çıkacağı belli olmayan "kara kutu" yaklaşımı yerine, arka planda işlettiği "süreci" denetleyen (algoritmik şeffaflık, denetlenebilirlik) dinamik düzenleme modellerine odaklanmalıdır.
- Hukukçular Açısından Yorum: Aynı metafor, hukuk uygulayıcılarının YZ’yi kullanımı için de geçerlidir. Hukukçu, YZ'nin ürettiği nihai metne (sözleşme, dilekçe) bakıp "olmuş/olmamış" diyemez. Bu, "pipetle denetimdir". Özenli bir hukukçu, o metnin nasıl üretildiğini sorgulamak zorundadır: "Hangi kaynakları kullandın?", "Hangi varsayımlarla bu sonuca ulaştın?", "Alternatif yaklaşımları neden eledin?". Düzenleyicilerin sisteme "dışarıdan" yapması gereken denetimi, hukukçu kendi mesleki sorumluluğu gereği "içeriden" yapmak zorundadır.
Sonuç: İki Cephede 10 Yıllık Hazırlık
Andrej Karpathy'nin mühendislik gerçekçiliği, YZ'nin "zekâ patlaması" yaratmayacağını, bunun "doğal bir devam" olduğunu savunuyor. Hukukun ihtiyacı olan şey tam da bu soğukkanlılık ve öngörülü bir planlamadır.
Ancak bu zamana yayılan soğukkanlılık, iki cephede eş zamanlı bir çalışmayı gerektiriyor:
1. Hukuk Düzenleri: 10 yıl içinde, 2035'in "otonom ajanlarına" sunacağımız "toplumsal sözleşmenin" taslağını hazırlamalıdır.
2. Hukukçular: 10 yıl içinde, bugünün "güvenilmez hayaletlerini" yönetme becerisini kazanarak, 2035'in "otonom ajanlarıyla" çalışabilecek mesleki yetkinliği inşa etmelidir.
Mühendisler, düzenleyicilere yasal çerçeveyi, hukuk uygulayıcılarına ise mesleki becerileri geliştirmeleri için zaman kazandırdı. Bu süreyi verimli kullanmak, kanun koyucuların, düzenleyicilerin ve uygulayıcıların kolektif sorumluluğudur.