Hukuk dünyası, teknolojinin sunduğu yeniliklere her zaman temkinli bir merakla yaklaşmıştır. Ancak son birkaç yıldır hayatımıza giren üretken yapay zekâ, bu merakı tehlikeli bir aceleciliğe dönüştürdü; verimlilik vaadi ise kimi meslektaşlarımızın gözünü kamaştırmış gibi görünüyor. Özen, doğruluk ve eleştirel düşünce gibi mesleğimizin temel ilkeleri bir kenara itilince; teknolojiye sorgusuz sualsiz sarılan meslektaşlar nedeniyle dünyanın dört bir yanına yansıyan ibretlik olaylar ardı ardına yaşanmaya başladı.

Perde Bir: Yalancı Çoban Vakası

Her şey New York'ta, bir yolcunun havayolu şirketine açtığı sıradan bir yaralanma davasıyla başladı. Avianca Havayolları, davanın zaman aşımına uğradığını iddia edince, davacı avukatı Steven A. Schwartz, bu iddiayı çürütecek emsal kararlar bulmak için kolları sıvadı. Geleneksel hukuk veritabanlarında aradığını bulamayınca, modern zamanların sihirli lambası olarak gördüğü ChatGPT'ye başvurdu.

Yapay zekâ, kendinden emin, cömert bir cin gibi avukatın dileğini yerine getirdi ve iddialarını destekleyen 5-6 emsal karardan oluşan muhteşem bir araştırma sonucu ortaya çıkardı: Varghese v. China Southern Airlines, Shaboon v. Egypt Air, Petersen v. Iran Air... liste uzayıp gidiyordu. Schwartz, bir hazine bulma sevinciyle, yapay zekânın bulduğu kararlar ile içeriği zenginleştirilmiş 10 sayfalık dilekçesini mahkemeye sundu.
Ne var ki, bu kararların hiçbiri gerçek değildi.

Karşı taraf avukatları, bu içtihatları hiçbir veritabanında bulamayınca durumu mahkemeye bildirdi. Yargıç P. Kevin Castel, Schwartz'tan atıf yapılan kararların kopyalarını istediğinde ise komedi, trajediye dönüştü. Schwartz, karşı taraf avukatlarına veya yargıcın üstü kapalı uyarısına inanmak yerine, hatanın kaynağına, yani ChatGPT'ye geri döndü. "Bu davalar gerçek mi?" diye sordu. Yapay zekâ, kendinden emin bir şekilde: "Evet, hepsi gerçek ve saygın hukuk veritabanlarında bulunabilir" diye yanıtladı.

İşte burada, yapay zekânın temel çelişkisi ortaya çıktı: Tatil planlayanların, yemek tarifi arayanların, ödev yapmaya çalışan çocukların yaptığı sorgular karşısında işlemcileri ateş gibi ısınan yapay zekâ, kurtuluşu, kullanıcıyı memnun etmeye öncelik vermekte buldu ve avukata duymak istediği yanıtı verdi. Böylece kullanıcının o anki memnuniyeti, acımasız gerçekliğe tercih edilmişti.

Aldığı cevaba inanıp yapay zekânın halüsinasyonlarının eşlik ettiği güvenceyi mesleki şüpheciliğe tercih eden avukat, mahkemeye yapay zekânın ürettiği tamamen uydurma kararların gerçek olduğunu bildirerek kendini adeta ateşe attı. Yargıç Castel, bu “karar”lardaki sözde hukuki analizlerin “saçma” ve “kendi içinde tutarsız” olduğunu anlaması ve sahte olduklarını tespit etmesi uzun sürmedi. Bu sonuç, Avukat Schwartz ve hukuk bürosuna 5.000 dolarlık para cezasına mal oldu. Ceza bu kadarla da sınırlı değildi. İsimleri sahte kararlarda lekelenen gerçek yargıçlardan yazılı olarak özür dilenmesine de karar verildi.

Perde İki: Salgın Büyüyor, Mazeretler Küçülüyor

Mata v. Avianca vakası, ne yazık ki münferit bir olay değildi; adeta bir salgının başlangıcıydı. Kısa sürede dünyanın dört bir yanından benzer hikâyeler duyulmaya başlandı:

· Kaliforniya'da, bir avukat sunduğu temyiz dilekçesindeki 23 emsal kararın 21'inin uydurma olması nedeniyle rekor sayılabilecek 10.000 dolar para cezasına mahkûm edildi. Savunması ise bir cehalet itirafıydı: "Yapay zekâda halüsinasyon diye bir şeyin varlığından haberdar değildim".

· Florida'da, bir avukatın çok sayıda hayali karara atıfta bulunması ve diğer etik dışı davranışları, bir yıl meslekten menle sonuçlandı.

· Massachusetts'te bir başka avukat, içinde hayali kararlar bulunan dilekçeler sunduğunda suçu önce "stajyerlere" yükledi. Sonra da yaptığını, metni yalnızca "stil ve dilbilgisi açısından" yapay zekâya kontrol ettirdiğini itiraf ederek hafifletmeye çalıştı. Yargıç, "Avukatlar, avukat olarak kalmalıdır!" diyerek 2.000 dolarlık para cezası verdi.

· Utah'ta bir avukat, hatanın sonradan kovulan "lisanssız bir avukat katibine" ait olduğunu öne sürdü. Mahkeme, karşı tarafın vekalet ücretini ödemesine ve bir hukuk derneğine bağış yapmasına karar verdi.

· Kanada'da bir avukat, bir velayet davasında ChatGPT'nin uydurduğu iki emsal kararı mahkemeye sununca kendini disiplin soruşturmasının ortasında buldu.

Bu vakalarda tekrarlanan savunmalar ise çoğu zaman hataların kendisinden daha trajikomikti: "Bilmiyordum," "Stajyerim yapmış," "Sadece dilbilgisini kontrol ettim." Bu mazeretler, aslında teknolojinin bir araç değil, mesleki muhakemenin bir ikamesi olarak görüldüğü tehlikeli bir zihniyeti ifşa ediyor.

Son Perde ve Ders

Yargı cephesinden tepkiler net ve sert oldu. Yargıçlar, bu durumu sadece bir dikkatsizlik olarak değil, mahkemeye karşı dürüstlük, mesleki özen ve yetkinlik gibi temel etik kuralların ciddi bir ihlali olarak gördü. Yargıç Castel'in de belirttiği gibi, bu tür eylemler avukatlık mesleğine ve adalete olan güveni sarsıyor.

Bu olaylardan çıkarılacak ders açıktır: Yapay zekâ, ilk hukukî araştırmalarını yapan hevesli bir stajyere benzer. Ancak önemli bir farkla: Yapay zekâ, hukukçu olmadığı gibi, son derece ikna edici bir üslupla yalan söyleyebilir. Bu da onu iyi niyetli ama acemi bir stajyerden daha tehlikeli kılar. Yapay zekânın ürettiği her bilginin ve her gerekçenin bir insan avukatın süzgecinden geçmesi, doğrulanması ve denetlenmesi gerekir. Teknoloji ne kadar ilerlerse ilerlesin, dilekçenin altına imza atan avukatın sorumluluğunu asla hafifletmez.

Verimlilik arayışı mesleki titizliğin önüne geçtiğinde sonuç sadece para veya disiplin cezası değil, aynı zamanda onarılması güç bir itibar kaybı olabilir. Unutmayalım ki, en gelişmiş yapay zekâ bile bir avukatın eleştirel aklının, tecrübesinin ve vicdanının yerini tutamaz. Hukukun uygulayıcıları olarak bizler, modellerin uydurabileceği hayallere karşı uyanık olmalı ve gerçeğe giden yolda teknolojik kestirmeler bulunmadığını aklımızdan çıkarmamalıyız.

İleri Okuma Önerisi:

Daha derinlemesine bir değerlendirme okumak isteyen meslektaşlarım olursa şuraya buyursunlar:

Yapay Zekâ Modellerinin Avukatlık Mesleğinin Geleceği Üzerindeki Olası Etkileri
https://www.researchgate.net/publication/391988259_Yapay_Zeka_Modellerinin_Avukatlik_Mesleginin_Gelecegi_Uzerindeki_Olasi_Etkileri