Avukatların yapay zekaya yönelik en haklı çekincesi tek kelimeyle özetlenebilir: güven. Yapay zeka gerçekten var olmayan bir kanun maddesi ya da mahkeme kararı uydurursa, bunun bedelini avukat öder. Bu yazıda hukukta yapay zekanın güvenli olup olmadığını gerçek riskler üzerinden ele alıyor, uydurma (halüsinasyon) sorununu, atıf doğrulamanın nasıl çalıştığını ve KVKK kapsamında müvekkil gizliliğini açıklıyoruz.
Asıl risk: uydurma (halüsinasyon)
Büyük dil modelleri, kendinden emin bir dille yanlış bilgi üretebilir. Hukukta bunun en tehlikeli biçimi, gerçekte var olmayan bir kanun maddesi veya mahkeme kararı uydurmasıdır. Teknik dilde buna halüsinasyon denir. Model, gerçek kararlara benzeyen ama var olmayan bir esas ve karar numarası üretebilir; üstelik bunu son derece inandırıcı bir üslupla yapar.
Dünyada bunun somut örnekleri var. Çeşitli ülkelerde avukatlar, genel amaçlı yapay zekanın ürettiği sahte içtihatları kontrol etmeden mahkemeye sundukları için para cezası ve disiplin yaptırımıyla karşılaştı. Sorun yapay zekanın yardımcı olması değil, kaynağı doğrulanmamış çıktıya güvenilmesiydi.
Çözüm: her iddiayı kaynağına bağlamak
Güvenli bir hukuki yapay zekanın temel özelliği, ürettiği her hukuki iddiayı gerçek bir kaynağa bağlaması ve bu kaynağı doğrulamanıza imkan vermesidir. Buna atıf doğrulama denir. Pratikte şu anlama gelir:
- Her cümlenin dayandığı kanun maddesi veya karar, metnin içinde gösterilir.
- Atıfın üzerine geldiğinizde maddenin ya da kararın tam metnini, tarihini ve yürürlük durumunu görürsünüz.
- Kaynak gerçek bir veritabanından gelir; model "hatırladığını" değil, bulduğunu gösterir.
Bu yaklaşım, avukatı kontrol döngüsünün içinde tutar. Yapay zeka taslağı hazırlar, siz kaynağa tek bakışta güvenip güvenmeyeceğinize karar verirsiniz. Atıf doğrulamanın hukuktaki yerini ayrıntılı ele aldığımız yazı: Hukukta Yapay Zeka Kullanımı.
Hukukta soru "yapay zeka hata yapar mı" değildir. Soru, hatayı yakalamanın ne kadar kolay olduğudur. Kaynağı tıklanabilir bir sistemde hata saniyeler içinde görülür.
Veri güvenliği ve KVKK
İkinci güven boyutu, verilerinizin korunmasıdır. Dava dosyaları ve müvekkil bilgileri hem kişisel veridir hem de mesleki sır kapsamındadır. Güvenli bir araç değerlendirilirken şu sorular sorulmalıdır:
- Veriler nerede ve nasıl saklanıyor? Şifreleme ve erişim kontrolü var mı?
- Model sağlayıcıları verilerinizi eğitimde kullanıyor mu? Kullanmamalı. İyi bir araç, verilerinizin model eğitimine gitmeyeceğini taahhüt eder.
- KVKK uyumu sağlanıyor mu? Veri işleme, saklama ve silme süreçleri mevzuata uygun olmalıdır.
Bu kriterler karşılanmadan hiçbir yapay zeka aracı, hassas müvekkil bilgileriyle kullanılmamalıdır.
Genel araçlar neden yetersiz kalıyor?
Genel amaçlı sohbet araçları hızlı başlangıç için cazip görünür, ama hukukta iki açıdan risklidir: kaynağı doğrulanamayan çıktı üretirler ve verilerinizin nasıl işlendiği çoğu zaman şeffaf değildir. Hukuka özel araçlar ise bu iki sorunu tasarımdan çözmek üzere kurulur. Bu karşılaştırmayı derinleştirdiğimiz yazı: Avukatlar İçin Yapay Zeka: ChatGPT Yeterli mi?
Güvenli kullanım için kontrol listesi
- Her atıfı kaynağından doğrulayın; doğrulanamayan hiçbir iddiayı kullanmayın.
- Verilerinizin eğitimde kullanılmadığından ve KVKK'ya uygun işlendiğinden emin olun.
- Nihai hukuki sorumluluğun sizde olduğunu unutmayın; yapay zeka taslak hazırlar, muhakemeyi avukat yapar.
- Türk hukukuna ve güncel mevzuata hakim, hukuka özel bir araç tercih edin.