Hukukta Yapay Zeka Hallüsinasyonu ve Önleme Yöntemleri

2023 yılında New York'ta yaşanan bir olay, hukuk dünyasında şok etkisi yarattı. Roberto Mata v. Avianca Airlines davasında, davacı avukatı mahkemeye sunduğu dilekçede daha önce hiç var olmamış, tamamen uydurma 6 farklı emsal karara atıfta bulundu. Hakim bu kararları bulamayınca gerçek ortaya çıktı: Dilekçe, ChatGPT kullanılarak yazılmıştı ve yapay zeka bu kararları "hallüsinasyon" görerek uydurmuştu.

Bu olay, hukuk teknolojilerine (LegalTech) karşı haklı bir şüphe uyandırdı. "Ya kullandığım yapay zeka bana da olmayan bir kanun maddesi veya Yargıtay kararı sunarsa?" sorusu, bugün her avukatın aklındaki ilk sorudur.

Bu makalede, yapay zeka hallüsinasyonunun ne olduğunu, neden kaynaklandığını ve Emsal AI olarak kullandığımız RAG (Retrieval-Augmented Generation) teknolojisi ile bu riski nasıl teknik olarak ortadan kaldırdığımızı şeffaflıkla anlatacağız.

---

Yapay Zeka Hallüsinasyonu Nedir?

Büyük Dil Modelleri (LLM - Large Language Models), temelinde "bir sonraki kelimeyi tahmin etme" (next token prediction) mantığıyla çalışan istatistiksel makinelerdir. ChatGPT gibi modeller, milyarlarca sayfalık internet verisiyle eğitilmiştir.

Modelin amacı "doğruyu söylemek" değil, "ikna edici ve akıcı bir cümle kurmaktır". Eğer modelin eğitim verisinde aradığınız spesifik bilgi yoksa, model boşlukları doldurmak için en olası kelimeleri yan yana getirerek gerçeğe çok benzeyen ama tamamen kurgusal bir metin üretir. İşte buna "Yapay Zeka Hallüsinasyonu" denir.

Genel Modeller Neden Uydurur?

• Eğitim Verisi: ChatGPT, Gemini gibi modeller tüm internetle eğitilir. İnternet üzerindeki blog yazıları, forum tartışmaları ve doğru-yanlış her türlü bilgi modele girer.
• Olasılıksal Üretim: Model bilgiye "erişmez", bilgiyi "hatırlar" gibi davranır. Tıpkı rüya gören bir insan gibi, parçaları birleştirip yeni bir gerçeklik yaratabilir.
• Kaynak Gösterememe: Genel modeller, ürettikleri bilginin kaynağını (hangi URL, hangi PDF) kesin olarak bilemezler.

Emsal AI Çözümü: RAG Mimarisi ile "Grounded" (Temellendirilmiş) Yapay Zeka

Emsal AI olarak biz, genel bir sohbet botu değil, bir Hukuk Asistanı geliştirdik. Bu yüzden "generative" (üretken) yeteneği kısıtlayıp, "retrieval" (erişim) yeteneğini maksimize eden bir mimari kullanıyoruz.

RAG (Retrieval-Augmented Generation) Nedir?

RAG, yapay zekanın "sınavda kopya çekmesine" izin veren bir teknolojidir. Sistemimiz şu adımları izler:

1. Sorguyu Anla: Kullanıcının "kiracı tahliyesi" dediğini anlar.
2. Kütüphaneye Bak (Retrieval): Yapay zeka kendi hafızasından cevap uydurmak yerine, önce 11+ Milyonluk Yargıtay ve Mevzuat Veritabanımıza (Vektör Veritabanı) gider.
3. Gerçek Belgeyi Bul: Konuyla en alakalı, resmi Yargıtay kararlarını bulur ve çeker.
4. Cevabı Üret (Generation): Bulduğu bu *gerçek* metinleri okur ve kullanıcıya özetler.

Doğrulama Mekanizmaları: "Güven Ama Doğrula"

Teknolojiye ne kadar güvenilse de, hukukta son imza her zaman avukatındır. Bu yüzden Emsal AI, size sunduğu her bilginin denetlenebilir olmasını sağlar.

1. Akıllı Atıf ve Künye Sistemi

Size sunulan her özetin veya cevabın altında, o bilginin alındığı kararın künyesi (Yargıtay 9. HD, 2023/123 E.) linkli olarak yer alır. Tek tıkla orijinal belgeye gidip, yapay zekanın doğru özetleyip özetlemediğini kontrol edebilirsiniz.

2. Mevzuat Güncelliği

Veritabanımız Resmi Gazete ile senkronize çalışır. Genel yapay zeka modellerinin "bilgi kesim tarihi" (knowledge cutoff) vardır (örneğin GPT-4'ün bilgisi 2023'te bitebilir). Emsal AI ise dün çıkan bir Yargıtay İçtihadı Birleştirme Kararını bugün sistemine dahil eder.

Sonuç: Teknolojik Ortak Kullanım

Hallüsinasyon riski, yapay zekayı kullanmaktan korkmak için bir neden değil, doğru teknolojiyi seçmek için bir uyarıdır.

Genel sohbet botları (ChatGPT, Gemini) günlük işler, e-posta taslakları veya fikir alışverişi için harikadır. Ancak hukuki araştırma, dilekçe yazımı ve içtihat taraması gibi "hata toleransı sıfır" olan alanlarda, Emsal AI gibi özelleşmiş, RAG tabanlı ve kapalı devre çalışan sistemler tercih edilmelidir.