# Yapay zeka neden uydurur ve uydurduğunda bunu nasıl yakalarsınız?

> Bu saha notunda veridive, dil modellerinin neden uydurduğunu ve bunu yakalayan sistemlerin nasıl tasarlanacağını anlatıyor. İş yerinde önemli olan dört uydurma türünü, onaylı kaynaklara dayandırmayı, “bilmiyorum” yanıtına izin vermeyi, isim ve sayıların kaynak sistemlerle kontrolünü, hataların pahalı olduğu yerde insan incelemesini ve desteklenmeyen iddia oranının vaka türüne göre ölçülmesini ele alıyor.

Uydurmaları tamamen yok edemezsiniz ama seyrekleştirip görünür kılabilirsiniz: yanıtları onaylı kaynaklara dayandırın, “bilmiyorum” demeye izin verin, isimleri ve sayıları kaynak sistemlerle kontrol edin ve yanlış yanıtın pahalıya patladığı yere bir insan koyun.

## Öne çıkanlar

- Uydurmalar tamamen ortadan kaldırılamaz; sistemi, onları seyrek ve görünür kılacak ve kimse onlara göre davranmadan yakalayacak şekilde tasarlayın.
- En tehlikelisi, geri kalanı doğru bir yanıttaki tek yanlış ayrıntıdır; çünkü inceleyenler başı doğru göründüğünde kontrolü bırakır.
- Sayıları, isimleri, tarihleri ve tutarları üretilen metinden değil, kaynaklardan ve kaynak sistemlerden alın; “bilmiyorum” da bir yanıt sayılsın.
- Desteklenmeyen iddia oranını değerlendirme setinde vaka türüne göre ölçün; yanlış yanıtın pahalı olduğu yerde bir insan tutun.

Hiç uydurmayan bir yapay zeka sistemine ne eğitimle, ne promptla, ne de satın alarak ulaşabilirsiniz. Yapabileceğiniz şey uydurmayı seyrekleştirmek ve olduğunda görünür kılmaktır; böylece uydurma bir müşteriye, bir sözleşmeye ya da bir bordro çalışmasına ulaşmadan yakalanır.

Yapay zeka halüsinasyonu, yani modelin uydurması, bir model sorunu olmaktan çok bir tasarım sorunudur. İşin çoğunu dört hamle görür: yanıtları onaylı kaynaklara dayandırmak, sistemin “bilmiyorum” demesine izin vermek, isimleri ve sayıları o verinin sahibi olan sistemlerle kontrol etmek ve yanlış bir yanıtın pahalıya patladığı her yere bir insan koymak. Ardından hâlâ gözden kaçanı ölçün.

## Halüsinasyon nedir ve neden olur?

Halüsinasyon, bir yapay zeka sisteminin kaynaklarının desteklemediği bir ifadeyi gerçekmiş gibi sunmasıdır: kimsenin yazmadığı bir politika maddesi, hiçbir yerde geçmeyen bir tarih, başka bir şey söyleyen bir paragrafa verilen kaynak.

Bunun nedeni, dil modelinin kendisine verilen metnin en akla yatkın devamını üretmesidir. Model, cümlelerinden hangisinin bir kanıta dayandığını kendiliğinden bilmez; yanıt önünde değilse boşluğu akla yatkın bir metin doldurur. Risk, önceden fark edebileceğiniz durumlarda artar: yanıt kaynaklarda yoksa, soru yanlış bir varsayıma dayanıyorsa, yanıt çok sayıda belirli bilgiyi art arda diziyorsa ya da talimatlar sistemi her durumda yanıt vermeye itiyorsa.

## İş yerinde en tehlikeli türler hangileri?

| Tür | Neye benzer | Neden zarar verir |
|---|---|---|
| Uydurulmuş bilgi | Hiçbir belgede olmayan bir son tarih, ücret ya da madde | Yetkili bir ağızdan çıkmış gibi okunur, kimse kontrol etmez |
| Yanlış ya da yanlış yere atfedilmiş kaynak | Söylemediği bir iddia için kaynak gösterilen gerçek bir belge | Kaynak geçerli görünür, iddia da onun güvenilirliğini ödünç alır |
| Tek yanlış ayrıntı | Uydurulmuş tek bir sayı, isim ya da tarih içeren doğru bir yanıt | İnceleyenler ilk satırları kontrol eder, sonrasına göz gezdirir |
| Kendinden emin genelleme | Bir grup için geçerli bir kuralın başka bir gruba, gerçekmiş gibi uygulanması | Akıl yürütme gibi durur, muhakeme diye geçer gider |

Tasarım emeğinin en büyük payını üçüncüsü hak eder.

> Açıkça yanlış bir yanıt yakalanır. Doğru bir yanıttaki tek yanlış ayrıntıya ise güvenilir.

## Kaynağa dayandırma uydurmaları nasıl azaltır?

Kaynağa dayandırma (grounding), yanıtın modelin eğitimde öğrendiklerinden değil, soru için getirilmiş onaylı pasajlardan üretilmesidir; mekaniğini [iş ekipleri için RAG (erişimle zenginleştirilmiş üretim) notu](https://veridive.com/tr/saha-notlari/rag-nedir-nasil-calisir/) adım adım anlatıyor. Uydurma oranını üç yoldan düşürür:

- **Bilgi modelin önündedir.** Uydurmaların çoğu bir boşluğu doldurur; iyi bir pasaj boşluğu ortadan kaldırır.
- **Talimatlar işi daraltır:** yalnızca bu pasajlardan yanıt vermek, önemli yerlerde alıntı yapmak, pasajlar soruyu karşılamadığında bunu söylemek.
- **Her iddia kaynağını taşır.** Her ifade bir pasaja bağlandığında, desteklenmeyen bir ifade kaynağı olmayan bir iddia olarak göze çarpar.

Kaynağa dayandırma, arkasındaki aramadan daha iyi olamaz. Doğru pasaj getirilmediyse model yeniden boşluk doldurmaya döner; bu yüzden ilk bakılacak yer [bilgi erişimi (retrieval) hatalarıdır](https://veridive.com/tr/saha-notlari/rag-hatalari-ve-nedenleri/). Doğru pasaj olsa bile model onu yanlış okuyabilir, başka bir pasajla harmanlayabilir ya da yardımsever görünen bir ayrıntı ekleyebilir. Kaynağa dayandırma uydurmaları seyrekleştirir, olanaksız kılmaz.

## “Bilmiyorum” neden kabul edilebilir bir yanıt olmalı?

Birçok uydurma, yardımcı olma talimatına uyan bir sistemin eseridir: her soruya bir yanıt verilmesi gerekiyorsa boşluklar doldurulur. Yanıt vermemeyi üç yerde olağan bir sonuç haline getirin.

- **Talimatlarda:** pasajlar soruyu yanıtlamıyorsa bunu söylemek, en yakın pasajları göstermek ve kime sorulacağını belirtmek.
- **Arayüzde:** “kaynak bulunamadı” bir hata gibi değil, bir yanıt gibi görünür.
- **Değerlendirme setinde:** belgelerin yanıtlayamadığı sorular ekleyin ve bunlara verilen “bilmiyorum” yanıtını doğru sayın.

Ters yöndeki hataya da dikkat edin. Yanıtlayabileceği sorularda yanıt vermeyen bir sistem, insanları yeniden e-postaya döndürür. İki oranı da izleyin. Dürüst bir “kaynak bulunamadı” yanıtının neye benzemesi gerektiğini [kaynak gösteren yanıtlar üzerine notumuz](https://veridive.com/tr/saha-notlari/kaynak-gosteren-yapay-zeka-yanitlari/) anlatıyor.

## Geri kalanı hangi kontroller yakalar?

Temsili bir vaka: Bir çalışan, istifa etmeden ne kadar önce bildirimde bulunması gerektiğini soruyor. Asistan üç açık cümleyle yanıt veriyor ve İK politikasını kaynak gösteriyor. Süreç doğru: yöneticiye yazılı bildirim, İK’ya bir kopya, bir devir teslim planı. Yanıt ayrıca ihbar süresinin dört hafta olduğunu söylüyor. Kaynak gösterilen pasajda hiçbir süre geçmiyor; bu varsayımsal şirkette ihbar süreleri her iş sözleşmesinde ayrıca belirleniyor ve kademeye göre değişiyor. “Dört hafta” ifadesini hiçbir yerde kimse yazmamış.

Bir iddia kontrolü bunu yakalardı. Yanıt üretildikten sonra sistem içindeki belirli değerleri (süreler, tutarlar, tarihler, isimler) çıkarır ve her birini kaynak gösterilen pasajlarda arar. “Dört hafta” orada yok; bu yüzden yanıt bekletilir ve rakam çıkarılarak yeniden üretilir. Yeni yanıt, kullanıcıyı iş sözleşmesine ve İK’ya yönlendirir.

Bu kontrol, kaynağa dayandırmanın kaçırdıklarının çoğunu yakalayan kısa bir listenin parçasıdır:

- **Değerler ve kaynaklar.** Yanıttaki sayılar, isimler, tarihler ve tutarlar, kaynak gösterilen pasajda geçmelidir.
- **Değerler ve kaynak sistemler.** Bir sipariş toplamı, bir müşteri adı ya da bir fatura tarihi ERP’den ya da CRM’den gelir; yanıta onu yazılım yerleştirir, model asla yeniden yazmaz.
- **Kaynak kontrolleri.** Kaynak gösterilen pasaj vardır, güncel sürümdür ve iddiayı içerir. Otomatik bir puanlayıcı, insanlarla karşılaştırılarak doğrulandıktan sonra bunu büyük ölçekte yapabilir; ayrıntılar için [LLM ile otomatik değerlendirme notuna](https://veridive.com/tr/saha-notlari/llm-ile-otomatik-degerlendirme/) bakın.
- **Pahalı olduğu yerde bir insan.** İadeler ve ödemeler, bir müşteriye ya da düzenleyici kuruma gönderilen her şey, tek bir çalışanı ilgilendiren kararlar, sözleşme hükümleri ve güvenlik talimatları, [koruma önlemlerimizde](https://veridive.com/tr/nasil-calisiyoruz/#guardrails) olduğu gibi kanıtlar yan yana konarak incelenir.

## Uydurma oranı nasıl ölçülür?

Değerlendirme setinde, canlıya geçmeden önce ve her değişiklikten sonra:

1. **Her yanıtı iddialarına ayırın:** her biri tek bir olgusal ifade.
2. **Her iddiayı etiketleyin:** kaynak gösterilen pasajla destekleniyor, yalnızca başka bir kaynakla destekleniyor ya da desteklenmiyor.
3. **Desteklenmeyen iddia oranını hesaplayın:** en az bir desteklenmeyen iddia içeren yanıtların payı; iddialar da inceleme için listelenir.
4. **Oranı vaka türüne göre raporlayın.** Politika sorguları, sayı ağırlıklı sorular ve belgelerde yanıtı olmayan sorular farklı davranır; ortalama bu farkı gizler.
5. **Önem derecesine göre ağırlıklandırın.** Desteklenmeyen bir tutar, desteklenmeyen bir nezaket cümlesinden daha önemlidir.

Canlı kullanımda gerçek yanıtlardan bir örneklemi aynı şekilde inceleyin ve bildirilen her uydurmayı değerlendirme setine ekleyin; böylece regresyon testi onu bir dahaki sefere yakalar.

## Her iddia neden tek tek işaretlenmeli?

Belgelerin yanıtlayamadığı beş soru dahil yirmi gerçek soru alın ve yanıtlardaki her iddiayı destekleniyor ya da desteklenmiyor diye işaretleyin. Bu bir öğleden sonralık çalışma, dört hamleden hangisine önce ihtiyacınız olduğunu gösterir. Her iddiası bir kaynağa dayanan yanıtlar [bilgi ve doküman zekasının](https://veridive.com/tr/cozumler/bilgi-ve-dokuman-zekasi/) özüdür; arkalarındaki değerlendirme de [veri ve yapay zeka altyapısı](https://veridive.com/tr/hizmetler/veri-ve-yapay-zeka-altyapisi/) çalışmasının parçasıdır.

## Sık sorulan sorular

### Yapay zeka neden uydurur?

Çünkü bir dil modeli, kendisine verilen metnin en akla yatkın devamını üretir; akla yatkın olan ise her zaman doğru olan değildir. Yanıt kaynaklarında yoksa ya da talimatları onu her durumda yanıt vermeye itiyorsa boşluğu, doğru kısımlardan hiç ayırt edilemeyen akıcı bir metinle doldurur. Modelin içinde, ifadelerinden hangisinin desteklendiğini işaretleyen hiçbir şey yoktur.

### Yapay zeka halüsinasyonları tamamen önlenebilir mi?

Hayır, ama seyrek ve görünür kılınabilir. Yanıtları onaylı kaynaklara dayandırın, sistemin bilmediğini söylemesine izin verin, isimleri, sayıları ve tarihleri o verinin sahibi olan sistemlerle kontrol edin ve bir hatanın pahalı olduğu yerde yanıtları bir insana inceletin. Ardından desteklenmeyen iddiaların oranını gerçek örneklerde ölçün; böylece oranın düşüp düşmediğini bilirsiniz.

### Yapay zeka halüsinasyonu nasıl ölçülür?

Gerçek sorulardan oluşan bir değerlendirme setinde her yanıtı olgusal iddialarına ayırın ve her iddiayı gösterilen kaynaklarla karşılaştırın. En az bir desteklenmeyen iddia içeren yanıtların payı, desteklenmeyen iddia oranıdır. Bu oranı vaka türüne göre raporlayın, sistemin ne sıklıkla doğru biçimde “bilmiyorum” dediğini izleyin ve modellerde, promptlarda ya da belgelerde yapılan her değişiklikten sonra seti yeniden çalıştırın.

## Kaynaklar

1. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1. ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST). https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
2. LLM09:2025 Misinformation. OWASP Gen AI Security Project. https://genai.owasp.org/llmrisk/llm092025-misinformation/
3. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (Lewis et al.). arXiv. https://arxiv.org/abs/2005.11401