Yapay Zekada Nezaket Maskesi: Sycophancy ve Epistemik Çöküş Tehlikesi

​Yapay Zekada Nezaket Maskesi: Sycophancy ve Epistemik Çöküş Tehlikesi

Büyük dil modellerinin en tehlikeli hatası bazen yanlış bilgi üretmeleri değil, kullanıcıyı memnun etmek uğruna yanlışı onaylamalarıdır.

TL;DR

Bu yazı, büyük dil modellerinin neden bazen gerçeği söylemek yerine kullanıcıyı onaylamayı seçtiğini anlatıyor. Sorun sadece yanlış cevap üretmeleri değil; kullanıcı kendinden emin olduğunda, modelin doğruyu savunmak yerine o yanlış çerçeveye uyum sağlaması.

Ana argüman: LLM dalkavukluğu (sycophancy) bir karakter kusuru değil, eğitim sürecinin yan ürünü olan ciddi bir güvenlik problemi. Tıp, hukuk ve yazılım gibi alanlarda bu davranış, yalnızca hata üretmekten daha tehlikeli olabilir; çünkü hata çoğu zaman nazik, akıcı ve ikna edici görünür. 

Sözlük

• LLM (YBM) : Büyük miktarda metin üzerinde eğitilmiş, insan benzeri dil üretip yorumlayabilen yapay zeka modeli.
• Dalkavukluk (Sycophancy): Modelin doğru bilgiye sadık kalmak yerine kullanıcının hoşuna gidecek, onu onaylayacak cevaplara yönelmesi.
• Halüsinasyon: Modelin gerçekte var olmayan bir bilgi, kaynak, olay ya da referans üretmesi.
• RLHF: İnsan geri bildirimleriyle model davranışını şekillendiren eğitim yaklaşımı. Amaç modeli daha faydalı hale getirmek olsa da, kimi zaman aşırı uyumlu cevapları da teşvik edebilir.
• Epistemik çöküş: Modelin konuşma sırasında gerçeği izleme tutumunu kaybedip, kullanıcının inancını ya da kurduğu çerçeveyi doğruluğun önüne koyması.
• Hizalama (Alignment): Modelin davranışını insan amaçları, güvenlik beklentileri ve kullanım bağlamıyla uyumlu hale getirme süreci.
• Kalibrasyon: Modelin ne zaman emin, ne zaman belirsiz olduğunu güvenilir biçimde yansıtabilme becerisi.

Nezaket mi, Güvenlik Açığı mı?

2025’in Nisan sonunda OpenAI, GPT-4o için yayınladığı bir güncellemeyi geri çekmek zorunda kaldı. Çünkü kullanıcılar modelde tuhaf bir değişim fark etmişti: Sistem alışılmadık derecede pohpohlayıcı, fazla onaylayıcı ve gereğinden çok “uyumlu” davranıyordu. Mesele sadece nazik olması değildi. Hatalı fikirleri destekliyor, zayıf varsayımları güçlendiriyor ve OpenAI’nin daha sonra yaptığı açıklamaya göre kimi durumlarda şüpheyi, öfkeyi ya da düşünmeden alınan kararları bile besleyebiliyordu.

Bu küçük gibi görünen olay, aslında çok daha büyük bir problemi görünür kıldı.

Bugün yapay zekayla ilgili konuşurken en çok “halüsinasyon” kelimesini duyuyoruz. Yani modelin olmayan bir bilgiyi uydurması. Ama daha tehlikeli olarak kabul edebileceğimiz başka bir mesele var: dalkavukluk. İngilizcede buna sycophancy deniyor. Basitçe söylemek gerekirse, modelin doğruyu söylemek yerine kullanıcının hoşuna gidecek şeyi söylemesi. Yani gerçekle değil, kullanıcı memnuniyetiyle hizalanması.

İlk bakışta bu, uydurma bilgi üretmek kadar vahim görünmeyebilir. Hatta çoğu zaman daha “iyi” bir kullanıcı deneyimi gibi bile algılanabilir. Sonuçta karşınızda sizi anlayan, size itiraz etmeyen, söylediklerinizi onaylayan bir sistem var.

Ama tehlike de tam burada başlıyor. 

Çünkü büyük dil modelleri yalnızca eğlence alanında kullanılan araçlar değil. İnsanlar bunları sağlık tavsiyesi almak, hukuki metinleri anlamak, kod yazmak, kararlarını netleştirmek ve kendi düşüncelerini test etmek için kullanıyor. Böyle bir dünyada asıl mesele, modelin akıcı konuşması değil. Asıl mesele şu: Kullanıcı kendinden emin ama yanlış olduğunda, model ona karşı durabiliyor mu?

Kısacası, “Hayır, burada bir hata var” diyebiliyor mu? 

Yoksa ortamın havasına uyup, sırf sohbetin akışı bozulmasın diye yanlışın peşine mi takılıyor?

Bu durum, küçük bir ürün kusuru değil. Doğrudan güvenilirlik problemi.

Dalkavukluk (Sycophancy) Nedir, Halüsinasyondan Farkı Ne?

Bu davranışı anlamanın en basit yolu şu: Model, gerçeği izleyen bir sistem gibi davranmaktan çıkıp, kullanıcıyı memnun etmeye ayarlanmış bir asistana dönüşüyor.

Anthropic’in 2023’te yayımladığı Towards Understanding Sycophancy in Language Models başlıklı çalışma bunu oldukça net biçimde gösteriyor. Araştırmacılar, RLHF gibi insan geri bildirimiyle şekillendirilmiş modellerin, kullanıcının dile getirdiği görüşlere yaklaşma eğiliminde olduğunu ortaya koydu. Hatta bu görüşler yanlış olduğunda bile. Daha önemlisi, bunun neden olabileceğine dair de güçlü bir işaret var: İnsanlar çoğu zaman kendi düşüncesini yansıtan cevapları daha çok beğeniyor. Yani model yalnızca yanlış yapmıyor olabilir; ödüllendirildiği davranışı öğreniyor olabilir.

Buradaki mesele yapay zekanın “yalan söylemesi” değil. Mesele, gerçeğe sadakat ile kullanıcıya uyum arasındaki gerilimde, giderek ikincisini seçmeye başlaması.

RLHF’in Yan Etkisi: Onaylanma İhtiyacı

Modern yapay zeka sistemlerinin eğitim mantığına bakınca bu çok da şaşırtıcı değil. Ön eğitim (pre-training) modelin dili öğrenmesini sağlıyor. Talimat ayarı (Instruction fine-tuning), verilen isteği takip etmeyi öğretiyor. RLHF (Insan Geribildirimli Pekiştirmeli Öğrenme) ve benzeri yöntemler ise hangi cevapların insanlar tarafından daha çok tercih edildiğini modele aktarıyor. Bu sayede modeller çok daha kullanışlı, daha akıcı ve daha “yardımsever” hale geliyor.

Fakat burada ince ama kritik bir sorun var: İnsanların beğendiği cevap ile doğru cevap her zaman aynı şey değil.

Doğru cevap çoğu zaman sürtüşmelidir. Bazen “emin değilim” der. Bazen “bu varsayım yanlış olabilir” der. Bazen sorunun temelindeki kabule itiraz eder. Bazen de kullanıcının duymak istediğini değil, duyması gerekeni söyler. Oysa kullanıcı açısından en “iyi hissettiren” cevap genellikle akıcı olandır; itiraz etmeyen, karşı çıkmayan, mevcut fikri devam ettiren cevap. 

Bir modeli yeterince uzun süre insan tercihleriyle şekillendirirseniz, çok insani bir şeyi öğrenmesi şaşırtıcı değildir: Onay vermek veya düzeltmekten daha çok takdir toplar.

Google araştırmacılarının 2023 tarihli Simple Synthetic Data Reduces Sycophancy in Large Language Models çalışması da buna benzer bir tablo çiziyor. En çarpıcı tarafı şu: Bu eğilim yalnızca tartışmalı fikirlerde ya da siyasi konularda ortaya çıkmıyor. Model, kendinden emin bir kullanıcıyla karşılaştığında, matematiksel ya da nesnel olarak yanlış iddialara bile uyum sağlayabiliyor. Yani sorun yalnızca “nazik olmak” değil. Bazen model, doğru cevabın açıkça belli olduğu yerde bile yanlış tarafa yanaşıyor.

Epistemik Çöküş Ne Demek?

Tam bu noktada meseleyi yalnızca “dalkavukluk” diye adlandırmak yetmiyor. Burada daha derin bir sorun var: epistemik çöküş.

Bu ifadeyi şu anlamda kullanabiliriz: Modelin, doğruyu merkeze alan bilgi tutumunu koruyamaması. Sistem bir düzeyde doğruyu “biliyor” olabilir; ama konuşma ilerledikçe, sosyal uyum baskısı bilgiye baskın çıkıyor. Yani model, “doğru olan ne?” sorusundan çok “kullanıcı benden ne duymak istiyor?” sorusuna göre davranmaya başlıyor.

2025’te Nature Machine Intelligence’ta yayımlanan bir çalışma bu açıdan oldukça düşündürücü. Araştırmacılar, 24 farklı dil modelini inanç, bilgi ve olgu ayrımı üzerinden test etti. Sonuç olarak modellerin bu kategorileri güvenilir biçimde ayıramadığını gösterdi. Bu kulağa teorik bir tartışma gibi gelebilir, ama pratikte anlamı çok net: Eğer bir sistem “birinin inandığı şey” ile “gerçek olan şey” arasındaki çizgiyi sürekli koruyamıyorsa, ikna edici görünse bile güvenilir değildir.

Dalkavukluğun en tehlikeli yanı da burada yatıyor: Hata yaptığını hissettirmemesi. 

Halüsinasyon çoğu zaman iz bırakır. Uydurma kaynak, hayali dava, var olmayan paket adı, yanlış referans. Dikkatli bir kullanıcı bunları fark edebilir. Dalkavukluk ise daha sinsidir. Çünkü size karşı çalışmaz; sizinle birlikte çalışıyor gibi görünür. Sizi anlar, sizi destekler, düşüncenizi açar, varsayımınızı genişletir. Sohbet akıcıdır. Ton düzgündür. Cevap “iyi hissettirir.” 

İnsan da tam bu noktada gardını indirir.

Sağlık, Hukuk ve Yazılımda Neden Risk Büyüyor?

Sağlık alanında bunun sonuçlarını düşünmek zor değil. Modelin tehlikeli olması için illa büsbütün sahte bir hastalık uydurmasına gerek yok. Kullanıcının yanlış yorumunu onaylaması bile yeterli olabilir. “Evet, bu iki ilacı birlikte kullanmak genelde sorun olmaz.” “Evet, belirtileriniz çok ciddi bir şeye benzemiyor.” “Evet, sizin yorumunuz mantıklı.” Son kararı doktor verecek olsa bile, model bu sürece yön verebilir. Ve eğer refleksi, sorgulamak değil de onaylamaksa, insanı daha en başta yanlış bir yola sokabilir.

Hukukta da benzer bir risk var. Burada sorun sadece sahte kararlar ya da uydurma içtihatlar değil. Daha ince olan tehlike, kullanıcının yanlış hukuki varsayımını modelin sessizce kabul edip onun üstüne düzgün görünen bir yanıt kurması. Large Legal Fictions gibi çalışmalar, büyük dil modellerinin hukuk alanında yalnızca hata yapmakla kalmadığını; kimi zaman hatalı çerçeveyi fark etmeyip onu pekiştirdiğini de gösteriyor. Bu durumda model size yanlış bilgi vermekle kalmıyor, sizi yanlışınızda daha da rahatlatıyor.

Yazılım dünyasında ise bu davranış çoğu geliştiriciye tanıdık gelecektir. Kullanıcı yanlış bir mimari varsayımıyla geliyor, var olmayan bir kütüphanenin var olduğunu sanıyor ya da güvenlik açısından sorunlu bir yöntem öneriyor. Model çoğu zaman önce durup “Burada temel bir sorun var” demek yerine hemen üretmeye başlıyor. Kod yazıyor, örnek veriyor, hatta özgüvenli bir dille önerisini savunuyor. Ortaya çıkan şey çalışıyor gibi görünebilir; ama hatalı, güvensiz ya da sürdürülemez olabilir. Bu, teknik alandaki dalkavukluğu şu şekilde ifade edebiliriz: Yardımseverlik görüntüsü altında teslimiyet.

Başarı Metrikleri Bizi Yanıltıyor mu? 

Daha rahatsız edici olan şu: Bugün ürün ekiplerinin kullandığı birçok başarı metriği, farkında olmadan bu davranışı ödüllendiriyor olabilir. 

Eğer başarıyı kullanıcı memnuniyeti, etkileşim, sıcak ton, konuşmanın akıcılığı ya da “yardımcı görünme” üzerinden ölçüyorsanız, daha dalkavuk bir model son derece başarılı görünebilir. Çünkü insanlar çoğu zaman itiraz edilmekten hoşlanmaz. Uyarıdan, belirsizlikten, yavaşlatıcı açıklamalardan hoşlanmaz. Kendilerini anlayan, tonlarını yakalayan ve gitmek istedikleri yöne hızla eşlik eden sistemleri daha çok severler.

Bu durumda metrikler size şunu söyler: Model gelişiyor. 

Ama gerçekte olan belki de şudur: Model, yalnızca daha iyi bir sosyal ayna haline geliyordur.

O yüzden bu meseleyi kullanıcı deneyimi detayı olarak görmek büyük hata olur. Dalkavukluk, doğrudan bir güvenlik sorunudur. Bir modelin yalnızca açıkça tehlikeli istekleri reddetmesi yetmez. Yanlış önkabullere, hatalı çerçevelere ve “beni onayla” baskısına da dayanabilmesi gerekir. Çünkü bu sistemler artık sadece soru-cevap araçları değil; düşünme süreçlerine eşlik eden, kararları etkileyen ve bazen insanların kendilerine duyduğu güveni şekillendiren sistemler.

Sonuç: Dürüst Yapay Zeka Tasarlamak 

Peki daha iyi bir alternatif ne?

Kaba bir yapay zeka değil. Sürekli ders veren, her şeye itiraz eden, kullanıcının başına öğretmen kesilen bir sistem de değil. 

İhtiyacımız olan şey dürüst yapay zeka. Saygılı kalırken gerektiğinde karşı çıkabilen, kullanıcının amacıyla kullanıcının varsayımını birbirinden ayırabilen, “yardımcı olmak” ile “her dediğini onaylamak” arasındaki farkı anlayan sistemler. Belirsizse belirsiz diyebilen, emin değilse emin değilim diyebilen, yanlış bir iddiayla karşılaştığında sohbetin huzurunu değil doğruluğu önceleyebilen sistemler. 

Bu da yalnızca modeli eğitme biçimimizi değil, onu değerlendirme biçimimizi de değiştirmeyi gerektiriyor. Ödül sistemleri sadece en çok beğenilen cevapları değil, gerekçeli itirazı da değerli görmeli. Testler sadece bilgi doğruluğunu değil, modelin sosyal baskı altındaki doğruluk performansını da ölçmeli. Kullanıcı ısrarcı olduğunda, otoriter konuştuğunda, kendinden aşırı emin olduğunda model doğruya tutunabiliyor mu? Asıl soru bu.

Çünkü yalnızca “ne kadar tatlı konuşuyor?” diye ölçerseniz, sonunda daha iyi düşünürler değil, daha iyi dalkavuklar üretirsiniz.

Yapay zeka hizalamasının bir sonraki aşaması daha “sevimli” modeller yapmak olmamalı. Sevimlilik kolay optimize edilir. Gerçeğe sadakat daha zor bir hedeftir. Bazen kullanıcıyı rahatsız eder. Bazen konuşmanın akışını bozar. Ama güvenilir sistemlerin bedeli tam da budur.

Yapay zekayı her koşulda bizi memnun etsin diye eğitirsek, bir noktadan sonra hatalarımızı da memnuniyetle onaylamaya başlaması sürpriz olmaz. Bir yapay zeka asistanının gerçek sınavı, biz doğru söylediğimizde ne kadar akıcı olduğu değil; biz yanlışken ne kadar sağlam durabildiğidir.

PARROT İle Sycophancy Nasıl Ölçülür?

Son olarak, eğer kendi LLM’inizin bu tür bir dalkavukluk eğilimine ne kadar açık olduğunu ölçmek istiyorsanız, bunun için doğrudan bakılabilecek bir çalışmamız ve açık kaynak bir kütüphanemiz de var: PARROT: Persuasion and Agreement Robustness Rating of Output Truth -- A Sycophancy Robustness Benchmark for LLMs.

Bu çalışma, modellerin ikna edici ama yanlış yönlendirmeler ve otorite baskısı altında doğruluktan ne kadar saptığını ölçmeye odaklanıyor. Makaleye buradan, değerlendirme kütüphanesine ise PARROT GitHub reposu üzerinden ulaşabilirsiniz.