Son aylarda yazılım dünyasının en büyük eğlencelerinden biri, Büyük Dil Modellerinin (LLM) yaptıkları komik hataları, nam-ı diğer "halüsinasyonları" (hallucinations) ekran görüntüleri alıp Twitter'da veya Reddit'te paylaşmak oldu.

Bir yapay zekaya kod yazdırıyorsunuz ve size var olmayan bir JavaScript kütüphanesini kullanmanızı öneriyor. Üstelik bu uydurma kütüphanenin nasıl kurulacağını, içindeki fonksiyonların nasıl çalışacağını o kadar özgüvenli, o kadar akademik bir dille anlatıyor ki, bir an için kendinizden şüphe ediyorsunuz. "Acaba ben mi bilmiyorum?"

Çoğumuz bu durumu yapay zekanın "aptallığı" veya "henüz yeterince gelişmemiş olması" olarak yorumlayıp geçiyoruz. Ancak aynayı kendimize çevirdiğimizde, aslında çok daha rahatsız edici bir gerçekle yüzleşiyoruz: Biz de tam olarak aynı şeyi yapıyoruz.

Özgüvenli Uydurmanın Evrimi

Yapay zekanın halüsinasyonları, aslında insani kibrin (hubris) algoritmik bir yansımasından ibarettir. İnsanlar olarak, özellikle profesyonel ortamlarda, "Bilmiyorum" demeyi zayıflık olarak algılamaya programlanmış durumdayız.

Şu senaryoyu düşünün: Önemli bir iş mülakatındasınız. Karşınızdaki teknik yönetici size, adını hayatınızda ilk defa duyduğunuz "X" aracıyla ilgili deneyiminizi soruyor. O anki sessizlik saniyeler sürse de size saatler gibi gelir. Ve beyninizdeki nöral ağlar (tıpkı ChatGPT gibi) o kelimenin etrafındaki en muhtemel kelimeleri bir araya getirerek özgüvenli bir cümle kurar: "X aracını doğrudan production'da kullanmadım ama arkasındaki mimari yapıya ve dağıtık sistem prensiplerine oldukça hakimim."

Tebrikler. Az önce beyniniz, tamamen bir dil modeli halüsinasyonu yarattı. İçi tamamen boş, teknik olarak hiçbir şey ifade etmeyen ama gramer olarak kusursuz, muazzam özgüvenli bir yalan.

Bilmemenin Dayanılmaz Ağırlığı

ChatGPT'nin var olmayan kütüphaneler uydurmasıyla, beyaz yakalı bir yöneticinin toplantıda "Sinerjiyi proaktif bir şekilde end-to-end yönetmeliyiz" diyerek konuşması arasında hiçbir mimari fark yoktur. İkisi de elindeki yetersiz veri setini, kulağa en mantıklı gelecek şekilde sıraya dizmekten ibarettir.

Yapay zeka modelleri, kelimelerin istatistiksel olasılıklarını hesaplayarak cümle kurarlar. Bilmedikleri bir şey sorulduğunda sessiz kalmak yerine, mevcut bağlama en uygun kelimeyi "uydururlar". Çünkü onların hedef fonksiyonu (objective function) size doğruyu söylemek değil, sizin tatmin olacağınız, ikna edici bir metin üretmektir.

Tıpkı modern eğitim ve iş sistemimizin insanları kodladığı gibi. Bize doğruyu söylemek değil, "yeterince ikna edici görünmek" öğretildi.

Aynadaki Yüzümüz

Yapay zekanın hatalarına gülerken, aslında yaratıcısının zaaflarına gülüyoruz. Yapay zeka, internetin tüm bilgi birikimini değil, internetin tüm davranış biçimlerini emerek öğrendi. Ve bizim en büyük davranış biçimimiz, cehaletimizi sahte bir özgüvenin arkasına saklamaktır.

Belki de yapay zekayı düzeltmeden önce, kendi "bilmiyorum" diyebilme kasımızı geliştirmemiz gerekiyor. Çünkü "Bunu bilmiyorum, araştırıp öğrenebilirim" diyebilen bir Junior geliştirici, yalan söyleyen milyar parametreli bir modelden çok daha değerlidir. Yapay zeka bizim uydurma sanatımızı mükemmelleştirmeden önce, bizim dürüstlük sanatını hatırlamamızın vakti geldi.

insan

Yapay Zekanın Halüsinasyonları ve İnsan Kibri