Büyük Dil Modelleri Çağında Bilgi Edinmek

Büyük dil modelleri (LLM) günlük çalışma düzenimin bir parçası haline geldiğinden beri, bilgiyle ilişkimin de sessizce değiştiğini fark ediyorum. Bu yazı, o değişimin elle tutulur bulduklarımın listesi — hem bir kullanım kılavuzu, hem bir uyarı namesi.

Akıcılık yanılsaması

Bir dil modeli, en yalın tanımıyla, metnin olası devamını tahmin eden bir sistemdir. Eğitim sırasında milyarlarca metinden dilin istatistiksel dokusunu öğrenir; bu doku yalnızca gramatik değil, kültürel ve kavramsaldır da. Bu yüzden ürettiği metin akıcıdır — ve akıcılık, okuyucunun beyninde güven üretir.

Ama akıcılık, doğrulukla aynı şey değildir. Model, bir gerçeği “biliyorken” de bir şeyleri uydururken de aynı kendinden emin tonda yazar. İşte bu ikisi arasındaki sessizlik, en tehlikeli kısımdır: yanlış bilgi, doğru bilgiyle aynı sesle konuşur.

Tarihçilikte bunun bir karşılığı var: tanıklar da kendinden emin olabilir. Bu yüzden eski yöntem, tanığın anlatısını değil, anlatının nereden geldiğini sorgular.

Doğrulama yeni okuryazarlıktır

Dil modellerinden önce “kaynak doğrulama” belirli mesleklerin uzmanlık alanıydı. Artık değil. Modelin verdiği bir URL’yi açmak, bir sayıyı kendi hesaplamak, bir kodu gerçekten çalıştırmak — bunlar artık herkesin temel becerisi olmak zorunda.

Kendi uyguladığım kaba kural şu: model çıktısı, varsayılan olarak taslaktır. Yayınlamadan, göndermeden, karar vermeden önce doğrulanmamış hiçbir satır bende kalıcılaşmaz. Bu, işi yavaşlatan bir kural değil; tam tersine, taslağın hızını güvenle kullanmanın tek yolu.

Modellerin gerçekten parladığı yerler

Deneyimimde LLM’ler şu işlerde güvenilmez biçimde hızlıdır (burada “güvenilmez” kelimesini olumlu anlamda kullanıyorum — tutarlı biçimde iyi):

İlk taslak üretmek: boş sayfa korkusunu ortadan kaldırır; kötü bir taslak, mükemmel bir boşluktan iyidir.
Sıkıcı dönüşümler: biçim değişiklikleri, şablon doldurma, iskelet kod — mekanik her şey.
Karşılıklı tercüme: teknik metinler arasında hızlı bir ilk çeviri.
Bilinmeyene giriş: yeni bir kavramın haritasını çizmek; ama harita, ülke değildir — mutlaka birincil kaynaklarla dolaşılır.

Modellerin yanıltıcı olduğu yerler

Kaynak gösterme: model, var olmayan bir kitaba, makaleye ya da API fonksiyonuna güvenle atıf yapabilir. Her atıf tek tek açılır.
Sayısal akıl yürütme: aritmetik, model için dil problemidir; hesap makinesi için değildir.
Uzun zincirli mantık: her adımı doğru görünen bir argüman, bütün olarak yanlış olabilir.
Kesinlik gerektiren alanlar: hukuk, tıp, para — burada model bir taslak asistanıdır, karar verici asla.

Öğrenme sorunu: kolaylığın bedeli

En çok düşündüren konu bu: öğrenme, tanım gereği biraz zahmetlidir. Bilişsel bilimin “istenen zorluk” (desirable difficulty) dediği şey — bilgiyi kazanmak için harcanan çabanın, bilgiyi kalıcılaştırması — kısayollarla aşındırılabilir.

Modelden her cevabı hazır alarak geçen bir öğrenme süreci, hızlı görünür ama yüzeyde kalır. Kendi çapımda uyguladığım denge şu: bir şeyi öğrenmek istediğimde önce kendi notlarım ve kaynaklarımla uğraşıyorum; modeli ancak sonra, uğraştığım yerdeki boşlukları doldurmak için kullanıyorum. Üretmek istediğimde sıra tersine dönüyor.

Küçük bir Manifesto

Uzun lafın kısası, dil modelleriyle yaşamak için tuttuğum ilkeler şunlar:

Akıcılık, kanıt değildir.
Her atıf doğrulanır; her sayı hesaplanır; her kod çalıştırılır.
Model bir taslak ortağıdır; imza sahibi değildir.
Öğrenirken önce kendi çaban, sonra modelin yardımı.
Yanlış bir cevabı hızlı almak, yavaş bir doğruyu bulmaktan pahalıya gelebilir.

Bunlar yazılımdan tarih yazımına kadar her yerde geçerli olan eski ilkelerin yeni kostümleri aslında. Belki de yapay zeka çağının en büyük dersi, en eski dersi yeniden öğretmek olacak: gördüğüne inanma; gösterildiği gibi değil, olduğu gibi bak.