Yapay zekâ modelleri sizi nasıl anlar: tokenlar, bağlam ve halüsinasyonlar
Teknik katman, sade bir dille — tokenlar, bağlam penceresi, sıcaklık ve halüsinasyon — yapay zekâ hakkında kesin konuşabilmeniz için.
Net bir prompt yazmayı bildiğinizde, bir sonraki seviye promptun modelin içinde başına ne geldiğini anlamaktır: matematiği değil, kavramları ve onları anlatan İngilizceyi. Bunlar yapay zekâ hakkındaki ciddi her konuşmada ortaya çıkan terimlerdir ve bunları kesin kullanmak, yalnızca bir başlık okumuş kişiyi araç üzerine düşünmüş kişiden ayırır.
Tokenlar
Model kelimeleri okumaz. Tokenları okur — yaklaşık bir kelime ya da kelimenin bir parçası olan metin parçalarını. unhappy tek bir token olabilir; unbelievable iki.
- The model splits the text into tokens.
- This model has a large token limit.
Yararlı bir sonuç, modelin bir seferde kabul edip üretebileceği üst sınır olan token limittir. Bir prompt «çok uzun» olduğunda, tükenen şey tokenlardır.
Bağlam penceresi
Context window, modelin aynı anda zihninde tutabileceği şeydir — tokenlarla ölçülen kısa süreli belleği. İçinde tüm konuşmanız artı prompt bulunur.
- The whole document fits inside the context window.
- Once the conversation exceeds the context window, the model forgets the beginning.
Uzun sohbet botu konuşmalarının bazen ipin ucunu kaçırmasının nedeni budur: başlangıç pencereden düştü. Özenli İngilizcede modelin unuttuğu değil runs out of context olduğu söylenir — «unuttu» modelin seanslar arasında sahip olmadığı bir belleği ima eder.
Sıcaklık
Temperature, cevabın öngörülebilirliğini yönetir. Fikir fizikten ödünç alınmıştır — sıcaklık arttıkça hareket artar.
Düşük sıcaklık — öngörülebilir, güvenli, harfiyen. Olgular ve kod için iyidir.
Yüksek sıcaklık — çeşitli, beklenmedik, yaratıcı. Fikirler ve taslaklar için iyidir.
Set the temperature low for a technical answer.
The model's temperature was high, so it gave three very different drafts.
Kelime artık o kadar standart ki insanlar açıklama yapmadan the response felt high-temperature — yani öngörülemez — der.
Halüsinasyon
Hallucination, kendinden emin görünen ama basitçe yanlış olan bir cevaptır. Model bir olguyu, ismi, kaynağı uydurdu ve onu tartışmasız diye sundu.
- The model hallucinated a citation.
- That reference is a hallucination — it doesn't exist.
Bu, her özenli yapay zekâ kullanıcısının ihtiyaç duyduğu terimdir çünkü aracın ana arızasını adlandırır. Fiil doğrudur: hallucinate, hallucinated, has hallucinated. İsim sayılabilir: a hallucination, two hallucinations.
Halüsinasyon yalan değildir. Yalan, gerçeği bilmeyi ve ona karşı gelmeyi gerektirir. Model neyin doğru olduğunu bilmez; hangi metnin geleceğini tahmin eder. Yanlış bir çıktıya hallucination demek, lie ve mistakeın olmadığı kadar isabetlidir — model gerçeklikle hiç karşılaştırma yapmamıştır.
Setin geri kalanı
Çekirdeği tamamlarlar ve onlarla kesin teknik sözlüğün yanında karşılaşırsınız:
| Terim | Anlamı |
|---|---|
| training data | modelin üzerinde öğrendiği metinler |
| parameters | modelin öğrendiği sayılar; teknik açıdan «boyut» |
| inference | modelin cevap ürettiği an |
| prompt injection | promptun içine gizlenmiş, modelin talimatları görmezden gelmesini sağlayan bir saldırı |
| fine-tuning | modeli tek bir özel göreve ayarlama |
Bunu kesin söylemek
Örüntüyü fark edin: her terimin kendi fiili vardır ve eşleşme, kolokasyonların hep sabit olduğu gibi sabittir.
- The model splits text into tokens.
- The answer exceeded the context window.
- I lowered the temperature.
- The model hallucinated a source.
Doğru fiil, mekanizmayı yalnızca kelimeleri değil, anladığınızı gösterir.
Kendinizi sınayın
Aşağıdaki test terimleri ve onlarla eşleşen fiilleri kontrol eder.