Süni intellekt modelləri sizi necə anlayır: token-lər, kontekst və halüsinasiyalar

Aydın prompt yazmağı bacaranda növbəti səviyyə promptun modelin içində nə ilə qarşılaşdığını anlamaqdır: riyaziyyatı yox, anlayışları və onları təsvir edən ingilis dilini. Bunlar süni intellekt haqqında hər ciddi söhbətdə üzə çıxan terminlərdir və onları dəqiq işlətmək yalnız başlıq oxuyanı bu alət üzərində düşünənlərdən fərqləndirir.

Token-lər

Model sözləri oxumur. O, token-ləri oxuyur — təxminən bir söz və ya sözün bir hissəsi olan mətn parçalarını. unhappy bir token ola bilər; unbelievable isə iki.

• The model splits the text into tokens.
• This model has a large token limit.

Faydalı nəticə token limit-dir: modelin bir dəfəyə qəbul edə və yarada biləcəyi yuxarı hədd. Prompt «çox uzun» olanda tükənən şey token-lərdir.

Kontekst pəncərəsi

Context window modelin eyni anda yadda saxlaya bildiyi şeydir — token-lərlə ölçülən qısamüddətli yaddaşıdır. Onun içində bütün söhbətiniz və prompt yerləşir.

• The whole document fits inside the context window.
• Once the conversation exceeds the context window, the model forgets the beginning.

Uzun çat-bot söhbətlərində bəzən mövzunun xətti itirilir: başlanğıc pəncərədən çıxıb. Dəqiq ingilis dilində modelin unudduğu deyil, runs out of context olduğu deyilir — «unutdu» modelin sessiyalar arasında malik olmadığı yaddaşı nəzərdə tutur.

Temperatur

Temperature cavabın nə qədər proqnozlaşdırıla biləcəyini idarə edir. İdeya fizikadan götürülüb — temperatur artdıqca hərəkət də artır.

• Aşağı temperatur — proqnozlaşdırıla bilən, təhlükəsiz, sözbəsöz dəqiq. Faktlar və kod üçün yaxşıdır.

• Yüksək temperatur — rəngarəng, gözlənilməz, yaradıcı. İdeyalar və qaralamalar üçün yaxşıdır.

• Set the temperature low for a technical answer.

• The model's temperature was high, so it gave three very different drafts.

Bu söz artıq o qədər standartdır ki, insanlar izah etmədən the response felt high-temperature — yəni gözlənilməz — deyirlər.

Halüsinasiya

Hallucination özünə əmin görünən, amma sadəcə yanlış olan cavabdır. Model fakt, ad və ya mənbə uydurdu və onu şübhəsiz kimi təqdim etdi.

• The model hallucinated a citation.
• That reference is a hallucination — it doesn't exist.

Bu, hər diqqətli süni intellekt istifadəçisinin ehtiyac duyduğu termindir, çünki alətin əsas nasazlığını adlandırır. Fel düzgündür: hallucinate, hallucinated, has hallucinated. İsim hesab olunandır: a hallucination, two hallucinations.

Halüsinasiya yalan deyil. Yalan həqiqəti bilməyi və ona zidd getməyi tələb edir. Model nəyin doğru olduğunu bilmir; hansı mətnin gələcəyini təxmin edir. Yanlış nəticəyə hallucination demək lie və mistake qədər dəqiq deyil — model reallıqla heç müqayisə aparmayıb.

Dəstin qalan hissəsi

Bunlar nüvəni tamamlayır və dəqiq texniki lüğətin yanında qarşınıza çıxacaq:

Termin	Mənası
training data	modelin üzərində öyrəndiyi mətnlər
parameters	modelin öyrəndiyi ədədlər; texniki baxımdan «ölçü»
inference	modelin cavab yaratdığı an
prompt injection	promptun içinə gizlədilmiş, modelin təlimatları nəzərə almamasına səbəb olan hücum
fine-tuning	modeli bir xüsusi tapşırığa uyğunlaşdırma

Bunu dəqiq demək

Qanunauyğunluğa fikir verin: hər terminin öz feli var və uyğunluq söz birləşmələrində həmişə olduğu kimi sabitdir.

• The model splits text into tokens.
• The answer exceeded the context window.
• I lowered the temperature.
• The model hallucinated a source.

Düzgün fel yalnız sözləri deyil, mexanizmi anladığınızı göstərir.

Özünüzü yoxlayın

Aşağıdakı test terminləri və onlara uyğun gələn felləri yoxlayır.