مدل‌های هوش مصنوعی شما را چگونه می‌فهمند: توکن، بافت و توهم

وقتی می‌توانید پرامپت روشن بنویسید، سطح بعد این است که بفهمید درون مدل با آن چه می‌شود: نه ریاضیات، بلکه مفهوم‌ها و انگلیسی‌ای که آن‌ها را توصیف می‌کند. این‌ها اصطلاح‌هایی‌اند که در هر گفتگوی جدی دربارهٔ هوش مصنوعی پیش می‌آیند و درست به کار بردنشان کسی را که تیتر خوانده از کسی که دربارهٔ ابزار فکر کرده جدا می‌کند.

توکن

مدل واژه نمی‌خواند. توکن می‌خواند — تکه‌هایی از متن، تقریباً یک واژه یا بخشی از واژه. unhappy ممکن است یک توکن باشد؛ unbelievable — دو توکن.

• The model splits the text into tokens.
• This model has a large token limit.

پیامد مفید token limit است، بیشینه‌ای که مدل می‌تواند یک‌جا بپذیرد یا بدهد. وقتی پرامپت «زیادی بلند» است، توکن‌ها تمام شده‌اند.

پنجرهٔ بافت

Context window یعنی مدل چقدر را می‌تواند هم‌زمان در ذهن نگه دارد، حافظهٔ کوتاه‌مدت او که با توکن اندازه گرفته می‌شود. کل گفتگوی شما به‌علاوهٔ پرامپت درون آن است.

• The whole document fits inside the context window.
• Once the conversation exceeds the context window, the model forgets the beginning.

برای همین گفتگوهای طولانی با چت‌بات گاهی رشته را گم می‌کنند: آغاز از پنجره بیرون افتاده. در انگلیسی دقیق می‌گویند مدل runs out of context، نه اینکه فراموش کرد — «فراموش کرد» حافظه‌ای را القا می‌کند که مدل میان جلسه‌ها ندارد.

دما

Temperature قابل‌پیش‌بینی بودن پاسخ را کنترل می‌کند. ایده از فیزیک قرض گرفته شده — دمای بالاتر، حرکت بیشتر.

• دمای پایین — قابل‌پیش‌بینی، امن، تحت‌اللفظی. برای واقعیت و کد خوب است.

• دمای بالا — متنوع، غیرمنتظره، خلاق. برای ایده و پیش‌نویس خوب است.

• Set the temperature low for a technical answer.

• The model's temperature was high, so it gave three very different drafts.

این واژه آن‌قدر معیار شده که آدم‌ها بدون توضیح می‌گویند the response felt high-temperature — یعنی غیرقابل‌پیش‌بینی.

توهم

Hallucination پاسخی است که مطمئن به نظر می‌رسد و صرفاً دروغ است. مدل واقعیت، نام یا منبعی را ساخته و آن را بی‌تردید اعلام کرده است.

• The model hallucinated a citation.
• That reference is a hallucination — it doesn't exist.

این اصطلاحی است که هر کاربر دقیق هوش مصنوعی لازم دارد، چون خرابی اصلی ابزار را نام می‌برد. فعل درست است: hallucinate، hallucinated، has hallucinated. و اسم قابل شمارش است: a hallucination، two hallucinations.

توهم دروغ نیست. دروغ مستلزم دانستن حقیقت و رفتن خلاف آن است. مدل نمی‌داند چه راست است؛ پیش‌بینی می‌کند چه متنی می‌آید. نامیدن نتیجهٔ نادرست hallucination همان‌قدر دقیق است که lie و mistake دقیق نیستند — مدل اصلاً هرگز با واقعیت مطابقت نداده است.

بقیهٔ مجموعه

این‌ها هسته را کامل می‌کنند و آن‌ها را در کنار واژگان فنی دقیق می‌بینید:

اصطلاح	معنا
training data	متن‌هایی که مدل روی آن‌ها آموزش دید
parameters	عددهایی که مدل یاد گرفته؛ «اندازه» به زبان فنی
inference	لحظه‌ای که مدل پاسخ می‌دهد
prompt injection	حمله‌ای پنهان در پرامپت که مدل را وادار می‌کند دستورها را نادیده بگیرد
fine-tuning	تنظیم مدل برای یک کار مشخص

دقیق حرف زدن دربارهٔ آن

الگو را توجه کنید: هر اصطلاح فعل خودش را دارد و این ترکیب همان‌قدر ثابت است که هم‌نشینی‌ها همیشه ثابت‌اند.

• The model splits text into tokens.
• The answer exceeded the context window.
• I lowered the temperature.
• The model hallucinated a source.

فعل درست نشان می‌دهد سازوکار را می‌فهمید، نه فقط واژه‌ها را.

خودتان را بسنجید

آزمون زیر اصطلاح‌ها و فعل‌هایی را می‌سنجد که با آن‌ها می‌آیند.