טמפרטורה (Temperature)

טמפרטורה (Temperature) היא הגדרה שקובעת עד כמה התשובה של מודל שפה תהיה צפויה או מפתיעה. אפשר לחשוב עליה כעל כפתור בין “שמרני” ל”יצירתי”. בטמפרטורה נמוכה המודל בוחר כמעט תמיד את המילה הסבירה ביותר, ולכן התשובות עקביות, ממוקדות וחוזרות על עצמן. בטמפרטורה גבוהה הוא מרשה לעצמו לבחור גם אפשרויות פחות מובנות מאליהן, והתוצאה מגוונת, מקורית ולפעמים פראית יותר.

רוב בעלי העסקים לא ייגעו בהגדרה הזו ידנית, אבל חשוב להבין אותה כי היא מסבירה תופעה מבלבלת: למה אותה שאלה בדיוק מחזירה לפעמים תשובות שונות. זה לא באג — זו הטמפרטורה בפעולה. וכשבונים כלי AI לעסק, הבחירה בערך הזה היא החלטה מהותית שמשפיעה ישירות על טיב התוצאה.

מתי נמוך ומתי גבוה

לא קיים ערך “נכון” אחד — הכול תלוי במשימה. כשאני צריך תשובה עובדתית, סיווג של פנייה, או ניסוח משפטי שחייב להיות זהיר — אני רוצה טמפרטורה נמוכה, כי כאן עקביות ודיוק חשובים יותר מהברקה. לעומת זאת, כשאני מחפש כותרות פרסום, רעיונות לתוכן או וריאציות למסר שיווקי — טמפרטורה גבוהה יותר תיתן טווח רחב לבחור ממנו. הטעות הנפוצה היא להשתמש בהגדרה אחת לכל דבר ואז להתאכזב.

דוגמה מהשטח

נניח שאתה מפעיל בוט שמנסח תשובות ראשוניות לפניות לקוחות. אם הטמפרטורה גבוהה מדי, הבוט “יתפרע” וינסח כל פעם משהו אחר, לפעמים לא מדויק. תוריד אותה — והתשובות ייעשו יציבות, אחידות ובטוחות. אותו מודל, אותו פרומפט, התנהגות אחרת לגמרי. זו הסיבה שאני תמיד בודק את הפרמטר הזה לפני שמעלים כלי AI לאוויר מול לקוחות.

שאלות נפוצות

טמפרטורה גבוהה זה טוב או רע? תלוי במטרה. לדיוק ולעקביות — נמוך עדיף. ליצירתיות ולגיוון — גבוה עדיף. אין ערך שהוא “הכי טוב”, יש ערך שמתאים למשימה.

האם טמפרטורה נמוכה מבטלת הזיות? לא לגמרי. היא מצמצמת את הנטייה של המודל “להמציא”, אבל הזיות עדיין אפשריות. הדרך האמיתית לצמצם אותן היא חיבור למקורות אמת, לא רק הורדת הטמפרטורה.

איפה בכלל משנים את זה? בממשק צ’אט רגיל בדרך כלל אין גישה לפרמטר — הוא מוגדר מראש בערך מאוזן. הוא נחשף רק כשבונים מעל המודל, למשל דרך ממשק תכנות, ואז זו החלטה של מי שמקים את הכלי.

להעמקה, ראה המדריך המלא ל-GEO.