aiadsby boostit דברו איתנו
איך מודל עובד

הרצת מודל

Inference

הרגע שבו מודל מייצר תשובה לשאלה, בניגוד לשלב האימון. כל תשובה היא הרצה נפרדת, ולכן שתי שאלות זהות יכולות להחזיר ניסוחים שונים. זו הסיבה שמדידה נעשית בדגימה חוזרת ולא בבדיקה אחת.

עודכן:

אימון קורה פעם אחת, הרצה קורה בכל שאלה

יש שני עולמות ואנשים מערבבים ביניהם. אימון הוא התהליך היקר והנדיר שבו נבנה המודל מחומר עצום, והוא מסתיים בנקודת זמן. הרצה היא מה שקורה כשמישהו שואל שאלה: המודל כבר קפוא, שום דבר שנכתב בשאלה לא נכנס אליו, והוא פשוט מייצר תשובה. העמוד שהעליתם אתמול לא נכנס לאימון של אף אחד. הוא יכול להגיע לתשובה רק אם בהרצה מסוימת נשלף ונמסר למודל כטקסט.

למה אותה שאלה מחזירה תשובות שונות

המודל אינו שולף משפט שמור. הוא מייצר טקסט יחידה אחר יחידה, וכל יחידה נבחרת מתוך התפלגות של אפשרויות. כשהבחירה אינה תמיד האפשרות הסבירה ביותר, שזו הגדרה שמפעילה קובעת, יוצאים ניסוחים שונים לאותה שאלה. גם התשתית תורמת לפער: אותה בקשה עשויה לרוץ על חומרה אחרת או בתצורה אחרת, ותוצאות הקצה אינן זהות בהכרח.

ויש גורם גדול יותר, שלא קשור בכלל למודל. אם השאלה הפעילה חיפוש חי, סל המקורות נבנה מחדש בכל הרצה, ומה שהיה בתוצאות אתמול אינו בהכרח מה שיהיה מחר. שינוי במקורות משנה את התשובה הרבה יותר מאשר האקראיות בניסוח.

כלום לא נשמר, אלא אם המוצר שמר

המודל עצמו לא זוכר אתכם ולא זוכר את השיחה הקודמת. כשנראה שהוא זוכר, זה כי המוצר שמסביבו שמר טקסט ושלח אותו שוב, למשל היסטוריית השיחה או פרופיל שנבנה ממה שסיפרתם בעבר. זו שכבה מעל המודל, לא תכונה שלו.

לעניין הבדיקה העצמית זה קריטי. אם אתם מחוברים לחשבון שבו בדקתם את עצמכם עשרים פעם החודש, מה שתקבלו מושפע מכם, ואין לו קשר למה שלקוח חדש יראה. הבדיקה חייבת לרוץ בחלון נקי, ואם אפשר גם בלי חשבון מחובר.

כל זה מכתיב איך נראית מדידה כנה

בדיקה אחת אינה מדידה. היא דגימה אחת מתוך התפלגות, ומסקנה ממנה שקולה לשאלת אדם אחד ברחוב ולהצגת התוצאה כסקר.

מה שכן עובד הוא לקבוע כמה הרצות לכל שאלה, לרשום את התאריך ואת הממשק, ולספור בכמה מההרצות הופעתם. המדד הוא שיעור הופעה מתוך מספר קבוע של הרצות, ולא כן או לא. שיעור כזה אפשר להשוות לחודש הבא, וזה כל הרעיון. שיעור הופעה מתוך מספר קבוע של הרצות הוא גם המדד בדיווח הנראות שאנחנו מפיקים.

כדאי לרשום גם את מי שכן הופיע במקומכם, בכל הרצה. הרשימה הזאת שווה לרוב יותר מהתשובה על עצמכם, כי היא מראה אילו מקורות המנוע סומך עליהם בתחום שלכם, ולפעמים מתברר שהם בכלל אתרי תוכן ולא מתחרים ישירים. שינוי של הופעה אחת מתוך חמש הוא רעש ולא מגמה, ומי שמדווח עליו כשינוי יאלץ להסביר בחודש הבא למה הוא התהפך.

מה שאפשר להסיק ומה שלא

אפשר להסיק שאתם נוכחים או לא נוכחים בשאלה מסוימת, בממשק מסוים, בתקופה מסוימת. אי אפשר להסיק למה נבחרתם, כי אף מנוע לא חושף את שיקולי הבחירה, ואי אפשר להסיק מה קרה בהרצות של אנשים אחרים. כל מי שמציג לכם ציון נראות מוחלט ב-AI מציג מדד שהוא המציא. אין דירוג רשמי ואין מספר מוסמך.

איך זה נראה בפועל

נניח מרפאת פיזיותרפיה בחיפה. תרחיש מומצא.

הבעלים שואל את המנוע לאן ללכת לטיפול בכתף קפואה בחיפה, ולא מוצא את עצמו. המסקנה המיידית היא שהוא לא קיים בערוץ, ומכאן קצרה הדרך להחלטת תקציב.

הוא חוזר על אותה שאלה בדיוק בחמישה חלונות נקיים, בשני ימים שונים. בשתיים מההרצות המרפאה מופיעה, בשלוש היא לא. בכל חמש ההרצות מופיע אותו אתר תוכן רפואי, וברוב ההרצות מופיע מדריך עירוני שאיש לא חשב עליו כמתחרה.

התמונה שהתקבלה שונה לגמרי מהתמונה הראשונה. הוא כן נוכח, בשיעור שאפשר למדוד ולהשוות אליו בעוד חודש. במקביל התגלה מי המקור הקבוע בתחום, וזו תובנה מעשית: אזכור באתר הזה עשוי לשנות יותר מעמוד נוסף אצלו.

מה שהיה קורה אילו הסתפק בבדיקה אחת: החלטה על פרויקט תוכן שלם על בסיס דגימה יחידה, ובלי לדעת בכלל שיש מקור אחד שמככב בכל תשובה.

זוויות שונות

לעסק קטן שבודק את עצמו לבד

חמש הרצות לשאלה, פעם בחודש, ביום קבוע. זה הכול. הרישום הוא גיליון עם תאריך, שאלה, ממשק, אם הופעתם ואילו מקורות הופיעו. מי שמנסה לבדוק שלושים שאלות ומוותר אחרי שבועיים נשאר בלי בסיס להשוואה, ובדיוק הבסיס הזה הוא כל הערך של התרגיל.

לחברה שמדווחת להנהלה

הציפייה הרגילה בישיבה היא מספר יחיד. הניסוח שמחזיק מים הוא אחר: בכך וכך מתוך מספר קבוע של הרצות, בשאלות שהוגדרו מראש, בתאריך מסוים. כדאי גם לומר מראש מה נחשב רעש, כדי שדיווח על שינוי קטן לא יגרור החלטה. מי שמציג מספר בודד בלי טווח, יגלה בחודש הבא שהוא לא יכול להסביר את התנודה.

מה זה אומר בפועל

בחרו את חמש השאלות שבאמת שוות לכם כסף וקבעו לכל אחת חמש הרצות בחלון נקי, ביום קבוע בחודש. תעדו ארבעה שדות בלבד: תאריך, ממשק, אם הופעתם, ואילו מקורות הופיעו. אל תשנו את ניסוח השאלות אחרי שהתחלתם, כי ניסוח חדש מתחיל מדידה חדשה ומוחק את ההשוואה לאחור. אחרי שלושה חודשים תהיה לכם סדרה, ורק סדרה מאפשרת להבדיל בין תנועה אמיתית לבין רעש.

איך בודקים את זה לבד

  1. פתחו חלון שיחה נקי לכל הרצה, ואל תשאלו שתי שאלות באותו חלון.
  2. הריצו את אותה שאלה חמש פעמים, ורשמו בכל פעם אם הופעתם ואילו מקורות צורפו.
  3. השוו בין ההרצות: אם הניסוח משתנה אבל אותם מקורות חוזרים, הסל יציב והתנודה היא בניסוח בלבד.
  4. אם גם המקורות מתחלפים בכל הרצה, סימן שהתחום נזיל, וכדאי להגדיל את מספר ההרצות לפני שמסיקים.
  5. חזרו על אותה סדרה בעוד חודש, באותו ניסוח ובאותו ממשק, והשוו שיעורים ולא מקרים בודדים.

המלכודת

המלכודת הכי יקרה בערוץ הזה היא בדיקה אחת שמפעילה החלטה. שואלים פעם אחת, לא מופיעים, ומחליטים שהאתר לא עובד. בשבוע הבא אותה שאלה מחזירה אתכם בגוף התשובה, וההחלטה כבר התקבלה ומישהו כבר משלם עליה. המלכודת ההפוכה נדירה פחות ממה שנדמה: לראות את עצמכם בהרצה אחת, להכריז על הצלחה, ולעצור את העבודה. שתיהן נובעות מאותה אי הבנה, שתשובה של מודל היא עובדה יציבה ולא דגימה. בכל דיווח פנימי כתבו כמה הרצות עמדו מאחורי המספר, וחצי מהוויכוחים ייעלמו מעצמם.

מתי זה לא רלוונטי לכם

אם עוד לא הגדרתם אילו שאלות חשובות לכם, מדידה חוזרת תייצר לכם גיליון יפה בלי משמעות. קודם מגדירים את השאלות, אחר כך מודדים. גם עסק שנמצא בתחילת הדרך, בלי תוכן שעונה על השאלות האלה, ירוויח יותר מכתיבת התשובה הראשונה מאשר ממעקב מסודר אחרי היעדרות. מדידה שווה כשיש מה להשוות אליו.

שאלות נפוצות

למה קיבלתי תשובה אחרת מהעמית שלי על אותה שאלה?

כי אלה שתי הרצות נפרדות, ולא אותה תשובה שנשלפה פעמיים. מוסיפים לזה היסטוריית שיחה שונה, ממשק אולי שונה, ולעיתים גם סל מקורות שנבנה מחדש באותו רגע. פער הוא הנורמה, לא תקלה.

כמה הרצות מספיקות?

אין מספר מחייב, ואנחנו לא מכירים מקור רשמי שקובע אחד. חמש הרצות לשאלה מספיקות לרוב כדי להבחין בין נוכחות לבין היעדרות, והעיקר הוא שהמספר יישאר קבוע בין החודשים, אחרת אין מה להשוות.

העמוד שהעליתי היום ייכנס למודל?

לא לאימון. הוא יכול להגיע לתשובה רק דרך חיפוש חי שנעשה בזמן ההרצה, ולכן מה שקובע הוא אם הוא נסרק, נכנס לאינדקס החיפוש ונשלף. בשאלות שנענות בלי חיפוש הוא לא ישתתף כלל.

אם אני מופיע היום, אני מופיע גם מחר?

לא בהכרח. סל המקורות נבנה מחדש בכל הרצה, ותוכן חדש של אחרים יכול לדחוק אתכם. זו בדיוק הסיבה שהמדד הוא שיעור לאורך זמן ולא רגע בודד.

אפשר לקבל ציון נראות ב-AI?

אין ציון רשמי בשום מנוע. כלים מציעים מדדים משלהם, וכל עוד אתם יודעים שהמספר הוא של הכלי ולא של המנוע, אפשר להשתמש בו למעקב פנימי. את ההשוואה החיצונית הוא לא יחזיק.

מונחים קשורים

דגימה

מדידה של תופעה גדולה דרך חזרה מבוקרת על סט קטן ומייצג.

טמפרטורה

פרמטר שקובע כמה הניסוח של המודל אקראי לעומת צפוי.

הנחיה

הטקסט שהמשתמש מקליד למנוע ה-AI.

נקודת ייחוס

המדידה הראשונה, זו שכל מדידה עתידית מושווית אליה.

להרחבה

הערך נבדק מול המקורות הרשמיים של הפלטפורמות. כשמשהו אינו ידוע, כתוב כאן שהוא אינו ידוע. שינויים מתועדים בארכיון העדכונים.

בואו נדבר.

בלי מצגת, בלי התחייבות ובלי שיחת מכירה. עשרים דקות שבסופן תדעו אם יש כאן משהו בשבילכם.

  • מה המוצר ומי הלקוח שלכם
  • איך נמדדת אצלכם המרה היום
  • מאיזה תקציב זה מתחיל להיות הגיוני

לא בקטע של טפסים? [email protected]