דגימה
מדידה של תופעה גדולה דרך חזרה מבוקרת על סט קטן ומייצג.
Inference
הרגע שבו מודל מייצר תשובה לשאלה, בניגוד לשלב האימון. כל תשובה היא הרצה נפרדת, ולכן שתי שאלות זהות יכולות להחזיר ניסוחים שונים. זו הסיבה שמדידה נעשית בדגימה חוזרת ולא בבדיקה אחת.
עודכן:
יש שני עולמות ואנשים מערבבים ביניהם. אימון הוא התהליך היקר והנדיר שבו נבנה המודל מחומר עצום, והוא מסתיים בנקודת זמן. הרצה היא מה שקורה כשמישהו שואל שאלה: המודל כבר קפוא, שום דבר שנכתב בשאלה לא נכנס אליו, והוא פשוט מייצר תשובה. העמוד שהעליתם אתמול לא נכנס לאימון של אף אחד. הוא יכול להגיע לתשובה רק אם בהרצה מסוימת נשלף ונמסר למודל כטקסט.
המודל אינו שולף משפט שמור. הוא מייצר טקסט יחידה אחר יחידה, וכל יחידה נבחרת מתוך התפלגות של אפשרויות. כשהבחירה אינה תמיד האפשרות הסבירה ביותר, שזו הגדרה שמפעילה קובעת, יוצאים ניסוחים שונים לאותה שאלה. גם התשתית תורמת לפער: אותה בקשה עשויה לרוץ על חומרה אחרת או בתצורה אחרת, ותוצאות הקצה אינן זהות בהכרח.
ויש גורם גדול יותר, שלא קשור בכלל למודל. אם השאלה הפעילה חיפוש חי, סל המקורות נבנה מחדש בכל הרצה, ומה שהיה בתוצאות אתמול אינו בהכרח מה שיהיה מחר. שינוי במקורות משנה את התשובה הרבה יותר מאשר האקראיות בניסוח.
המודל עצמו לא זוכר אתכם ולא זוכר את השיחה הקודמת. כשנראה שהוא זוכר, זה כי המוצר שמסביבו שמר טקסט ושלח אותו שוב, למשל היסטוריית השיחה או פרופיל שנבנה ממה שסיפרתם בעבר. זו שכבה מעל המודל, לא תכונה שלו.
לעניין הבדיקה העצמית זה קריטי. אם אתם מחוברים לחשבון שבו בדקתם את עצמכם עשרים פעם החודש, מה שתקבלו מושפע מכם, ואין לו קשר למה שלקוח חדש יראה. הבדיקה חייבת לרוץ בחלון נקי, ואם אפשר גם בלי חשבון מחובר.
בדיקה אחת אינה מדידה. היא דגימה אחת מתוך התפלגות, ומסקנה ממנה שקולה לשאלת אדם אחד ברחוב ולהצגת התוצאה כסקר.
מה שכן עובד הוא לקבוע כמה הרצות לכל שאלה, לרשום את התאריך ואת הממשק, ולספור בכמה מההרצות הופעתם. המדד הוא שיעור הופעה מתוך מספר קבוע של הרצות, ולא כן או לא. שיעור כזה אפשר להשוות לחודש הבא, וזה כל הרעיון. שיעור הופעה מתוך מספר קבוע של הרצות הוא גם המדד בדיווח הנראות שאנחנו מפיקים.
כדאי לרשום גם את מי שכן הופיע במקומכם, בכל הרצה. הרשימה הזאת שווה לרוב יותר מהתשובה על עצמכם, כי היא מראה אילו מקורות המנוע סומך עליהם בתחום שלכם, ולפעמים מתברר שהם בכלל אתרי תוכן ולא מתחרים ישירים. שינוי של הופעה אחת מתוך חמש הוא רעש ולא מגמה, ומי שמדווח עליו כשינוי יאלץ להסביר בחודש הבא למה הוא התהפך.
אפשר להסיק שאתם נוכחים או לא נוכחים בשאלה מסוימת, בממשק מסוים, בתקופה מסוימת. אי אפשר להסיק למה נבחרתם, כי אף מנוע לא חושף את שיקולי הבחירה, ואי אפשר להסיק מה קרה בהרצות של אנשים אחרים. כל מי שמציג לכם ציון נראות מוחלט ב-AI מציג מדד שהוא המציא. אין דירוג רשמי ואין מספר מוסמך.
נניח מרפאת פיזיותרפיה בחיפה. תרחיש מומצא.
הבעלים שואל את המנוע לאן ללכת לטיפול בכתף קפואה בחיפה, ולא מוצא את עצמו. המסקנה המיידית היא שהוא לא קיים בערוץ, ומכאן קצרה הדרך להחלטת תקציב.
הוא חוזר על אותה שאלה בדיוק בחמישה חלונות נקיים, בשני ימים שונים. בשתיים מההרצות המרפאה מופיעה, בשלוש היא לא. בכל חמש ההרצות מופיע אותו אתר תוכן רפואי, וברוב ההרצות מופיע מדריך עירוני שאיש לא חשב עליו כמתחרה.
התמונה שהתקבלה שונה לגמרי מהתמונה הראשונה. הוא כן נוכח, בשיעור שאפשר למדוד ולהשוות אליו בעוד חודש. במקביל התגלה מי המקור הקבוע בתחום, וזו תובנה מעשית: אזכור באתר הזה עשוי לשנות יותר מעמוד נוסף אצלו.
מה שהיה קורה אילו הסתפק בבדיקה אחת: החלטה על פרויקט תוכן שלם על בסיס דגימה יחידה, ובלי לדעת בכלל שיש מקור אחד שמככב בכל תשובה.
חמש הרצות לשאלה, פעם בחודש, ביום קבוע. זה הכול. הרישום הוא גיליון עם תאריך, שאלה, ממשק, אם הופעתם ואילו מקורות הופיעו. מי שמנסה לבדוק שלושים שאלות ומוותר אחרי שבועיים נשאר בלי בסיס להשוואה, ובדיוק הבסיס הזה הוא כל הערך של התרגיל.
הציפייה הרגילה בישיבה היא מספר יחיד. הניסוח שמחזיק מים הוא אחר: בכך וכך מתוך מספר קבוע של הרצות, בשאלות שהוגדרו מראש, בתאריך מסוים. כדאי גם לומר מראש מה נחשב רעש, כדי שדיווח על שינוי קטן לא יגרור החלטה. מי שמציג מספר בודד בלי טווח, יגלה בחודש הבא שהוא לא יכול להסביר את התנודה.
בחרו את חמש השאלות שבאמת שוות לכם כסף וקבעו לכל אחת חמש הרצות בחלון נקי, ביום קבוע בחודש. תעדו ארבעה שדות בלבד: תאריך, ממשק, אם הופעתם, ואילו מקורות הופיעו. אל תשנו את ניסוח השאלות אחרי שהתחלתם, כי ניסוח חדש מתחיל מדידה חדשה ומוחק את ההשוואה לאחור. אחרי שלושה חודשים תהיה לכם סדרה, ורק סדרה מאפשרת להבדיל בין תנועה אמיתית לבין רעש.
המלכודת הכי יקרה בערוץ הזה היא בדיקה אחת שמפעילה החלטה. שואלים פעם אחת, לא מופיעים, ומחליטים שהאתר לא עובד. בשבוע הבא אותה שאלה מחזירה אתכם בגוף התשובה, וההחלטה כבר התקבלה ומישהו כבר משלם עליה. המלכודת ההפוכה נדירה פחות ממה שנדמה: לראות את עצמכם בהרצה אחת, להכריז על הצלחה, ולעצור את העבודה. שתיהן נובעות מאותה אי הבנה, שתשובה של מודל היא עובדה יציבה ולא דגימה. בכל דיווח פנימי כתבו כמה הרצות עמדו מאחורי המספר, וחצי מהוויכוחים ייעלמו מעצמם.
אם עוד לא הגדרתם אילו שאלות חשובות לכם, מדידה חוזרת תייצר לכם גיליון יפה בלי משמעות. קודם מגדירים את השאלות, אחר כך מודדים. גם עסק שנמצא בתחילת הדרך, בלי תוכן שעונה על השאלות האלה, ירוויח יותר מכתיבת התשובה הראשונה מאשר ממעקב מסודר אחרי היעדרות. מדידה שווה כשיש מה להשוות אליו.
כי אלה שתי הרצות נפרדות, ולא אותה תשובה שנשלפה פעמיים. מוסיפים לזה היסטוריית שיחה שונה, ממשק אולי שונה, ולעיתים גם סל מקורות שנבנה מחדש באותו רגע. פער הוא הנורמה, לא תקלה.
אין מספר מחייב, ואנחנו לא מכירים מקור רשמי שקובע אחד. חמש הרצות לשאלה מספיקות לרוב כדי להבחין בין נוכחות לבין היעדרות, והעיקר הוא שהמספר יישאר קבוע בין החודשים, אחרת אין מה להשוות.
לא לאימון. הוא יכול להגיע לתשובה רק דרך חיפוש חי שנעשה בזמן ההרצה, ולכן מה שקובע הוא אם הוא נסרק, נכנס לאינדקס החיפוש ונשלף. בשאלות שנענות בלי חיפוש הוא לא ישתתף כלל.
לא בהכרח. סל המקורות נבנה מחדש בכל הרצה, ותוכן חדש של אחרים יכול לדחוק אתכם. זו בדיוק הסיבה שהמדד הוא שיעור לאורך זמן ולא רגע בודד.
אין ציון רשמי בשום מנוע. כלים מציעים מדדים משלהם, וכל עוד אתם יודעים שהמספר הוא של הכלי ולא של המנוע, אפשר להשתמש בו למעקב פנימי. את ההשוואה החיצונית הוא לא יחזיק.
מדידה של תופעה גדולה דרך חזרה מבוקרת על סט קטן ומייצג.
פרמטר שקובע כמה הניסוח של המודל אקראי לעומת צפוי.
הטקסט שהמשתמש מקליד למנוע ה-AI.
המדידה הראשונה, זו שכל מדידה עתידית מושווית אליה.
הסף שממנו סביר שהפער שראיתם אינו רעש אקראי.
המודל הספציפי שמריץ את התשובה.
הערך נבדק מול המקורות הרשמיים של הפלטפורמות. כשמשהו אינו ידוע, כתוב כאן שהוא אינו ידוע. שינויים מתועדים בארכיון העדכונים.
בלי מצגת, בלי התחייבות ובלי שיחת מכירה. עשרים דקות שבסופן תדעו אם יש כאן משהו בשבילכם.
לא בקטע של טפסים? [email protected]