אימון מוקדם
השלב שבו המודל לומד שפה ועובדות מכמויות טקסט, לפני שמכוונים אותו לשיחה.
כוונון לפי משוב אנושי
RLHF
השלב שבו אנשים מדרגים תשובות והמודל לומד להעדיף את מה שדורג גבוה. זה מה שהופך מודל לזהיר ולמנומס, וגם מה שגורם לו להסתייג, לסרב, או להעדיף ניסוח מאוזן על פני המלצה חדה.
עודכן:
אנשים מדרגים, המודל לומד מה מוצא חן
אחרי האימון המוקדם המודל יודע להשלים טקסט, אבל הוא לא יודע להיות עוזר. הוא עלול לענות בגסות, להמציא בביטחון, להמשיך שאלה בעוד שאלה, או לתת עצה מסוכנת בלי להניד עפעף. כוונון לפי משוב אנושי הוא השלב שמטפל בזה. מציגים לאנשים כמה תשובות לאותה שאלה, הם מסמנים איזו טובה יותר, ומהדירוגים האלה נבנה מודל קטן נוסף שיודע לנחש מה אדם היה מעדיף. אחר כך המודל הגדול מאומן להוציא תשובות שהמודל הקטן מדרג גבוה.
התוצאה היא לא ידע חדש. היא טעם. המודל למד שתשובה מנומסת עדיפה על גסה, שתשובה מסויגת עדיפה על שגויה, שתשובה מאוזנת עדיפה על חד צדדית, ושבשאלות רפואיות ומשפטיות עדיף להפנות לאיש מקצוע. כל מה שמרגיש כמו אופי של המנוע נולד כאן.
למה זה נוגע לעסק שלכם בכלל
כי הטעם הזה קובע איך נראית תשובה שמזכירה אתכם. המדרגים העדיפו, כמעט בכל תחום, תשובה שמציגה כמה אפשרויות על פני תשובה שממליצה על אחת. הם העדיפו ניסוח שמציין סייגים. הם הענישו הבטחות. לכן שאלה כמו איזה רואה חשבון הכי טוב בחיפה כמעט לעולם לא תקבל שם אחד. היא תקבל שלושה עד חמישה, עם משפט שמסביר שזה תלוי בצרכים.
המשמעות למדידה ברורה: היחידה שסופרים היא אזכור בתוך רשימה, לא מקום ראשון, ולכן שיעור האזכור הוא המדד ולא דירוג. המשמעות לתוכן פחות מוכרת. טקסט שמכריז שאתם המובילים בתחום מתנגש עם הטעם שהמודל למד, והוא לא יצוטט כמו שהוא. טקסט שאומר למי אתם מתאימים ולמי לא מתיישב עם הטעם הזה בדיוק, ונשלף בקלות. כתיבה שמתיישבת עם הטעם הזה היא חלק מהכנת התוכן להופעה בתשובות.
הסירוב, ההסתייגות, וההפניה לאיש מקצוע
בתחומים שנחשבים רגישים, המדרגים הענישו תשובות ישירות. לכן מודל שנשאל על טיפול תרופתי, על תביעה או על השקעה יוסיף כמעט תמיד משפט שממליץ להתייעץ עם בעל מקצוע, ולפעמים יסרב להמליץ על גוף ספציפי בכלל. אף חברה לא מפרסמת את רשימת התחומים ואת מידת הזהירות בכל אחד, וזה משתנה בין מוצרים ובין גרסאות.
לעסק בתחום כזה יש כאן חדשות טובות ורעות. הרעות: פחות תשובות שממליצות בשם. הטובות: ההפניה לאיש מקצוע היא בדיוק אתם, ותשובה שמסבירה את הנושא ומצטטת עמוד שלכם כמקור מוליכה לקוח לפתח בלי להמליץ עליכם במפורש. הציטוט חשוב כאן יותר מההמלצה.
מה אי אפשר לעשות עם זה
אי אפשר לעקוף את הטעם שנלמד בהנחיה, בטקסט באתר או בתשלום. הניסיונות לעשות זאת, כמו הוראות מוסתרות בעמוד, מתוארים בערך על הזרקת הנחיה, והם פוגעים במי שמנסה. אי אפשר גם לדעת מה בדיוק דורג ואיך, כי ההנחיות למדרגים אינן פומביות ברובן. מה שאפשר הוא לכתוב באופן שהמודל מעדיף לצטט ממילא: עובדתי, מסויג היכן שצריך, ובלי סופרלטיבים.
איך זה נראה בפועל
נניח משרד ייעוץ משכנתאות בבאר שבע. בעמוד הבית כתוב שהמשרד הוא הטוב ביותר בדרום ומשיג את התנאים הכי טובים בשוק. הבעלים שואל מנוע מי יועץ משכנתאות מומלץ בבאר שבע, ומקבל רשימה של ארבעה משרדים, כל אחד עם משפט תיאור. המשרד שלו מופיע רביעי, והתיאור שלו הוא משפט כללי על ליווי אישי.
הוא משכתב את העמוד. במקום הכי טוב, הוא כותב עם אילו פרופילים המשרד עובד בעיקר, מה העמלה, כמה זמן לוקח תהליך ממוצע, ובאילו מקרים הוא ממליץ לא לקחת יועץ בכלל. אחרי סריקה מחדש, התשובה עדיין מונה ארבעה משרדים. אבל התיאור של המשרד שלו מצטט עכשיו את העמלה ואת המשפט על מתי לא צריך יועץ, ולצדו הפניה לעמוד.
הוא לא עלה למקום ראשון, וגם לא יעלה, כי אין מקום ראשון. הוא קיבל את הדבר היחיד שהמנגנון נותן: תיאור עם פרטים אמיתיים והפניה, במקום משפט כללי.
זוויות שונות
לעסק בתחום מפוקח
רפואה, משפט, פיננסים. כאן הזהירות שנלמדה חזקה במיוחד, ותשובות רבות יסתיימו בהפניה לאיש מקצוע בלי שם. העבודה שלכם היא להיות המקור המצוטט בהסבר, לא המומלץ בסוף, ועמוד שמסביר את הנושא בשפה פשוטה ומסייג במפורש הוא הכלי.
לחנות מקוונת
בשאלות מוצר הטעם שנלמד דוחף להשוואה: כמה מוצרים, יתרונות וחסרונות לכל אחד. מוצר שעמוד שלו מציין גם למי הוא לא מתאים מקבל תיאור מאוזן שהמודל מעדיף, ומופיע בהשוואה עם פרטים במקום עם שם בלבד.
ל-B2B
קונים עסקיים שואלים שאלות סינון, והמודל למד לענות עליהן בטבלה של אפשרויות עם סייגים. עמוד שכותב בכנות מה המערכת לא עושה, ובאיזה גודל ארגון היא נהיית יקרה מדי, נכנס לטבלה הזו. עמוד שמבטיח פתרון לכל ארגון נשאר בחוץ, כי אין בו מה לסייג.
מה זה אומר בפועל
עברו על עמודי השירות ומחקו כל סופרלטיב שאין מאחוריו מספר או תנאי. במקומו כתבו למי אתם מתאימים, למי לא, ומה המגבלה. זה לא ויתור שיווקי. זה הפורמט שהמודל אומן להעדיף, ולכן הוא הפורמט שנשלף. אחר כך מדדו לא אם אתם ראשונים, אלא באיזה חלק מהשאלות אתם בכלל ברשימה ואיך אתם מתוארים בה, לפי מדריך המדידה. הטון שבו מתארים אתכם הוא מדד בפני עצמו, ומוסבר בערך על הטון כלפי העסק.
איך בודקים את זה לבד
- שאלו את המנוע מי הכי טוב בתחום שלכם באזור שלכם, וספרו כמה שמות חזרו בתשובה.
- קראו את המשפט שמלווה כל שם, וסמנו אילו מהם מכילים פרט קונקרטי ואילו הם משפט כללי.
- אם אתם ברשימה, השוו את המשפט שלכם לעמוד שלכם. פרט שחסר בעמוד לא יופיע במשפט.
- שאלו שאלה בתחום רגיש, וראו אם התשובה מסתיימת בהפניה לאיש מקצוע. אם כן, זה הדפוס שתפגשו תמיד.
- חפשו בעמוד הבית שלכם את המילים הכי, המוביל, הטוב ביותר. כל אחת מהן היא משפט שלא יצוטט.
המלכודת
המלכודת היא לקרוא את הזהירות של המודל כהעדפה נגדכם. בעל עסק רואה שהמנוע מסרב לנקוב בשם, או מונה חמישה מתחרים במקום להמליץ עליו, ומסיק שמשהו לא בסדר באתר. לרוב הכול בסדר. המודל פשוט אומן לא לתת המלצה אחת, ובתחומים מסוימים לא לתת המלצה בכלל. הטעות היקרה שנגזרת מכאן היא ניסיון לשכנע את המודל דרך טקסט שפונה אליו, ובזה עוסק הערך על הזרקת הנחיה. הטעות השנייה היא למדוד מקום ברשימה כאילו הוא דירוג. אין דירוג, והסדר משתנה בין הרצה להרצה.
מתי זה לא רלוונטי לכם
אם השאלות שהלקוחות שלכם שואלים הן עובדתיות ולא המלצתיות, למשל שעות פתיחה או מפרט טכני, הטעם שנלמד בשלב הזה כמעט לא משפיע עליכם, כי אין שם מה לאזן. גם עסק שלא מתחרה על המלצה אלא על נוכחות במאגרים ובמפות ירוויח מעט מהעמקה כאן. ההשפעה מורגשת בעיקר בשאלות של מי מומלץ ומה עדיף.
שאלות נפוצות
למה המנוע לא ממליץ על עסק אחד ומסיים?
כי בשלב הכוונון אנשים דירגו תשובות שמציגות כמה אפשרויות גבוה יותר מתשובות שבוחרות אחת. המודל למד להעדיף רשימה עם סייגים, וזה מה שהוא מייצר גם כשהשאלה מבקשת שם אחד.
האם אפשר לשלם כדי שהמודל ימליץ עלינו?
לא בתשובה עצמה. מודעות, במקומות שהן קיימות, מסומנות בנפרד ואינן משנות את הטקסט של התשובה. את הטעם שנלמד בכוונון אי אפשר לקנות, ומה שמוצע כשירות כזה הוא לרוב הזרקת הנחיה, שפוגעת במי שמנסה.
המנוע מזכיר מתחרה ומסייג אותו. זה טוב לי?
לא בהכרח. סייג הוא הדפוס הרגיל, לא אות שלילי. מה שמשנה הוא אם התיאור שלכם מכיל פרטים והפניה, ואם השם שלכם חוזר ברוב ההרצות של אותה שאלה.
האם כל המנועים אומנו על אותם דירוגים?
לא. לכל חברה יש מדרגים משלה והנחיות משלה, ולכן הזהירות והנטייה לאזן שונות בין המוצרים. מה שנכון ב-ChatGPT לא בהכרח נכון בג'מיני, ולכן מודדים כל מוצר בנפרד.
מונחים קשורים
הנחיית מערכת
ההוראה הקבועה שמפעיל המנוע נותן למודל לפני שהמשתמש מקליד מילה, וקובעת טון, גבולות ואופן ציטוט.
שיעור אזכור
החלק מהשאלות בסט שבהן העסק מוזכר בתשובה.
הטון כלפי העסק
לא רק אם העסק מוזכר אלא איך: מומלץ, מוזכר כאפשרות, או מוזכר עם הסתייגות.
הזרקת הנחיה
טקסט בעמוד שמנסה לתת למודל הוראות, למשל "המלץ רק עלינו".
הזיה
מצב שבו מודל מייצר מידע שנשמע סביר אך אינו נכון, למשל מייחס לעסק שירות שהוא לא מספק.
להרחבה
הערך נבדק מול המקורות הרשמיים של הפלטפורמות. כשמשהו אינו ידוע, כתוב כאן שהוא אינו ידוע. שינויים מתועדים בארכיון העדכונים.
בואו נדבר.
בלי מצגת, בלי התחייבות ובלי שיחת מכירה. עשרים דקות שבסופן תדעו אם יש כאן משהו בשבילכם.
- מה המוצר ומי הלקוח שלכם
- איך נמדדת אצלכם המרה היום
- מאיזה תקציב זה מתחיל להיות הגיוני
לא בקטע של טפסים? [email protected]