יצירה מבוססת אחזור
שיטה שבה המודל שולף קודם מסמכים ממקור חיצוני ורק אז מנסח את התשובה על בסיסם, במקום להסתמך על מה שלמד באימון.
כוונון מודל
Fine tuning
אימון נוסף של מודל קיים על סט דוגמאות ממוקד, כדי שיענה בסגנון או בתחום מסוים. זה משנה את ההתנהגות של המודל, לא את המידע שהוא שולף בזמן אמת. לעסק ישראלי זה כמעט תמיד לא הכלי שמשפיע על הנראות שלו במנועים.
עודכן:
מה בדיוק משתנה כשמאמנים מודל קיים עוד קצת
כוונון הוא לקחת מודל שכבר אומן, ולהריץ עליו אימון נוסף על אוסף דוגמאות ממוקד. הדוגמאות הן זוגות: קלט, ותשובה רצויה. אחרי מספיק מהן, המודל נוטה לענות בסגנון הזה, במבנה הזה, בטרמינולוגיה הזו. זה שינוי בהרגלי התשובה.
מה שלא משתנה הוא מה שהמודל שולף כשהוא עונה לשאלה על העולם. כשמנוע עונה על שאלה שיש בה מחיר, מיקום או זמינות, הוא בדרך כלל יוצא לחפש ומביא מקורות חיים, והחומר שנכנס לתשובה מגיע משם ולא מהמשקולות. כוונון משנה את הקול, לא את המאגר.
יש גם עניין שקט של גודל. כוונון דורש אוסף דוגמאות מסודר, ולא כמה עשרות, וכשהאוסף קטן או לא עקבי התוצאה הופכת את המודל לגרוע יותר ולא לטוב יותר. מספר מדויק לא נמסור, כי הוא תלוי לגמרי במשימה ובספק.
למה זה לא הכלי לנראות שלכם במנועים
השאלה שבעל עסק שואל היא איך אני נכנס לתשובות של המנועים הגדולים. כוונון לא עונה עליה, מסיבה טכנית פשוטה: אתם לא מאמנים את המודל של החברה שמריצה את המנוע. גם אם תכווננו מודל משלכם למופת, המשתמש הפרטי ששואל שאלה לא פונה אליו. הוא פונה למנוע ציבורי שלא ראה את הדוגמאות שלכם ולא יראה אותן.
לכן מי שמוכר כוונון כדרך להופיע בתשובות מוכר את המוצר הלא נכון לבעיה. זה לא הונאה בהכרח, ולפעמים זו פשוט בלבול בין שני עולמות: בניית מוצר AI פנימי, לעומת נראות ציבורית. השני נשען על מה שכתוב באתר ועל מה שכתוב עליכם במקומות אחרים, ועל כך יש את המדריך הכללי. בשליפה חיה מתוך המסמכים שלכם מטפל מנגנון אחר לגמרי, שליפה מוגברת, והוא זול ושקוף הרבה יותר.
איפה כוונון כן במקומו
הוא במקומו כשאתם בונים כלי פנימי או מוצר, ולא כשאתם מחפשים חשיפה. שירות שמסווג פניות נכנסות לפי סוג. עוזר שכותב טיוטת תשובה בשפה ובטון שהצוות שלכם משתמש בהם. מערכת שמוציאה שדות קבועים ממסמך בפורמט שחוזר אצלכם. בכל אלה יש דפוס חוזר וברור, ויש לכם היסטוריה של תשובות נכונות, ושם כוונון עושה עבודה טובה.
וגם שם כדאי לנסות קודם את הזול. הנחיה מפורטת במערכת, כמה דוגמאות בתוך הפרומפט, ושליפה מתוך מסמכי הידע שלכם, פותרות חלק גדול מהמקרים בעלות נמוכה בהרבה ובלי להתחייב למודל מסוים. אם אחרי שניסיתם את אלה ההתנהגות עדיין לא יציבה, זה הרגע שבו כוונון הופך לשיחה רצינית. ההפרדה בין כלי פנימי לבין נראות ציבורית היא גם קו הגבול של מה שנכלל בשירותים שלנו.
איך זה נראה בפועל
נניח משרד עורכי דין בינוני שמקבל פניות דרך טופס באתר, תרחיש מומצא. שני דברים שונים לגמרי עלולים להיקרא אצלם "פרויקט AI", וראוי לא לערבב.
הראשון: המשרד רוצה שכשאדם שואל מנוע על ההליך שהוא מתמחה בו, המשרד יופיע. זו עבודת נראות. היא נשענת על עמודים שעונים על שאלות בפירוט, על מה שכתוב על המשרד באתרים אחרים, ועל כך שהאתר בכלל נסרק. כוונון לא נוגע בה בכלל.
השני: המשרד רוצה שכל פנייה שנכנסת תסווג אוטומטית לתחום ושתיכתב לה טיוטת מענה ראשוני בסגנון של המשרד. כאן יש דפוס חוזר, יש היסטוריה של מאות פניות ומענים, ואפשר למדוד הצלחה. זה מקרה לגיטימי, ועדיין מתחילים בהנחיה ובדוגמאות בתוך הפרומפט ומגיעים לכוונון רק אם זה לא מספיק.
זוויות שונות
לחנות מקוונת
הפיתוי הוא לכוון מודל שידע לכתוב תיאורי מוצר בקול של המותג. זה אפשרי, והשאלה היא אם זו הבעיה. אם המחירים או הזמינות אצלכם לא מופיעים במקום שאפשר לשלוף ממנו, מודל מכוונן יכתוב לכם טקסטים יפים שלא ייכנסו לשום תשובה. סדר העדיפויות כאן כמעט תמיד הפוך ממה שנשמע מרגש.
לחברת תוכנה שמוכרת ל-HR
אצלכם יש סיכוי אמיתי שכוונון יתרום, כי יש מוצר ויש נפח שימוש. ועדיין, מה שרוב החברות מגלות הוא שהצורך האמיתי הוא גישה לידע העדכני שלהן ולא סגנון תשובה, וזה בדיוק המקום שבו שליפה מתוך המסמכים עדיפה. ידע מתעדכן כל שבוע. מודל מכוונן קופא ביום שאומן.
מה זה אומר בפועל
לפני שמישהו מציע לכם כוונון, שאלו שתי שאלות ותקשיבו לתשובה. הראשונה: איזה מודל בדיוק מתכוונן, ומי פונה אליו כשהוא עונה. אם התשובה אינה מודל שנמצא בשליטתכם ושהמשתמשים שלכם ניגשים אליו ישירות, זה לא פרויקט נראות. השנייה: מה ניסיתם לפני כן. ספק שלא ניסה הנחיה מפורטת ושליפה מתוך המסמכים שלכם מציע את הפתרון היקר ראשון. כתבו את התשובות. הן חוסכות דיונים ארוכים בהמשך.
איך בודקים את זה לבד
- שאלו מנוע ציבורי שאלה על התחום שלכם וראו אם יש בתשובה הפניות למקורות. אם יש, התשובה נשענה על חיפוש חי ולא על אימון.
- בדקו אם המידע העדכני שלכם, למשל מחיר או שעות פעילות, קיים בעמוד גלוי באתר. זה מה שנשלף, וזה לא תלוי בשום אימון.
- אם יש הצעת מחיר לכוונון על השולחן, בקשו לראות את סט הדוגמאות המיועד ואת גודלו. אין דוגמאות, אין כוונון.
- נסו לפתור את אותה בעיה בהנחיית מערכת מפורטת ובחמש דוגמאות בתוך הפרומפט, ומדדו את ההפרש בפועל.
- שאלו את הספק מה קורה כשהמודל שבבסיס מתעדכן או יוצא משימוש, ומי משלם על אימון מחדש.
המלכודת
המלכודת המרכזית היא לחשוב שכוונון מלמד את המודל עובדות. הוא מלמד אותו להתנהג. מודל מכוונן שבטוח בעצמו נוטה להישמע מדויק גם כשהוא לא, וזה הופך שגיאות לקשות יותר לזיהוי ולא לקלות יותר. מלכודת שנייה היא זמן. ביום שבו הפרטים שלכם משתנים, המודל המכוונן עדיין יודע את הישנים, ואין דרך לתקן אותו בלי אימון נוסף. מנגנון שליפה חי מתוקן בעריכת מסמך אחד. זה הבדל תפעולי גדול, והוא מה שקובע ברוב ההחלטות האמיתיות.
מתי זה לא רלוונטי לכם
לרוב המוחלט של העסקים הקטנים והבינוניים בישראל זה לא רלוונטי, ואין בזה שום פגם. אם אין לכם מוצר תוכנה, אין נפח שימוש חוזר, ואין ארכיון מסודר של תשובות נכונות, אין ממה לכוון וגם אין מה למדוד. הכסף שתשקיעו כאן יעשה יותר בכתיבת עמודים שעונים על שאלות, בתיקון מה שחוסם סורקים, ובמה שכתוב עליכם במקורות חיצוניים.
שאלות נפוצות
אם אכוון מודל על התוכן של החברה שלי, אופיע יותר ב-ChatGPT?
לא. המודל שעונה למשתמשים ב-ChatGPT אינו המודל שכיוונתם, והוא לא ראה את הדוגמאות שלכם. נראות בתשובות נקבעת בשלב החיפוש והשליפה מהרשת החיה, ושם מה שקובע הוא מה שקיים באתר שלכם ובמקורות שמדברים עליכם.
מה ההבדל בין כוונון לבין שליפה מהמסמכים שלי?
כוונון משנה את ההתנהגות של המודל ודורש אימון. שליפה מוגברת משאירה את המודל כמו שהוא ומחברת אותו למאגר המסמכים שלכם בזמן השאלה. עדכון מידע בשליפה הוא עריכת מסמך, ובכוונון הוא אימון מחדש.
כמה זה עולה?
אין לנו מספר שאפשר לתת בכנות, כי העלות משתנה לפי הספק, גודל המודל, כמות הדוגמאות והתחזוקה השוטפת. מה שכן אפשר לומר הוא שהעלות הגדולה בדרך כלל אינה האימון הראשון אלא הכנת הדוגמאות והצורך לחזור עליו כשהמודל שבבסיס מתחלף.
מישהו הציע לי "לאמן את הבינה המלאכותית על העסק שלי". מה לשאול?
בקשו שיסבירו מי בדיוק פונה למודל המאומן הזה. אם התשובה היא לקוחות שמשוחחים עם צ'אט באתר שלכם, זה מוצר פנימי ואפשר לדון בו לגופו. אם התשובה היא שהמנועים הגדולים ידעו עליכם יותר, הטענה אינה נכונה ואפשר לסיים את הפגישה.
מונחים קשורים
גרסת מודל
המודל הספציפי שמריץ את התשובה.
תאריך חתך הידע
המועד האחרון שממנו יש למודל ידע מובנה מהאימון.
הרצת מודל
הרגע שבו מודל מייצר תשובה לשאלה, בניגוד לשלב האימון.
הנחיית מערכת
ההוראה הקבועה שמפעיל המנוע נותן למודל לפני שהמשתמש מקליד מילה, וקובעת טון, גבולות ואופן ציטוט.
הזיה
מצב שבו מודל מייצר מידע שנשמע סביר אך אינו נכון, למשל מייחס לעסק שירות שהוא לא מספק.
להרחבה
הערך נבדק מול המקורות הרשמיים של הפלטפורמות. כשמשהו אינו ידוע, כתוב כאן שהוא אינו ידוע. שינויים מתועדים בארכיון העדכונים.
בואו נדבר.
בלי מצגת, בלי התחייבות ובלי שיחת מכירה. עשרים דקות שבסופן תדעו אם יש כאן משהו בשבילכם.
- מה המוצר ומי הלקוח שלכם
- איך נמדדת אצלכם המרה היום
- מאיזה תקציב זה מתחיל להיות הגיוני
לא בקטע של טפסים? [email protected]