חלון הקשר
כמות הטקסט שהמודל מחזיק בבת אחת בשיחה אחת: ההנחיה, המסמכים שנשלפו וכל מה שנאמר קודם.
טוקן
Token
יחידת הטקסט הקטנה שמודל עובד איתה, בערך חלק ממילה. עברית נשברת ליותר טוקנים מאנגלית על אותו משפט, ולכן טקסט עברי צורך יותר מחלון ההקשר. זה רלוונטי לכמה מהדף שלכם באמת נכנס לתשובה.
עודכן:
מודל לא רואה מילים
לפני שטקסט מגיע למודל הוא נחתך ליחידות מתוך אוצר מילים קבוע שנקבע מראש, בזמן בניית המודל. חלק מהיחידות הן מילה שלמה, חלק הן רצף אותיות, וחלק הן סימן בודד או רווח. מילה שכיחה נשמרת לרוב כיחידה אחת, כי היא הופיעה הרבה בחומר שממנו נלמד אוצר המילים. מילה נדירה, שם פרטי, מונח מקצועי או מספר ארוך נשברים לכמה חלקים.
מה שחשוב בזה לעסק אינו הבלשנות. זו היחידה שבה נמדד הכול: מגבלת האורך של השיחה, המחיר שמפעילה משלמת על כל קריאה, המחיר שאתם משלמים על כלי AI פנימי, וכמה טקסט נכנס בכלל לתשובה. לא סופרים מילים. סופרים טוקנים.
העברית משלמת יותר על אותו משפט
אוצרות המילים של המודלים הגדולים נלמדו מחומר שרובו אנגלית, ולכן רצפים עבריים מיוצגים בהם פחות טוב. נוסף לכך העברית מדביקה למילה את מה שבאנגלית הוא מילה נפרדת: אותיות השימוש, כינויי השייכות, הצורות הנוטות. התוצאה היא שמילה עברית אחת מתפרקת פעמים רבות לכמה יחידות, במקום שבו המקבילה האנגלית נשמרת כיחידה אחת או שתיים.
מה היחס המדויק? זה תלוי במודל ובגרסת אוצר המילים שלו, והוא משתנה גם בין נושאים. מספר אחד שנכון לכל המנועים פשוט לא קיים, ולכן לא נמציא אחד. מה שכן אפשר לומר בביטחון הוא הכיוון: אותו תוכן בעברית צורך יותר מהתקציב מאשר באנגלית, והפער אינו זניח.
לכן כתיבה הדוקה אינה העדפת סגנון
כשהמקום מוגבל והעברית יקרה בו, כל פסקת מבוא שמסבירה למה הנושא חשוב תופסת מקום שהיה יכול להכיל טווח מחירים או תנאי. זה לא ויכוח על טעם. פסקה שאין בה פרט שאפשר לאמת היא הוצאה בלי החזר, ובשפה שגובה יותר לכל שורה ההוצאה הזאת גדולה יותר. מי שחותך את המבוא ומתחיל בתשובה מרוויח פעמיים: גם הקורא מקבל את מה שחיפש מיד, וגם המקום שהתפנה הולך למשהו שאפשר לצטט. חיתוך המבוא והתחלה בתשובה הם מהשינויים הראשונים בעריכה של עמודים קיימים.
איפה זה נוגע לכיס
ראשית, בעלות ישירה. אם אתם מפעילים בוט באתר או מריצים עיבוד תוכן בכלי AI, החשבון מחושב בטוקנים של הקלט ושל הפלט גם יחד. תפעול בעברית יקר יותר מתפעול באנגלית על אותו היקף עבודה, וזה שיקול אמיתי כשבודקים אם להריץ משהו על כל המלאי או רק על חלקו.
שנית, במה שנכנס לתשובה. כשחלק מהקטעים המועמדים הם בעברית וחלק באנגלית, הקטעים העבריים תופסים יותר מקום, ומספר הקטעים שאפשר לצרף יורד. אנחנו לא יודעים כיצד כל מנוע מאזן את זה, ואף אחד לא פרסם את הכלל. מה שברור הוא שפסקה עברית קומפקטית שנושאת פרט מדיד עומדת בתחרות הזאת טוב יותר מפסקה עברית ארוכה שאומרת את אותו דבר בשלושה ניסוחים.
שלישית, בתרגום. עסק שמחזיק גרסה אנגלית לצד העברית לא מקבל שתי גרסאות זהות בעיני המנוע, ולא רק בגלל טוקנים: הן מתחרות על שאלות שונות, בשפות שונות, מול סלי מקורות שונים. את ההחלטה הזאת שווה לקבל לפי השוק שאתם מוכרים לו, והפירוט נמצא בעמוד הרב לשוני.
איך זה נראה בפועל
נניח משרד עורכי דין ישראלי שמתמחה בדיני עבודה. תרחיש מומצא.
בעמוד על פיטורים שלא כדין יש שמונה מאות מילים. שש מאות מהן הן הסבר כללי על חשיבות הזכויות במקום העבודה, על כך שהחוק מורכב ועל הצורך בליווי מקצועי. מאתיים המילים האחרונות מכילות את מה שהלקוח באמת שאל: מהו פרק הזמן שבו אפשר להגיש תביעה, מה משפיע על גובה הפיצוי, ומה קורה כשהעובד חתם על כתב ויתור.
כשמנוע שולף קטע מהעמוד הזה, הסיכוי שייתפס דווקא החלק הכללי גבוה, פשוט כי הוא רוב העמוד ורוב הפסקאות בו נראות דומות זו לזו. החלק בעל הערך קצר ונמצא בסוף.
התיקון אינו כתיבה מחדש של הכול. מעבירים את מאתיים המילים לראש העמוד, פורסים אותן לשלוש כותרות שכל אחת שאלה, ומוחקים את רוב המבוא. אותו מידע בדיוק, פחות טוקנים, וכל פסקה עומדת בפני עצמה.
הערה על אותו טקסט באנגלית: אותן מאתיים מילים היו נשברות לפחות יחידות. זה לא הופך את העמוד האנגלי לטוב יותר, אבל זה אומר שבעברית אין מרווח לבזבוז.
זוויות שונות
לעסק שמפעיל צ'אט באתר
כאן העלות ישירה ונמדדת בחשבונית. מסמך מדיניות שנשלח לבוט בכל פנייה, במלואו, נספר מחדש בכל שיחה. עסקים מגלים את זה רק כשהחשבון קופץ. הפתרון הרגיל הוא לשלוח רק את הקטע הרלוונטי לשאלה במקום את כל המסמך, וזה בדיוק אותו עיקרון שחל על עמודי האתר.
לחנות עם תיאורי מוצר ארוכים
תיאור שיווקי בן שלוש פסקאות לפני המפרט אינו רק מעייף לקורא. הוא דוחף את הפרטים המדידים לאחור, והם החלק היחיד שנשלף לשאלה של קונה. חנות שמעבירה את המידות, ההתאמה והטווח לראש התיאור מקבלת קטע צפוף בפרטים, וזה הקטע ששווה את המקום שהוא תופס.
לאתר עם מילון מונחים
ערך מילוני קצר הוא פורמט יעיל במיוחד, כי הוא כולו תשובה. מכאן גם מגיעה הטעות הנפוצה בפורמט הזה: למתוח ערכים כדי להיראות רציניים. ערך שמנפח עצמו בניסוחים חוזרים משלם את המחיר פעמיים, גם במקום וגם באיכות, וקורא אנושי מזהה את זה מיד.
לעסק שמתלבט בין עברית לאנגלית
ההחלטה אינה חישוב טוקנים אלא שאלת שוק. עסק שמוכר בישראל שירות בישראל צריך את העברית, גם אם היא יקרה יותר ביחידות. עסק שמוכר גם החוצה צריך שתי גרסאות שנכתבו בנפרד לשני קהלים, ולא תרגום מילולי של אותו עמוד, כי שאלות הקונים בשתי השפות אינן חופפות.
מה זה אומר בפועל
קחו את שלושת העמודים שהכי חשובים לכם ומדדו בהם יחס פשוט: כמה מהטקסט הוא פרט שאפשר לאמת, וכמה הוא הסבר סביב. מספר, טווח, תנאי, זמן, תאריך, מה כלול ומה לא, מתי זה לא מתאים. אם הצד השני גדול בהרבה, יש לכם מה לצמצם בלי לאבד דבר. אחר כך ודאו שכל פרט מדיד יושב באותה פסקה עם הסייג שלו, כדי שחיתוך לא ישאיר מספר בלי התנאי שמסביר אותו.
איך בודקים את זה לבד
- קחו פסקה מהאתר שלכם, בעברית, וספרו כמה מילים יש בה.
- העתיקו אותה לכלי ספירת טוקנים פומבי של אחת מהחברות, וראו לכמה יחידות היא נשברת.
- תרגמו את אותה פסקה לאנגלית והריצו את אותה ספירה, כדי לראות את הפער בעיניכם ולא כהנחה.
- סמנו בפסקה את המילים שנושאות פרט מדיד. אם הן מיעוט קטן, זו פסקה שמשלמת הרבה ומחזירה מעט.
- כתבו אותה מחדש בחצי מהאורך בלי לוותר על אף פרט, והשוו את שתי הגרסאות זו לצד זו.
המלכודת
המלכודת הראשונה היא לחשוב שהאורך הוא הבעיה. הוא לא. עמוד ארוך שכל פסקה בו נושאת פרט עובד מצוין, ועמוד קצר שכולו הצהרות כלליות לא יעבוד בשום אורך. מה שיקר הוא טקסט בלי מידע, והעברית פשוט גובה עליו יותר. המלכודת השנייה מסוכנת יותר: לצמצם על ידי מחיקת הסייגים, כי הם מרגישים כמו עודף. זה בדיוק ההפך מהנדרש. סייג הוא אחד הפרטים המצוטטים ביותר, כי הוא מוריד למודל את הסיכון לטעות, ומי שמוחק אותו כדי לקצר מוחק דווקא את החלק ששווה מקום.
מתי זה לא רלוונטי לכם
אם אתם לא מפעילים שום כלי AI בעצמכם ואתם כותבים ממילא קצר ולעניין, אין כאן מטלה חדשה בשבילכם. הערך הזה מסביר למה ההרגל שלכם עובד, ולא מוסיף עבודה. גם אתר קטן של כמה עמודים לא ירוויח מספירת יחידות פרטנית. המבחן הפשוט הוא אחר: אם עמוד מגיע לתשובה רק בשליש האחרון שלו, יש מה לתקן. אם הוא פותח בתשובה, סיימתם.
שאלות נפוצות
כמה טוקנים יש במילה עברית?
אין מספר אחד. זה תלוי במודל, באוצר המילים שלו ובמילה עצמה, ומילה נדירה נשברת ליותר חלקים משכיחה. הכיוון יציב, ואת המספר המדויק לטקסט שלכם אפשר לבדוק בכלי ספירה פומבי בדקה.
כדאי לכתוב באנגלית כדי לחסוך?
לא, אם הלקוחות שלכם שואלים בעברית. תשובה נבנית ממקורות שנשלפו לשאילתה, ושאילתה בעברית מובילה לסל מקורות אחר מזה של שאילתה באנגלית. חיסכון ביחידות אינו שווה ויתור על השפה שבה הקונים שואלים.
זה משפיע על הדירוג בחיפוש?
לא במישרין. ספירת היחידות היא מנגנון פנימי של המודל ולא סיגנל דירוג, ומנועי חיפוש אינם מדרגים לפיה. ההשפעה שלה היא על כמה מהתוכן שלכם נכנס בפועל לתשובה שנבנית.
מונחים קשורים
חלוקה לקטעים
פירוק העמוד ליחידות קצרות שנשמרות ונשלפות בנפרד.
הרצת מודל
הרגע שבו מודל מייצר תשובה לשאלה, בניגוד לשלב האימון.
ייצוג וקטורי
המרה של טקסט לרשימת מספרים שמייצגת את המשמעות שלו, כך שקטעים בעלי משמעות דומה יוצאים קרובים זה לזה.
יצירה מבוססת אחזור
שיטה שבה המודל שולף קודם מסמכים ממקור חיצוני ורק אז מנסח את התשובה על בסיסם, במקום להסתמך על מה שלמד באימון.
להרחבה
הערך נבדק מול המקורות הרשמיים של הפלטפורמות. כשמשהו אינו ידוע, כתוב כאן שהוא אינו ידוע. שינויים מתועדים בארכיון העדכונים.
בואו נדבר.
בלי מצגת, בלי התחייבות ובלי שיחת מכירה. עשרים דקות שבסופן תדעו אם יש כאן משהו בשבילכם.
- מה המוצר ומי הלקוח שלכם
- איך נמדדת אצלכם המרה היום
- מאיזה תקציב זה מתחיל להיות הגיוני
לא בקטע של טפסים? [email protected]