ChatGPT-User
הסורק שפועל כשמשתמש מבקש מ-ChatGPT לפתוח עמוד מסוים בזמן אמת.
Web browsing
היכולת של המודל להביא עמוד חי מהרשת באמצע תשובה. כשהיא פועלת, מה שכתוב באתר עכשיו חשוב יותר ממה שהמודל זוכר, וזה מה שהופך תיקון באתר למשהו שרואים.
עודכן:
גלישה של המודל היא היכולת של המנוע להביא עמוד חי מהרשת בזמן שהוא מנסח תשובה, ולקרוא את מה שכתוב בו עכשיו. זה שונה משליפה מאינדקס. אינדקס מחזיק עותק שנסרק בעבר, ולפעמים לפני שבועות. גלישה מביאה את הגרסה של הרגע. כשהיא פועלת, מה שכתוב באתר היום גובר על מה שהמודל זוכר ועל מה שהאינדקס שמר.
היא מופעלת בכמה מצבים. משתמש מדביק כתובת ומבקש לקרוא אותה. המנוע מחליט שהשאלה דורשת מידע טרי, כמו מחיר או זמינות. או שתהליך של מחקר עמוק עובר עמוד אחרי עמוד. ברוב המקרים המשתמש לא יודע אם התשובה שלו הגיעה מזיכרון, מאינדקס או מגלישה, ולכן גם אתם לא יודעים, אלא אם בדקתם.
רוב מה שקורה במודלים איטי. אימון נמשך חודשים, אינדקס מתעדכן לפי קצב הסריקה, וזיכרון קפוא לא זז. גלישה היא היוצא מן הכלל. עמוד שתיקנתם בבוקר יכול להופיע מתוקן בתשובה בצהריים, אם המנוע פתח אותו. זו הסיבה שעסקים שמתקנים מידע שגוי מגלים לפעמים שהתיקון נראה מיד בסוג אחד של שאלות ובכלל לא בסוג אחר: הראשון עבר בגלישה, השני נענה מהזיכרון.
יש לזה תנאי אחד. הסורק שמבצע את הגלישה צריך להצליח להיכנס. אצל OpenAI זה ChatGPT-User, סורק שפועל ביוזמת אדם ולא ביוזמת המערכת, ואתרים שחסמו אותו יחד עם סורקי האימון מגלים שמשתמש ששלח למנוע קישור לאתר שלהם קיבל שגיאה במקום תוכן.
לא את מה שאתם רואים. הוא מקבל את קוד העמוד כפי שהשרת שלח אותו, ולרוב אינו מריץ את הסקריפטים שבונים את התוכן בדפדפן. אתר שהטקסט שלו נטען אחרי טעינה, דרך JavaScript, עלול להיראות לסורק ריק, וזה מוסבר בעמוד ה-JavaScript. הוא גם מגיע בלי מטמון ובלי סבלנות, ואם השרת עונה אחרי כמה שניות, העמוד עשוי להישמט מהתשובה הזו, כפי שמתואר בערך על זמן תגובה.
ויש את שכבת ההגנה. חומת אש שמאתגרת כל בקשה לא מוכרת תגיש לסורק דף אתגר במקום את העמוד. מבחינת המנוע, האתר ענה בזבל. מבחינתכם, הכול עובד, כי הבקשה מעולם לא הגיעה לשרת. אבחון של מצב כזה הוא מהשורות הראשונות בבדיקה הטכנית שלפני כל כתיבה.
היא לא ערובה להופעה. המנוע צריך קודם לדעת שהעמוד שלכם קיים, ואת זה הוא יודע מאינדקס חיפוש או מכתובת שמישהו נתן לו. גלישה מביאה עמוד שכבר נבחר, היא לא בוחרת אותו. הבחירה עצמה מתוארת בערכים על עיגון ועל יצירה מבוססת אחזור.
היא גם לא קבועה. אותה שאלה יכולה להפעיל גלישה בהרצה אחת ולהיענות מהזיכרון בהרצה הבאה. אין מתג שבעל אתר יכול להפעיל כדי לגרום למנוע לגלוש אליו.
נניח חנות לציוד קמפינג באזור המרכז שהעלתה את מחיר אוהל מסוים. לקוח שואל מנוע כמה עולה האוהל הזה בחנות, והתשובה נוקבת במחיר הישן. בעל החנות מזדעזע, כי העמוד עודכן לפני שבוע.
הוא בודק את התשובה ורואה שהמקור המצוטט הוא אתר השוואת מחירים, לא החנות. המנוע לא גלש לעמוד המוצר שלו. הוא שלף מהאינדקס עמוד של אתר אחר שמחזיק מחיר ישן. בעל החנות מנסה שוב, הפעם מדביק את כתובת עמוד המוצר בשאלה. עכשיו התשובה מציגה את המחיר החדש, כי המנוע פתח את העמוד וקרא אותו.
שני דברים נלמדו כאן. הראשון: העמוד נגיש לסורק ותקין, אחרת גם ההדבקה לא הייתה עובדת. השני: הבעיה היא לא באתר אלא בכך שהמנוע העדיף מקור אחר, ולכן העבודה היא על אתר ההשוואה ועל הסיבה שהעמוד של החנות לא נבחר מלכתחילה.
רוב הגלישה אליכם תגיע כשלקוח מדביק קישור שקיבל, למשל מחבר, ושואל את המנוע אם זה מתאים לו. העמוד צריך לענות על שאלה כזו בלי הקשר: מה עושים, איפה, כמה, ולמי לא. עמוד בית שכולו סיסמאות מחזיר למנוע כלום, ולמשתמש תשובה מאכזבת.
מחיר וזמינות הם בדיוק מה שמפעיל גלישה. אבל אם עמוד המוצר בונה את המחיר בסקריפט אחרי הטעינה, הסורק יראה עמוד בלי מחיר ויחזור לאתר השוואה. ודאו שהמחיר, המלאי והמפרט נמצאים בקוד שהשרת שולח, ולא רק במה שהדפדפן מצייר.
קונים עסקיים מבקשים מהמנוע לסכם עמוד מחירים או מסמך תאימות. מסמך שנעול מאחורי טופס לא נפתח לסורק, והמנוע יסכם את מה שמתחרה פרסם בפתוח. זו החלטה עסקית מודעת, אבל כדאי לדעת שזה המחיר שלה.
בדקו שלושה דברים, בסדר הזה. שהסורקים שמבצעים גלישה לא חסומים, לא בקובץ robots.txt ולא בשכבת ההגנה. שהתוכן החשוב נמצא בקוד שהשרת מחזיר, ולא רק אחרי הרצת סקריפט. ושהשרת עונה מהר גם לעמוד פנימי עמוק בטעינה ראשונה. אחרי זה, פעם בחודש, הדביקו כתובת של עמוד שירות בשאלה למנוע ובקשו סיכום. אם הסיכום נכון ומעודכן, הצינור פתוח. אם הוא שגוי או ריק, אחד משלושת הדברים נשבר, וסדר הבדיקה מפורט במדריך הטכני.
המלכודת היא לבדוק את הצינור בהדבקת כתובת ולהסיק ממנו על הנראות. הדבקת כתובת מכריחה את המנוע לפתוח את העמוד שלכם, ולכן היא תמיד תראה טוב אם הגישה תקינה. היא לא אומרת דבר על השאלה אם המנוע היה בוחר בעמוד הזה מעצמו. שני מדדים שונים, שתי בדיקות שונות. הטעות השנייה היא לחסום את סורק הגלישה יחד עם סורקי האימון, כי השם נראה דומה. התוצאה היא לקוח שקיבל שגיאה במקום את האתר שלכם, בדיוק ברגע שהתעניין.
אם המידע שלכם לא משתנה, למשל עסק ותיק עם שירות קבוע ומחיר יציב, ההבדל בין גלישה חיה לעותק באינדקס כמעט לא נוגע לכם. גם מי שעדיין לא נסרק ולא מופיע בשום אינדקס לא ירוויח מהעמקה כאן, כי גלישה מביאה עמוד שכבר נבחר ולא מוצאת עמודים חדשים. במקרה כזה הסדר הוא קודם נוכחות באינדקס, ורק אחר כך השאלה מה קורה כשפותחים את העמוד.
אין סימון מפורש. הסימנים העקיפים הם הפניות למקורות, פרטים שהשתנו לאחרונה ומופיעים נכון, ולפעמים הודעת המנוע שהוא מחפש. תשובה בלי הפניות היא כמעט תמיד מהזיכרון.
לא. ההחלטה אם לגלוש ולאן היא של המנוע. מה שבידיכם הוא לוודא שכשהוא מגיע, הוא מקבל עמוד מלא ומהיר, ושהעמוד נמצא באינדקס שממנו הוא בוחר.
לא. GPTBot אוסף לאימון. הגלישה לבקשת משתמש נעשית בידי ChatGPT-User, והשליפה לתשובות בידי OAI-SearchBot. שלושה שמות, שלוש שורות, והחסימה של אחד לא נוגעת לאחרים.
בדרך כלל לא. מדובר בבקשות בודדות, לעמוד מסוים, ביוזמת משתמש או תשובה. העומס שאתרים מרגישים מגיע כמעט תמיד מסורקי אימון שעוברים על אתר שלם, וזה מטופל בהגבלת קצב לסורק בשמו.
הסורק שפועל כשמשתמש מבקש מ-ChatGPT לפתוח עמוד מסוים בזמן אמת.
התהליך שבו מודל מריץ חיפוש אמיתי ומרכיב את התשובה ממקורות שמצא, במקום להסתמך רק על מה שלמד באימון.
שיטה שבה המודל שולף קודם מסמכים ממקור חיצוני ורק אז מנסח את התשובה על בסיסם, במקום להסתמך על מה שלמד באימון.
הזמן מרגע השאלה ועד התשובה.
השלב שבו הסורק הופך קוד לעמוד עם תוכן.
מצב שבו המנוע מריץ עשרות חיפושים, קורא עמודים שלמים ומרכיב דוח ארוך עם מקורות.
הערך נבדק מול המקורות הרשמיים של הפלטפורמות. כשמשהו אינו ידוע, כתוב כאן שהוא אינו ידוע. שינויים מתועדים בארכיון העדכונים.
בלי מצגת, בלי התחייבות ובלי שיחת מכירה. עשרים דקות שבסופן תדעו אם יש כאן משהו בשבילכם.
לא בקטע של טפסים? [email protected]