17 באוגוסט 2026 · 6 min read
האינטליגנציה הבלתי נצפית של מודלי השפה הגדולים
כולם מסתכלים על השאלה ועל התשובה. האינטליגנציה נמצאת באמצע, ואף אחד לא מסתכל עליה. עשרה ימים ב-Hexa, שוק אמיתי, והשכבה בערימה שאף אחד עוד לא בבעלותו.
האינטליגנציה הבלתי נצפית של מודלי השפה הגדולים
מכונה מתארת מותגים ללקוחות שלהם, בפסקה שהם אף פעם לא רואים כתובה, שנבנית ממקורות שהם אף פעם לא בחרו. רוב המותגים משלמים כיום למישהו כדי למדוד את זה.
כולם מסתכלים על השאלה ועל התשובה. האינטליגנציה נמצאת באמצע, ואף אחד לא מסתכל עליה.
הבעיה: אף אחד לא יודע מה קורה באמצע
פעם אנשים הקלידו מילות מפתח בתיבה וקיבלו עשרה קישורים כחולים. אפשר היה למדוד את זה. דירוג 3 על "נעלי ריצה", דירוג 8 על "נעלי ריצה בשטח". משעמם, אבל כנה.
היום אנשים מקלידים משפט. מודל קורא אותו, מחליט מה הם התכוונו באמת, מפרק אותו לחלקים, הולך לחפש דברים, זורק רוב מזה, וכותב פסקה. המותג או מופיע בפסקה הזו או לא.
כל מה שחשוב קורה באמצע. והאמצע הוא קופסה שחורה.
Prompt
best CRM for a small team
Intent distilling
What do they actually want? A CRM recommendation for a team of a few people.
Decomposition
- best CRM small team
- what CRM should a 5 person startup use
- CRM price per seat
Retrieval
- review site · A
- forum thread · B
- vendor page · A
- listicle · B C
- news · C
- comparison · A B
Selection & ranking
- review site · A
- forum thread · B
- vendor page · A
- listicle · B C
- news · C
- comparison · A B
Synthesis
Writes one paragraph from what was kept. Brand B was in the sources. It is not in the paragraph.
Answer
For a small team, Brand A is a strong pick…
What happens between the prompt and the answer: intent distilling, decomposition, retrieval, selection and ranking, synthesis. Only the prompt and the answer are observable.
כל אחד מהחיצים האלה הוא מקום שבו מותג נכנס, או נשלף החוצה. אף אחד שמוכר GEO היום לא יכול להגיד לכם איזה חץ הרג אתכם. הם יכולים רק להגיד שלא הופעתם בפסקה הסופית.
זו בעיה סטטיסטית, לא בעיית דירוג
הנה מה ששובר את המוח של אנשים שבאים מ-SEO.
שואלים את אותה שאלה פעמיים, מקבלים שתי תשובות שונות. שואלים בצורה קצת אחרת, מקבלים קבוצת מקורות אחרת. שואלים מחר, שוב משהו אחר. אין דירוג 3. יש התפלגות.
לכן העבודה היא עבודת דגימה:
- לא מריצים פרומפט. מריצים אותו n פעמים. תשובה אחת היא אנקדוטה. מאה תשובות הן מדידה. שיעור אזכור של 34% ± 6 אומר משהו. "הופענו" לא אומר כלום.
- מקבצים פרומפטים לפי כוונה, לא לפי מחרוזת. "ה-CRM הכי טוב לצוות קטן" ו"איזה CRM צריכה סטארטאפ של 5 אנשים" הן אותה שאלה בלבוש אחר. אם מתייחסים אליהן כשתי מילות מפתח, סופרים פעמיים ומטעים את עצמכם.
- מודדים יותר מנוכחות. שיעור אזכור. נתח קול מול מתחרים בשם. מיקום בתשובה. סנטימנט כשמזכירים. איזה מקור צוטט כדי להצדיק את האזכור.
- עוקבים אחרי השונות, לא רק אחרי הממוצע. מותג שמוזכר ב-90% מהמקרים במודל אחד וב-10% במודל אחר לא נמצא בבעיה של 50%. יש לו שתי בעיות שונות.
- צריך קבוצת בקרה. אחרת אי אפשר להבחין אם התוכן שלכם עשה משהו, או שפשוט המודל עודכן ביום שלישי.
זו עמוד השדרה האנליטי של כל הקטגוריה: תכנון דגימה, קיבוץ, ייחוס, מרווחי סמך. זה קרוב יותר למחקר סקרים מאשר ל-SEO.
—
n = 0 · mentioned 0
Run the prompt. One answer is an anecdote.
המתמטיקה שבאמת מרוויחה את מקומה
ארבעה כלים עושים כאן את רוב העבודה.
מרווח ווילסון, לשאלה "אנחנו בטוחים?" שיעור אזכור הוא פרופורציה, וקירוב הנורמלי מתפרק בדגימות קטנות ובשיעורים קרובים ל-0 או ל-1, וזה בדיוק המקום שבו מותגים חיים. ווילסון לא מתפרק. והוא אומר לכם מראש מה גודל הדגימה שצריך: כדי למדוד שיעור אזכור בדיוק של ±5 נקודות ברמת ביטחון של 95% צריך בערך 400 הרצות של אשכול הפרומפטים הזה. בדיוק של ±10 נקודות, בערך 100. אם הדשבורד שלכם מדווח מספר על בסיס 20 הרצות, הוא מדווח רעש.
עדכון Beta-Binomial, לשאלה "זה זז?" מודלים את שיעור האזכור של כל אשכול פרומפטים כהתפלגות אחורית Beta. הנחת יסוד מהחודש שעבר, סבירות מההרצות של השבוע, והתפלגות אחורית בקצה השני. זה מטפל בדגימות קטנות בכנות, צובר ראיות לאורך זמן במקום לזרוק את השבוע שעבר, ונותן ישירות את P(השיעור עלה), במקום ערך p שאף אחד לא יכול לפרש.
בייס, לשאלה "איזה מנוף הזיז את זה?" זה הדבר שאנשים מדלגים עליו. אתם רואים אזכור. מה שאתם רוצים לדעת הוא P(העמוד החדש שלנו גרם לזה | אזכור), ומה שאתם יכולים למדוד הוא P(אזכור | העמוד מצוטט). בייס הופך את זה, וההנחה היא שיעור הבסיס של אזכור בלי העמוד בכלל. מריצים את זה, ורוב הטענות של "התוכן שלנו עבד" קורסות. שיעור הבסיס כבר היה גבוה, ואף אחד לא בדק. אותו טריק לשרשרת המקורות: בהינתן אזכור, איזה מהנכסים שלכם צוטט, משוקלל לפי כמה פעמים הנכס הזה מצוטט בכלל.
דיברגנץ KL, לשאלה "כמה רחוקה קבוצת הסינתטיים שלנו מהמציאות?" מקבצים פרומפטים לפי כוונה, מקבלים התפלגות על פני האשכולות עבור קבוצת הסינתטיים שלכם, והתפלגות על פני האשכולות עבור תעבורה אמיתית, ומודדים את הפער. KL (או Jensen–Shannon, שהוא סימטרי וחסום, ולכן קל יותר לדווח עליו) נותן מספר אחד לכמה שגויה קבוצת הפרומפטים המדומה שלכם. בלי פרומפטים אמיתיים אי אפשר לחשב אותו בכלל, וזו הבעיה השקטה של כל פלטפורמה שעובדת רק עם סינתטיים. הן לא יכולות למדוד את השגיאה של עצמן.
עוד שניים, בקצרה: הפרש הפרשים (difference-in-differences) מול קבוצת בקרה של מותגים מתחרים, כך שעדכון מודל ביום שלישי לא נרשם כניצחון שלכם; ותיקון להשוואות מרובות, כי אם בודקים 200 אשכולות פרומפטים ב-p<0.05, מקבלים עשר תוצאות "מובהקות" מסיבת מקרה טהורה.
מה מצאתי בשוק
השתמשתי בעשרת הימים כדי באמת לדבר עם אנשים. חברות שיש להן את הבעיה, וחברות שמוכרות את הפתרון. Profound ושאר הקהל הזה.
השוק אמיתי. הכאב אמיתי. מותגים צופים בערוץ שהם לא רואים, והוא גדל.
אבל כמעט כולם פועלים על פרומפטים סינתטיים. מודל מייצר רשימה של שאלות שלקוחות "עשויים" לשאול, והפלטפורמה מודדת את אלה. זה חכם. זה עובד מספיק טוב כדי למכור. גם אני בניתי עם נתונים סינתטיים, וקיבלתי אות שימושי מהר.
זה עדיין ניחוש. ניחוש מלובש היטב לגבי מה שבני אדם באמת מקלידים. והבעיה השנייה גרועה יותר: גם עם פרומפטים מושלמים, אתם צופים רק בקלט ובפלט. האמצע עדיין חשוך. אתם לא מקבלים את תתי-השאלות. אתם לא מקבלים את השאילתות שהופעלו. אתם לא מקבלים את המקורות שנשקלו והושלכו.
שרטטו את הלולאה, ותראו איפה היא נשברת.
The working loop
The loop everyone runs
שני שברים, והם מצטברים. שבר 1 אומר שאתם מייעלים לשאלות שאף אחד לא שאל. שבר 2 אומר שגם כשאתם מנצחים, אתם לא יכולים לומר איזה שינוי שלכם עשה את זה, ולכן גם ההחלטה הבאה היא ניחוש. לולאה בלי משוב נקי היא לא לולאה. היא הליכון עם דשבורד מוברג עליו.
הפרס הוא הנתונים הגולמיים. פרומפטים אמיתיים, סשנים אמיתיים, שלבי ביניים אמיתיים. מי שיש לו אותם לא מנחש לגבי האמצע. הוא יכול לראות אותו.
איפה חברות GEO נמצאות בפועל בערימה
כל תעשיית נתונים מגיעה לאותן שלוש שכבות, וכדאי לדעת באיזו מהן אתם נמצאים.
שכבה 1: איסוף. הבעלות על הנתונים הגולמיים במקור. פאנלים, סורקים, קליקסטרים, קבלות, רישומי תקשורת. איטי לבנייה, יקר, לא נוצץ. השולים הטובים ביותר, והקשה ביותר להעתיק.
שכבה 2: אנליטיקה. מרשה או קונה נתונים גולמיים, מנקה אותם, מנרמל אותם, הופך אותם למדדים ולבנצ'מרקים, ומוכר דשבורד. רוב הסטארטאפים חיים כאן, כי זה המקום הקל ביותר להתחיל בו.
שכבה 3: הפעלה. לוקחת את המדדים ועושה את העבודה. סוכנויות, כלים, חנויות תוכן. הכי קרובה לתקציב של הלקוח, השולים הנמוכים ביותר.
בדרך כלל יושב גם מתווך בין 1 ל-2, כמו LiveRamp, Snowflake Marketplace או מוכרי נתוני כרטיסי אשראי, שהתפקיד היחיד שלו הוא להעביר נתונים מאנשים שיש להם אותם לאנשים שרוצים אותם.
SEO הישן מתאים לזה בצורה נקייה. האיסוף היה סורקים ופאנלי קליקסטרים שנמכרו בשקט על ידי תוספי דפדפן וספקי אינטרנט. האנליטיקה היתה Semrush ו-Ahrefs, ושימו לב שהם בנו סורקים משלהם, כלומר הם מחזיקים בשכבות 1 ו-2, וזו בדיוק הסיבה שהם גדלו. ההפעלה הייתה כל סוכנות SEO בעולם.
שני כללים נובעים מזה, והם קובעים מי שורד:
- שכבה 2 לבדה הופכת לסחורה. אם עשר חברות מרשות את אותה הזנה, כולן מדווחות את אותם המספרים, ומתחרות על ממשק ומחיר.
- שכבה 1 יכולה לטפס ל-2 ול-3 מתי שהיא רוצה. זה לעולם לא עובד בכיוון ההפוך.
עכשיו הסתכלו על GEO היום. כמעט כל שחקן הוא עסק שכבה 2 בלי שכבה 1 מתחתיו. אין הזנה לרישיון, כי הנתונים נמצאים בתוך יומני הצ'אט של מישהו אחר. אז הם מייצרים את הקלט החסר, פרומפטים סינתטיים, ומוכרים אנליטיקה על נתונים שהמציאו.
פרומפטים אמיתיים וסשנים אמיתיים הם שכבה 1 של התעשייה הזו, ואף אחד עוד לא מחזיק בה.
- Layer 3 · Activationagencies, tools, content shops
- Layer 2 · Analyticsalmost every GEO player, on synthetic prompts
- ↕ brokerLiveRamp, Snowflake Marketplace, card-data resellers
- Layer 1 · Collectionreal prompts and real sessions: nobody owns it yet
אז למה שמישהו ייתן לכם את הנתונים שלו?
הם לא ייתנו. זה כל המשחק, וכאן רוב הרעיונות בתחום הזה מתים בשקט.
אף אחד לא מתעורר ורוצה למכור לכם את היסטוריית הפרומפטים שלו. יש רק שתי דרכים כנות להיכנס:
- לבנות משהו שאנשים רוצים מסיבה אחרת לגמרי. שירות שעומד על רגליו, שהם היו משתמשים בו גם אם מעולם לא הייתם נוגעים בנתונים. הנתונים הם תוצר לוואי של ערך שכבר סיפקתם. כך עבד כל עסק נתונים שאי פעם עבד.
- לשלם על זה. ישירות. לקנות את הנתונים מאנשים שמחזיקים בהם, ולהיות ברור לגבי מה קונים ולמה.
כל השאר הוא או בעיית פרטיות או משאלה.
האילוץ הזה אינו הערת שוליים לעסק. הוא הוא העסק. כל חברת GEO שמגיעה לנתוני התנהגות אמיתיים לפני המתחרים שלה לא מנצחת ב-10%. היא מפסיקה לנחש בזמן שכולם עוד מנחשים.
למה אני עדיין חושב שזה אחד המקומות הטובים להיות בהם
הסוכן כבר מזקק כוונה מהפרומפט שלכם. הוא כבר מחליט מה לחפש. הוא כבר מחליט מה לשמור. המנגנון הזה נבנה כעת, על ידי כולם, במהירות רבה.
הבנה של מה שקורה בין הפרומפט לתשובה, אילו פעולות מובילות לאיזו תשובה, והשגת זה מנתונים אמיתיים ולא מנתונים מדומים, תהיה חשובה לכל חברה שמוכרת משהו.
ועכשיו החלק השקט, כי רוב האנשים שמוכרים לתחום הזה לא יגידו את זה. זה מקום טוב להיות בו לזמן מוגבל.
שני דברים סוגרים את החלון.
הראשון הוא החוק. זכויות הנתונים זזות בכל תחום שיפוט בבת אחת, וכולן זזות לאותו כיוון. לאסוף נתוני התנהגות, להשתמש בהם ולמכור אותם מחדש, כל אחד מהם נעשה קשה יותר, איטי יותר ויקר יותר. עסק שכל היתרון שלו הוא החזקת פרומפטים אמיתיים וסשנים אמיתיים, הוא עסק שכל היתרון שלו הוא תקנה אחת מלהפוך לאחריות.
השני הוא שהנתונים מפסיקים להיות מיוחדים. מה שאמרתי קודם, שפרומפטים סינתטיים הם ניחוש מלובש היטב, נכון היום ופחות נכון בכל רבעון. תסתכלו שוב על האנטומיה של האמצע. זיקוק כוונה, פירוק, אחזור, בחירה. כל אחד מאלה הוא שלב שמודל מבצע, כלומר זה שלב שאפשר לבקש ממודל לבצע שוב, לפי דרישה. ברגע שמודל יכול לשחזר התפלגות מציאותית של מה שאנשים באמת שואלים, הפרמיה על כך שצפינו בזה מתמוטטת.
העלות לעשות את זה בעצמכם יורדת באותו זמן. הרצת אשכול פרומפטים כמה מאות פעמים וביצוע הסטטיסטיקה עליו אינה חישוב יקר, והיא נעשית זולה יותר בכל שנה. היום קונים פלטפורמה לזה. בקרוב זו תהיה משימה מתוזמנת בתוך המחסנית שלכם, ואף אחד לא קונה דשבורד למשימה מתוזמנת.
ואז הלחץ האחרון, וזה מה שהייתי שם לב אליו. המעבדות הגדולות מחזיקות בחלק היחיד באמת לא נצפה של כל זה. ככל שהמודל עצמו הופך לסחורה, והוא הופך לסחורה, הן צריכות הכנסה שאינה טוקנים. מכירת נראות מובנית לגבי מה שקרה בין הפרומפט לתשובה היא הגיוון הברור, והן היחידות שיכולות למכור את זה בלי לבקש רשות מאף אחד. באותו יום, כל חברת GEO עצמאית תמכור מחדש משהו שהספק שלה יכול להציע ישירות.
אז צפו לרעש. סבבי גיוס גדולים, תארים גדולים, וקטגוריה שנראית כמו ה-Semrush הבא, לכשלוש שנים. חלק מהכסף הזה אמיתי. רוב החפירות לא.
אני עדיין חושב שזה אחד המקומות הטובים להיות בהם. אני פחות בטוח שזה מקום טוב להישאר בו.
החלק שבו אני אומר לכם שזה אמיתי
גיליתי את כל זה במהלך עשרה ימים במאיץ Hexa. מגיעים, הם נותנים לכם בעיה, והתפקיד שלכם הוא להוכיח שלרעיון שלהם יש ערך. זה ההסכם.
זה לא ניסוי מחשבתי. הרעיון יצא מאותם עשרה ימים עם מספיק מאחוריו, כך ש-Hexa תשים כ-€750,000 בבנייה שלו, ותקדם אותו יחד עם השותף שלי.
לא נבחרתי להמשיך, אבל עדיין היו אלה אחד מעשרת הימים הטובים ביותר שהיו לי זמן רב. בעיה אמיתית, משתמשים אמיתיים על הטלפון, שוק אמיתי, בלי הצגה. העבודה עמדה במבחן.
הייתי עושה את זה שוב מחר (אבל הפעם עם YC 🤣).