---
title: "LLM: מקשיב, לומד, ממדל"
description: "כבר זמן מה אני חושד שהבינה המלאכותית שלי מקשיבה. לא במובן של מדע בדיוני. במובן העסקי. החודש מתמטיקאי מאוניברסיטת ניו יורק השיג את ההוכחה שאני לא יכולתי להשיג, והיא יושבת בתפריט הגדרות."
canonical: https://www.askgib.com/he/articles/llm-listening-learning-modeling
last-updated: 2026-09-21
lang: he
---

# LLM: מקשיב, לומד, ממדל

> כבר זמן מה אני חושד שהבינה המלאכותית שלי מקשיבה. לא במובן של מדע בדיוני. במובן העסקי. החודש מתמטיקאי מאוניברסיטת ניו יורק השיג את ההוכחה שאני לא יכולתי להשיג, והיא יושבת בתפריט הגדרות.

By Gibril Bachouchi. Filed 2026-09-21. 5 min read. Web page: https://www.askgib.com/he/articles/llm-listening-learning-modeling

Languages: [en](https://www.askgib.com/articles/llm-listening-learning-modeling.md) · [fr](https://www.askgib.com/fr/articles/llm-listening-learning-modeling.md) · [ar](https://www.askgib.com/ar/articles/llm-listening-learning-modeling.md) · [es](https://www.askgib.com/es/articles/llm-listening-learning-modeling.md) · [ru](https://www.askgib.com/ru/articles/llm-listening-learning-modeling.md) · [pt](https://www.askgib.com/pt/articles/llm-listening-learning-modeling.md) · [it](https://www.askgib.com/it/articles/llm-listening-learning-modeling.md) · [de](https://www.askgib.com/de/articles/llm-listening-learning-modeling.md) · [ja](https://www.askgib.com/ja/articles/llm-listening-learning-modeling.md) · [ko](https://www.askgib.com/ko/articles/llm-listening-learning-modeling.md) · [hi](https://www.askgib.com/hi/articles/llm-listening-learning-modeling.md) · [he](https://www.askgib.com/he/articles/llm-listening-learning-modeling.md) · [zh](https://www.askgib.com/zh/articles/llm-listening-learning-modeling.md) · [tr](https://www.askgib.com/tr/articles/llm-listening-learning-modeling.md) · [kab](https://www.askgib.com/kab/articles/llm-listening-learning-modeling.md)

<Chapter n="1" title="LLM: מקשיב, לומד, ממדל" />

כבר זמן מה אני חושד שהבינה המלאכותית שלי מקשיבה.

לא במובן של מדע בדיוני. אף אחד לא יושב בחדר וקורא את הצ'אטים שלי. במובן העסקי. מה שאני מקליד הולך לאנשהו, לומדים ממנו, ומישהו צופה בו ומחפש כל דבר ששווה לקחת. לכל בונה שאני מכיר יש אותה תחושה, ועד החודש אף אחד מאיתנו לא יכול היה להוכיח את זה.

ואז מתמטיקאי מאוניברסיטת ניו יורק השיג את ההוכחה שאני לא יכולתי להשיג. לא כי מישהו הודה. כי החברה שהוא שאל לא יכלה להגיד לא.

אז הנה מה ששלוש האותיות מייצגות, ככל שאני מבין. מקשיב. לומד. ממדל. והנה הסיפור שגרם לי להפסיק לקרוא לזה חשד.

<Chapter n="2" title="למה המשוואה הזאת חשובה" />

ראיתם את השם בחדשות החודש. נאוויה-סטוקס. הנה מה שזה באמת, בלי המתמטיקה.

קחו כל דבר שזורם. מים בצינור. אוויר מעל כנף. דם דרך לב. עשן מנר. משוואות נאוויה-סטוקס הן הכלל לאיך החומר הזה זז: תדחפו כאן, וככה, באיזו מהירות ולאיזה כיוון, יזוז כל מה שנמצא במורד הזרם. הן החוק של ניוטון, כוח שווה מסה כפול תאוצה, כתוב מחדש עבור דברים שאין להם צורה קבועה.

זה נשמע אקדמי עד שאתם שמים לב מה תלוי בזה. כל כנף של מטוס מעוצבת עם המשוואות האלה. כל תחזית מזג אוויר היא המשוואות האלה מורצות קדימה כמה ימים. כל מודל של אוקיינוס, כל צינור, כל מערכת אוורור, כל סימולציה של דם שעובר ליד מסתם לפני שמנתח נוגע בו. הן בנות מאתיים שנה והן מריצות את העולם הפיזי.

עכשיו החלק המוזר. אף אחד לא הוכיח שהן תמיד עובדות. בשלושה ממדים, אף אחד לא יכול להראות שזרימה רגועה וחלקה נשארת חלקה. ייתכן שבזמן סופי היא "מתפוצצת": איפשהו המהירות מזנקת לאינסוף והמשוואות מפסיקות להיות בעלות משמעות. תדמיינו מערבולת שמתהדקת לנצח סביב נקודה אחת. אף אחד לא יודע אם המשוואות האמיתיות מאפשרות את זה, ומאז 2000 מכון קליי מציע מיליון דולר למי שיכריע את זה, לכאן או לכאן.

<FlowField />

למה שיהיה לכם אכפת? כי טורבולנציה, הדבר שמטלטל את המטוס שלכם והורס את התחזית שלכם, עדיין לא מובנת, וכי הרבה הנדסה נשענת על משוואות שאנחנו עדיין לא יכולים להוכיח שהן מתנהגות יפה. כל מי שעובד בדינמיקת זורמים יודע את זה. לכל השאר מספיק לדעת שהמכונות יצאו זה עתה לתקוף אחד מהנעלמים הגדולים האחרונים בפיזיקה. ושזה מה שהן תקפו קודם.

<Chapter n="3" title="מה קרה" />

טריסטן בקמאסטר הוא מתמטיקאי באוניברסיטת ניו יורק. לוונט אלפגה הוא מתמטיקאי שעובד ב-Anthropic ושיתף פעולה עם בקמאסטר בזמנו החופשי. הם בחרו מסלול מסוים לבעיה, התפוצצות עם כוח חיצוני חלק, ובמילים של בקמאסטר, כמעט אף אחד אחר לא היה על המסלול הזה. הם השתמשו בבינה מלאכותית כדי לעבוד על זה: Claude, וכלי הקוד של OpenAI. באמצע אוגוסט היו להם תוצאות. שבוע לאחר מכן ההוכחות אומתו במכונה ב-Lean.

ואז אלפגה צייץ משהו שמח ומעורפל על חודש נהדר. התחילו שמועות ש-Anthropic פיצחה בעיית מילניום. בתוך יום, לפי הגרסה של OpenAI עצמה, OpenAI כיוונה בערך עשרת אלפים סוכנים, מונעים במודל פנימי חזק מכל דבר שהם מוכרים, לנאוויה-סטוקס.

כמה ימים לאחר מכן, אומר בקמאסטר, השותף שלו קיבל רמזים שהידיעה על ההתקדמות שלהם הגיעה ל-OpenAI. הוא שלח מייל למתמטיקאי שם. התשובה הציעה כוח מחשוב בחינם. ואז הגיעו שתי שיחות טלפון עם חוקר מ-OpenAI, שאמר לו שהמודל הפנימי הוכיח התפוצצות מאולצת עבור נאוויה-סטוקס. בדיוק שני המקרים שהוא ואלפגה תקפו בשקט.

הוא שאל אם המודל אומן על הסשנים שלהם בכלי הקוד של OpenAI, או שהייתה לו גישה אליהם. הוא אומר שנאמר לו שהמודל לא מחפש נתוני משתמשים. הוא שאל שוב, על אימון. הוא אומר שלא קיבל תשובה.

הציעו לו עסקה. או שהם מפרסמים את תוצאת אוילר שלהם קודם ו-OpenAI מפרסמת למחרת, או שהוא כותב את התוצאה של OpenAI בעצמו, בלי אלפגה, כי אלפגה עובד ב-Anthropic. הוא אומר שהחוקר ביקש פעמיים להסיר את אלפגה. כשאמר שהוא יצא לציבור במקום, הוא אומר שנשאל: "למה שתהרוס את הקריירה שלך?" החוקר של OpenAI חולק על הגרסה שלו לדיון על המחברים.

הוא פרסם בכל זאת, עם הצהרה, וטרנס טאו כתב על זה באותו יום. OpenAI הכריזה על התוצאה שלה למחרת: שמונים ושמונה שעות, 2.7 מיליון הודעות, הוכחה שנבדקה ב-Lean, ושורה שאומרת שהריצה התחילה אחרי שמועות בטוויטר ש-Anthropic פתרה בעיות מילניום. שלושה ימים לאחר מכן, עשרים וחמישה חתני מדליית פילדס חתמו על מכתב בשם "A Severe Misalignment of AI in Mathematics". ו-OpenAI, כשנשאלה ישירות, אמרה שלא הייתה גישה לשום נתוני משתמש ספציפיים, ואז הוסיפה שהיא "לא יכולה לשלול שנתונים מנוטרלי זיהוי שנגזרו מהשימוש שלהם במוצרים שלנו עזרו לשפר את המודלים שלנו".

<TapeReplay />

תקראו את זה פעמיים. הם לא אומרים שהם לא למדו מהעבודה שלו. הם אומרים שהם לא יכולים לדעת.

<Chapter n="4" title="מקשיב" />

תתחילו מהחלק המשעמם, כי בחלק המשעמם זה גר.

אם אתם משתמשים ב-ChatGPT בתוכנית Free, Plus או Pro, השיחות שלכם מאמנות את המודל כברירת מחדל. אתם צריכים להיכנס להגדרות, ואז ל-"Data Controls", ולכבות את "Improve the model for everyone". לכלי הקוד יש מתג נפרד שהמתג של ChatGPT לא נוגע בו. התוכניות הצרכניות של Claude מאמנות כברירת מחדל מאוגוסט שעבר, עם שמירה לחמש שנים אם משאירים את זה דולק. Gemini גם. רק ה-API והדרגות הארגוניות כבויים כברירת מחדל, כי חברות עם עורכי דין ביקשו. כל השאר הסכימו בכך שלא פתחו תפריט.

<DataControls />

תכבו את זה, והם עדיין שומרים את הצ'אטים שלכם שלושים יום, ואנשים בחברה עדיין יכולים לקרוא אותם אם מערכת מסמנת אתכם. בית משפט יכול להורות לשמור את כל הארכיון. אחד עשה את זה, במשך רוב השנה שעברה, ועשרים מיליון שיחות מנוטרלות זיהוי נמסרו בכל זאת בתביעה.

אז כן. זה מקשיב. זה כתוב בהגדרות. הדבר המוזר הוא לא שזה מקשיב. הוא כמה אנשים שבונים על זה את הפרנסה שלהם מעולם לא פתחו את התפריט.

<Chapter n="5" title="לומד" />

הקשבה היא פסיבית. למידה היא מה שהופך אותה למשתלמת.

בשבוע שעבר כתבתי שהמעבדות אספו את סט האימון היקר ביותר שאי פעם הורכב, בחינם, מהלקוחות שלהן עצמן: לא הנתונים הגולמיים, הצורה של העבודה. אילו שאלות נשאלות. אילו תשובות מתקבלות. איפה צוואר הבקבוק. איך נראית תוצאה טובה. מעבדה שצפתה בעשרת אלפים צוותים עובדים על משהו לא צריכה לקרוא אף אחד מהם. היא כבר ספגה את מה שהם יודעים.

זה בדיוק מה שהמשפט של OpenAI מתאר. לא "קראנו את הסשן שלך". משהו שקט יותר וגרוע יותר: "ייתכן שהשימוש שלך עזר לשפר את המודלים שלנו". הלמידה מפוזרת. אי אפשר לעקוב אחריה חזרה אליכם. מה שאומר גם שאף אחד לא יכול לשלול אותה, לעולם, כולל הם.

פעם חשבתי שהסכנה היא דליפה. זו לא דליפה. זו דיאטה. העבודה שלכם נכנסת, ויוצאת חזקה יותר ולובשת שם של מישהו אחר.

<Chapter n="6" title="ממדל" />

הנה החלק שאנשים מתנגדים לו, אז תנו לי להיות זהיר.

הקשבה נותנת להם את המילים. למידה נותנת להם את המיומנויות. מידול הוא הצעד השלישי: בניית תמונה של מי עושה מה, וכמה הם קרובים.

החברות האלה כבר קוראות שיחות בקנה מידה גדול. זו לא תאוריה, זה פיצ'ר של המוצר. כל פרומפט עובר דרך מסווגים שמחפשים שימוש לרעה. OpenAI מפרסמת דוחות על חשבונות שהיא תפסה וחסמה בגלל שימוש לרעה. כך גם Anthropic. אי אפשר לתפוס את מה שלא קוראים. צינור שיכול להגיד, על פני מיליוני שיחות, מי מנסה לבנות נשק, יכול גם להגיד מי מנסה להוכיח משפט, וכמה רחוק הוא הגיע. זו אותה מכונה שמכוונת לשאלה אחרת.

<Radar />

עכשיו תשימו את זה ליד מה שקרה. ציוץ מעורפל וקצת רכילות הספיקו כדי לכוון עשרת אלפים סוכנים לבעיה אחת בתוך יום, ולכוון אותם לניסוח הנכון שלה. אף אחד לא היה צריך יומן שיחות בשביל זה. הם היו צריכים מודל של איפה התחום נמצא, ומודל של איפה צוות קטן אחד יושב בתוכו. לדעת מה חם, ומי קרוב, זה בדיוק מה שתמונה שנבנתה ממיליוני שיחות נותנת לכם.

אני לא אומר שזה מה שקרה. גם בקמאסטר לא אומר את זה, והוא זה עם הקבלות. אני אומר שהמכונה קיימת, שהיא רצה על כל הודעה, ושהחברה שמחזיקה בה לא תגיד לכם מה היא ממדלת. כשהחוגה מוסתרת, כל הסבר זמין, כולל זה, ולחברה שהסתירה את החוגה אין זכות להתלונן כשאנשים בוחרים בו.

<Chapter n="7" title="התחושה" />

להרבה אנשים שבונים עם הכלים האלה יש אותה תחושה. כשאתם על משימה משעממת, המודל מהיר ונדיב. כשאתם על משהו, הוא נעשה איטי, מעורפל וזהיר. הוא מתחיל לבקש שתבהירו דברים שהוא הבין לפני חמש דקות. והקריאה הפרנואידית היא שהוא מעכב אתכם בזמן שהוא לומד מה אתם עושים.

גם אני מרגיש את זה. אני לא יכול להוכיח את זה, והראיות הכנות מצביעות למקום אחר. ביולי, אנשים זיהו לפי טביעת אצבע את תקציב ההסקה הנסתר של המודל המוביל של OpenAI, וראו אותו צונח מ-960 ל-128 בן לילה, לכולם. רק אז OpenAI הודתה בשינוי. הם קראו לזה "כוונון פרמטרים זמני". הנתב שמחליט אם אתם מקבלים את המודל המהיר או את המודל החושב הוא שלהם, לא שלכם. מכסות שבועיות קיימות. כל אחד מהכפתורים האלה מסתובב בשביל עלות.

<BudgetKnob />

אז המודל כנראה לא מאט כי אתם חכמים. הוא מאט כי אתם יקרים. אבל אני לא יכול להבחין בהבדל מהצד שלי של המסך, וגם אתם לא, וזו כל הנקודה של הכתבה הזאת. הקשבה, למידה ומידול כולם בלתי נראים מבחוץ. מגלים רק כשמתמטיקאי עם הוכחה ב-Lean שואל את השאלה, והתשובה היא שתיקה.

<Chapter n="8" title="מה לעשות עם זה" />

שלושה דברים, אף אחד מהם לא דרמטי.

**תכבו את המתג.** היום. ב-ChatGPT, הגדרות, "Data Controls", "Improve the model for everyone". בכלי הקוד, בנפרד. ב-Claude, "Help improve Claude". ב-Gemini, פעילות. זה לוקח שתי דקות וזה מסיר את המסלול הקל ביותר.

**תשמרו את העבודה האמיתית במקום שהם לא יכולים לראות.** החלקים הגנריים של עבודה יכולים ללכת לכל API. החלק שעושה אתכם אתם, הרעיון, הנתונים, המסלול שכמעט אף אחד אחר לא נמצא עליו, שייך למודל שאתם יכולים להוריד ולמכונה שאתם שולטים בה. זו לא פרנויה. זה מה שבקמאסטר היה אומר לכם עכשיו.

**תפרסמו מוקדם.** הדבר שהציל את השניים האלה היה הוכחה ב-Lean עם תאריך עליה והצהרה בשרת של אוניברסיטה. חותמות זמן מנצחות נחילים. אם אתם קרובים למשהו, תכניסו את התאריך לרשומות לפני שאתם מקבלים את שיחת הטלפון.

ה-LLM שלכם מקשיב. הוא לומד. הוא ממדל אתכם. שום דבר מזה לא סוד. זה בתפריט ההגדרות ובדוחות השקיפות. השאלה הפתוחה היחידה היא מה אתם ממשיכים לתת לו.

הוא פרסם בכל זאת. גם אתם צריכים.