כשיריבים מסכימים

Reel 0101 / 10

כשיריבים מסכימים

◆

משהו מוזר קורה בצמרת תעשיית הבינה המלאכותית.

מעבדות החזית התחילו לדבר על האטה. פערים ארוכים יותר בין שחרורים. יותר בדיקות לפני שמודל יוצא. פחות מרוץ, יותר עצירה. ובאותה נשימה, בקשה שהממשלות יתיישרו לאותו קו.

אלה חברות שגונבות זו מזו חוקרים, תובעות זו את זו, ומדליפות זו על זו לעיתונות. הן לא מסכימות כמעט על כלום. ועכשיו, בהפרש של כמה חודשים זו מזו, כולן נחתו על אותו רעיון.

זה החלק שמעניין אותי. לא ההאטה. ההסכמה.

Reel 0202 / 10

יריבים לא מתכנסים במקרה

◆

כשאנשים שלא סובלים זה את זה פתאום אומרים את אותו הדבר, יש בדרך כלל רק שני הסברים.

הראשון הוא שהם יודעים משהו שכולנו לא יודעים.

השני הוא שהאינטרסים שלהם התיישרו. אף אחד לא תיאם. הקרקע זזה מתחת לכולם בבת אחת, ואותו מהלך הפך למהלך הטוב ביותר לכל אחד מהם. גם אויבים יודעים לקרוא לוח. כשכיוון אחד הוא בבירור הדרך להמשיך להרוויח, כולם הולכים לשם, והם לא צריכים לחבב זה את זה כדי לעשות את זה.

רוב הזמן זה קצת משניהם. אז הנה שני הסיפורים שאני יכול לספר, ולמה אני חושב ששניהם נכונים.

Reel 0303 / 10

סיפור ראשון: ההתייצבות

◆

החזית נתקלת בתשואה פוחתת.

המעבדות עדיין משפרות את המודלים שלהן. רק לא בקצב שהשוק תמחר. ריצות אימון עולות מיליארדים. המשקיעים מצפים שכל דור יהיה קפיצה מעל הקודם, והקפיצות נעשות קשות יותר להצגה. מודל שמקבל כמה נקודות יותר בבנצ'מרק לא מצדיק שווי שהוכפל.

בעולם כזה, "אנחנו מאטים למען הבטיחות" הוא משפט מאוד שימושי. הוא הופך תקרה טכנית לבחירה מוסרית. הוא מגן על השווי, שומר על המזומנים, ומרחיק את החברה מהשוק הציבורי עד שהיא יודעת אם העקומה היא עדיין עקומה.

אם זה מה שקורה, ההאטה היא לא החלטה. היא תיאור, מחופש להחלטה.

Reel 0404 / 10

סיפור שני: המגירה

◆

ההפך. למעבדות יש משהו טוב משמעותית שיושב בפנים, והן לא רוצות לשחרר אותו.

טוב יותר בהסקה אוטונומית. טוב יותר בקוד. טוב יותר בשיפור עצמי, או בתיאום עם עותקים של עצמו. תשחררו את זה בגלוי והאקוסיסטם של המשקלים הפתוחים והמעבדות הסיניות ילמדו אותו, ישחזרו אותו, וישווקו אותו בעשירית מהמחיר תוך שנה. כתבתי לפני כמה שבועות על כמה מהר הלולאה הזאת רצה עכשיו. הפער בין החזית הסגורה לפתוחה נמדד בחודשים.

אז התמריץ הוא להשאיר את הדבר הטוב ביותר במגירה. להשתמש בו בפנים. לתת לו לכתוב את המודל הבא. למכור גישה לשכבה שמתחתיו. ולהגיד, בפומבי, שהעולם לא מוכן.

המסה האחרונה של דריו אמודיי נוטה לכיוון הזה. הוא מונה שיפור עצמי רקורסיבי ונחילים של סוכנים אוטונומיים בתור הסיכונים שהוא עוקב אחריהם. זה לא אומר שלמישהו יש סופר-אינטליגנציה במרתף. אולי זה אומר רק שהם ראו מספיק התנהגות מוזרה בבדיקות כדי לשים לב שעבודת הבטיחות שלהם לא עומדת בקצב של עבודת היכולות. אבל זה אומר לכם איפה תשומת הלב שלהם, והיא לא בהתייצבות.

Reel 0505 / 10

שניהם נכונים

◆

שני הסיפורים האלה לא מתחרים זה בזה.

החזית הציבורית יכולה להתייצב בזמן שהפרטית ממשיכה לזוז. המודל שאפשר לקנות היום משתפר לאט. המערכת הפנימית שמאמנת אותו משתפרת מהר. המעבדות לא משקרות כשהן אומרות שהן מאטות. הן פשוט לא אומרות איזו חזית.

Story one: the plateauStory two: the drawerBoth are true

תחברו את שניהם וההתיישרות לא צריכה שום קונספירציה. כל מעבדה עומדת מול אותה עקומת עלות, אותו סיכון העתקה, אותם משקיעים. אותו מהלך הפך למהלך הטוב ביותר לכולן. אנשים שלעולם לא היו חולקים במה מוצאים את עצמם קוראים מאותו תסריט, כי התסריט הוא פשוט מה שהלוח מתגמל.

Reel 0606 / 10

הפנייה

◆

יש דבר שלישי שההאטה מסתירה, ואני חושב שהוא הגדול ביותר.

למכור את המודל לא עובד. כבר לא. המעבדות הסיניות מוכרות משהו קרוב בעשירית מהמחיר ומחלקות את המשקלים. אי אפשר לגבות מחירי חזית על מוצר שיש לו תאום במשקלים פתוחים כמה חודשים מאחוריו. המעבדות יודעות את זה. המשקיעים שלהן יודעים את זה. אז הכסף צריך לבוא ממקום אחר.

והן יודעות בדיוק מאיפה. במשך שלוש שנים, כל חברה על פני כדור הארץ מזינה אותן בעבודה שלה. צינורות של גילוי תרופות. לוחות זמנים של מפעלים. כתבי טענות משפטיים. שרשראות אספקה. טלמטריה של רובוטים. שיחות מכירה. קוד. אולי לא הנתונים הגולמיים, התנאים אומרים את זה. אבל הצורה של העבודה: אילו שאלות נשאלות, אילו תשובות מתקבלות, איפה צוואר הבקבוק, איך נראית תוצאה טובה. זה סט האימון היקר ביותר שאי פעם הורכב, והלקוחות הרכיבו אותו בחינם.

אז המהלך הבא ברור. להפסיק למכור אינטליגנציה לפי טוקן ולהתחיל למכור את הדבר שהטוקן שימש לו. מעבדה שצפתה בעשרת אלפים צוותי ביוטק עובדים לא צריכה למכור לביוטק. היא יכולה להיות ביוטק. אותו דבר לייצור, רובוטיקה, משפטים, פיננסים, לוגיסטיקה. כל אחד מהם הוא שוק גדול יותר מעסקי ה-API, וכל אחד מהם מוגן בידע שכבר יש למעבדה.

ככה נראית "צמיחה פנימית" מבחוץ. פחות שחרורים ציבוריים. יותר מוצרים ורטיקליים. שותפויות שהופכות לרכישות שהופכות למתחרים. הלקוחות של 2024 הופכים למטרות של 2027.

Voice-over

אף אחד לא מאט בלי סיבה. מאטים לפני פנייה.

וקבוצת יריבים שכולם פונים באותה פנייה באותו זמן, ואז מבקשים מהממשלה לנווט איתם? להיסטוריה יש מילה לזה. היא לא "בטיחות".

Reel 0707 / 10

להיסטוריה יש מילה לזה

◆

אני לא אומר שמישהו חתם על משהו. אני אומר שהצורה מוכרת, ובכל פעם שהיא הופיעה, מכרו אותה עם אותן שלוש מילים: איכות, בטיחות, סדר.

לכל מקרה יש אותם חמישה חלקים. יריבים מסכימים. הם מבקשים מהמדינה להסכים איתם. הסיבה שניתנת היא בטיחות, איכות או סדר. החשבון הולך לציבור. ומי שלא מסכים מוצג בתור הבעיה.

Rivals agreeThey ask the state to agreeReason: safety, quality, orderThe bill goes to the publicDissenters are the problem1557✕✕✕✕✕1815✕✕✕✕✕1892✕✕✕✕✕1924✕✕✕✕✕1954✕✕✕✕✕1969✕✕✕✕✕Now✕✕✕??

זה תמיד נגמר. זה תמיד נגמר מאוחר, והציבור תמיד משלם על הפער.

בכיר בארצ'ר דניאלס מידלנד, שנתפס בהקלטה כשקבעו מחיר של ליזין בשנות ה-90, אמר בקול את מה שאומרים בשקט: המתחרה הוא החבר שלנו, הלקוח הוא האויב שלנו. אני לא חושב שמישהו במעבדת חזית היה אומר את זה. אני גם לא חושב שמשנה מה הם היו אומרים. קרטלים לא עשויים מנבלים. הם עשויים מתמריצים, והתמריצים כאן מצביעים כולם לאותו כיוון.

Reel 0808 / 10

לסמוך פחות, להחזיק יותר

◆

אז מה אדם רגיל, או חברה רגילה, צריכים לקחת מזה?

לא שהמעבדות רעות. שהן מעבדות. הן יתנהגו כמו כל תעשייה מרוכזת לפניהן, והתגובה הנכונה היא אותה תגובה שתמיד הייתה: להקטין את התלות שלכם בהן.

החדשות הטובות הן שזה הקרטל הראשון בהיסטוריה שהמוצר שלו כבר דולף מהצדדים. משקלים פתוחים קיימים. מעבדות סיניות משחררות מודלים קרובים לחזית בעשירית מהמחיר ושמות את המשקלים באינטרנט. מודל שמשתווה למה שהחזית מכרה בשנה שעברה רץ על מחשב נייד השנה. קרטל יכול להאט את מה שהוא מוכר. הוא לא יכול להאט את מה שלא שייך לו.

גם לזה יש תקדים. בשנות ה-90, ממשלות וקומץ חברות רצו לשלוט בהצפנה חזקה. איסורי ייצוא, הפקדת מפתחות, שבב בכל טלפון עם מפתח רזרבי למדינה. ואז מתכנת אחד פרסם את כלי ההצפנה שלו בקוד פתוח, הקוד הודפס בספר, והוויכוח נגמר. היום לכולם יש הצפנה חזקה ואף אחד לא מבקש רשות. משקלים פתוחים הם אותו מהלך, טכנולוגיה אחת אחר כך.

עצמאות כאן היא דבר מוחשי. תריצו מודל שאתם יכולים להוריד. תשמרו את הנתונים שלכם במקום שאתם יכולים להגיע אליו. תבנו על שכבה שאתם יכולים להחליף. תתייחסו לכל API סגור כאל חדר שכור, לא בית.

Reel 0909 / 10

למה זה עדיין טוב לבונים

◆

אני בונה על גבי המודלים האלה, אז אני לא צופה ניטרלי. אבל אני חושב שאלה חדשות טובות לכל מי שבונה, והייתי אומר את זה גם אם לא הייתי בונה.

אם ההתקדמות מאטה, הכלים שנבנו על המודלים של היום מקבלים זמן להבשיל. אפליקציה, סוכן, מעטפת (harness) מקבלים זמן להיעשות טובים, למצוא את המשתמשים שלהם, להפוך להרגל לפני שהקרקע זזה שוב. במשך שלוש שנים, כל מוצר שנבנה על מודל נכתב מחדש כל שישה חודשים. קצב איטי יותר הוא הפעם הראשונה שבונים מקבלים לסיים משהו.

אם ההתקדמות לא מאטה, רק מוסתרת, אז הדבר הנדיר הוא לא אינטליגנציה. זה אמון. הערכה, מקור, ביטחון, שליטה. דרכים לדעת למה מערכת הגיעה לתשובה ואם להאמין לה. ככל שהמודל במגירה מסוגל יותר, השכבה הזאת שווה יותר, כי אף אחד לא יריץ מערכת שהוא לא יכול לבדוק.

ואם החזית מתנהגת כמו קרטל, אז עצמאות היא תכונה שאנשים ישלמו עליה. לא בתור אידאולוגיה. בתור ביטוח.

Reel 1010 / 10

איך מוצר צריך להיראות עכשיו

◆

אם אני לוקח את הקריאה שלי ברצינות, זה משנה מה הייתי בונה.

תתייחסו למודל כאל חלק, לא כאל המוצר. הוא יוחלף. פעמיים. תבנו כך שההחלפה היא שינוי הגדרות ולא כתיבה מחדש, וכך שהדבר שמשתמשים משלמים עליו שורד את ההחלפה.

תשמרו יציאה למשקלים פתוחים. לכל פיצ'ר צריכה להיות גרסה שרצה על מודל שאתם יכולים להוריד, גם אם היא קצת פחות טובה. ביום שספק סגור משנה את התנאים, המחירים או הכללים שלו, אתם כבר צריכים לדעת מה אתם מאבדים ומה אתם שומרים.

אל תלמדו את הספק שלכם את העסק שלכם. מה שאתם שולחים ל-API סגור הוא מה שהוא לומד. תשמרו את החלקים שעושים אתכם אתם, הנתונים שלכם, תהליכי העבודה שלכם, ההערכות (evals) שלכם, על תשתית שאתם שולטים בה, ותשלחו את העבודה הגנרית החוצה. הספק שלכם הוא מתחרה עתידי עם יתרון פתיחה ששילמתם עליו.

תמכרו את הבדיקה, לא רק את התשובה. כל מודל יכול לייצר תשובה. תראו מאיפה היא באה, כמה המערכת בטוחה, ועל מה היא הסתכלה. התשובה היא הסחורה. הקבלה היא המוצר.

תהפכו את הכלי להרגל לפני הגל הבא. עצירה בחזית היא חלון. תשתמשו בו כדי להיעשות משעממים: אמינים, מהירים, משולבים במקומות שבהם אנשים כבר עובדים. משעמם זה מה שנשאר.

תניחו שהמודל הטוב ביותר הוא לא זה שאתם יכולים לקנות. תתכננו ליום שבו מערכת חזקה בהרבה נוחתת בלי הרבה התראה. המוצרים ששורדים את היום הזה הם אלה שכבר יודעים לאמת, להגביל ולהסביר את מה שיושב מתחתיהם.

המעבדות ימשיכו להגיד שהן מאטות. הבינה המלאכותית לא עוצרת. משקלים פתוחים ימשיכו להדביק את הפער. החזית תמשיך לזוז, באור או בחושך. כשיריבים מסכימים, התגובה הנכונה היא לא לסמוך עליהם יותר. היא להזדקק להם פחות.