למה סוכן הקוד שלכם מתחיל להזות אחרי 20 פרומפטים - וההפך הגמור מ'לדחוף לו הכל'
כולם דוחפים את כל ההנחיות לתוך קובץ אחד ענק ומצפים שהמודל יזכור הכל - ואז הוא מתחיל לזלוג הצידה, לגעת בשבעה קבצים בשביל שינוי כפתור אחד, ולשרוף טוקנים כמו אין מחר. גל אפרתי הראתה בסשן הזה שיטה שהיא ההפך הגמור: לא לדחוף הכל, אלא לבנות ארכיטקטורה רזה שבה המודל שולף רק את מה שהוא צריך, מתי שהוא צריך. התוצאה הודגמה בשידור חי - אותה משימה בדיוק, פעם אחת עם קובץ מנופח שקפא, ופעם אחת עם מבנה רזה שסיים בשלוש שניות. וכל זה, אגב, על מנוי של 20 דולר בחודש.
הערת הכתבת: הסשן מדבר על כלים ספציפיים - קלוד קוד, קודקס, מודלים כמו אופוס וסונט, ותמחור של מנויים. התחום הזה זז מהר, והמספרים והממשקים ישתנו. אבל הכלים האלה עדיין כאן ועובדים, ולצידם יש עוד אפשרויות. המיומנות הנצחית כאן היא לא 'איזה כלי' אלא העיקרון: לאפיין את המטרה, לפרק אותה קטן, ולתת למודל לשלוף רק את מה שרלוונטי לרגע. את העיקרון הזה תיקחו לכל כלי שתבחרו.
כל מי שעבד עם סוכן קוד מכיר את הרגע הזה: אחרי כמה פרומפטים הוא פשוט מאבד את זה, דורס קוד שעובד, פותח וסוגר ספריות, ועושה בלגן שלם. גל אפרתי - שבאה מעולם השיווק הדיגיטלי ולא כתבה שורת קוד בחייה עד שפגשה את הכלים האלה - לקחה את הבעיה הזאת ופירקה אותה בצורה שכל בעל עסק יכול להבין. היא לא מדברת קוד, היא מדברת מגירות, נתבי תנועה וביסים קטנים. וזה בדיוק מה שהופך את הסשן הזה למתנה.
המסע: 7 תחנות
כל תחנה = מה קרה בסשן + הפרומפט שאורז את זה בשבילכם
מה זה Context Bloat ולמה זה הורס פרויקטים
הסשן נפתח בכאב שכולם מכירים אבל מעטים מבינים למה הוא קורה. גל הסבירה שקלוד בכל שיחה קורא את כל השיחה מההתחלה ועד הסוף - ולכן ככל שהשיחה מתארכת, כל פרומפט עולה יותר טוקנים. אחרי בערך 20 פרומפטים יש לכם קובץ ענק שהמודל קורא מחדש כל פעם. היא נתנה לזה שם בעברית: נפח הקונטקסט. הדוגמה שהמחישה הכל - אם אתם רוצים רק להפוך כפתור מאדום לכחול, למה שהמודל יקרא 200 שורות על איך אתם אוהבים את המיגרציות לדאטהבייס? אתם נותנים לו ארוחה שלמה על כל ביס, והוא מתחיל להזות, לזלוג ולדרוס קוד שעובד. נתנאל סיפר איך הוא עצמו נתקל בזה כשבנה בוט וקלוד הציע לו פשוט לדחוף 90 עמודים לתוך פרומפט אחד.
ההמשך המלא של הפרומפט שמור לחברי אוטוטיוזדיי פלוס יחד עם ההקלטה והתמלול המלאים של הסשן
שורות ההמשך כוללות את כל ההנחיות המדויקות והדוגמאות שהוצגו בשידור החי מול הקהילה
בנה לי ארכיטקטורת ראוטר + סקילים מודולריים לפרויקט
הפתרון של גל הוא ארכיטקטורה מודולרית שהיא קוראת לה JIT - שליפה רק של מה שצריך, מתי שצריך. במקום קובץ הנחיות אחד ענק, ה-CLAUDE.md הופך לראוטר רזה וקשוח שכל תפקידו לנתב תנועה: אין בו אף הנחיה ואף חוק, הוא רק מצביע לאיזה סקיל צריך לגשת עכשיו. לצד הראוטר יש סקילים - מומחים קטנים ומבודדים, כל אחד עושה רק דבר אחד: סקיל של UI, סקיל של אבטחה, סקיל של דאטהבייס. גל הגבילה את הראוטר ל-200 שורות בכוונה, כי כל המטרה שיהיה קטן ככל האפשר. היא תיארה את זה כמגירות: מתעסקים באבטחה, פותחים את המגירה של האבטחה, מסיימים, מחזירים למגירה. מינימום הסחות דעת, מקסימום פוקוס - וקלוד לא מגיע לתקרת השימוש שלו כל שעתיים.
ההמשך המלא של הפרומפט שמור לחברי אוטוטיוזדיי פלוס יחד עם ההקלטה והתמלול המלאים של הסשן
שורות ההמשך כוללות את כל ההנחיות המדויקות והדוגמאות שהוצגו בשידור החי מול הקהילה
טכניקת ה-Inception — תכתוב לעצמך את ההוראות
אחת התובנות הכי חזקות בסשן היתה טכניקת האינספשן - עיקרון שגל עלתה עליו כבר בשבוע הראשון עם GPT: מי כותב פרומפטים למודל טוב יותר מהמודל עצמו? היא לא כותבת לקלוד הוראות. היא אומרת לו מה היא רוצה, ומבקשת ממנו לא לבצע, אלא לכתוב לעצמו את הוראות הביצוע - ואז לבצע את ההוראות שלו. התוצאה, לדבריה, הרבה הרבה יותר טובה. בסשן עלתה השאלה אם זה בעצם פלאן מוד, ותשובה יפה עלתה: זה אינספשן עוד לפני שהיה פלאן מוד. זה עיקרון של מטה ומינוף - כל שכבה מזינה את עצמה. גל אפילו בנתה בעבר GPT שלם על העיקרון הזה, שעדיין רץ ופתוח לשימוש חינם בקהילה.
ההמשך המלא של הפרומפט שמור לחברי אוטוטיוזדיי פלוס יחד עם ההקלטה והתמלול המלאים של הסשן
שורות ההמשך כוללות את כל ההנחיות המדויקות והדוגמאות שהוצגו בשידור החי מול הקהילה
פרוטוקול עבודה: משימה אחת, צ'אט אחד
אחרי התיאוריה הגיע הפרוטוקול המעשי: משימה אחת, צ'אט אחד. גל פותחת שיחה ונותנת פקודה שהיא בנתה בעצמה - ריזום עם סימן קריאה. הפקודה גורמת לקלוד לקרוא רק שני קבצים: את התמונה הגדולה ואת הראוטר. ואז הוא שואל 'מה אנחנו עושים היום?'. היא נותנת משימה אחת. הוא זיהה באיזה דומיינים המשימה נוגעת, טוען שלושה סקילים קטנים מתוך עשרים, ומתחיל רזה. כשהמשימה מסתיימת, הוא רושם שורה אחת בצ'יינג'לוג, אומר 'סגרי את הצ'אט, פתחי חדש', ושומר על החלון נקי. גם אם הוא קורא אחורה את השיחה, הוא התחיל אותה מקטן. כך מונעים מהקונטקסט להתנפח ולקרוס - מתחילים כל שיחה מחדש, אבל עם שליף קטן בכיס במקום חומר פתוח על השולחן.
ההמשך המלא של הפרומפט שמור לחברי אוטוטיוזדיי פלוס יחד עם ההקלטה והתמלול המלאים של הסשן
שורות ההמשך כוללות את כל ההנחיות המדויקות והדוגמאות שהוצגו בשידור החי מול הקהילה
לעוס פרויקט גדול לביסים קטנים
כאן נכנס אחד הרגעים הכי אנושיים בסשן - נתנאל הודה שהוא עובד בדיוק הפוך מגל: הוא זורק את כל האפיון על המודל, אומר לו 'תסתדר' ומתמודד עם הבאגים אחר כך. גל מפרקת פרויקט גדול לביסים קטנים: היא נכנסת לצ'אט, שופכת הכל, ומבקשת מהמודל ללעוס את האפיון לשלבים קטנים. כל פעם התמונה הגדולה מתמקדת במשהו אחר. מהדיון הזה עלתה תובנה חשובה - אין פה נכון ולא נכון, זה עניין של אופי וצורת חשיבה. יש שיטות בזבזניות ויש חסכוניות, ובסוף השיטה שאתם בונים משקפת את מי שאתם. אבל העיקרון עצמו נצחי: פרויקט גדול שנשאר גדול ומנופח הוא מתכון לבאגים ולפרויקטים שלא נגמרים.
ההמשך המלא של הפרומפט שמור לחברי אוטוטיוזדיי פלוס יחד עם ההקלטה והתמלול המלאים של הסשן
שורות ההמשך כוללות את כל ההנחיות המדויקות והדוגמאות שהוצגו בשידור החי מול הקהילה
חיסכון אגרסיבי בטוקנים — תיקון ומניעת בזבוז
החלק על חיסכון בטוקנים היה שוֹבֵר שוויון. גל עובדת על מנוי של 20 דולר בלבד, כל היום, ובקושי מגיעה לתקרה - בזמן שאחרים משלמים 200 דולר פלוס תיקונים ועדיין נתקעים. הטיפים היו ספציפיים וישימים מיד: לעולם לא לתת למודל צילומי מסך, כי זה עולה הרבה יותר. להוציא טקסט מ-PDF במקום לתת את הקובץ עצמו. לתת JSON כמה שיותר קומפקטי. ואם משהו הוא דטרמיניסטי - אם קורה ככה, תעשה ככה - עדיף לתרגם את זה לקוד פייתון, כי המודל שורף פחות טוקנים כשהוא קורא קוד מאשר טקסט. עלה גם רעיון להשתמש ב-OpenRouter עם מודלים חינמיים לפעולות שאין בהן חומר רגיש. הרבה ווִיגְל רוּם בתוך תקציב קטן.
ההמשך המלא של הפרומפט שמור לחברי אוטוטיוזדיי פלוס יחד עם ההקלטה והתמלול המלאים של הסשן
שורות ההמשך כוללות את כל ההנחיות המדויקות והדוגמאות שהוצגו בשידור החי מול הקהילה
חלוקת עבודה Claude לתכנון, מודל זול לביצוע
הסשן נסגר על עיקרון שגל ונתנאל שניהם אימצו: חלוקת עבודה דו-מודלית. מודל חזק חושב ומתכנן, מודל זול מבצע. גל אפילו סיפרה על פרויקט שהיא בונה בשם 'פינקי והמוח' - קלוד הוא המוח שמוציא בלופרינט, וקודקס הוא הפינקי שמבצע את הוראות הביצוע. נתנאל הוסיף שקלוד עצמם אומרים שאופוס נועד לתכנון יותר מלביצוע, ושיתף חוויה מדהימה - כשעיבד תוכן של 600 שיעורים, סונט עשה עבודה בינונית, ואופוס קלט את הנקודה בקטע מדהים. העיקרון פשוט: את הקבלן הזול תשאירו לביצוע, ואת המודל היקר תשמרו לחשיבה. חוסכים כסף ומקבלים איכות.
ההמשך המלא של הפרומפט שמור לחברי אוטוטיוזדיי פלוס יחד עם ההקלטה והתמלול המלאים של הסשן
שורות ההמשך כוללות את כל ההנחיות המדויקות והדוגמאות שהוצגו בשידור החי מול הקהילה
🎯 מה עושים עם זה עכשיו?
קראת איך זה נעשה. עכשיו קחו את הכלים ותעשו את זה בעצמכם - כל הפרומפטים של הסשן, מוכנים להריץ על העסק שלכם. פלוס ההקלטה המלאה והתמלול.
הצטרפו לאוטוטיוזדיי+· 49 ש״ח בחודשעוד לא בשלים? בואו ללייב הבא בחינם ←רוצים לעבוד על התמלול הנקי?
העתיקו אותו ותעבדו איתו איך שנוח לכם.
🔒 התמלול המלא שמור לחברי אוטוטיוזדיי+. עם המנוי אתם מעתיקים אותו בקליק ועובדים איתו איך שנוח לכם.
לפתוח את התמלול · 49 ש״ח בחודששאלות ששאלתם (וה-AI ישאל גם)
מה זה בעצם נפח הקונטקסט ולמה הוא הורס פרויקטים?
זה מה שקורה כשאתם דוחפים למודל יותר מדי מידע ממה שהוא צריך לרגע הנוכחי. המודל קורא את כל השיחה ואת כל ההנחיות מחדש בכל פרומפט, מתבלבל, ומתחיל לזלוג, לגעת בקבצים שלא ביקשתם ולשרוף טוקנים. הפתרון הוא לשלוף רק את מה שרלוונטי למשימה הספציפית.
מה ההבדל בין הראוטר לבין הסקילים?
הראוטר הוא קובץ רזה שכל תפקידו לנתב - אין בו הנחיות או חוקים, הוא רק מצביע לאיזה סקיל לגשת עכשיו. הסקילים הם מומחים קטנים ומבודדים, כל אחד מכיל רק את החוקים הנוגעים לתחום שלו. הראוטר פותח את המגירה הנכונה בזמן הנכון.
מה זה טכניקת האינספשן?
במקום לכתוב למודל הוראות מפורטות, אתם אומרים לו מה אתם רוצים ומבקשים ממנו לכתוב לעצמו את הוראות הביצוע - ואז לבצע אותן. מכיוון שהמודל מנסח לעצמו בשפה שהוא הכי מבין, התוצאה יוצאת איכותית בהרבה.
איך אני מיישם את השיטה בפרויקט קיים שכבר יש בו קובץ הנחיות אחד גדול?
גל ממליצה לקחת את הקובץ הגדול הקיים, לפתוח אותו בצ'אט, ולבקש מהמודל לייצר ממנו את התמונה הגדולה המתומצתת. משם בונים את הארכיטקטורה החדשה, במקום לנסות להעביר את השיטה על מבנה קיים בכוח.
באמת אפשר לעבוד ככה על מנוי של 20 דולר?
גל הדגימה בדיוק את זה - היא עובדת כל היום על מנוי 20 דולר ובקושי מגיעה לתקרה, כי כל הארכיטקטורה בנויה להיות רזה. עם עבודה נקייה, מודל זול לביצוע, והימנעות מבזבוז טוקנים על צילומי מסך ו-PDF, יש הרבה מקום לנשום בתוך תקציב קטן.
💬 הדיון על הסשן
שאלות, תובנות, מה יישמנו - השרשור של הקהילה.
עוד אין תגובות - תהיו הראשונים לפתוח את הדיון 👇