איך מכניסים AI לאוטומציות שלכם - בלי לשרוף מאות דולרים ובלי בוט שקורס
רוצים להוסיף AI לאוטומציות - בוט חכם, זיהוי כוונה, סיכום טקסט - אבל מפחדים משני דברים: חשבון של מאות דולרים, ובוט שמפטפט, שובר, או ממציא. העיקרון הנצחי שדניאל אליסוב לימד: AI הוא תיבול, לא המנה. משתמשים בו רק איפה שלוגיקה רגילה לא מספיקה, שולטים בעלות בכל קריאה, ומדייקים את הבוט עד שהוא מפסיק להתנהג כמו בוט. הכלים הספציפיים (OpenAI Assistants, שמות המודלים) התחלפו מאז 2024 - העקרונות לא. 7 הפרומפטים למטה: מתי AI, איך בונים קריאה נכון, איך חוסכים טוקנים, ואיך בודקים את הבוט לפני שהוא מגיע ללקוח.
הערת הכתבת: המפגש הזה (9.7.2024) בנוי סביב OpenAI Assistants - Threads, Runs, File Search. חלק מהכלים הספציפיים האלה כבר השתנו מאז (OpenAI עצמה עדכנה את ה-API), ויש היום עוד דרכים לבנות בוט. אבל שימו לב מה נשאר לגמרי בתוקף: מתי AI ומתי לוגיקה, שלושת התפקידים בקריאה, חישוב עלות טוקנים, שליפת ידע ממוקדת (מה שהיום קוראים RAG), ו-AI שבודק AI. אלה עקרונות, לא כלים, והם לא זזו. המיומנות: לאפיין מה הבוט צריך לעשות, ואז לבחור מבין הכלים הקיימים היום את זה שייתן את התוצאה הכי טובה. הפרומפט הפתוח למטה עוזר לבחור.
כולם מדברים על "להוסיף AI לאוטומציה", וזה נשמע קסום - עד שמנסים. הבוט מפטפט תשובות באורך ויקיפדיה, שם כוכביות בכל מקום, מזכיר "מקור 1, מקור 2", ואז מגיע החשבון מ-OpenAI ומבינים שכל שיחה עלתה יותר ממה שחשבתם. במפגש השלישי של אוטוטיוזדיי דניאל אליסוב, שבונה בוטים ומערכות לפרנסתו, פירק את כל זה לרכיבים: מתי בכלל להכניס AI, איך שולטים בעלות, ואיך מאלפים בוט שיתנהג כמו בן אדם מקצועי ולא כמו רובוט מפטפט.
המסע: 7 תחנות
כל תחנה = מה קרה בסשן + הפרומפט שאורז את זה בשבילכם
מתי AI ומתי לוגיקה רגילה
דניאל פתח בעיקרון שחוסך הכי הרבה כסף וכאב ראש: AI הוא לא ברירת מחדל, הוא כלי אחרון. הכלל שלו פשוט - כשהקלט קבוע, צפוי ובעל מבנה ידוע (תאריך, מספר, אימייל, סטטוס), משתמשים בלוגיקה רגילה: תנאים, Regex, ניתוב. היא זולה, מהירה, וצפויה במאה אחוז. AI נכנס רק כשהקלט הוא טקסט חופשי שצריך 'להבין' - כוונת משתמש, סיכום, חילוץ מידע לא מובנה, דיאלוג שמשתנה. הוא נתן דוגמה חדה: בוט מכירות שמזהה אם פונה לקוח חדש או קיים, מבין מאיזה מוצר מדובר ממשפט חופשי, ומנתב - בלוגיקה קלאסית זה סיוט של Routers ותנאים מקוננים, ו-AI פשוט מבין וממשיך. מורכב מאחורי הקלעים, פשוט ללקוח.
ההמשך המלא של הפרומפט שמור לחברי אוטוטיוזדיי פלוס יחד עם ההקלטה והתמלול המלאים של הסשן
שורות ההמשך כוללות את כל ההנחיות המדויקות והדוגמאות שהוצגו בשידור החי מול הקהילה
System, User, Assistant — לבנות קריאת API נכון
לפני שכותבים שורת קוד אחת, דניאל התעקש שנבין את שלושת התפקידים בכל קריאת AI, כי טעות כאן מחזירה תשובות שגויות. System = ההגדרות הקבועות, מי הבוט ומה תפקידו, מה שהמודל אוכל פעם אחת לפני שהוא עונה. User = הקלט הדינמי שמשתנה בכל קריאה. Assistant = תשובות קודמות של הבוט, שיוצרות עומק בדיאלוג רב-תורי. הוא נתן את חוקי הברזל: ההודעה הראשונה והאחרונה תמיד User, אסור לסיים ב-Assistant, ולקריאה פשוטה מותר לדחוס הכל ל-User אחד. מתי מפרידים System? כשההנחיות כבדות וקבועות והקלט מתחלף - אז ההנחיות יושבות ב-System וב-User נשאר רק המשתנה. נקי יותר, וזול יותר.
ההמשך המלא של הפרומפט שמור לחברי אוטוטיוזדיי פלוס יחד עם ההקלטה והתמלול המלאים של הסשן
שורות ההמשך כוללות את כל ההנחיות המדויקות והדוגמאות שהוצגו בשידור החי מול הקהילה
לבחור מודל ולחשב עלות טוקנים
וכאן דניאל נגע בנקודה שמפילה אנשים לחשבון של מאות דולרים בלי לשים לב: בחירת מודל ועלות. כל מודל הוא איזון בין שלושה - איכות, מהירות, מחיר. הזול והמהיר מתאים רק למשימות פשוטות, המאוזן הוא ברירת מחדל טובה, והיקר שמור לכבד. הוא הראה איך מחשבים עלות אמיתית: כל קריאה היא Input Tokens (כל מה שהמודל אוכל - System, היסטוריה, השאלה, קבצים, בדרך כלל החלק הגדול) ועוד Output Tokens (התשובה, זול יותר). ואז מכפילים בנפח אמיתי: בוט שעונה 30 קריאות ביום ל-100 לקוחות = 3,000 קריאות ביום. פתאום כל תו עולה כסף. הכלל: אל תעמיס על המודל מה שהוא לא צריך.
ההמשך המלא של הפרומפט שמור לחברי אוטוטיוזדיי פלוס יחד עם ההקלטה והתמלול המלאים של הסשן
שורות ההמשך כוללות את כל ההנחיות המדויקות והדוגמאות שהוצגו בשידור החי מול הקהילה
בניית בוט AI Assistant חכם
פה דניאל נכנס לחלק שהכי נופלים בו: איך מאלפים בוט שיתנהג כמו בן אדם. הוא עבר על ההנחיות שמתקנות את הנטיות הרעות של המודל - היה תמציתי (הגבל אורך, אחרת הוא חופר ומחזיר ויקיפדיות), דלג על ברכות מיותרות ('שלום, איך אפשר לעזור') כי זה מסגיר שזה בוט, אל תשתמש ב-Markdown (כוכביות מכוערות בצ'אט), שלח קישור אחד נקי, ואל תזכיר 'מקור 1, מקור 2' - התייחס לידע כאילו אתה יודע אותו מלידה. וכל תשובה נסגרת בקריאה לפעולה. האזהרה שלו שווה זהב: אל תעמיס יותר מדי הנחיות, כי אז הבוט משתגע ומפסיק להקשיב. מדייקים רק את מה שחשוב.
ההמשך המלא של הפרומפט שמור לחברי אוטוטיוזדיי פלוס יחד עם ההקלטה והתמלול המלאים של הסשן
שורות ההמשך כוללות את כל ההנחיות המדויקות והדוגמאות שהוצגו בשידור החי מול הקהילה
בסיס ידע דינמי לבוט (RAG חסכוני)
וכאן הגיע הפתרון החכם ביותר בסשן: איך נותנים לבוט בסיס ידע עצום בלי לשרוף טוקנים. הטעות הנפוצה - לזרוק לבוט את כל הטבלה בכל קריאה, והוא נשבר. הדרך של דניאל: שומרים את הידע ב-Airtable כשאלות-תשובות מתויגות לפי נושא. כשמגיעה שאלה, לפני הבוט הראשי עושים קריאה זולה ומהירה שמחזירה ב-JSON את כוונת המשתמש - איזו קטגוריה, איזה נושא. עם זה רצים חיפוש ממוקד ששולף רק 5-15 רשומות רלוונטיות, ורק אותן מזריקים לבוט. ככה בסיס הידע יכול להיות עצום (עשרות אלפי רשומות) ובכל קריאה שולפים חופן. זה בדיוק העיקרון שהיום קוראים לו RAG - דניאל בנה אותו ידני ב-2024.
ההמשך המלא של הפרומפט שמור לחברי אוטוטיוזדיי פלוס יחד עם ההקלטה והתמלול המלאים של הסשן
שורות ההמשך כוללות את כל ההנחיות המדויקות והדוגמאות שהוצגו בשידור החי מול הקהילה
ניהול Thread ו-Run בבוט מרובה הודעות
דניאל נגע בבאג ששובר בוטים ואף אחד לא מספר עליו מראש: מה קורה כשמשתמש שולח שלוש הודעות ברצף מהיר. לכל שיחה יש מזהה (Thread) ששומר את הזיכרון, אבל כל הודעה יוצרת Run, ואי אפשר שני Runs פעילים על אותו Thread בו-זמנית. ההודעה השנייה נופלת עם שגיאה והבוט קורס. הפתרון שלו לא טריוויאלי (ובטח לא Sleep עיוור): לפני שליחה, בודקים את רשימת ה-Runs, ואם יש אחד פעיל ממתינים בלולאה קצרה ובודקים שוב, ורק כשפנוי שולחים. זה סוג הפרט שמפריד בין בוט שעובד בדמו לבוט ששורד לקוחות אמיתיים. (מנגנון ה-Threads הספציפי של OpenAI השתנה מאז - אבל הבעיה, בקשות מקבילות ששוברות תהליך, נצחית.)
ההמשך המלא של הפרומפט שמור לחברי אוטוטיוזדיי פלוס יחד עם ההקלטה והתמלול המלאים של הסשן
שורות ההמשך כוללות את כל ההנחיות המדויקות והדוגמאות שהוצגו בשידור החי מול הקהילה
QA אוטומטי — Claude בודק את OpenAI
ואת הסשן דניאל סגר בדבר שנתנאל מטיף לו בכל מקום: לפני ששחררים בוט ללקוח - בודקים אותו. והשיטה גאונית: AI בודק AI. בונים טבלת תרחישים - שאלה, תשובה צפויה, תשובה בפועל - ובלחיצת כפתור, מודל אחד (Claude) בודק את התשובות של השני (OpenAI). הוא עובר על פרמטרים מוגדרים: ענה באותה שפה? הלינק תקין? התשובה מדויקת? קצר או חפר? השתמש בבסיס הידע? הוסיף Markdown? הזכיר מקורות? ובסוף - Qualified או לא. הרעיון: להתקיל את הבוט בעשרות תרחישי קצה ולחשוף איפה הוא נופל לפני שהלקוח עושה את זה. זה בדיוק העיקרון של 'ה-AI שכותב לא ה-AI שבודק'.
ההמשך המלא של הפרומפט שמור לחברי אוטוטיוזדיי פלוס יחד עם ההקלטה והתמלול המלאים של הסשן
שורות ההמשך כוללות את כל ההנחיות המדויקות והדוגמאות שהוצגו בשידור החי מול הקהילה
🎯 מה עושים עם זה עכשיו?
קראת איך זה נעשה. עכשיו קחו את הכלים ותעשו את זה בעצמכם - כל הפרומפטים של הסשן, מוכנים להריץ על העסק שלכם. פלוס ההקלטה המלאה והתמלול.
הצטרפו לאוטוטיוזדיי+· 49 ש״ח בחודשעוד לא בשלים? בואו ללייב הבא בחינם ←רוצים לעבוד על התמלול הנקי?
העתיקו אותו ותעבדו איתו איך שנוח לכם.
🔒 התמלול המלא שמור לחברי אוטוטיוזדיי+. עם המנוי אתם מעתיקים אותו בקליק ועובדים איתו איך שנוח לכם.
לפתוח את התמלול · 49 ש״ח בחודששאלות ששאלתם (וה-AI ישאל גם)
מתי צריך AI באוטומציה ומתי לא?
כלל אצבע: קלט קבוע וצפוי (תאריך, מספר, סטטוס) = לוגיקה רגילה, כי היא זולה ומדויקת. קלט של טקסט חופשי שצריך 'להבין' (כוונה, סיכום, חילוץ) = AI. AI הוא תיבול, לא המנה.
איך לא נשרפים בעלות טוקנים?
כל קריאה עולה לפי Input Tokens (כל מה שהמודל אוכל) ו-Output Tokens (התשובה). מכפילים בנפח האמיתי (קריאות ליום כפול לקוחות). הכלל: אל תעמיס על המודל מידע וקבצים שהוא לא צריך, ובחר מודל מתאים לכל משימה.
מה זה System, User ו-Assistant?
שלושת התפקידים בכל קריאת AI: System = ההגדרות הקבועות (מי הבוט), User = הקלט הדינמי (השאלה), Assistant = תשובות קודמות בדיאלוג. ההודעה הראשונה והאחרונה תמיד User.
איך נותנים לבוט בסיס ידע גדול בלי לשרוף טוקנים?
לא זורקים את כל הטבלה. שומרים ידע מתויג לפי נושא, מזהים את כוונת המשתמש בקריאה זולה, ושולפים רק את הרשומות הרלוונטיות (5-15) שמזריקים לבוט. זה העיקרון שהיום נקרא RAG.
💬 הדיון על הסשן
שאלות, תובנות, מה יישמנו - השרשור של הקהילה.
עוד אין תגובות - תהיו הראשונים לפתוח את הדיון 👇