בניית סוכני AI שעובדים באמת

כשאני בונה סוכן AI, אני מתחיל מהעבודה שהוא אמור לסיים. שיחה נעימה היא חלק מהחוויה, אבל הסוכן צריך גם לדעת מאיפה לקחת מידע, באיזה כלי להשתמש ומתי להעביר את הבקשה לאדם. הניסיון שלי כולל בניית סוכן שירות לקוחות בעברית ומערכות שפועלות בתוך חנות אונליין. כאן אני מסביר איך אני ניגש לבנייה ומה אני בודק לפני שאני מרחיב את האחריות של הסוכן.

מה אני בונה סביב הסוכן

אני מגדיר את התפקיד של הסוכן ואת הכלים שהוא רשאי להפעיל. בסוכן שירות, למשל, יש הבדל בין הסבר על מדיניות לבין בירור מצב של הזמנה. תשובה על מדיניות יכולה להישען על ידע מאושר. מצב הזמנה דורש מקור מתאים ומעודכן, וגם זיהוי נכון של הבקשה. החיבור בין השיחה למידע הוא חלק מרכזי מהבנייה.

הכלים שהסוכן מקבל צריכים להיות צרים מספיק כדי שאפשר יהיה לבדוק אותם. אני מעדיף פעולה עם קלט ברור ותוצאה מוגדרת על פני הרשאה כללית לעשות כל דבר במערכת. כך אפשר להפריד בין טעות בהבנת הבקשה לבין תקלה בכלי. ההפרדה הזו עוזרת גם לאדם שמטפל במקרה חריג: הוא יכול לראות איפה העבודה נעצרה.

איך אני מגדיר גבולות עבודה

אני מתחיל מרשימת בקשות שהסוכן אמור לטפל בהן, ומוסיף מקרים שהוא צריך להעביר הלאה. בשלב הזה מנסחים גם מה אסור לו להסיק. חוסר בתשובה ממערכת חיצונית, למשל, אינו מספיק כדי להגיד שהזמנה אינה קיימת. הסוכן צריך להיות מסוגל לומר שלא הצליח לבדוק, ולהסביר מה חסר להמשך.

אחר כך אני מפריד בין ההקשר של מי שפונה אליו לבין ההרשאות של הסוכן. בעל חנות ולקוח קצה יכולים לשאול בעברית דומה מאוד, ועדיין יש להם גישה שונה למידע. ההבחנה צריכה להישמר גם כשהבקשה מנוסחת בביטחון. אני מתכנן את המעבר לאדם כחלק מהשיחה, עם פירוט של מה נבדק ומה נשאר פתוח.

דוגמה מהעבודה שלי: שירות בעברית בחנות

במערכת שבניתי לשופינג זול פועל סוכן שירות בעברית בצ'אט ובוואטסאפ. הידע שלו מוגש משכבת נתונים ייעודית, עם הפרדת הרשאות בין בעלים ללקוח. זה פרט מהותי: סוכן שנמצא מול לקוח צריך לקבל את המידע שמתאים לתפקיד שלו. כך יש מקור מוגדר שאפשר לבדוק ולעדכן כשמשהו בחנות משתנה.

יש בחנות גם מנועי תמחור ואוטומציות נוספות. אני מתייחס אליהם כתפקידים שונים, עם מקורות מידע וגבולות פעולה שונים. עצם זה שהשירות והתמחור קשורים לאותה חנות אינו סיבה לתת לסוכן השירות שליטה בכל התהליכים שלה. את ההפעלה ואת המקרים שבהם אדם עדיין נדרש אפשר לקרוא בתיאור החנות שרצה על AI. אני מציג את המקרה כראיה לבנייה ולהפעלה, בלי לייחס לו נתון מכירות שלא נמדד כאן.

איך אני בודק שהסוכן עושה את העבודה

אני עובר על שיחות שמייצגות את התפקיד, ובוחן גם ניסוחים חלקיים או לא ברורים. אם המשתמש משנה בקשה באמצע, הסוכן צריך להבין מה עדיין רלוונטי. אם הכלי החזיר שגיאה, התשובה למשתמש צריכה לשקף אותה. אני בודק את התאמת התשובה למקור, ואת השאלה אם הייתה פעולה בפועל כאשר הסוכן טען שביצע אותה.

גם ריצה חוזרת דורשת תשומת לב. מה קורה אם המשתמש שולח שוב אותה בקשה, או אם התהליך נעצר לפני שהתשובה חזרה? אני רוצה שהמערכת תוכל לברר מה כבר קרה לפני שתנסה לבצע שוב. אלו שאלות של תכנון ובדיקה שמלוות את הסוכן לאורך העבודה. על הפערים האלה הרחבתי בלמה סוכן שעובד בדמו נשבר בפרודקשן.

למי בניית סוכן מתאימה

אני עובד בגישה הזו עם בעלי עסקים וצוותים שיש להם תחום טיפול מוגדר ומקור מידע שאפשר לסמוך עליו. בחנויות אונליין אפשר להתחיל מתפקיד שירות מצומצם ולהרחיב אחרי בדיקה. גם צוות טכני שכבר בנה הדגמה יכול להיעזר בתהליך כדי להגדיר את ההרשאות, את הבדיקות ואת אופן הטיפול במקרים שההדגמה לא כיסתה.

כשאין אדם שאחראי לעדכן את הידע או לענות על חריגים, אני מציע לפתור את זה קודם. סוכן לא סוגר את הפער הניהולי הזה בעצמו. ולפעמים רצף קבוע של פעולות יספיק בלי סוכן כלל. הבחירה תלויה במורכבות הבקשות ובאופן שבו אפשר לאמת את התשובה.

המשך לקריאה ולעבודה משותפת

את המעטפת הרחבה אני מתאר בעמוד AI Harness Engineering, ואת בחירת התהליך בעמוד הטמעת AI בעסקים. אם השירות קשור לפניות שמגיעות מקמפיינים, יש גם את הזווית שלי על שיווק ואיקומרס. לשיחה על סוכן לעסק, כולל המסלול של נובה, ממשיכים דרך OpticoAI. מתחילים מהתפקיד ומהגבולות שלו.

שאלות על בניית סוכני AI

האם סוכן AI חייב לפעול בלי אישור אנושי?

לא. אני יכול לתכנן סוכן שאוסף מידע ומכין תשובה, כשהביצוע נשאר באישור אדם. מידת העצמאות היא החלטה שמתאימה לתפקיד ולסיכון, ואפשר לשנות אותה בהדרגה אחרי שבודקים את העבודה.

מאיפה הסוכן מקבל תשובות על העסק?

אני מגדיר מקור מתאים לכל סוג שאלה: ידע מאושר למדיניות וחיבור למערכת המתאימה למידע משתנה. כשמקור אינו זמין או חסר בו מידע, הסוכן צריך לשקף את המגבלה ולהעביר להמשך טיפול לפי הצורך.

אפשר להתחיל עם סוכן אחד ובהמשך להוסיף אחרים?

כן, בתכנון שמגדיר לכל סוכן אחריות ברורה. אני בוחן איך המידע והמשימות עוברים ביניהם, ואיך נמנע מצב שבו שני סוכנים מטפלים באותה פעולה בלי לדעת זה על זה.

מה ההבדל בין דמו לבין סוכן שמוכן לעבודה?

אני מחפש טיפול גם בנתונים חסרים, בכשל של כלי ובבקשה חוזרת. צריך לדעת מי מקבל חריגים ואיך מאמתים ביצוע. דמו יכול להראות יכולת שיחה, אבל לבדו הוא אינו בודק את כל הרצף העסקי.