5 דברים שסוכן AI בוואטסאפ לא צריך לעשות לבד (ולמה זה בסדר)

01המקרה שכל בעל עסק צריך להכיר: Air Canada וההבטחה שהבוט המציא

בפברואר 2024, בית הדין לסכסוכים אזרחיים בבריטיש קולומביה (קנדה) קבע ב-Moffatt v. Air Canada ש-Air Canada חייבת לעמוד בהנחת אבלות שה-chatbot שלה הבטיח ללקוח - הנחה שלא הייתה קיימת בפועל במדיניות החברה. הטענה המרכזית של Air Canada בבית המשפט הייתה ש"הצ'אטבוט הוא ישות נפרדת האחראית למעשיה שלה" - והשופט דחה את הטענה הזו במפורש: החברה אחראית לכל מידע באתר שלה, לא משנה מאיזה מקור הוא הגיע.

02מקרה נוסף: כשבוט לא יודע מתי להפסיק

בינואר 2024 התפרסם שלקוח של חברת השילוח הבריטית DPD הצליח "לשכנע" את ה-chatbot מבוסס ה-AI שלה לקלל את החברה עצמה ולכתוב שיר לועג על כמה היא גרועה. DPD כיבתה את הרכיב הזה בבוט, ותלתה זאת ב"תקלה אחרי עדכון מערכת". מעבר למבוכה - זו דוגמה למה שקורה כששום דבר לא עוצר את הסוכן מלהגיב למניפולציה או למצב שהוא לא נועד להתמודד איתו.

035 סוגי מצבים שבהם סוכן AI לא צריך לפעול לבד

• שאלות רפואיות או משפטיות - גם בקליניקה, גם בכל עסק אחר. "האם הפריחה הזו מסוכנת?" חייבת לעבור לצוות, לא לקבל תשובה קלינית מהבוט.
• לקוח כועס או פנייה טעונה רגשית - זיהוי טון בסיסי קיים, אבל AI מתקשה לזהות סרקזם וטון פסיבי-אגרסיבי, ובטח לא לשחזר אמון שנפגע. תגובה אנושית אמיתית, לא תבנית התנצלות.
• בקשה חריגה או לא מוכרת - כל מה שהסוכן לא ראה דפוס ברור בשבילו. תשובה שגויה בביטחון מלא מסוכנת הרבה יותר מ"אני לא בטוח, אני מעביר את זה לצוות".
• פעולה בלתי הפיכה - זיכוי, ביטול הזמנה, שינוי תשלום. בדיוק המקרה של Air Canada: הבטחה שניתנה בלי בדיקה הפכה להתחייבות אמיתית.
• לקוח יקר-ערך או קשר רגיש במיוחד - שחזור אמון בלקוח מרכזי שנפגע דורש בן אדם, לא תהליך אוטומטי.

04למה "גבולות" זה לא חולשה - זה בדיוק מה שמונע את התקלה

הטעות הנפוצה היא לחשוב שהמטרה היא "AI שמטפל בהכל לבד". המטרה האמיתית היא AI שמטפל במה שהוא יודע לטפל בו טוב, ומעביר הלאה את מה שהוא לא. סקר של Gartner (2026, דגימה של 3,566 צרכנים) מצא ש-87% מהלקוחות אומרים שאפשרות מעבר לנציג אנושי היא חיונית כשחברה משתמשת ב-AI לשירות, ורק 27% היו מנסים שוב בוט אחרי חוויה גרועה. האפשרות לעבור לבן אדם היא לא "פיצ'ר נחמד" - היא תנאי שהלקוחות דורשים.

05איך זה בנוי אצלנו: אישור אנושי כמענה מבני, לא כהבטחה

העיקרון המרכזי של Alpha Index: כל פעולה רגישה שסוכן AI מבצע - שליחת הודעה חוצה, ביטול או שינוי הזמנה, עדכון תשלום - דורשת אישור אנושי לפני שהיא יוצאת לפועל. זה לא עניין של מדיניות או כוונה טובה, זה בנוי בתוך התהליך עצמו: הסוכן מזהה שהוא נכנס לאחד מחמשת המצבים שתוארו למעלה, עוצר, ומעביר לבדיקה - במקום לנחש ולהתחייב בשם העסק בלי שמישהו ראה את זה. זה המענה המבני בדיוק למה שקרה ב-Air Canada: בוט שלא יכול להבטיח משהו בלי שבן אדם מאשר, לא יכול ליצור את ההתחייבות שגרמה לתביעה.

שאלות נפוצות