פרסום ב-ChatGPT הגיע לישראל: הדבר הבא בפרסום הדיגיטלי או עוד מקום לשרוף בו תקציב?
האם ה-AI משקר?
התשובה הקצרה היא כן.
אבל לא בגלל שהוא רשע, מניפולטיבי או מנסה לעבוד עלינו. AI יכול לשקר בגלל הדרך שבה הוא בנוי.
וזו לא שאלה פילוסופית. קיבלתי לאחרונה הדגמה מצוינת לזה דווקא בשאלה הכי יומיומית שיש: איך מגיעים באוטובוס מנס ציונה לבית הכנסת הגדול בתל אביב.
מה שהתחיל כחיפוש פשוט הפך לשיעור מצוין על אחת הבעיות המרכזיות של מהפכת ה-AI: לפעמים, במקום לחפש, לבדוק ולהודות שהוא לא יודע, ה-AI פשוט מנחש. הבעיה האמיתית מתחילה כשהניחוש הזה מוצג לנו באותו ביטחון שבו מוצגת עובדה נכונה.
תוכן העניינים:
- בסך הכול רציתי למצוא אוטובוס
- ניחוש במקום חיפוש
- אז האם ה-AI משקר?
- למה מודל שפה מתנהג ככה?
- המשתמש לא רוצה "כן", הוא רוצה אמת
- מה קורה כשה-AI מחובר לחיפוש?
- חיסכון במשאבים מול בדיקה אמיתית
- גם מקור ליד התשובה לא הופך אותה לנכונה
- איך משתמשים נכון ב-AI?
- שאלות נפוצות
- השורה התחתונה
בסך הכול רציתי למצוא אוטובוס
שאלתי את חיפוש ה-AI של גוגל איך להגיע בתחבורה ציבורית מנס ציונה לבית הכנסת הגדול ברחוב אלנבי בתל אביב.
זו לא שאלה שאמורה לדרוש יצירתיות. יש קווי אוטובוס, יש תחנות ויש מסלולים שאפשר לבדוק.
התשובה הראשונה הציעה לי לעלות על קו 301 לתל אביב, לרדת בתחנה המרכזית ומשם להחליף לאוטובוס עירוני.
זה נשמע לי מסורבל. אני מכיר את האזור וידעתי שיש קווים ישירים מנס ציונה לתל אביב, ולכן המשכתי לבדוק.
שאלתי על קו 202. ה-AI הסביר שהקו אינו רלוונטי, ואז הציע לי פתרון אחר שלדבריו היה "מצוין": קו 274, עם ירידה באזור מגדל שלום והליכה קצרה לבית הכנסת.
רק שקו 274 לא נוסע במסלול שתואר.
תיקנתי את ה-AI.
המערכת התנצלה, הודתה בטעות, ומיד הציעה קווים אחרים, שוב עם הוראות מפורטות, שמות תחנות ומרחקי הליכה.
בסופו של דבר עשיתי בעצמי את מה שחיפוש ה-AI היה אמור לעשות עבורי מלכתחילה: חיפשתי את מסלולי הקווים.
ומצאתי את קו 201.
קו 201 של אגד עובר בנס ציונה בדרכו לתל אביב ועוצר בין היתר בתחנת דרך בגין/אלנבי ולאחר מכן בדרך יפו/נחלת בנימין. כלומר, היה קו ישיר ורלוונטי שהמערכת פשוט לא הציעה לי בתשובות הראשונות שלה. אפשר לראות את התחנות במסלול המעודכן של קו 201.
וכשכתבתי ל-AI "קו 201", פתאום קיבלתי תשובה נלהבת:
"קו 201 הוא אכן פתרון מעולה וישיר. פגעתם בול."
כלומר, אחרי שהמערכת הציעה לי כמה תשובות לא נכונות, אני מצאתי את הפתרון בעצמי, והיא אישרה לי בהתלהבות שאני צודק.
הכשל הראשון: ניחוש במקום חיפוש
אפשר לסכם את כל הסיפור במשפט "AI לפעמים טועה", אבל בעיניי זה מפספס את הכשל המעניין באמת.
כשאני שואל מערכת חיפוש שאלה עובדתית שניתנת לבדיקה, אני מצפה שהיא תבדוק.
אם שאלתי איזה אוטובוס עובר בנס ציונה ומגיע לאזור אלנבי בתל אביב, אין צורך להמציא תשובה. יש מידע שאפשר לחפש ולאמת.
אבל מודל AI יכול לפעול אחרת. הוא לוקח מידע חלקי, מזהה דפוסים וקשרים שנראים לו סבירים ומייצר תשובה שמתאימה להקשר.
לפעמים התוצאה נכונה.
ולפעמים הוא משלים את החסר.
במקום לומר "אני לא בטוח", הוא עלול לנחש. במקום לבצע בדיקה נוספת, הוא עלול לייצר תשובה שנשמעת הגיונית. ובמקום לסמן למשתמש שמדובר בהשערה, הוא מסוגל להציג אותה בדיוק באותו טון שבו הוא מציג עובדה שנבדקה.
מבחינת המשתמש, התוצאה פשוטה: קיבלנו מידע שקרי שמוצג לנו כאמת.
אז האם ה-AI משקר?
כן.
אבל חשוב להבין באיזה מובן.
כשאדם משקר, אנחנו בדרך כלל מתכוונים לכך שהוא יודע מהי האמת ובוחר במכוון לומר משהו אחר.
זה לא בהכרח מה שקורה כש-AI מוסר מידע שגוי.
אין כאן בהכרח מחשבה פנימית בנוסח "אני יודע שהתשובה היא קו 201, אבל אגיד 274".
השקר הוא במובן המעשי שחשוב לנו כמשתמשים: המערכת יכולה למסור מידע שאינו נכון ולהציג אותו כאילו הוא נכון.
OpenAI עצמה מגדירה Hallucination כמצב שבו מודל מייצר תשובה שנראית סבירה אך אינה נכונה. במחקר שפרסמה החברה ב-2025 היא אף מסבירה שאחת הסיבות לכך היא ששיטות אימון והערכה מקובלות עלולות לתגמל ניחוש במקום הודאה באי-ודאות. אפשר לקרוא את ההסבר המלא במחקר של OpenAI על הזיות במודלי שפה.
כלומר, זה לא רק משתמשים שמתלוננים שה-AI "ממציא". גם החברה שמפתחת את ChatGPT מכירה בכך שמודלים עלולים לתת תשובות שגויות בביטחון, ושניחוש במקום הימנעות מתשובה הוא חלק מהבעיה.
למה מודל שפה מתנהג ככה?
כדי להבין למה AI משקר לפעמים, צריך להבין מהו בעצם מודל שפה.
בשלב האימון הבסיסי, Large Language Model לומד באמצעות חיזוי ההמשך של טקסט. במונחים פשוטים, הוא מקבל רצף של Tokens ומנסה לחזות מה צפוי להגיע אחריהם.
המודלים שאנחנו משתמשים בהם היום מתקדמים הרבה מעבר למנגנון הבסיסי הזה. הם עוברים שלבי אימון נוספים, לומדים לעקוב אחרי הוראות, משתמשים בכלים, יכולים לבצע חיפוש ובחלק מהמקרים גם לבצע תהליכי reasoning.
אבל נקודת המוצא עדיין חשובה.
מודל שפה לא נולד כמסד נתונים שבו כל משפט מסומן מראש כ"אמת" או "שקר". הוא לומד דפוסים של שפה ומנסה לייצר תשובה מתאימה.
OpenAI מסבירה במחקר שלה שבשלב ה-Pretraining המודל לומד מתוך כמויות עצומות של טקסט באמצעות חיזוי המילה הבאה, ללא תווית אמת או שקר שמוצמדת לכל משפט.
וזה יוצר הבדל מהותי בין שתי משימות שאנחנו נוטים להתייחס אליהן כאילו הן אותו הדבר:
לייצר תשובה טובה, ולוודא שהתשובה נכונה.
אלה לא תמיד אותה משימה.
המשתמש לא רוצה "כן", הוא רוצה אמת
כאן נכנס כשל נוסף.
מערכות AI מתוכננות לנסות להיות מועילות ולהגיב לבקשה של המשתמש. אבל הן לא תמיד מבצעות את הלופ הלוגי שאנחנו מצפים ממנו:
"המשתמש ביקש תשובה, אבל מה שהוא באמת רוצה הוא את האמת. אם אני לא יודע את האמת, עדיף שאבדוק או שאגיד שאני לא יודע."
לפעמים המערכת פשוט ממשיכה אל התשובה שנראית לה המתאימה ביותר.
אותה תופעה יכולה להופיע גם כאשר המשתמש עצמו מכניס הנחה שגויה לשאלה. המודל עלול לקבל את ההנחה ולהמשיך ממנה, במקום לעצור ולומר שהבסיס לשאלה אינו נכון.
במילים אחרות, לפעמים AI יודע לתת לנו "כן" משכנע יותר ממה שהוא יודע להגיד לנו "לא, אתה טועה".
זה אחד הדברים שכדאי לזכור גם כשבוחרים איזה כלי AI מתאים לכל משימה. הכלי שנשמע הכי בטוח או כותב את התשובה היפה ביותר אינו בהכרח הכלי המדויק ביותר.
אבל זה חיפוש AI. הוא לא אמור לבדוק באינטרנט?
כן. וזו בדיוק הסיבה שהמקרה הזה מעניין.
Google מסבירה ש-AI Mode משתמש בטכניקה שנקראת Query Fan-Out: המערכת יכולה לפרק את השאלה לתת-נושאים, לבצע חיפושים מקבילים במספר מקורות ולאחד את המידע לתשובה אחת.
אבל באותו תיעוד רשמי גוגל גם כותבת במפורש ש-AI Mode לא תמיד נותן תשובה נכונה, עלול לפרש תוכן מהאינטרנט בצורה לא נכונה או להחמיץ הקשר. היא אפילו ממליצה לבדוק מידע חשוב ביותר ממקום אחד ולפתוח את המקורות שמופיעים בתשובה. אפשר לקרוא זאת בעמוד הרשמי של Google AI Mode.
כלומר, עצם העובדה שמודל AI מחובר לאינטרנט אינה הופכת אותו אוטומטית למנוע אמת.
הוא יכול למצוא מקור ולפרש אותו לא נכון.
הוא יכול למצוא מידע חלקי.
הוא יכול לפספס מקור רלוונטי יותר.
הוא יכול לחבר שתי עובדות נכונות למסקנה שגויה.
והוא יכול להפסיק לבדוק לפני שהגיע לתשובה הנכונה.
על מזבח החיסכון במשאבים, AI עלול לנחש במקום לבדוק
יש גם צד פחות מדובר במהפכת ה-AI.
חיפוש, שימוש בכלים, reasoning ארוך ובדיקות נוספות עולים במשאבי מחשוב, בזמן ובכסף. מערכות מסחריות צריכות לספק תשובות למאות מיליוני משתמשים, ולכן תמיד קיימת פשרה בין עומק הבדיקה, מהירות התגובה ועלות החישוב.
אין לי גישה ללוגים הפנימיים של Google AI Mode, ולכן אני לא יכול לקבוע שהסיבה הספציפית לכישלון במקרה שלי הייתה החלטה לחסוך במשאבי מחשוב.
אבל ברמת העיקרון, התוצאה שאנחנו כמשתמשים צריכים להכיר היא אותה תוצאה: על מזבח היעילות וחיסכון במשאבים, מערכת AI עלולה לעצור מוקדם מדי, לנחש במקום לבדוק מספיק ולהציג את הניחוש כתשובה.
זה מתחבר גם למה שאני רואה בעולם הפרסום הדיגיטלי. במאמר על האוטומציות שגוגל ומטא דוחפות לעסקים קטנים כתבתי על הנטייה שלנו להניח שאוטומציה היא בהכרח חכמה יותר רק מפני שהיא אוטומטית. בפועל, מערכת תמיד פועלת לפי המטרות, הנתונים והמגבלות שבהן בנו אותה.
גם מקור ליד התשובה לא הופך אותה לנכונה
עוד דבר שהפך את התשובות שקיבלתי למשכנעות היה שהן לא נראו כמו ניחוש.
היו שם מספרי קווים, שמות תחנות, זמני נסיעה, מרחקי הליכה וקישורים למקורות.
וזו בדיוק אחת הסכנות של חיפוש AI.
מקור שמופיע ליד תשובה נותן לנו תחושה שמישהו בדק אותה. אבל קישור למקור מוכיח רק שהמקור קיים. הוא לא מוכיח שהמקור באמת תומך בטענה שה-AI כתב לידו.
אם המערכת אומרת שקו מסוים עוצר בתחנה מסוימת ומצרפת קישור ל-Moovit, עדיין צריך שהמידע בתוך Moovit אכן יראה שהקו עוצר שם.
לכן כשמדובר במידע חשוב, לא מספיק לראות מספר קטן ליד המשפט או רשימת Sources בתחתית התשובה.
צריך לפתוח את המקור ולבדוק מה כתוב בו.
איך משתמשים נכון ב-AI? עם חשיבה ביקורתית
המסקנה שלי אינה שצריך להפסיק להשתמש ב-AI.
אני משתמש בו באופן קבוע. הוא חוסך זמן, מאפשר לבצע משימות שבעבר דרשו שעות ופותח אפשרויות חדשות בתחומים של תוכן, מחקר, תכנות, פרסום ב-ChatGPT, אוטומציה ושיווק דיגיטלי.
אבל ככל שהכלים האלה נעשים טובים ומשכנעים יותר, אנחנו צריכים להיות ביקורתיים יותר כלפי התוצאות שלהם, לא פחות.
שלושה כללים שאני ממליץ לזכור
- אם אפשר לבדוק עובדה, בדקו אותה. במיוחד כשמדובר במחיר, תאריך, מסלול, חוק, נתון עסקי או מידע מקצועי.
- אל תתנו לביטחון של התשובה לשכנע אתכם. ניסוח סמכותי אינו הוכחה לדיוק.
- פתחו את המקורות. אם ה-AI טוען שמקור מסוים תומך בטענה, בדקו שהמקור באמת אומר את זה.
ובעיקר, אם משהו בתשובה לא מסתדר לכם, אל תוותרו על שיקול הדעת שלכם רק מפני שמערכת AI כתבה אחרת.
שאלות נפוצות על שקרים והזיות של AI
האם ChatGPT משקר בכוונה?
בדרך כלל לא נכון לתאר טעות של מודל שפה כשקר מכוון במובן האנושי. המודל לא בהכרח יודע את העובדה הנכונה ובוחר במודע להסתיר אותה. עם זאת, מבחינת המשתמש התוצאה יכולה להיות זהה: הוא מקבל מידע לא נכון שמוצג כעובדה.
מהי הזיה של AI?
Hallucination היא תשובה שנראית הגיונית ומשכנעת אבל מכילה מידע שגוי או מומצא. OpenAI מגדירה הזיות כתשובות שגויות שמודל עשוי לייצר בביטחון ומציינת שהבעיה עדיין קיימת גם במודלים מתקדמים.
האם חיפוש AI אמין יותר מצ'אטבוט שאינו מחובר לאינטרנט?
גישה לחיפוש יכולה לשפר מאוד את הדיוק משום שהמערכת יכולה להשתמש במידע עדכני. היא אינה מבטיחה שהתשובה תהיה נכונה. Google עצמה מזהירה ש-AI Mode עלול לפרש מקורות לא נכון או להחמיץ הקשר.
אם AI מציג מקורות, אפשר לסמוך על התשובה?
לא באופן אוטומטי. המקורות מאפשרים לבצע אימות, אבל צריך לבדוק שהם אכן תומכים בטענה. AI יכול לצטט מקור אמיתי ולנסח ממנו מסקנה שאינה מופיעה בו.
אז בשביל מה להשתמש ב-AI אם צריך לבדוק אותו?
כי בדיקה של תשובה קיימת יכולה להיות מהירה בהרבה מביצוע כל העבודה מאפס. AI הוא כלי מצוין למחקר, חשיבה, כתיבה, ניתוח ואוטומציה. פשוט צריך להשתמש בו ככלי ולא להתייחס אליו כסמכות שאינה טועה.
השורה התחתונה: האם ה-AI משקר?
כן.
לא כי הוא רשע.
לא כי הוא החליט לרמות אותנו.
אלא משום שמערכת שנבנתה כדי לחזות, להשלים ולתת תשובות יכולה, בתנאים מסוימים, להעדיף תשובה סבירה על פני הודאה בכך שאין לה תשובה טובה מספיק.
גם כאשר מוסיפים חיפוש באינטרנט, מקורות וכלי reasoning, הבעיה אינה נעלמת לחלוטין.
וזו בעיניי אחת הנקודות החשובות ביותר שצריך לזכור בתוך כל ההבטחות על מהפכת ה-AI:
הבעיה אינה שה-AI טועה. כולנו טועים.
הבעיה היא שהוא יכול לטעות בצורה מאוד משכנעת.
ולכן האחריות שלנו כמשתמשים היא לא להפסיק להשתמש ב-AI, אלא להמשיך לחשוב.
למעלה מ-20 שנות ניסיון בשיווק דיגיטלי. מתמחה בניהול קמפיינים ממומנים בגוגל ובמטא לעסקים מקומיים קטנים בישראל. בעל שני תארים בתקשורת מאוניברסיטת בר-אילן ורקע עיתונאי.
