בשבוע שעבר OpenAI עדכנה את GPT-6 ב-ChatGPT כך שיענה בקיצור ו"יפחית שפה מחמיאה מדי". במילים אחרות, הצ׳אטבוט הפופולרי בעולם אמר למשתמשים שלו שהם גאונים קצת יותר מדי פעמים... דיברנו על הנושא הזה לפני כמה חודשים בסדנת חשיבה ביקורתית שהעברתי למנהלי משאבי האנוש בארגון גדול, יחד עם עוד כמה נושאים שקשורים בחשיבה ביקורתית, אז הנה כמה טיפים על איך להשתמש ב-AI בלי ליפול בפח.
בטוח בעצמו וטועה
הטעויות של הבינה המלאכותית כבר מזמן לא מצחיקות, יש להן מחיר. ביולי 2025 קנס שופט פדרלי בארה״ב שני עורכי דין של מייק לינדל, מנכ״ל MyPillow, ב-$3,000 כל אחד, אחרי שהגישו לבית המשפט מסמך מלא בטעויות, כולל פסקי דין שכלי AI פשוט המציאו. באוקטובר 2025 פסלה ועדת הערעורים הלאומית בפולין את ההצעה הזולה ביותר במכרז לתחזוקת כבישים, בהיקף של כ-3.66 מיליון אירו, כי ההסבר שצורף אליה (280 עמודים) הסתמך על החלטות מיסוי שלא קיימות. לפי הוועדה, החברה פשוט לא בדקה את מה שה-AI כתב.
אף אחד מהמקרים האלה לא היה תקלה טכנית. בשניהם אנשי מקצוע מנוסים קיבלו תשובה רהוטה, בטוחה בעצמה ומעוצבת היטב, ופשוט לא בדקו אותה. זה הסיכון האמיתי: ה-AI מהיר ונשמע בטוח בעצמו (כמו שאומרים: ״נכון או לא נכון - חרטט בביטחון!״), ואנחנו מתרגלים לא לבדוק, במיוחד כשהזמן לוחץ.
למה ה-AI ממציא?
מודל שפה גדול לא מחפש עובדות במסד נתונים. הוא מנבא את המילה הבאה הסבירה ביותר, לפי דפוסים שלמד מהטקסטים שאומן עליהם. זה כמו סטודנט שלא למד את החומר, אבל כותב עבודה שנראית מצוין חוץ מזה שהעובדות שלא נכונות...
שלושה דברים מחמירים את המצב. האימון מתגמל תשובות שנשמעות בטוחות ומועילות, ולא תשובות של "אני לא יודע". עובדות נדירות, כמו סעיף ספציפי בדיני עבודה בישראל, מופיעות בחומרי האימון כל כך מעט פעמים שהמודל נאלץ לנחש. ומה שקרה אחרי תאריך סיום האימון מחייב אותו להשלים פערים, באותו ביטחון עצמי בדיוק.
חמש דרכים להפחית המצאות
1. מודל חושב
מודל רגיל כותב את התשובה הסבירה הראשונה וממשיך הלאה. מודל חושב (אפשרות ה-Thinking ב-ChatGPT, בקופיילוט ובשאר הצ׳אטבוטים) מתכנן, בודק ורק אז עונה. זה לוקח יותר זמן, אבל הרבה פחות אימפולסיבי. למודל המהיר תנו לכתוב טיוטות ולעשות סיעור מוחות, ולמודל החושב כל משימה שבה הדיוק חשוב יותר מהמהירות.
2. לבקש בדיקה עצמית
צ׳אטבוטים טובים יותר בביקורת על טקסט מאשר בכתיבה שלו. אחרי תשובה חשובה, כתבו: "אתה בטוח? עבור שוב על ההיגיון שלך והצבע על פערים או אי-ודאות." בסיבוב השני המודל קורא את התשובה הראשונה כאילו מישהו אחר כתב אותה, ולעתים קרובות מוצא בה טעויות. בכל משימה חשובה, אל תסתפקו בתשובה הראשונה.
3. לתת לו מקורות
הדביקו לפרומפט את הנוהל, החוזה או הנתונים ותוסיפו: "תשתמש רק במידע שסיפקתי." המודל עובר מניבוי יצירתי לסיכום, ומספר הטעויות יורד דרמטית.
4. להישאר בתחום שאתם מבינים בו
השתמשו ב-AI רק כדי ליצור תוכן שאתם מסוגלים לבדוק. בתחום שאתם לא מכירים, ההמצאות יישמעו בדיוק כמו האמת. זה כמו לבדוק מסמך משפטי בשפה שאתם לא שולטים בה.
5. חיפוש ברשת ובדיקת המקורות
זה הטיפ שמחזיר הכי הרבה על ההשקעה. תתחילו את הפרומפט ב"תחפש באינטרנט…" (או שתפעילו את המצב של חיפוש באינטרנט אם הוא קיים), ואז תלחצו על כל קישור שה-AI מביא: תוודאו שהדף קיים, שהוא עדכני ושהאתר אמין. אחר כך תקראו את המקור בעצמכם, כי סיכומים של AI יכולים להשמיט או לעוות פרטים. נכון שזה לוקח הרבה יותר זמן מאשר פשוט להעתיק את התשובה של ה-AI כמו שהיא, אבל זה לוקח הרבה פחות זמן מלחפש בעצמכם את המקורות בגוגל ולסכם אותם. בדיקה מהירה של המקורות תגדיל בצורה משמעותית את האמינות של התשובה, ובסוף: האחריות על מה שאתם כותבים היא עליכם!
הצ׳אטבוט שתמיד מסכים
ההמצאות הן רק חלק מהבעיה. צ׳אטבוטים מאומנים לפי משוב של בני אדם, ואנחנו נותנים ציון גבוה יותר לתשובות נעימות, ולכן המודלים לומדים להסכים איתנו גם כשאנחנו טועים. אם תספרו לצ׳אטבוט שעובד התלונן על יחס לא הוגן אבל לדעתכם הוא מגזים, הוא יכול לענות "אם זה לא נראה לכם רציני, כנראה שאפשר לוותר". אם תשתפו אותו באסטרטגיית הגיוס שלכם ותשאלו מה דעתו, הוא יקרא לה "חדשנית ומקדימה את זמנה". מחקר של MIT מפברואר 2026 מצא ששיחות ארוכות והתאמה אישית מחמירות את התופעה: עם הזמן ה-AI מתחיל לשקף את תפיסת העולם שלכם.
הפתרון הוא לבקש ביקורת במפורש. אלה הפרומפטים שאני נותן למשתתפי הסדנאות שלי, ואפשר גם להוסיף אותם להנחיות הקבועות (Custom Instructions) של הצ׳אטבוט:
- "תשחק בתפקיד פרקליט השטן ותבחן את הרעיון הזה."
- "אילו הנחות הנחתי, ואיזו מהן עלולה להיות שגויה?"
- "תציג שלושה טיעוני נגד מנומקים לאסטרטגיה שתיארתי."
- "מהן חמש הדרכים הסבירות ביותר שבהן התוכנית הזאת תיכשל? לכל אחת תן סימן אזהרה מוקדם ודרך להתמודד."
- "אל תחמיא לי. תן לי את הדעה הכנה שלך, בלי הנחות."
ועוד טיפ אחד: אל תחשפו את הדעה שלכם קודם. שאלו בצורה ניטרלית, ורק אחרי שקיבלתם תשובה ספרו מה אתם חושבים.
הצ׳קליסט
לפני שאתם פועלים לפי תשובה של AI, בייחוד שנושאים שקשורים בכסף, בחוקים או במוניטין של הארגון, תעבדו לפי הצ׳קליסט הזה:
- מודל חושב: השתמשתי במצב Thinking?
- מקורות: נתתי לו מסמכים, נתונים או תוצאות חיפוש?
- בדיקה: פתחתי וקראתי בעצמי את המקורות שציטט?
- אתגור: ביקשתי פרקליט שטן או ביקורת על ההנחות שלי?
- אחריות: זה בתחום שאני מבין בו, כך שאני באמת יכול לבדוק?
את ההרגלים האלה אנחנו מתרגלים על המשימות שלכם בסדנת ה-AI המתקדמת, ויש גם גרסה לסגל אקדמי ולמרצים.
לסיכום
ה-AI הוא מנוע חזק, אבל ההגה אצלכם. מי שמפיקים ממנו הכי הרבה הם לא אלה שמשתמשים בו הכי הרבה, אלא אלה שיודעים מתי לפקפק בו, איך לבדוק אותו ומתי להחליט אחרת. תהפכו את הבדיקה להרגל של הצוות ולא רק שלכם, והטעות הבטוחה-בעצמה הבאה תיעצר אצלכם, ולא אצל שופט או ועדת מכרזים.
