The World of AI: Human in the Loop
בפוסט הקודם דיברנו על איך שולטים בצ’אט. על היסטוריה, על קונטקסט, על למה שיחה שמסתובבת במעגלים היא לא בעיה של הכלי אלא בעיה שלכם. אם לא קראתם אני ממליץ להתחיל משם
oriel haim
הפעם אנחנו מדברים על משהו יותר גדול. לא על איך מנהלים שיחה עם מודל אלא על איך עובדים איתו. איך בונים איתו דברים אמיתיים. ובעיקר למה רוב האנשים שחושבים שהם יודעים לעשות את זה טועים בצורה שהם עוד לא מבינים כמה היא תעלה להם.
יש משפט שחוזר על עצמו בכל מקום בתקופה האחרונה. בטוויטר\יוטיוב ובכל כנס טכנולוגיה שני. "כל אחד יכול לבנות הכל עם AI" נשמע מעולה. נשמע דמוקרטי. נשמע כאילו סוף סוף הכלים פתוחים לכולם ואין צורך בשנים של לימוד כדי ליצור דברים. ויש בזה גרעין של אמת, הכלים באמת נגישים יותר מאי פעם. אדם בלי שום רקע טכני יכול לשבת היום מול מודל כלי AI ולהוציא ממנו דברים שלפני שנתיים היו דורשים צוות שלם.
אבל יש פער בין "יכול להוציא משהו" לבין "יודע מה הוא מוציא" ויש פער אפילו יותר גדול בין "זה עובד" לבין "זה עובד נכון" ושני הפערים האלה הם לא פערים שנסגרים עם פרומפט יותר טוב.
הם נסגרים עם ידע. עם ניסיון. עם שנים של להתעסק עם דברים, להיכשל, להבין למה נכשלת, ולנסות שוב. את זה אי אפשר לדלג. את זה אי אפשר לקצר. ומי שאומר לכם אחרת מנסה למכור לכם משהו.
מה זה בכלל סוכן
עד עכשיו דיברנו על צאט. אתה כותב, המודל עונה, אתה כותב שוב. הלוך חזור. שאלה ותשובה. זה מה שרוב האנשים מכירים וזה מה שרוב האנשים חושבים שזה "לעבוד עם AI"
אבל יש מילה שצצה בכל מקום ומשנה את כל המשחק. Agent. סוכן. ואם לא שמעתם עליה עדיין כנראה אתם חיים מתחת לסלע.
אז מה ההבדל? בצאט רגיל אתה נותן למודל הוראה והוא מחזיר לך טקסט. זהו. הוא לא עושה כלום בעולם האמיתי. הוא לא נוגע בקבצים שלך, לא מריץ קוד, לא שולח מיילים, לא בודק דברים ברקע. הוא מייצר מילים על מסך ואתה לוקח את המילים האלה ועושה איתן מה שאתה רוצה.
סוכן זה משהו אחר. סוכן זה מודל שקיבל כלים. לא כלים במובן המטאפורי אלה כלים אמיתיים. גישה לקבצים. יכולת להריץ פקודות. אפשרות לגלוש באינטרנט, לקרוא מסמכים, לכתוב קוד ולהריץ אותו, לבדוק אם הוא עובד, לתקן אותו אם הוא לא עובד, ולהמשיך הלאה בלי שתגידו לו מה לעשות בכל צעד.
בצאט אתם הידיים והמודל הוא היועץ. עם סוכן - המודל הוא גם היועץ וגם הידיים. אתם אומרים לו "תבנה לי X" והוא הולך ובונה. לבד. צעד אחרי צעד. מקבל החלטות בדרך. בוחר כלים. פותר בעיות שצצות. ממשיך עד שהוא מגיע למשהו שהוא חושב שמוכן.
ופה בדיוק זה נהיה מעניין. כי כל מה שדיברנו עליו בפוסטים הקודמים שהמודל לא באמת “מבין”, שהוא מייצר את רצף המילים הכי סביר, שהוא יכול להמציא דברים מהאוויר בביטחון מלא - כל זה עדיין נכון. שום דבר לא השתנה. רק שעכשיו במקום שהוא יגיד לכם דבר שגוי שאתם יכולים לקרוא ולבדוק, הוא יכול לעשות דבר שגוי. בשקט. בלי לשאול. ולהמשיך לבנות על הטעות הזו שכבה אחרי שכבה עד שיש לכם משהו שנראה מושלם מבחוץ ורקוב מבפנים.
לתת לסוכן לרוץ בעיוורון זה כמו לתת לטירון את המפתחות למפעל
דמיינו שיש לכם עובד חדש. הוא חרוץ. הוא מהיר. הוא לא מתלונן, לא הולך להפסקות, לא מבקש העלאה. הוא יעשה כל מה שתגידו לו בלי שאלות
נשמע מושלם נכון? עכשיו תחשבו על זה שנייה. עובד שעושה כל מה שאומרים לו בלי לשאול שאלות. בלי להגיד "רגע אתה בטוח?" בלי להרים גבה כשמשהו לא הגיוני. בלי הניסיון לדעת שמה שנראה כמו קיצור דרך עכשיו הוא מלכודת בעוד חודש. הוא פשוט רץ. מהר. בביטחון. לכיוון שאתם הצבעתם עליו, גם אם הכיוון הזה הוא ישר לתוך הקיר.
נעים להכיר זה סוכן AI בלי פיקוח.
אני לא מדבר תיאורטית. אני רואה את זה קורה כל יום. מישהו אומר לסוכן "תבנה לי אפליקציה שעושה X" והסוכן הולך ובונה. בוחר טכנולוגיה - שלא בהכרח נכונה. מקים מבנה קבצים - שלא בהכרח הגיוני. כותב פונקציה, נתקל בבעיה, “פותר” אותה עם workaround ששום בן אדם שפוי לא היה כותב וממשיך הלאה. נתקל בבעיה נוספת שנוצרה בגלל הworkaround הקודם, מוסיף עוד patch. ועוד אחד. ועוד אחד. שכבה על שכבה של פתרונות שכל אחד מהם מטפל בסימפטום ואף אחד מהם לא מטפל בבעיה.
אחרי שעה יש לכם משהו שעובד. אפשר ללחוץ על כפתורים, דברים זזים על המסך, המודל אפילו כותב לכם "זה עובד נהדר!" עם סיכום מסודר של מה שהוא עשה. אתם מסתכלים על זה ואומרים "וואו AI זה קסם מי צריך מתכנתים היום"
ואז אתם מנסים להוסיף פיצ’ר חדש
פתאום כלום לא עובד. משנים פה ונשבר שם. מוסיפים שם ונשבר פה. והסוכן? הוא ישמח לתקן. הוא יוסיף עוד patch על הpatch שעל הpatch. כל "תיקון" שובר שני דברים אחרים, כל "שיפור" מסבך את הבלגן עוד קצת עד שאתם יושבים מול הר של קוד שאף אחד - כולל הסוכן שכתב אותו - לא באמת מבין מה קורה בתוכו.
זה לא באג של AI. זה לא מגבלה שתיפתר בגרסה הבאה. זה התוצאה הבלתי נמנעת של לתת למישהו שלא מבין מה הוא עושה לקבל את כל ההחלטות. הוא לא טיפש - הוא פשוט לא יודע מה הוא לא יודע. ומי שלא יודע מה הוא לא יודע לא יכול לדעת מתי הוא טועה.
רוצים לדעת על פוסטים חדשים לפני כולם?
אתה לא נגרר. אתה הנהג.
יש שתי דרכים לעבוד עם סוכן AI. הראשונה היא להגיד לו "תעשה" ולחכות שיסיים. השנייה היא להגיד לו "תעשה את הצעד הזה, ככה, עם זה" ואז לבדוק מה יצא, להחליט מה הלאה, ולכוון אותו לצעד הבא.
הדרך הראשונה מרגישה יעילה. היא לא.
הדרך השנייה מרגישה איטית. היא לא.
כשאתם נותנים לסוכן לרוץ לבד מההתחלה ועד הסוף אתם לא חוסכים זמן - אתם לווים זמן מהעתיד. כי כל דבר שהוא עשה לא נכון בדרך, כל החלטה שקיבל בלי שאתם ידעתם, כל פינה שהוא חתך כי הוא לא ידע שיש פינה - כל אלה הולכים לחכות לכם. לא היום. לא מחר. ביום שבו תנסו להוסיף פיצר, לתקן באג, לעלות לפרודקשן, לטפל באלף משתמשים במקום בעשרה. שם הכל מתפרק ופתאום אתם משלמים על כל קיצור דרך בבת אחת.
Human in the Loop זה לא לשבת ולאשר כל שורת קוד. זה לא "תראה לי מה עשית לפני שאתה ממשיך" על כל צעד זעיר. זה יהפוך את העבודה לבלתי נסבלת ויהרוג את כל הערך של הכלי. הרעיון הוא אחר לגמרי.
אתם הנהג. הסוכן הוא המנוע.
אתם קובעים לאן נוסעים, באיזה כביש, ובאיזו מהירות. המנוע עושה את העבודה הפיזית - הוא זה שמזיז את הרכב קדימה. אתם לא צריכים להבין בדיוק מה קורה בכל בוכנה בכל שנייה. אבל אתם כן צריכים לדעת לאן אתם נוסעים, ואתם כן צריכים להסתכל על הכביש ולא להירדם בזמן הנסיעה.
בפועל זה אומר שאתם עובדים בצעדים. לא נותנים לסוכן משימה ענקית ומחכים לסוף. אלה שוברים את העבודה לחלקים. "תבנה את המבנה הבסיסי ככה וככה" ואז בודקים. "עכשיו תוסיף את החלק הזה, עם הספריה הזאת, בגישה הזאת" בודקים. "עכשיו תחבר את זה לזה" בודקים. בכל צעד אתם מסתכלים, מוודאים שהכיוון נכון, ורק אז ממשיכים.
פה נכנס משהו שרוב האנשים לא מבינים על מודלי שפה. הם חושבים שהמודל לא יודע לעשות דברים נכון. זה לא נכון. המודל ראה קוד מצוין. הוא ראה ארכיטקטורות נקיות, פתרונות אלגנטיים, best practices של כל תחום אפשרי. הידע הזה יושב שם. הבעיה היא לא שהוא לא יודע - הבעיה היא שהוא לא חושב שזה מה שצריך לעשות עכשיו.
כשאתם אומרים לסוכן "תבנה לי מערכת אימות למשתמשים" הוא לא עוצר לחשוב "רגע מה הגישה הנכונה כאן? יש ספריות מוכנות שכבר פתרו את הבעיה הזו, שעברו אלפי שעות של בדיקות אבטחה שקהילה שלמה מתחזקת אותן. אולי עדיף להשתמש באחת מהן?" הוא לא עושה את זה. הוא פשוט מתחיל לכתוב. מאפס. מערכת אימות שלמה שהוא ממציא תוך כדי. ומה שיוצא? משהו שנראה כמו מערכת אימות, מתנהג כמו מערכת אימות, אבל חסרים בה מאה דברים קטנים שכל ספריה רצינית כבר פתרה מזמן. דברים כמו הצפנת סיסמאות נכונה, טיפול בsession hijacking, הגנה מפני brute force, rate limiting. דברים שאתם לא רואים מבחוץ אבל מישהו עם כוונות רעות יראה תוך חמש דקות.
אם זה נשמע לכם תיאורטי אני ממליץ לקרוא על מה שקרה עם Tea אפליקציית דייטינג אמריקאית שהגיעה למקום הראשון בחנות האפליקציות עם יותר ממיליון משתמשות. האפליקציה אפשרה לנשים לבדוק רקע על גברים שהן מתנהלות איתם, לשתף חוויות, לסמן דגלים אדומים. נשמע מצוין (נוראי). מוצר שעובד. אנשים משתמשים. הכל טוב.
ואז התגלה שבסיס הנתונים של האפליקציה היה פשוט פתוח. לא "נפרץ" במובן שמישהו עבד קשה כדי לעקוף מערכות הגנה. לא היו מערכות הגנה. המידע ישב שם חשוף ופשוט חיכה שמישהו ייקח אותו. וזה מה שקרה. מעל 70,000 תמונות דלפו כולל צילומי תעודות זהות וסלפי אימות שהיו אמורים להימחק מיד. כתובות של 33,000 נשים פורסמו על מפה פתוחה לכל העולם. נשים שהצטרפו לאפליקציה כדי להרגיש בטוחות פתאום מצאו את הכתובת שלהן חשופה לכל מי שרצה למצוא אותן. אחת מהן הייתה אישה שברחה מבן זוג אלים ועשתה הכל כדי שהוא לא ידע איפה היא גרה. אופסי
מסד נתונים פתוח. בלי אימות. בלי הצפנה. בלי שום דבר. זה לא באג מתוחכם שרק האקר מנוסה היה מגלה. זה דבר שכל מפתח שעבד על פרויקט אמיתי פעם אחת בחיים יודע שצריך לסגור. זה שיעור ראשון. יום ראשון. ומישהו בנה מוצר שמיליון אנשים סמכו עליו בלי לדעת את זה.
פאשלה? לא בדיוק. זה מה שקורה כשמוצר "עובד" אבל מי שבנה אותו לא ידע - או לא חשב - על הדברים שלא רואים מבחוץ. נכון אפשר לבקש מסוכן AI שיסביר לך איך לאבטח מסד נתונים. הוא אפילו ייתן לך תשובה מסודרת. אבל אם אתה לא יודע שצריך לשאול את השאלה הזו מלכתחילה - מה זה שווה? אתה לא יודע מה אתה לא יודע. וAI לא יגיד לך "רגע שכחת לשאול על אבטחה" הוא יבנה לך בדיוק מה שביקשת. לא יותר.
פה אני רוצה להגיד משהו מניסיון אישי. אני עובד עם AI כל יום על דברים שאני מכיר לעומק. תכנות, ארכיטקטורה, דברים שאני חי ונושם. אני תופס אותו טועה. לא מעט. לפעמים הוא ממליץ על גישה מיושנת ולפעמים הוא פשוט ממציא משהו שנשמע מושלם אבל לא עובד ככה במציאות. ובגלל שזה תחומים שאני שולט בהם אני יודע לעצור ולהגיד "לא זה לא נכון תבדוק שוב" והוא עונה "צודק טעיתי הנה הגרסה הנכונה" וממשיכים הלאה. ואז הוא באמת צודק.
אבל כל פעם שזה קורה אני עוצר לרגע ושואל את עצמי: מה היה קורה אם זה היה תחום שאני לא מכיר? פשוט הייתי מאמין לו? הייתי לוקח את התשובה השגויה, בונה עליה עוד שכבה, ועוד שכבה, בלי לדעת שהיסוד כולו רעוע?
מה שבאמת מפחיד אותי זה כל הפעמים שדיברתי עם AI על תחומים שאני לא שולט בהם. כמה דברים שהוא אמר לי שקיבלתי כעובדה היו פשוט לא נכונים? אני לא יודע. ואני לא יכול לדעת. כי אם הייתי יודע - הייתי תופס אותו.
זה בדיוק הפער. מי שמכיר את התחום עובד עם AI כמו נהג מנוסה שיודע מתי המכונית עושה רעש מוזר. מי שלא מכיר - נוסע בביטחון מלא ולא שומע שום דבר עד שהמנוע מתפוצץ.
אל תזלזלו בבעלי מקצוע
יש משפט שאני שומע יותר מידי לאחרונה ולי ישר לאבד אמון במי שאומר אותו: "לא צריכים כבר מתכנתים. אפשר לעשות הכל בvibe coding"
אני רוצה להיות ברור לגבי מה שאני חושב על המשפט הזה. זו לא דעה לגיטימית שאפשר להתווכח עליה. זו יהירות שנובעת מבורות. מי שאומר את זה מגלה שהוא לא מבין מה מתכנת עושה. הוא חושב שמתכנת כותב קוד. מתכנת לא כותב קוד. כתיבת קוד זה אחוז קטן מהעבודה. מתכנת מתכנן ארכיטקטורה. מתכנת חושב על סקייל. מתכנת יודע איך לבנות מערכת שלא תתפרק כשעשרת אלפים אנשים ייכנסו בו זמנית. מתכנת יודע מה לבדוק, מה לאבטח, מתי לשכתב ומתי לזרוק הכל ולהתחיל מחדש. מתכנת עם עשר שנות ניסיון מריח בעיה לפני שהיא קורה. את זה אי אפשר ללמד מודל שפה ואת זה אי אפשר להחליף עם פרומפט.
זה לא רק תכנות. אני תמיד מדבר על תכנות כי זה התחום שלי אבל זה רלוונטי לכל מקצוע. מעצב גרפי שעובד עשרים שנה רואה דברים בלייאאוט שאף AI לא ידע להגיד לכם. עורך דין עם ניסיון מריח בעיה בחוזה שהמודל יגיד לכם שנראה תקין. אנשים השקיעו שנים ללמוד, שנים לטעות, שנים לפתח אינטואיציה שאין לה תחליף. לזלזל בזה כי "יש AI עכשיו" זה לא חזון עתידני. זה חוסר הבנה של מה זה בכלל מקצוע.
וכשחברה אומרת "אנחנו לא צריכים מפתחים יותר אנחנו עושים הכל עם AI" זה צריך להדליק נורה אדומה לכל משקיע שנמצא בחדר. כי מה שהחברה הזו באמת אומרת זה "אנחנו לא מבינים מה מפתחים עושים ולכן אנחנו חושבים שאפשר בלעדיהם" וחברה שלא מבינה מה אנשי המקצוע שלה עושים לא תשרוד מספיק זמן כדי להבין למה היא נכשלה.
מה שכן נכון הוא שהמשחק השתנה. מתכנת היום לא צריך לשבת ולכתוב כל שורה בעצמו. יש לו סוכן AI שיכתוב קוד, יעשה דיבאגינג, יכתוב טסטים, יתעד. זה אמיתי. זה עוצמתי. מתכנת אחד עם AI יכול היום להספיק את העבודה של צוות שלם. אבל - ופה ההבדל שאנשים מפספסים - המתכנת הזה חייב להיות יותר טוב, לא פחות. כי עכשיו הוא לא רק כותב קוד. הוא מנהל סוכן שכותב קוד. הוא צריך לדעת מה לבקש, מה לבדוק, מה לזרוק, ומתי להגיד "לא, תתחיל מחדש" הוא צריך את כל הידע שהיה לו קודם ועוד שכבה שלמה מעל.
להחליף מתכנת אחד בvibe coder עם AI זה לא אותו דבר. זה כמו להחליף מנתח מנוסה במישהו שצפה בסרטוני YouTube וקיבל סט אזמלים. הכלים אותם כלים בדיוק. התוצאה? תבינו לבד.
מה עכשיו?
הפוסט הזה היה על דבר אחד בסופו של דבר. לא על AI, לא על סוכנים, לא על קוד. הוא היה על הידע שיושב בראש שלכם ועל העובדה שאף כלי בעולם לא יכול להחליף אותו. AI הוא מכפיל כוח. אבל מכפיל כפול אפס זה עדיין אפס.
אז לפני שאתם רצים לבנות את המוצר הבא עם סוכן שעושה הכל לבד תעצרו שנייה ותשאלו את עצמכם: אם הייתי צריך לבנות את זה בלי AI הייתי יודע מאיפה מתחילים?
אם התשובה היא כן - מעולה. יש לכם את הכלי הכי חזק שאי פעם היה.
אם התשובה היא לא - גם מעולה. יש לכם את הכלי הכי טוב שאי פעם היה כדי ללמוד. פשוט אל תבלבלו בין השניים.
