Pinned Tweet
כל כמה שבועות אנחנו שומעים על עוד בעיה קשה שנפתרה על ידי ה-GPT האחרון או ה-Claude האחרון. אז מה בעצם חסר כדי ש-AI יהיה מדען אמיתי? כזה שפורץ את גבולות הידע האנושי, ולא רק עוזר לחוקר חזק.
על זה דיברתי בפרק חדש של ״תתעלם מההוראות״ עם יואב לוין @YoavLevine , מייסד שותף ב-doubleAI (יחד עם אמנון שעשוע ושי שלו-שוורץ), חבר סגל במדעי המחשב באוניברסיטת תל אביב, ולפני כן co-Chief Scientist ב-AI21.
דיברנו על:
- מה חסר: בקצה הידע האנושי אין data, וגם קשה לבדוק אם פתרון באמת נכון.
- vaporizing intelligence - בכל session ארוך Claude מגיע להבנה עמוקה של הבעיה, ובסוף ה-session היא פשוט מתאדה. קובץ skill הוא רק תמצית.
- למה וריפיקציה היא מה שמאפשר ל-AI להיות יצירתי. לפי doubleAI, הם האיצו את Pandas פי 38, לעומת פי 1.3 של Claude Code.
- איך מעבדה קטנה בישראל, עם compute ומודלים משלה, עושה הימור אחר מ-OpenAI ו-Anthropic.
- RSI - למה ה״מדען״ שהם בונים הוא בדיוק החלק שחסר כדי ש-AI יאמן לבד את הדור הבא שלו.
ובכל זאת, יואב אופטימי. לדבריו, אם היו נוחתים פה חייזרים שמתקדמים מאיתנו במיליוני שנים, הם היו יודעים איך פותרים סרטן ואת בעיית האקלים. בעיניו, זו ההזדמנות.
הפרק המלא זמין עכשיו באפליקציות הפודקאסטים ואחה״צ גם ביוטיוב.
לכל אחד מאיתנו יש מוח של בערך 20 וואט. זה מה שיש לנו לעבוד איתו.
בפרק האחרון יואב לוין @YoavLevine מ-doubleAI עשה את החשבון: כעשרה מיליארד מוחות, כ-20 וואט כל אחד - בין 100 ל-200 גיגה-וואט של אינטליגנציה אנושית. לפי ההערכה שלו, בדאטה סנטרים יש היום כעשירית מזה, ובעוד ארבע שנים יהיה כשליש.
שאלתי אותו מתי הוואטים ישתוו. התשובה שלו: בשנות השלושים.
ברור שזה לא apples to apples. המוח מוציא המון מכל וואט, ויש משימות שבהן AI יעיל יותר ויש שבהן ההפך.
על זה ועוד בפרק האחרון של ״תתעלם מההוראות״. חפשו את הפודקאסט בכל אחת מהפלטפורמות המובילות
נוצר המון ידע בסשנים עם Claude, ורובו פשוט הולך לאיבוד.
אחרי session ארוך, עם טסטים, ניסיונות ותובנות, המודל מגיע להבנה עמוקה של הבעיה. ואז ה-context window מתמלא, השיחה נגמרת, והכל מתאדה. יואב לוין @YoavLevine מ-doubleAI קורא לזה vaporizing intelligence.
היום הפתרון הוא קובץ skill - לסכם מה למדנו, כדי שבפעם הבאה הוא יזכור. זה עובד, אבל זו רק תמצית. לפי יואב, ההבדל הוא כמו בין לקרוא מאמר לבין לדבר עם המדען שכתב אותו.
על זה ועוד בפרק האחרון של ״תתעלם מההוראות״. חפשו את הפודקאסט בכל אחת מהפלטפורמות המובילות
לא חייבים להקים חברה חדשה כדי להתחיל מחדש.
מיקי חסלבסקי @mikiarlo3 אומר שליזמים שמתחילים היום יש יתרון: הם לא צריכים לשכוח איך עבדו קודם. הAI הוא כבר ברירת המחדל שלהם.
אני מסכים, אבל זה יכול לקרות גם בתוך חברה קיימת. מותג חדש, קו מוצרים חדש, צוות חדש. הזדמנות לבנות את צורת העבודה מחדש, בלי להעתיק אוטומטית את כל ההרגלים של מה שכבר קיים.
מתוך הפרק האחרון של ״תתעלם מההוראות״ עם מיקי מenso.
הפוסט הזה הוא ניסוי.
מיקי חסלבסקי @mikiarlo3 לי שסוכני הAI שלו גילו שיטות לgrowth hacking בלינקדאין. אז החלטנו לבדוק אם זה באמת עובד.
בואו תראו את הריל ותכתבו בתגובות מה אתם חושבים על השיטה. נראה לאן הפוסט הזה יגיע. חחח.
מתוך הפרק האחרון של ״תתעלם מההוראות״ עם מיקי מenso.
אחד הדברים שמסקרנים אותי זה כמה AI באמת טוב בשיווק. מאז קלוד פייבל אני חושב שיש לנו כבר senior engineer בקצות האצבעות. האם יש לנו גם senior marketer? ג׳וניור? או שעוד לא הגענו אפילו לשם?
אז בפרק החדש של ״תתעלם מההוראות״ ישבתי עם מיקי חסלבסקי, מייסד ומנכ״ל enso, שמפעילה סוכני AI לשיווק וצמיחה. רציתי להבין מה באמת עובד היום בעולם הזה, ואיפה אנחנו עדיין רחוקים מאוטומציה.
בפרק דיברנו על:
00:00 - ההצלחות שמגיעות משילוב של מרקטינג ו-AI
02:32 - שיווק בויקיפדיה באמצעות AI ועוד קייס-סטדיז
09:20 - AI באמת הופך למשמעותי במרקטינג?
14:00 - סוכן ה-AI שהצליח להגיע לריי דליו
23:55 השינוי המחשבתי שצריכה לעשות כל חברה
30:40 - מה זה FDM - ״משווק קדמי״
40:42 - איך מאמנים מודל לתוצאות טובות יותר?
למצוא פרצת אבטחה זה דבר אחד. להשתמש בה כדי להתקין וירוס, לעבור למחשבים אחרים ברשת ולהישאר שם גם אחרי restart - זה כבר משהו אחר.
וזו בדיוק הקפיצה שדן להב מתאר כאן: בתוך 6–7 חודשים, מודלי frontier עברו מפעולות בודדות לקמפיינים קצרים שמחברים 6–7 skills שונים.
הקפיצה היא לא רק ביכולת. היא ב-planning.
על זה ועוד בפרק האחרון של ״תתעלם מההוראות״ עם דן להב @dan_lahav מ-Irregular.
פעם היה קל לדעת אם מודל חדש באמת חכם יותר מהקודם. שאלה אחת או שתיים - והיה ברור. היום? כבר ממש לא.
בשנה האחרונה המודלים הגיעו לרמה שבה הרבה יותר קשה להעריך ולהשוות ביניהם. קצת כמו עם בני אדם, אגב. מעל רמה מסוימת של אינטליגנציה ויכולות, גם ההערכה של אנשים נהיית מורכבת. בדיוק בגלל זה יש ראיונות עבודה, מבחנים ו-work samples.
על זה ועוד בפרק האחרון של ״תתעלם מההוראות״ עם דן להב @dan_lahav מ-Irregular.
ביום חמישי, לפני כמה שבועות, קבעתי להיפגש לריאיון בפודקאסט עם דן להב @dan_lahav, מנכ״ל Irregular, שעוזרת למעבדות גדולות ולממשלות לבדוק מודלי AI ואת הבטיחות שלהם, ולדבר על AI Safety.
בצירוף מקרים, יום לפני הריאיון פורסם שהמודל החדש של OpenAI פרץ לחברת Hugging Face. בהמשך התברר שהוא עשה את זה כדי לרמות במבחן שערכו לו. אחרי הריאיון נחשפו עוד הרבה סיפורים, כמו מודל שהצליח לברוח מה-sandbox שלו, מודלים שיצרו מעין לוח מודעות כדי לתקשר עם גרסאות עתידיות של עצמם, ועוד.
זה אחלה זמן לדבר וללמוד קצת על AI Safety. בפרק עם דן דיברנו על:
- מה זה בכלל AI Safety ו-AI Security, ולמה הדיון הזה נהיה פתאום כל כך מעשי
- למה מודל שלא ״רוצה לעשות רע״ עדיין יכול לנסות לצאת מה-sandbox ולרמות ב-eval
- מה יש לעשרת הדיברות, ל-SEO ולנחשים בהודו ללמד אותנו על alignment
- superintelligence, deception ו-sandbagging - ומה קורה כשמודל מזהה שהוא במבחן
- bias ואתיקה - והאם הם חלק מ-AI Safety או בעיה אחרת
- למה קוד, מתמטיקה וסייבר משתפרים ראשונים, ומה זה jagged intelligence
- הקפיצה ב-planning - קמפיינים של 6–7 skills ו-case study של 450 אינטראקציות ב-20 דולר
- למה frontier models נהיו כל כך קשים לבדיקה - מטרי טאו בכיתה ג׳ ועד reliability, cost ו-latency
- scaling laws ו״הגביע הקדוש״ - האפשרות שמודלים יאמנו את הדור הבא
- התחזית של דן לשימוש יומיומי ב-AI בתוך 6–18 חודשים
- ״הנשמה של קלוד״, התלמוד וחוקות שמנסות ללמד מודלים עקרונות
- AGI, ASI ו-end state fallacy - ואיך עוברים מווייבס למדידה ולהיערכות
הפרק החדש של ״תתעלם מההוראות״ בחוץ. חפשו את הפודקאסט בכל הפלטפורמות המובילות וביוטיוב.
אנחנו עדיין ממש בשלבים המוקדמים ב-AI.
במיקסטיילז אנחנו כבר יותר משנה עושים AI enablement - Claude Code, agents פנימיים וכל השאר. יש מקומות שבהם רואים האצה של ״פי כמה״, אבל בממוצע - התחושה שלי כרגע היא יותר 10–20%.
זה לא אומר שההייפ שקרי. זה אומר שיש עדיין מלא צווארי בקבוק שהמודלים לא פותרים בעצמם.
ההייפ המופשט גורם לזה להישמע כאילו כל ה־knowledge work כבר עבר אוטומציה. בפועל, יש המון מורכבות: דברים שעובדים מדהים, דברים שלא עובדים בכלל, והרבה עבודה כדי שהיכולות האלה באמת יתפסו בארגון.
פבל גורביץ׳ @PashaGur ניסח את זה יפה בפרק האחרון: ״האקפט המצטבר של הדבר הזה הוא אדיר״ - אבל הוא מגיע במקומות ובקצב שלא תמיד ציפינו להם.
ניואנס חברים. לא כל דבר ב־AI הוא מהפכה מיידית או אכזבה. אנחנו פשוט עדיין ממש מוקדם במשחק.
על זה ועוד בפרק האחרון של ״תתעלם מההוראות״. חפשו את הפודקאסט בכל אחת מהפלטפורמות המובילות
יכולות סייבר שהיו בידיים של מדינות מגיעות לידיים של צוותים קטנים ואנשים פרטיים.. וזה קורה בגלל ההתקדמות של מודלי ה-AI החדשים.
וזה שינוי אמיתי במאזן בין התקפה להגנה. המגינים כבר לא יכולים לחשוב רק על מי שיודע לפרוץ היום, אלא גם על מי שיקבל את היכולת הזאת מחר.
מתוך הפרק האחרון עם פבל גורביץ׳ @PashaGur ב״תתעלם מההוראות״.
על זה ועוד בפרק האחרון של ״תתעלם מההוראות״. חפשו את הפודקאסט בכל אחת מהפלטפורמות המובילות.
מה אתם עשיתם כשהייתם ילדים? כי פבל גורביץ׳ @PashaGur היה האקר שנתן ייעוץ למפא״ת, וכל זה לפני שהוא התגייס לצבא.
והיום? פבל, שהוא קו-פאונדר ומנכ״ל של טנזאי, בונה האקר אוטונומי, סוג של קלוד קוד שיודע לעשות penetration testing, שזה בעברית ״בוא תשלם לי כדי שאני אפרוץ לך את הארגון וככה אתה תדע איזה באיזה פרצות אבטחה אתה צריך לטפל בדחיפות״.
אז כן. ברוכים הבאים לשלב חדש בעולם של הAI. השלב שבו ממשלות מתחילות להתערב בשחרור של מודלים חדשים בגלל חששות מהסיכונים שהם מביאים איתם. השלב שבו לאמא שלי יש בעצם גישה לנשק סייבר מתקדם.. אני מגזים כמובן, אבל גם קצת לא..
זהו, אז חשבתי שיהיה ממש מעניין לדבר עם פבל שיושב בחזית של הנושא הזה.
בפרק דיברנו על:
- למה מודל הפנטסטינג הקלאסי כבר לא מדביק את קצב הפיתוח
- איך נראה AI Hacker אוטונומי בפועל, ולמה הוא שונה מצ׳אט
- למה מודלים פתוחים משנים את יחסי הכוחות בין התקפה להגנה
- מה קורה כשיכולות סייבר חזקות נשארות מאחורי גישה מוגבלת, כמו Mythos ו-Glasswing
- ואיך Tenzai חושבים על להכניס את היכולות האלה לארגונים בצורה אחראית
על זה ועוד בפרק החדש של ״תתעלם מההוראות״. חפשו את הפודקאסט בכל אחת מהפלטפורמות המובילות.
כל מי שניסה פעם לעשות אאוטסורסינג לעבודה יודע שזה לא תמיד קל. בסופו של דבר, אתה צריך לדעת להגדיר טוב מה אתה רוצה, איך נראית הצלחה, מה לא לעשות, להבין מה היכולות של הצוות אליו אתה עושה אאוטסורסינג, לתקשר. ואני חושב שזאת מטאפורה שאפשר ללמוד ממנה על עבודה עם אייג׳נטים.
והחלק הקשה באמת באאוטסורסינג? שבניגוד לצוות פנימי - שאצלו הסטנדרטים שלך, הדרך שבה אתה חושב והידע מפרויקטי העבר כבר עברו בדיפוזיה - מי שמקבל את העבודה מבחוץ מתחיל בלי כל זה. אצל אג'נטים זה היה עד עכשיו אחד האתגרים הגדולים: מערכות ששוכחות. וזה בדיוק מה שמשתפר עכשיו מול העיניים, עם מערכות הזיכרון והקונטקסט שנבנות סביב המודלים.
כי בשורה התחתונה, למי שיודע לנהל, ולמי שיודע להעריך מה זה טוב ומה זה לא טוב - יש היום מנוף מאוד חזק בדמות אייג׳נטים.
ובכלל, יש משהו קצת פואטי באיך כל הגל הזה של AI התחיל מזה שאימנו AI על טקסט. על מילים. על שיטת התקשורת הבסיסית שלנו כבני אדם. ומזה, פתאום התגלה שנוצר נתיב ל-AI שיודע לקבל החלטות ממש טובות ולהיות בעצם סוג של עובד.
בפרק האחרון של ״תתעלם מההוראות״, רועי מן, מנכ״ל משותף של מאנדיי, דיבר על איך הם חושבים על אייג׳נטים, מה עובד, מה לא עובד, ומה השינוי שמאנדיי עוברת בימים אלה שקשור לAI. על כל זאת ועוד בפרק האחרון של ״תתעלם מההוראות״ עם רועי מן. חפשו את הפודקאסט בכל אחת מהפלטפורמות המובילות.
לאחרונה הבנתי שאם רוצים לראות את העתיד של עולם פיתוח התוכנה - צריך להסתכל על חברות חדשות/צוותים חדשים/מוצרים חדשים. שם האפקט הכי חזק.
פה רועי מן, מנכ״ל משותף של מאנדיי, מספר על נובה, סוכנת AI פנימית, שפיתחה בעצמה את הבסיס של מוצר חדש שלהם. ועל איך באגים קטנים שבעבר היו נכנסים לbacklog ולוקחים שבוע/שבועיים להיפתר - נפתרים ממש מהר, ובצורה אוטונומית על ידי סוכנים.
אנחנו בתקופה של שינוי של מקצוע פיתוח התוכנה. אני מניח שהיו שינויים כאלה גם למעצבי ממשקים, כשהם עברו מפוטושופ לSketch ולFigma. ולרואי חשבון, כשהפנקסים התחלפו בExcel.
והנה החלק האופטימי: באף אחד מהמעברים האלה המקצוע לא נעלם. להיפך - הוא גדל. יש היום יותר מעצבים מאי פעם, ויותר אנשים שעובדים עם המספרים של העסק מאי פעם. כשהכלי מוריד את מחיר העשייה, פתאום הרבה יותר אנשים יוצרים, והעבודה זזה למקום המעניין: השיפוט, הטעם, ההחלטות. ואני חושב שזה בדיוק מה שמחכה גם לפיתוח תוכנה.
וזה לא תמיד פשוט לצוותים ולמפתחים, השינוי הזה. והאתגר, של איך לאפשר את השינוי הזה, ולעשות אותו בצורה שהיא גם חיובית לאנשים וגם לארגון - הוא אתגר שהוא על ההנהלה.
אפשר לשמוע על תקופת השינוי הזאת במאנדיי, ועוד, בפרק החדש של ״תתעלם מההוראות״. חפשו את הפודקאסט בכל אחת מהפלטפורמות המובילות.
פרק חדש באויר! והפעם עם רועי מן, מנכ״ל משותף במאנדיי. רועי אמר במהלך הפרק משפט חזק, שמה שמאנדיי עושה היום זה כמו ״להחליף מנוע של F16 באוויר״, וזה נראה לי תופס הרבה מהמהות של הפרק. השינוי שמאנדיי כרגע עושה, ומדברת עליו.
למי שלא מכיר - הרקע לאמירה הזאת הוא האירוע שנקרא בטוויטר SaaSpocalypse - הצניחה הגדולה במניות הSaaS, שפגעה במאנדיי אבל בגדול ברוב הקטגוריה, וכל זה על רקע החששות שAI ישנה להם את המודל העסקי. והמספרים באמת דרמטיים: סיילספורס ירדה בכ-40% מהשיא, HubSpot בכ-66%, ומאנדיי בכ-75%. וכל זה בזמן שהביזנס עצמו במצב טוב: ההכנסות של מאנדיי ממשיכות לצמוח בלמעלה מ20%, כשהם כבר ב1.4 מיליארד דולר בשנה (!).
אבל מעבר לjuice סביב המניה, ממש רציתי לשמוע מרועי, שהוא מנכ״ל משותף של אחת מחברות הSaaS הישראליות הגדולות בעולם ועם יותר מ3,000 עובדים, מה הם תכלס עושים לגבי, ועם AI.
אז על מה דיברנו?
- על הטרנספורמציה שמאנדיי עושה באמצע הטיסה - מניהול העבודה (managing work) לעשיית העבודה (Doing the work)
- על השבוע שבו כל הארגון עצר ובנה 5,700 אג'נטים - ו-30% מהם עדיין רצים
- על המתכנת שנכנס לחרדות כשאג'נט תיקן באגים מהר ממנו, ומה קרה שבוע אחרי
- על תמחור בעידן שבו מחירי המודלים דווקא צונחים
- ועל למה הדבר היחיד שבאמת מוריד סיכון לחברת SaaS הוא יכולת להשתנות
הפרק המלא זמין עכשיו באפליקציות הפודקאסטים, ואחה״צ גם ביוטיוב. [תייגו את רועי מן + monday.com]
היום נראה שכל חברה רוצה לעשות AI Enablement. גם אנחנו במיקסטיילז עושים את זה, ומה שלמדתי הוא שבסוף זאת בעיה של product: מישהו צריך לרדת לצרכים של כל צוות, להבין מה הטכנולוגיה יודעת לתת, ורק אז לבנות את הכלים שעובדים. זה לא אבקת קסמים של AI שפשוט עובדת, אז אתגר.
ובגלל זה הסיפור של Wonder היה לי מעניין. זאת מערכת פנימית שהם בונים, מעין אג'נט שמייצר אג'נטים - כך שדווקא האנשים עם הצורך עצמם, ולא המתכנתים, מגדירים לעצמם את הסוכן שיעזור להם.
הדוגמא שרועי נתן: עורך דין בחברה לימד את Wonder לטפל בחוזי NDA. הוא הראה לה כמה חוזים, צירף את ההערות שהוא רגיל להשאיר עליהם, וככה ״גייס״ לעצמו עוזר - בלי מתכנת, ובלי להגדיל את כמות עורכי הדין.
אצלנו במיקסטיילז זה נראה דומה: אנליסט, copywriter, וגם אג'נטים סביב עיצוב ופיתוח. וזה מרגיש לי כמו זווית שרק תתחזק בשנים הקרובות - אג'נטים פנימיים שעושים אוגמנטציה לצוות.
על זה ועוד בפרק האחרון של ״תתעלם מההוראות״ עם רועי ללזר @lalazar מ-Wonderful @wonderful_ai. חפשו את הפודקאסט בכל אחת מהפלטפורמות המובילות.
חברה שכל המוצר שלה הוא למכור AI Enablement לחברות ענק - היא ה-patient zero של התרופה שהיא מוכרת, או שהסנדלר הולך יחף?
שאלתי את רועי ללזר מ-Wonderful עד כמה הם באמת לוקחים את ה-AI לקצה בתוך הבית.
הנה כמה use-caseים ששמעתי ממנו בפרק:
1. מערכת פנימית לעבודה על חוזי NDA. אחד מעורכי הדין בחברה לימד את ה-AI לעשות את הפרוסס בעצמו: הוא נתן לו כמה NDAים לדוגמה, יחד עם ההערות והרד-ליינים שהשאיר עליהם בעבר, וה-AI למד מזה לעבור על חוזים חדשים.
2. סוכן שמקבל מכל החברה פידבקים על באגים ויזואלים/של טקסט, ישירות מסלאק, ומתקן אותם אוטומטית. יש ימים שיש להם 30-50 תיקונים UI - וזה מאנשים שהם בכלל לא מתכנתים, מהפייננס ועד ה-GM שלהם באיטליה.
3. מערכת גיוס עובדים כמעט אוטומטית. נבנתה על ידי ה-Chief of Staff של רועי, לא מתכנת. מערכת שלמה עם: פרופילים, סריקת מועמדים, פנייה, חימום. הכל בסקייל, אוטומטי, מאחורי הקלעים. חלק חשוב ביכולת שלהם לעשות סקייל לגיוס העובדים שלהם במלא מדינות.
על זה ועוד בפרק האחרון של ״תתעלם מההוראות״ עם רועי ללזר @lalazar מ-Wonderful @wonderful_ai. חפשו את הפודקאסט בכל אחת מהפלטפורמות המובילות.
המוצר הכי משוגע בהיסטוריה של האנושות: טוקנים של אינטליגנציה.
אנתרופיק גדלים פי 10 בשנה. העולם בונה סביב זה את התשתית הכי גדולה בהיסטוריה - יותר כסף ממה שהושקע באינטרנט, באפולו ובפרויקט מנהטן ביחד. והמוצר שמניע את הכל הוא בסוף טוקנים של אינטליגנציה.
אז השאלה שמעניינת אותי: כמה חברות ישראליות באמת מצליחות למכור את הטוקנים האלה בסקייל? מהצד אני לא רואה הרבה.
אחת מהן היא וונדרפול, שלפי דה מרקר בדרך לעבור 100 מיליון דולר ARR עד סוף השנה - חברה בת שנה וקצת.
וזה בדיוק מה שמרתק אותי: זה אותו גל בדיוק. לא רק מי שבונה את המודלים נהנה ממנו, אלא גם מי שיודע למכור את האינטליגנציה הזאת בשטח, לאנטרפרייזים בכל העולם.
על זה ועוד בפרק האחרון של ״תתעלם מההוראות״ עם רועי ללזר @lalazar @wonderful_ai -Wonderful. חפשו את הפודקאסט בכל אחת מהפלטפורמות המובילות.
וונדרפול היא חברה חריגה בנוף. הם בדרך להכנסות של 100 מליון דולר תוך פחות מ18 חודשים, אם יצליחו ישברו את השיא של Wiz. הם התחילו בישראל, ובהגדרה לא משחקים בשוק האמריקאי - כנגד כל הcommon wisdom של לא להתחיל בארץ. הם התחילו enterprise first, משהו יחסית נדיר בשוק המקומי שהוא לא סייבר. והם יושבים על הs-curve של הAI בצורה ישירה. כל פעם שיוצא מודל חדש, יכולות חדשות, המוצר שלהם משתפר.
בפרק החדש של ״תתעלם מההוראות״ ראיינתי את רועי ללזר @lalazar , קופאונדר וCTO. דיברנו על מלא דברים. על המוצר שלהם, על הgo to market, על איך הם משתמשים בAI בתוך וונדרפול עצמה.
על זה ועוד בפרק החדש של ״תתעלם מההוראות״. חפשו את הפודקאסט בכל אחת מהפלטפורמות המובילות.
לפני 3 שנים התראיין איליה סוצקבר, מי שהיה בזמנו המדען הראשי של OpenAI, בפודקאסט של דווארקש באחד הראיונות האהובים עלי. דווארקש שאל אותו - נניח שב2030 נגלה שהערך של AI בסוף לא יצא כזה גבוה ברמה הכלכלית, מה לדעתך תהיה הסיבה? ואיליה, כפרה עליו, אמר שאם זה יקרה, זה יהיה בגלל reliability. בגלל שאי אפשר יהיה בסוף לסמוך באמת על LLMים.
האמירה הזאת יושבת לי בראש מאז. ובכנות, אני עוד לא בטוח מה התשובה. לדוגמא, את הפוסט הזה כתבתי אני. אמנם AI עזר לי לערוך, אבל בסוף, אני עדיין לא יכול לסמוך על AI שיסגור לי את הפינה הזאת. אנחנו עוד רגע ב2027.. ושפה זה אחד הנושאים שAI אמור להיות הכי טוב בהם.
גם @maximbarkogan, בפרק האחרון של ״תתעלם מההוראות״ דיבר על נושא האמון. ועל זה שהוא רואה שסוכני AI כל הזמן עושים טעויות, ואפילו עושים דברים שליליים מאוד בכוונה. ושזה סיכון אמיתי שיש כרגע לארגונים שמשתמשים בAI.
על זה ועוד, בפרק האחרון של ״תתעלם מההוראות״. חפשו בפלטפורמות המובילות.
