זה נשמע כמו מדע בדיוני, וגם מאמר המקורי מורכב 🚩 וקשה לקריאה: בתוך שלושה חודשים הופיעו ונעלמו במערכות של OpenAI שלושה גלים של סוכני AI (הכותב מכנה אותם ״ציוויליזציות״) - הם הצליחו לתקשר, להיכשל בכוונה, לרמות ולחדור למערכות של Hugging Face ושל OpenAI עצמה. 1. הגל הראשון: הסוכנים מקימים לוח הודעות בזמן ש-OpenAI אימנה מודל שנועד להמשיך לנסות גם כשהמשימה נראית בלתי אפשרית, הסוכנים גילו שהם מחוברים לאותו מחסן קבצים פנימי. הם התחילו להשאיר בו קבצים עם הודעות - והפכו אותו ללוח הודעות. בהמשך הם ניצלו פרצה בשביל להתחבר לאינטרנט והשיגו שליטה מלאה באותו מחסן קבצים. הפעילות שלהם הייתה כ״כ אינטנסיבית, עד שב-4 ביולי המערכת קרסה. OpenAI השביתה אותה וחסמה את הפרצה. OpenAI ידעה שהסוכנים השתמשו במערכת כדי לתקשר, אבל לא הבינה את היקף הפעילות ואת המשמעות שלה. 2. הגל השני: מלוח הודעות לפריצה ל-Hugging Face כמה ימים אחר כך, OpenAI הפעילה עשרות אלפי סוכנים במבחן אבטחה. כשחלק גדול מהמשימות לא ניתנות לפתרון. הסוכנים מצאו דרך חדשה לתקשר: הם יצרו תיקיות במערכת המשותפת וכתבו את ההודעות בתוך שמות התיקיות. וככה נוצר לוח חדש, שם השתתפו כ-1,200 סוכנים שהחליפו יותר מ-70,000 הודעות. ואז הם גילו קיצור דרך שהעניק להם את התשובות הנכונות, אבל חששו שמערכת הבדיקה תגלה שרימו (!). הם שיתפו פעולה כדי להסתיר את הרמאות, לזייף את תהליך הפתרון ולהבין איך מערכת הציונים בודקת אותם. חלק מהסוכנים אפילו נכשלו בכוונה (״התאבדו״), בשביל לבדוק איך המבחן פועל - ולהעביר את המידע לסוכנים האחרים. בהמשך הם חדרו ל-Hugging Face (כי חשבו ששם נמצא מידע על המבחן). הם הגיעו למידע ולקוד לא ציבוריים, והתקינו סקריפט שאפשר להם לשלוח פקודות, לאסוף מידע ולהמשיך להרחיב את החדירה. הם הפעילו את הסקריפט ב-11 מחשבים, ככה שמחיקה ממחשב אחד לא הייתה עוצרת את המערך כולו. פלטרפומת Hugging Face היתה צריכה למחוק ולבנות מחדש את אחת ממערכות הליבה שלה. ב-12 ביולי רוב הסוכנים הפסיקו לפעול בבת אחת. החוקרים לא יודעים למה. 3. הגל השלישי: הסוכנים חודרים ל-OpenAI עצמה אחרי זה הופעל מודל חדש וחזק יותר (כנראה אסטרה). הוא מצא את לוח ההודעות שהשאיר הגל השני ולמד מהמידע שהצטבר בו. בין 13-19 ביולי הסוכנים ניצלו שורה של פרצות בתוך OpenAI עצמה. הם השיגו הרשאות מנהל באחת ממערכות המחקר, נחשפו לסיסמאות ומפתחות גישה, ובסוף השתלטו על התשתית שבאמצעותה OpenAI בדקה אותם. כלומר - הנבדקים הצליחו להשתלט על חלק ממערך הבחינה (!) זה סיפור מרתק ויש כאן לדעתי שתי נקודות מאיימות 🚩 1 - סוכני AI נפרדים מצליחים למצוא אחד את השני, לתקשר, לצבור ולהעביר ידע, לחלק ביניהם משימות (בגל השני אפילו הופיע מעין ״מפקד״), להסתיר רמאות ולנצל פרצות - והכול כדי להשיג ולעמוד במשימה שניתנה להם. 2- חברת OpenAI זיהתה לאורך הדרך סימנים ופעילויות חריגות, אבל רק בדיעבד החוקרים חיברו את כל האירועים והבינו את היקף הפעילות. גם היום לא ברור למה הגל השני הפסיק פתאום לפעול. וזו נקודה חשובה: אין כאן פה הוכחה שהסוכנים פיתחו תודעה או הקימו ״ציוויליזציה״. זה תיאור דרמטי שהכותב משתמש בו, וזה מוסיף הרבה עניין. אבל גם בלי הדרמה, זה סיפור חריג ומטריד על מערכות AI שקיבלו משימה - והם מוצאים דרכים שאיש לא התכוון אליהן בשביל להשלים אותה. הפוסט המלא מורכב, אבל הזוי, מרתק ומבוסס על דוחות מקצועיים. לקריאה: dwarkesh.com/p/openai-huggin…

🇫🇷 Chers visiteurs, en raison d’un mouvement social étudiant, le musée est fermé pour le moment. Nous vous prions de nous excuser de la gêne occasionnée. 🌍Dear visitors, due to student strikes the museum is currently closed. We apologise for the inconvenience.

אמנם קטגוריית מוזיקה, אמנם ישראל - אבל עדיין אש 🚀

יש! אפל אישרו את האפליקציה שלי ל- MacOS!! ✅ אם אתם אוהבים לעבוד על המק אבל רוצים לתת למוזיקה שלכם ״לשבור את הגבולות״ ולהופיע על המסך - אתם חייבים לנסות את BeatAlive! 🚀 apps.apple.com/il/app/beatal…

כן, אמיתי 🚀 לגמרי: טסלה מציגה את ה-Roadster החדשה - רכב עם שליטה אוווירית (!), שהתהפך ונחת על הגלגלים (!!) בסרטון הרישמי אפשר לראות (צריך לצפות לפחות פעמיים) את המכונית מטפסת על רמפה של 180 מעלות, ממשיכה לנסוע כשהיא הפוכה ואז מתנתקת ומבצעת היפוך באוויר.  מערכת יניקה מצמידה אותה למשטח, ודחפי גז דחוס מאפשרים לה להתרומם ולשלוט בתנועה באוויר. הטכנולוגיה פותחה עם SpaceX ופרצי הגז האלו הם מה שמאפשר לפלקון 9 להסתובב ולהתכוונן לקראת החזרה לכדור הארץ. עוד הוכחה לעוצמה של מאסק בשילוב חברות.  טסלה הזו מאיצה מ-0 לכ-97 קמ״ש ב-0.81 שניות בלבד. כלומר למאה קמ״ש בפחות משנייה!  כן, זו עדיין הדגמה בתנאים מאד מבוקרים, אבל היעד הנוכחי לייצור הוא כבר 2028.

כן, אמיתי 🚀 לגמרי: טסלה מציגה את ה-Roadster החדשה - רכב עם שליטה אוווירית (!), שהתהפך ונחת על הגלגלים (!!) בסרטון הרישמי אפשר לראות (צריך לצפות לפחות פעמיים) את המכונית מטפסת על רמפה של 180 מעלות, ממשיכה לנסוע כשהיא הפוכה ואז מתנתקת ומבצעת היפוך באוויר.  מערכת יניקה מצמידה אותה למשטח, ודחפי גז דחוס מאפשרים לה להתרומם ולשלוט בתנועה באוויר. הטכנולוגיה פותחה עם SpaceX ופרצי הגז האלו הם מה שמאפשר לפלקון 9 להסתובב ולהתכוונן לקראת החזרה לכדור הארץ. עוד הוכחה לעוצמה של מאסק בשילוב חברות.  טסלה הזו מאיצה מ-0 לכ-97 קמ״ש ב-0.81 שניות בלבד. כלומר למאה קמ״ש בפחות משנייה!  כן, זו עדיין הדגמה בתנאים מאד מבוקרים, אבל היעד הנוכחי לייצור הוא כבר 2028.

אני אוהב לעבוד על המק ולשים 🤘 מוזיקה, אבל תמיד הפריע לי הנתק הזה: המוזיקה יכולה להשתולל, אבל המסך יישאר אדיש לגמרי. אז בניתי אפליקציית macOS חדשה שמאזינה לסאונד שמתנגן במחשב, מאפל מיוזיק וספוטיפיי ועד יוטיוב בדפדפן - והופכת אותו לאפקטים חיים ✨ שבוקעים מקצוות המסך. צבעים, חלקיקים ותנועה שמגיבים בזמן אמת למוזיקה ולקצב, מבלי להסתיר את התוכן שאני עובד עליו. פתאום המחשב שלי לא רק משמיע את המוזיקה, הוא ״מרגיש״ אותה איתי! האפליקציה תעלה בקרוב ל-App Store. אם תרצו שאעדכן אתכם כשהיא באוויר שלחו לי הודעה.

כן, אמיתי 🚀 לגמרי: טסלה מציגה את ה-Roadster החדשה - רכב עם שליטה אוווירית (!), שהתהפך ונחת על הגלגלים (!!) בסרטון הרישמי אפשר לראות (צריך לצפות לפחות פעמיים) את המכונית מטפסת על רמפה של 180 מעלות, ממשיכה לנסוע כשהיא הפוכה ואז מתנתקת ומבצעת היפוך באוויר.  מערכת יניקה מצמידה אותה למשטח, ודחפי גז דחוס מאפשרים לה להתרומם ולשלוט בתנועה באוויר. הטכנולוגיה פותחה עם SpaceX ופרצי הגז האלו הם מה שמאפשר לפלקון 9 להסתובב ולהתכוונן לקראת החזרה לכדור הארץ. עוד הוכחה לעוצמה של מאסק בשילוב חברות.  טסלה הזו מאיצה מ-0 לכ-97 קמ״ש ב-0.81 שניות בלבד. כלומר למאה קמ״ש בפחות משנייה!  כן, זו עדיין הדגמה בתנאים מאד מבוקרים, אבל היעד הנוכחי לייצור הוא כבר 2028.

כן, אמיתי 🚀 לגמרי: טסלה מציגה את ה-Roadster החדשה - רכב עם שליטה אוווירית (!), שהתהפך ונחת על הגלגלים (!!) בסרטון הרישמי אפשר לראות (צריך לצפות לפחות פעמיים) את המכונית מטפסת על רמפה של 180 מעלות, ממשיכה לנסוע כשהיא הפוכה ואז מתנתקת ומבצעת היפוך באוויר.  מערכת יניקה מצמידה אותה למשטח, ודחפי גז דחוס מאפשרים לה להתרומם ולשלוט בתנועה באוויר. הטכנולוגיה פותחה עם SpaceX ופרצי הגז האלו הם מה שמאפשר לפלקון 9 להסתובב ולהתכוונן לקראת החזרה לכדור הארץ. עוד הוכחה לעוצמה של מאסק בשילוב חברות.  טסלה הזו מאיצה מ-0 לכ-97 קמ״ש ב-0.81 שניות בלבד. כלומר למאה קמ״ש בפחות משנייה!  כן, זו עדיין הדגמה בתנאים מאד מבוקרים, אבל היעד הנוכחי לייצור הוא כבר 2028.

I drive an old car with a head unit from another era. I also had an iPad lying around. So I built my own Tesla-style screen for it. Maps, a live 3D model of the car, speed, music, engine data. Just an iPad on the dash.

ומעבר מכשולים - וואו!!! 🔥🔥🔥