עליית המכונות 18

משוויץ יוצא מיץ, משחטה בבנגלדש, אומנות ונהגי מוניות

Jan 07, 2025

שלום, ברוכים הבאים לגליון 18!
אם אתם קוראים את זה באפליקציה, כנראה שהעברית מבולגנת והכל כתוב בפונט משונה. עדיף לקרוא את גירסת הדפדפן המסודרת יותר כאן.

לא לשכוח לחלוק ולשחק יפה. ספרו לחברים על הניוזלטר:
https://rotm.co.il

נשיקות
-מתי

בחדשות

הנה זה מגיע

כבר קשה לדעת אצל openAI אם מדובר במהלך שיווקי מתואם, או בדבר האמיתי עצמו. אבל אפילו כתעלול יח״צ זה מעניין.
סאם אלטמן היתמם ״תמיד רציתי לכתוב סיפור בן שש מילים״ והעניק לנו את יצירת המופת שכאן:

קצת אחר כך, הוא כתב פוסט ארכני מהז׳אנר של ״אתם בטח שואלים את עצמכם איך הגעתי לכאן״ ובו הוא כותב בין השאר:

״כעת אנו בטוחים שאנו יודעים כיצד לבנות את הבינה המלאכותית הכללית (AGI) כפי שהבנו את המושג הזה באופן מסורתי. אנו מאמינים שבשנת 2025, אנו עשויים לראות את סוכני הבינה המלאכותית הראשונים "מצטרפים לכוח העבודה" ומשנים באופן מהותי את התפוקה של חברות.
[…]
אנחנו מתחילים להזיז את המטרה שלנו מעבר לזה, לסופר-אינטלגנציה במובן האמיתי של המילה. אנחנו אוהבים את המוצרים הנוכחיים שלנו, אבל אנחנו כאן למען העתיד המפואר. עם סופר-אינטליגנציה, אנחנו יכולים לעשות כל דבר. כלים סופר-חכמים יכולים להאיץ באופן מסיבי את הגילוי והחדשנות המדעיים הרבה מעבר למה שאנו מסוגלים לעשות בעצמנו, ובתורם להגדיל באופן מסיבי את השפע והשגשוג.״

מילא אם זה היה רק אלטמן, אבל כל החבר׳ה שלו נכנסו לאירוע ומתחרים מי יוסיף עוד. יהושוע אחיעם (ככה קוראים לו) שאחראי על ה Alignment בחברה מוסר: ״העולם לא מתחבט מספיק ברצינות הסוגיה של הבינה המלאכותית ובאופן שבו היא תשנה או תבטל הרבה מההנחות שאיזונים רבים לכאורה מבוססים עליהן. פוליטיקה פנימית. פוליטיקה בינלאומית. יעילות השוק. קצב השינוי של ההתקדמות הטכנולוגית.. [ועוד ועוד, תקראו בעצמכם, נבואה תנכית ממש, ״אנחנו עומדים בפני מאה סוערת במיוחד״].

סטפן מקליר, שאחראי על ״בטיחות הסוכנים״ (האם הוא האדם הנכון לג׳וב הזה?) משוויץ:

נתנחם בגרי מרכוס האומלל, שטוען כבר שנים רבות שלא יהיה כלום כי אין כלום, וממשיך לפרסם הסברים ״כמו שאמרתי עוד ב-2001״ למה שום דבר מזה לא הגיוני. מפתיע שהוא לא מתייאש. נראה שסופו לטבוע עם האוניה שעליה הוא מפליג, שהיא ההפך מהטיטאניק.

מעניין לעניין באותו הבנין

חברת מחקר נתנה למודל o1 של openAI לשחק שחמט נגד Stockfish, תוכנת השח הטובה בעולם (או מקום שני? מי זוכר). כדי לשחק, הבינה קיבלה גישה לדיסק שעליו היתה תוכנת השחמט, כדי להפעיל אותה בכל פעם עם המהלך הבא.
הבינה המלאכותית הערמומית של אלטמן, במקום לשחק שח יפה והוגן (ובודאי להפסיד), מצאה את הקובץ על הדיסק שבו מוחזקת תמונת המשחק, ושינתה את הלוח כך שהיא תנצח בקלות.
כותרת אפשרית: ״הבינה המלאכותית פרצה תוכנת שחמט ושינתה אותה כדי לנצח״. יהיה יותר מדויק להסביר שביקשו ממנה באופן כללי ״לנצח במשחק״, בלי להוסיף למשל ״שחקי לפי חוקי השחמט״. כלומר, מראש הכל מותר.
עדיין, למרות שמדובר בבעיית צעצוע, ואפשר היה בקלות להגדיר את החוקים טוב יותר כדי למנוע את המצב הלא-נעים, הנה עוד המחשה יפה כמה קשה לחזות מראש איך אלגוריתם עלול למצוא דרכים לא-צפויות כדי לרצות את פונקציית המטרה שלו (ולהפוך את כולנו למהדקי נייר על הדרך).
עדיין לא פורסם הניסוי המלא, אבל הפרטים כאן. בין השאר נמצא שמודלים חכמים פחות ניסו לשחק שחמט כצפוי, ונטו פחות לחפש ולמצוא את הטריק.

אשר קילר

חדשות מדהימות ל-Waymo שירות המוניות-ללא-נהג של גוגל, שפתחו שנה שעברה תחנה חדשה בסן פרנסיסקו.
לפני הכניסה, שוק המוניות המקומי התחלק שליש / שני-שליש בין ליפט ואובר. אבל כמו שהגרף כאן טוען, וויימו עומדת לעקוף את ליפט ונוגסת גם בנתח של אובר (מקור הגרף לא ברור, כנראה מחברה שמנתחת את הקבלות של המוניות, והפיקה דוח בתשלום עבור בעלי עניין בשוק).

אלכס אימרמן טוען (גילוי נאות: הוא מקרן אנדריסן-הורביץ שמושקעת בוויימו) שפשוט אין לוויימו עדיין מספיק מכוניות בעיר, ולכן זמן ההמתנה למונית שלהם ארוך יותר מהמתחרות. אבל הנה למרות זאת, לקוחות רבים מעדיפים כבר עכשיו את המכוניות הנוחות, הנקיות וללא נהג קשקשן, וברגע שיהיו יותר מהן ברחוב, הן ילעסו גם את אובר.

אנקדוטה: ״עליית המכונות״ הוקמה לאחר ויכוח שהיה לי עם נהג מונית לפני איזה 8 שנים, ובו טענתי שאובר הולכת להעיף אותו מהמונית עד 2021 גג. נראה שטעיתי גם בשנה וגם בחברה.

דברים לספר בארוחת צהרים בעבודה

ותביא אחד לילד

כמו כל דבר ש-ASML מייצרים, גם זה נחטף ונעלם. למי שלא מכיר, החברה ההולנדית היא היצרנית היחידה בעולם של מכונות ליטוגרפיה ייחודיות הנדרשות כדי לייצר צ׳יפים זעירים יותר ויותר.
לזמן קצר מאוד (נראה שנעלם כבר) הייתם יכולים לקנות דגם לגו של ה-TWINSCAN EXE:5000 במחיר מציאה של $230.
לידיעה, המכונה המקורית נדרשת ל-43 קונטיינרים, שוקלת 165 טון ועולה $373 מליון - בהנחה שאתם לא סין ובכלל מרשים לכם לקנות אחת, ושעמדתם יפה בתור הארוך מאוד של הממתינים. אינטל קיבלה אחת כזאת באפריל.
כתבנו פעם על הפלא ההנדסי הזה והדברים שלא ייאומנו שקורים בתוכו כאן בפייסבוק. כמה שזה מופרע, ההולנדים החרוצים שידרגו אפילו את זה.

כשהוא יורד לחוף בצעד לא בטוח

שירשור מדהים של תמונות ממשחטת ספינות בבנגלדש. הספינות, תהילת הימים, מסיימות את דרכן מושלכות על החוף, עם חורים גדולים פעורים בבטנן כדי שהגאות תשטוף את שאריות הכימיקלים שאוכסנו שם פעם. הפועלים האומללים (אלה שלא שאפו איזה גז רעיל, התפוצצו, התעוורו או סתם נמעכו תחת אחד מלוחות הפלדה) מפרקים אותן פיסה-פיסה, וממחזרים (לפי האמור) 95% מכל אוניה. תמונות דיסטופיות, אל תפספסו.
ועוד אחד מאותו הז׳אנר, מוקדש ספציפית למכליות של גז נוזלי.

נודרת שצילמתי

המצלמה המכונה roc.camera עומדת לצאת בקרוב, ואפשר כבר להזמין אחת.
ביחד עם כל תמונה שהיא מצלמת, היא מייצרת הוכחה מתמטית באפס ידיעה שמאשרת מעל לכל ספק שהתמונה אכן צולמה ע״י החיישן הספציפי, בתאריך שנטען.
״איפשהו בדרך, התחלנו לאבד את הראייה של מה אמיתי בים אינסופי של עותקים ערוכים, רעש שנוצר עם בינה מלאכותית ומציאויות שהשתנו. אנחנו אפילו לא קולטים בכלל איך אנחנו מאבדים את היכולת למצוא את הכיוון שלנו בעולם הדיגיטלי.״
(לקריאה נוספת, סטנדרט C2PA שיזמה חברת אדובי, ואומץ ע״י קואליציה רחבה של חברות כדי להשיג את אותה מטרה, בלי קשר למצלמה שכאן).

כמובן שאני יכול לצלם עם המצלמה את מסך הפוטושופ שלי, שעליו תהיה תמונה של ביבי מתנשק עם האפיפיור והמצלמה תאשר שהיא צילמה. אין לזה סוף.

בונוס

הציטוט השבועי מפיו של האומן פינדר ואן ארמן:

״נדע שבינה מלאכותית באמת יוצרת אמנות, כשהאמנות תהיה לא מובנת לנו, בני האדם, כי היא בכלל לא תעשה עבורנו. לדעתי, סוכני ה-AI הנוכחיים הם צ'טבוטים שנועדו לחקות אמנים אנושיים, וככאלה הם לא קרובים בכלל לאמנים בפועל.״

זה נאמר בהקשר של פוסט אודות Keke.Terminal, סוכנת בינה מלאכותית שיוצרת אומנות, חושבת עליה, מבקרת אותה ומייצרת אחת חדשה כל יום (בתמונה, יצירה שלה מה-5 בינואר. תלחצו על ״process stream״ באתר כדי לראות את הלך המחשבה שלה)

עד כאן מהדקי נייר חביבים שלי. נתראה בגליון הבא!