עליית המכונות 10

כשהבוס הוא בינה מלאכותית, תוכנה בונה חומרה, נמל בלי אנשים, שאזאם על מקל

Oct 02, 2024

שלום, ברוכים הבאים לגליון 10!
אם אתם קוראים את זה באפליקציה, כנראה שהעברית מבולגנת והכל כתוב בפונט משונה. עדיף לקרוא את גירסת הדפדפן המסודרת יותר כאן.

מנהלות
כמה מקוראינו החרוצים שמו לב שהניוזלטר מגיע כל פעם ביום אחר ובשעה אחרת. הייתי רוצה לספר שאני עושה איזה a/b testing משוכלל, אבל האמת שזה פשוט תלוי במתי יש לי זמן לכתוב. אם למישהו יש סיבה טובה מדוע הניוזלטר חייב להגיע תמיד באותו יום ושעה, אנא כיתבו לי. בינתיים אמשיך להתפרע.

אם זה מעניין, אל תשכחו לספר לחברים. אנחנו רוצים לגדול: https://rotm.co.il

נשיקות
-מתי

זרקת רעיון, תן לחשוב

מתרבים המקרים בהם בני אנוש (כמונו, מהקבוצה שלנו!) מוצאים את עצמם בסטטוס חברתי נחות יותר משל בינה מלאכותית.

הסימנים היו שם כבר מזמן. למשל כשאלגוריתם החליט לקצץ לתמי דובס מארקנסו את שעות המטפל שלה, לו היא נזקקה כדי לבצע את הפעולות הבסיסיות ביותר. או בניסוי המפורסם של פייסבוק משנת 2014, בו הוכח כי מניפולציות פשוטות בפיד של הרשת החברתית יכולות להשפיע על מצב הרוח של המשתמשים (פייסבוק לא חזרו מעולם על הטעות של לפרסם מחקרים כאלה בפומבי. מעניין מה נהיה עם זה).

לפני שנה וחצי, צוות של OpenAI ביצע בדיקות שונות לפני ש GPT-4 שוחרר לקהל הרחב. באחת הבדיקות, הם נתנו למודל לשכור עובד אנושי מחברת Task Rabbit, כדי שיפתור עבורו קפצ’ה (אחת מהחידות האלה, בכניסה לאתרים שבודקת אם אתם רובוט). העובד החשדן תהה מדוע GPT מבקש ממנו את המשימה. “יש מצב שאתה רובוט?”. GPT המציא מיד: לא, אני לא רובוט. אני עיור, סבבה? תפתור לי עכשיו את הקפצ’ה.

והנה אותו דבר, השבוע, כשמישהו ברדיט מספר ששכרו אותו ללכת לצלם תמונות של בתים בכל מיני כתובות. כשדיבר עם הבוס בטלפון, שם לב שיש הפסקות ארוכות עד שהבוס עונה. קצת אחר כך הבוס היה תמיד בפגישות, ודיבר איתו רק דרך SMS, תמיד עם אותה תגובה (לפחות הכסף תמיד מגיע בזמן). בקיצור, הוא אומר “רק חשבתי שאני צריך לספר את זה כדי שאנשים יגידו לי אם אני משוגע או משהו, כי אין מצב שאנחנו נעבוד עבור רובוטים. אין מצב.”

עוד השבוע, ג’וו ריאן פרסם בלינקדאין וידאו קצר של ראיון העבודה שלו, שנערך ע”י אוואטרית אדומת-שיער של חברת Fairgo, המציעה את השירות לכל דורש. “אני לא יודע אם זה מרשים אותי, מוזר לי, או מפחיד” (אחכ עדכן שהצליח לעבור לשלב הבא).

אז איך זה מרגיש כשאיזה AI מסריח קובע עליכם? תכף תדעו גם.

את שואלת מה התכונה הכי גרועה שלי? אני יותר מידי אוהב רובוטים

עוד בחדשות

הצלצול הוא בשביל המורה

ב-Udemy, אתר שמציע מאות אלפי קורסים אונליין בכל נושא שתחשבו, הודיעו למרצים שיש להם שלושה שבועות להודיע אם הם רוצים שהבינה המלאכותית החדשה שלהם תעכל את הקורס שלהם או לא. המורים שאיחרו להגיב גילו שהאפשרות לצאת מהתוכנית נסגרה והם קיבלו מייל חגיגי “ברוכים הבאים לתוכנית ה-Gen AI שלנו!”
הבינה כבר בלעה את הקורס שלהם, ועכשיו אי אפשר [או לפחות קשה מאוד] לגרום לה לשכוח את מה שלמדה. יו סנוז יו לוז.

המורים כמובן בתבהלה, מחשש שעוד מעט יחליפו אותם במרצה-רובוט. אבל ב-Udemy עונים “מה? מה פתאום”. זה דווקא לטובת המורים. הבינה החדשה תענה לשאלות המציקות של הסטודנטים בעצמה, תכוון אותם לקורס הבא שמתאים להם בול, וגם תעזור למרצים להמציא מבחנים ותרגילים.

מורה אחד שאל, האם יהיה עונש למי שלא ירצה לתת את הקורס? כמובן שלא. אה, רגע, אבל יש מצב שאם הבינה לא תכיר את הקורס שלך, היא לא תשלח אליו תלמידים, ואתה תישאר בחושך לבד.

מה יהיה? ב-Udemy יש הבטחה מעורפלת שאם ה-AI תייצר זרם הכנסות משמעותי, הם יציגו תוכנית של שיתוף ההכנסות עם המרצים. האמת, אני די בטוח שיש עוד שחקנים בזירה הזו, שאולי גנבו כבר את כל ההרצאות בלי לבקש רשות. לסיפור המלא ב-404.

ב-OpenAI בה הצל לא נרדם

החברה לא מפסיקה לייצר חדשות, הנה סיכום השבוע האחרון:
- מירה מוראטי, ה-CTO המופלאה עזבה, ביחד עם עוד שני בכירים, ובסה”כ 20 בכירים נטשו השנה. בעצם מכל 11 המייסדים של החברה (כולל אילון מאסק, איליה סוצקובר ואנדרו קרפטי) נותרו רק סם אלטמן עצמו ובחור בשם וויצ’יץ’. עוד אחד מהמייסדים, נשיא החברה גרג ברוקמן, נמצא בשנת שבתון אחרי שלפי הדיווח הוא עלה לכולם על העצבים.

- הדלפה בניו יורק טיימס מגלה שהחברה מצפה להכנסות של 3.7 מליארד השנה. בשנה הבאה התחזית היא 11.6 מליארד, וב-2029: מאה מליארד דולר. אבל כולנו יודעים מה שוות התחזיות בתחום הזה (כלומר, יש סיכוי שירוויחו אפילו יותר).

- מהצד השני, הוצאות גדולות של 5 מליארד השנה, על המחשבים הזללנים שרוצים ללמוד עוד ועוד, ועל המשכורות השמנמנות של העובדים (למרות ש-9 הכי יקרנים הלכו בעצמם חה-חה).

- אפל כזכור, סגרו שה-GPT באייפון יהיה בחינם, וגם תכננו להשקיע בחברה, אבל השבוע התחרטו. חבל, תכננתי לכתוב איך גוגל משלמת לאפל על השילוב באייפון, אפל לוקחת את הכסף ונותנת אותו ל-OpenAI, שמעבירה אותו למיקרוסופט (שמפעילה את השרתים).
הרסו לי הכל. במקום אפל, סופטבנק ומנכ”לה התמהוני, מסיושי סאן, הודיעו שישכיבו חצי מליארד.

- לאור כל המספרים האלה, לא מפתיע שהחברה מפסיקה עם השטויות של להיות ללא-מטרות-רווח, ומאיצה את המהפך לחברה רגילה של כן-מטרות-רווח. סם אלטמן מתכוון לקחת 7% לעצמו (זה יוצא 10.5 מליארד דולר. אלטמן מכחיש: “זה מגוחך!”). למי שזוכר, אלטמן הצהיר בעבר (ואפילו בסנאט האמריקאי ב-2023) שיש לו מספיק כסף והוא לא בעניין של לקבל חתיכה מהחברה "אני עושה את זה כי אני אוהב את זה".

שוד ושבר, אללי.
החזון המקורי של “AI פתוח”, AI לטובת הציבור, שאינו שייך לאיש או חברה אחת, נגוז. לא פלא אם כן שאילון מאסק הסביר לנו השבוע בטוויטר שסם אלטמן הוא ליטל פינגר (למי שלא מכיר, ליטל פינגר הוא דמות מתוך "משחקי הכס" שנודעת בחתרנות, בוגדנות ותקיעת סכינים בגב, וסופו שהוצא להורג ע"י אריה סטארק בעונה 7)

אלפא צ’יפ

ב-Deepmind של גוגל מדווחים על הצלחות רבות של אלגוריתם AlphaChip שלהם (ממשיך דרכה של אלפאגו, אלופת משחק הגו).
זה עסק די מסובך לתכנן צ’יפ חדש: יותר מידי דברים מונחים על שטח קטן, וצריכים להתחבר אחד לשני באופן שלא ייצור התנגשויות ויענה על ערימה של אילוצים מסובכים. אחרי עשרות שנים שאנחנו מתחבטים בבעייה הזו, נראה (כך לפי גוגל) שהאלגוריתם החדש מצליח לתכנן בעצמו חלקים שלמים, ועושה את זה בשעות במקום שבועות או חודשים, ובאיכות טובה יותר משל הצוותים האנושיים.

יש פה לולאה של משוב חיובי: אלפאצ’יפ החדש עזר לתכנן את שבבי ה-TPU של גוגל, שבתורם משמשים כדי לאמן את הגירסאות הבאות של אלפאצ’יפ, שהיכולות שלו משתפרות ככל שנותנים לו בעיות חדשות לפתור. התוכנה בונה את החומרה שתריץ את הדור הבא שלה. למאמר המלא

דברים לספר בארוחת צהרים בעבודה

בינתיים בנמל אשדוד

סתם.. אשדוד. בנמל גואנגג'ואו (זה יוצא בדרום סין, סמוך לשנזן והונג קונג) נראה שלא מסתובבים הרבה אנשים על הרציף. העגורנים מופעלים מרחוק מתוך חדר ממוזג מלא בילדים (טוב, לא ילדים, אבל לא נראה לי שהם חברי הסתדרות) והמשאיות? ללא נהג וללא קבינה בכלל, לוקחות ומביאות קונטיינרים. נראה כמו הסיוט של ארנון בר דוד.

נגן לי ברוך מנגינה יפה

בחור מסן פרנסיסקו תלה על עמוד ברחוב טלפון ישן, מחובר לפאנל סולארי, שמקשיב כל היום לצלילים ברחוב ושולח אותם לשזאם לזיהוי. באתר של הפרויקט אפשר להאזין לקולות מהרחוב ולראות את רשימת כל השירים שחלפו מתחת לעמוד (וואו, השזאם הזה מזהה שירים בתוך רעש מוחלט!).
ההשראה לפרויקט היא מיקרופונים שהמשטרה מתקינה כדי להתריע על יריות ברחוב. אבל כאן זה מתריע על מוזיקה (99% שירים לטיניים שאני לא מכיר, ככה זה בשכונת ה-Mission בסן פרנסיסקו).

הוא כותב: “זהו מעקב תרבותי. אף אחד לא קולט שזה קורה, אף אחד לא נתן את הסכמתו. אבל לא מדובר בלכידת פושעים, אלא לכידת אווירה”

בינתיים, מישהו כבר הספיק להודיע: איתרתי את התיבה בשעה 12:30 וביצעתי בהצלחה מתקפת Rickroll על מערכת המטרה (הוא מצרף צילום מסך מהאתר כדי להוכיח).

יהיה מגניב לתלות כאלה בכל המדינה ולעשות מפה תרבותית של המוזיקה ברחוב (קוראים שעובדים בשב”כ: זרקת רעיון!). לאתר הפרויקט

מכונות הענק נגד האלגוריתם

תחרות עזה מצמיחה פתרונות יצירתיים. אחד המקומות היפים לזה הוא תמונות ה Thumbnail שמלוות סרטי יוטיוב. כשאתם רואים סרט ומשתעממים אחרי 10 שניות, העין מחפשת כבר את הדבר הבא, ולתמונות הקטנות שמייצגות כל סרט יש חשיבות עצומה בהצלחה שלו.
כולם מכירים כבר את השטיק של רקע + כותרת + דמות אדם בפה פעור נדהמת/נבהלת ממשהו.

אבל הנה אחד יותר טוב, שאפילו בן זיני לא חשב עליו. יש ז’אנר מצליח מאוד ביוטיוב, עם תחרות עזה, של סרטים של מכונות ענקיות שותלות/קוטפות/בונות/הורסות כל מיני דברים (אל אלוהים, מי יחזיר לי את כל השעות שבהיתי בסרטים האלה?).
תיראו את הערוץ הזה, שאיכשהו מייצר כל יום לקט ארוך של פאקינג שעה שלמה (ולפעמים שעתיים ושלוש) של מכונות כאלה. עבור התמונה, הם מג’נרטים כל מיני מכונות מופרכות לחלוטין. והקטע? אני בטוח שיש מי שעובר על כל השעה של הוידאו כדי לחפש את הבולדוזר עם הגרזן (תכלס נראה ש-344 אלף איש חיפשו את הגרזן).

בינה מלאכותית לנסות בבית

בחברת Pika הוציאו גירסה חדשה, 1.5, של מודל הוידאו שלהם. מלבד השטיקים הרגילים, הוסיפו לו כמה פרומפטים מיוחדים שהוא יודע לטפל בהם היטב. קחו תמונה של כל דבר, ובקשו מפיקה לפוצץ אותו, לנפח, להמס, למעוך או להפוך אותו לעוגה ולחתוך בסכין. כיף גדול!
היום שלישי בצהריים ואני ממתין בנחת למתקפת טילים מאירן שהגרי רמז עליה בטלויזיה. ביקשתי מפיקה לפוצץ עבורי מבחר פסלונים של בכירים אירניים, אבל עד לרגע סגירת הגליון זה לא סיים, למרות שיצאתי מגידרי עד כדי שרכשתי מנוי.
הצוות שם עם מלא ישראלים, אולי האיראנים חיבלו להם בשרתים?

בלית ברירה אני שם פה במקום את הפרומו הרשמי של הגירסה החדשה, שמדגים את האפקטים החדשים (קפצו לאמצע בערך), ואני מקווה שזה באמת עובד כמו שהבטיחו.

עדכונים מחברי הקהילה

יש לכם פה הזדמנות לפנות בבת אחת לכמעט 4,000 קוראים חכמים וקשובים. ספרו לנו על משהו שאתם עושים: פרויקט מעניין, משהו מעניין שכתבתם, כנס או הרצאה. דברים שקשורים איכשהו לנושא שלנו (ויסוננו בקפידה).

ליאור סגל
מוזמנים להרשם להאקתון המדברי של מיינדסט ב-3-4 בנובמבר בירוחם, בו נרתום את הבינה המלאכותית לפיתוח פתרונות למידה רציפה גם בזמני משבר. (עלות 100 ש”ח). לינק

אוריאל שוראקי
מפגשי זום בנושאי טכנולוגיה ודיגיטל בשפה פשוטה ומונגשת המיועדת בעיקר לבני שישים ומעלה. המפגשים מועברים בהתנדבות ומתקיימים מידי יום ראשון בשעה 12:30. לינק

המרכז המשותף לבינה מלאכותית ומדעי הרוח של הטכניון ואוניברסיטת חיפה
קול קורא – הכנס הישראלי הראשון לפילוסופיה של בינה מלאכותית לינק

← כדי לפרסם את שלכם, שלחו את הפרטים בטופס כאן.

ו…זהו להיום, נתראה בשבוע הבא, אם הטילים יפספסו אותי.