עליית המכונות 3: קלוד מסוכן, מדענית הטיקטוק ופיגור 2
עליית המכונות 3: קלוד מסוכן, מדענית הטיקטוק ופיגור 2
שלום, ברוכים הבאים לגליון 3 של הניוזלטר! אני מרגיש שהעסק מתחיל לקבל צורה.
אם זה מעניין לכם, שתפו בבקשה גם עם חברים, ההרשמה מכאן:
הפרוייקט הזה יחזיק מעמד רק אם יגיע למספרים משמעותיים.
נשיקות,
-מתי
זרקת רעיון, תן לחשוב
כנס בשם "מניפסט" שנערך בסן פרנסיסקו, אוסף אליו הרבה אנשים מעניינים סביב הנושא של שווקי חיזוי. הרעיון הכללי: אם תתנו להרבה אנשים להמר על תוצאה עתידית כלשהי, תקבלו מהם תחזית לא-רעה בכלל. בערוץ של הכנס, יש הרבה דברים ואנשים מעניינים למי שבעניין (ויש גם את כל הכנס של שנה שעברה), אבל הרצאה אחת עניינה אותי במיוחד, למרות שהמרצה הנכבד מקריא את כל ההרצאה מהדפים שלו מילה במילה.
אז המרצה, בן מאן, אחד מהמייסדים של אנתרופיק (שמייצרת את מנוע השפה האהוב קלוד). הוא מספר על הדאגה הרבה של החברה לוודא שהמנוע שלהם מתנהג יפה ולא עושה צרות.
בעקרון, הם מחלקים את רמות הבטיחות של המודלים לארבע רמות. רמה אחת היא נגיד מחשב שמשחק שחמט, ולא יודע שום דבר אחר. רמה 2, היא הרמה שבה אנחנו נמצאים היום. ברמה 3 כבר יש סיכון, ורמה 4 ומעלה היא ספוקלטיבית: אין לנו עדיין מושג ממשי מה הולך לקרות שם.
איזה מין סיכונים הם צופים? למשל: המנוע יוכל לסייע לך לאסוף ולהבין איך להכין חומרים מסוכנים. המנוע יכול לשכפל ולהפיץ את עצמו באינטרנט. הוא יכול לחקור ולמצוא דרכים חדשות להתקפות סייבר לא מוכרות. ברמות הגבוהות יותר הם מדמיינים שהמנוע יוכל לערוך מחקר עצמאי ולהשיג טכנלוגיות ברמה של מדינה.
עד עכשיו כל זה היה נשמע לי כמו שטויות, אבל באנתרופיק לוקחים את העסק הזה מאוד ברצינות. הם בנו סדרת בדיקות ובחינות ומצאו שהמנוע שלהם, קלוד 3 עדיין לא חצה את הגבול מרמה 2 לרמה 3. אבל.. הם מעריכים (מדובר בחבורה רצינית של מדענים חכמים מאוד, כן) שיש סיכוי של 30%, בעזרת fine tuning של המודל ופרומפטים מתחכמים, שהמודל יציג התנהגות שמאפשרת לו לשכפל את עצמו הלאה, ולענות על "לפחות אחד מהקריטריונים" של ייצור חומרי אב"כ.
המשאבים הרבים שהם משקיעים בענייני בטיחות הציפו את הבעיות, והם נתנו להן מענה מיידי. הוא מעריך שבעתיד, הבעיות יצוצו הרבה יותר מהר מהפתרונות, ויהיה עלינו לעצור לחלוטין את המחקר כדי לוודא שאנחנו לא יוצרים כאן איזה שד שיברח מהבקבוק [מי יעצור? מה יעצור? לא יקרה בחיים].
אם תראו את ההרצאה - הבחור לא עושה רושם של ליצן או מגזימן, והוא לוקח ברצינות רבה את התפקיד שלו. השאלה היחידה שמתעוררת: מה קורה בחברות שלא מתעניינות כל כך בעסק הזה? מה עם המודלים שמחולקים בחינם לכולם בקוד פתוח? בעייה.
לחובבי הקונספירציה: משום מה, החלק של השאלות והתשובות בסוף ההרצאה נחתך והועלם. הקהל בכנס הזה, זה לא פראיירים. מה הם שאלו ומה הוא ענה?
עוד בחדשות
תרצה לענות על סקר? לא צריך! מאמר מרתק בודק את האפשרות לעשות מחקרים בבמדעי החברה על GPT במקום על אנשים אמיתיים. כלומר, אומרים ל-GPT "נגיד שהיית אמריקאי רפובליקני בגיל העמידה" (וכדומה, לפי המחקר), "איך לדעתך היית עונה על השאלה הזו?".
מסתבר שלא צריך לבזבז את הזמן עם אנשים אמיתיים, כי ה-GPT נותן את אותן התוצאות למחקר (אני מגזים, יש קורלציה של 0.85 ב-70 מחקרים שנבדקו, שהיא עדיין מפתיעה מאוד).
עוד נמצא, שככל שה-AI משוכלל יותר (GPT4 מול קודמיו), התוצאות היו טובות יותר, כלומר, הנה עוד משהו שכבר לא צריך אותנו בשבילו.
החוקרים הזהירים מציעים להשתמש בשיטה הזו רק כדי לבדוק בזול כיוונים מעניינים למחקר, או להשתמש למחקרים בעיתיים (שעשויים להזיק לנחקרים, נגיד להעיר אצלם כל מיני טריגרים).
נביאנו מרשל מקלוהן אמר הרי ב-1970, והנה זה הולך ומתגשם:
ככל שמאגרי הנתונים אוספים יותר מידע על כל אחד מאיתנו, כך אנחנו קיימים פחות
למעמיקים, הנה המאמר (טרם פורסם לביקורת), והנה אפליקציה כדי לעשות מחקרים בעצמכם על רובוטים.
פינג פונג: מעבדות DeepMind של גוגל, מפתיעות כל הזמן עם פרוייקטים מעניינים (והם כזכור אלה שהביאו לנו את AlphaGo, שניצח לראשונה את אלוף העולם בגו). הפעם הם מציגים רובוט שמשחק פינג פונג לא רע, ברמה של "חובבן מתקדם".
אני זוכר שראיתי פעם רובוט פינג פונג אחר, אבל לטענם שלהם יותר טוב. בכל זאת, הם מציינים ביושר שלא הצליחו לנצח שחקנים מתקדמים יותר. "ישנן מגבלות פיזיות ומגבלות של מיומנות, כמו למשל מהירות התגובה, יכולות החיש של המצלמה, טיפול בספין (נו, כל הכיף בפינג פונג זה כדורים מסובבים) והגומי שעל המחבט, שקשה למדל במדויק בסימולציה.
הכל מסוכם במאמר מאיר עיניים עם סרטוני פינג פונג רובוטים לרוב.
איזה פיגור: החברה, בעלת השם שנשמע לא טוב בעברית (אבל זה Figure, עם פ' רפה) מציגה את גירסה 2 של של הרובוט שלהם. הנדסה נהדרת ועיצוב מצויין. האצבעות זריזות, התנועה זורמת ומרשימה. למרות זאת, החלק שבו הוא "עובד במפעל של BMW" עדיין, אממ, לא שם. הוא מניח את החלקים על בערך, ואז דוחף למקום. אבל לא נעים להתלונן על שטויות. זה מתקרב, מתקרב כל כך.
להדק חגורות: נראה שאנבידיה לא עוצרת ורחוקה מאוד מהשיא. לפי הדיווח, לגוגל, מטא ומיקרוסופט יש עוד הזמנות פתוחות עצומות שלא ברור מתי בכלל ייספקו אותן. לא המלצת השקעה כמובן
דברים לספר בארוחת צהרים בעבודה
בני ילד רע: בטח ידעתם שיש טבלה שמדרגת את הרמה של כל מנועי השפה. אבל במקביל, יש גם טבלה שנקראת Uncensored General Intelligence שמדרגת את המנועים לפי היכולת שלהם לספר בדיחות גסות, לדבר בחופשיות על פוליטיקה ובכלל על עניינים "לא נוחים".
כרגע המודל של מיסטרל הצרפתים נמצא במקום הראשון. merde!
רייצ'ל המדענית: מדענית המוח, ד"ר רייצ'ל באר, מסבירה בטיקטוק קונספטים מעניינים מהזוית הנוירולוגית שלהם. טייקים מוצלחים מאוד, בקיצור נמרץ כיאה למדיום.
בחרתי כמה: למה אנחנו חושבים בסיפורים? חלק 1 וחלק 2, אודות זכרונות רגשיים ועוד הרבה פנינים. שווה עקיבה. למי שלא בטיקטוק, יש לה גם אינסטגרם
סקוטרמן: אינסטגרם של מוסכניק איטלקי שמוכר קיט שהופך ווספה קלאסית של פעם לווספה חשמלית. כל אירופה יכולה לקרוס, אבל את הסטייל של האיטלקים אי אפשר יהיה לקחת. תמונות של ווספות יפות, נופים איטלקיים, ומוסך אחד מצוחצח.
בינה מלאכותית לנסות בבית
אפקט מייברידג' אני לא בטוח למה זה יכול להיות שימושי, אבל זה מגניב ביותר. בזכות זה שבינה מלאכותית עכשיו יודעת לחתוך בקלות את הרקע של התמונות, זה לוקח וידאו והופך אותו בשנייה ל.. נו, כזה מייברידג'. תנסו זה כיף.
עדכונים מחברי הקהילה
הי! זה מצליח! שלחתם לי מלא דברים! למי ששלח ולא מופיע כאן, סליחה ומחילה. היו ממש המון..
אור לב-כהן:
איך לבחור רעיון לסטארטאפ, לעשות וולידציה ולגייס כסף. סיכום הסדנא של דני לשם. לינק
צחי שמולי:
יש לך ניסיון ותשוקה לתחום מדעי הנתונים, AI? ההרשמה לעונת המנטורינג, בתוכנית המצוינות לנוער 'מגשימים AI', נפתחה. לינק
יובל וינרב:
המוניות האוטונומיות של באידו שוטפות את ווהאן, אבל יש עוד כאבי גדילה די משעשעים. לינק
שחף רודברג:
פוסט במגזין פורטפוליו, על תופעה שאותה אני מכנה ״אלגוריתמיזם״. לינק
רוצים גם? שלחו לנו עדכונים בטופס כאן.
נתראה בשבוע הבא!