5 Comments

בזכות הניוזלטר של מתי מריאנסקי, סיכמתי לכם את הריאיון הכי חשוב בשנת 2024, לפני שצונזר, עם מי שהפך את גוגל לענק בשווי 2 טריליון דולר, אריק שמידט, שמסביר בפשטות את החידושים הכי חשובים בבינה המלאכותית, והמהפכה שהיא תגרום ביחסי הכוחות בעולם בשנים הקרובות:

1, הGPT הולך לשנות את העולם כתוצאה משילוב של 4 הטכנולוגיות הבאות

א, חלון קונטקסט (יכולת לקלוט פרומפטים) של יותר ממיליון טוקנים (חלקי שפה), כמו 20 ספרים. הגידול בחלון ההקשר משדרג מאוד את יכולות הGPT, כי לוקח בערך 18 חודש לבנות ולאמן את הGPT, וכשהוא הופך לפעיל הוא כבר התיישן ולא התעדכן 18 חודשים. הפרומפטים הגדולים הם שמאפשרים לGPT להיות מעודכן כמעט בריל טיים.

ב, להתרחב מיכולת ליצור תוכן לפרומפט טקסטואלי בשפת תכנות פייתון, ליכולת להגיב בפעולה, בשפת תכנות Mojo (העושר של פייטון עם הביצועים של סי): פעולות כמו נהיגה או הזמנת טיול של חודש, שמאפשרות את השלב הבא, סוכנים.

ג, סוכנים שיכולים לבצע עבורנו פעולות מסובכות בעולם הפיזי. למשל לקראת טיול בחו״ל: הזמנת טיסה, מלון, רכב, המלצות לאטרקציות וכו.

ד, יש כבר בינה מלאכותית פוסט-גיפיטי, גם בחומרה (שיפור בנוירון המלאכותי הבודד ולא רק ברשת הנוירונים), וגם בתוכנת הטרנספורמר.

השילוב של ארבעת אלה יובילו לספירלה עולה או כדור שלג, של למידה עצמית ושיכלול עצמי. למשל כל אחד יוכל לבקש מ גיפיטי שיבנה לו גוגל או טיקטוק פרטי, ושיצרף עצמאית את החברים שלי מטיקטוק הקיים, אל הטיקטוק שהוא בנה לי. אנו מתקרבים להנחיות פעולה לGPT (פרומפטים) באורך של 1,000 הנחיות משורשרות לוגית.

2, ״הנוסחה הסודית” של אנווידייה היא CUDA שהיא ארכיטקטורת מחשוב מקבילי שפותחה על ידי חברת NVIDIA. החברה, אשר מפתחת מעבדים גרפיים, פיתחה את סביבת CUDA כדי לאפשר לקהילת מתכנתי ומדעני המחשב לפתח ולהריץ תוכניות מחשב בעזרת כרטיסי GPU. התכנות עצמו מתבצע בעזרת שימוש בשפת C for CUDA.

3, ההשפעות הצבאיות והפוליטיות של הAI : א, בחודשים הקרובים, חברות הענק הולכות להשקיע יותר מ300 מיליארד דולר (פי 3 מהתקציב של מדינת ישראל), ברכישה והפעלה של מעבדים גרפיים GPU של אנווידיה. מדובר במיקרוסופט, גוגל, אפל, אמזון, ופייסבוק. לכן מדינות צריכות לבנות ״אוטוסטרדות ציבוריות של GPT” כמו אוטוסטרדות ציבוריות לתחבורה, וכמו אוטוסטרדות המידע של האינטרנט לפני 30 שנה.

ב, המעבדים האלה צורכים כמות עצומה של אנרגיה, לכן ממשלת ארה״ב בודקת אפשרות לשיתוף פעולה עם קנדה, כדי לרתום את מפלי הניאגרה להפקת חשמל הידרו-אלקטרי מהמפלים,

ג, שני המתחרים העיקריים על הבכורה בבינה המלאכותית הם סין וארה״ב. ארה״ב עדיין מובילה בפער של 3-5 שנים על סין (למשל בבילעדיות על ארכיטקטורת CUDA ). לכן ממשלת ארה״ב אוסרת על יצוא מחשבי על בין 5 ל30 מגה-פלופ.

ד, שמידט עובד כבר 7 שנים עם מערכת הביטחון האמריקאית, על הבינה המלאכותית של רחפן ששווה 1,000 דולר ושמסוגל להשמיד טנק או ספינה של מיליון דול

Expand full comment

מתי,

אני למען האמת מאד מתעניין בוסגיית האריזה. ואני מתעסק עם זה גם בעבודה שלי.

אצלנו הבעיה היא קצת שונה ותהיתי אם אתה מכיר גם מקורות מעניינים בבעיה שלנו.

אני עוסק בתחום הבניה. בחברה שלנו חותכים לוחות של גבס במכונת CNC.

כתבנו תוכנה שמקבלת כקלט את גודל חומר הגלם, ואת התכנון של הקיר, והפלט שלה הוא חלוקה אופטימלת לחתיכות שילכו למכונה (לוקחים בחשבון כל מני מגבלו כמו מיקום של עמודים, אסור לחתוך על חורים טכנים וכו')

בשורה התחתונה אנחנו צריכים למלא צורה נתונה בצורות אחרות, ולשאוף למינימום חתיכות בתוצאה הסופית.

אז, האם יש חומרים גם בנושא הזה?

תודה רבה!

נעם

Expand full comment

הי נועם, יש אינספור מחקרים בנושא, ובודאי חלקם הבשילו לתוכנות, אולי אפילו בקוד פתוח.

אני לא מכיר משהו ספציפי.

חיפשתי בגוגל

arbitrary shape packing

וזה עלה בתוצאה הראשונה, אולי יתאים

https://www.autopack.org/overview

Expand full comment

תודה רבה על התגובה!

The Hebrew--English sucks in this text editor... anyhow

Actually, our problem is of Tiling type and not Packing. Meaning we can't keep any empty space, everything must be covered with orthogonal polygons.

We have developed our own tool, and I wondered if there is something similar, which I still didn't find.

Thanks again

Expand full comment

כרגיל מתי, זהב טהור

Expand full comment