Discussion about this post

User's avatar
Asher Idan's avatar

בזכות הניוזלטר של מתי מריאנסקי, סיכמתי לכם את הריאיון הכי חשוב בשנת 2024, לפני שצונזר, עם מי שהפך את גוגל לענק בשווי 2 טריליון דולר, אריק שמידט, שמסביר בפשטות את החידושים הכי חשובים בבינה המלאכותית, והמהפכה שהיא תגרום ביחסי הכוחות בעולם בשנים הקרובות:

1, הGPT הולך לשנות את העולם כתוצאה משילוב של 4 הטכנולוגיות הבאות

א, חלון קונטקסט (יכולת לקלוט פרומפטים) של יותר ממיליון טוקנים (חלקי שפה), כמו 20 ספרים. הגידול בחלון ההקשר משדרג מאוד את יכולות הGPT, כי לוקח בערך 18 חודש לבנות ולאמן את הGPT, וכשהוא הופך לפעיל הוא כבר התיישן ולא התעדכן 18 חודשים. הפרומפטים הגדולים הם שמאפשרים לGPT להיות מעודכן כמעט בריל טיים.

ב, להתרחב מיכולת ליצור תוכן לפרומפט טקסטואלי בשפת תכנות פייתון, ליכולת להגיב בפעולה, בשפת תכנות Mojo (העושר של פייטון עם הביצועים של סי): פעולות כמו נהיגה או הזמנת טיול של חודש, שמאפשרות את השלב הבא, סוכנים.

ג, סוכנים שיכולים לבצע עבורנו פעולות מסובכות בעולם הפיזי. למשל לקראת טיול בחו״ל: הזמנת טיסה, מלון, רכב, המלצות לאטרקציות וכו.

ד, יש כבר בינה מלאכותית פוסט-גיפיטי, גם בחומרה (שיפור בנוירון המלאכותי הבודד ולא רק ברשת הנוירונים), וגם בתוכנת הטרנספורמר.

השילוב של ארבעת אלה יובילו לספירלה עולה או כדור שלג, של למידה עצמית ושיכלול עצמי. למשל כל אחד יוכל לבקש מ גיפיטי שיבנה לו גוגל או טיקטוק פרטי, ושיצרף עצמאית את החברים שלי מטיקטוק הקיים, אל הטיקטוק שהוא בנה לי. אנו מתקרבים להנחיות פעולה לGPT (פרומפטים) באורך של 1,000 הנחיות משורשרות לוגית.

2, ״הנוסחה הסודית” של אנווידייה היא CUDA שהיא ארכיטקטורת מחשוב מקבילי שפותחה על ידי חברת NVIDIA. החברה, אשר מפתחת מעבדים גרפיים, פיתחה את סביבת CUDA כדי לאפשר לקהילת מתכנתי ומדעני המחשב לפתח ולהריץ תוכניות מחשב בעזרת כרטיסי GPU. התכנות עצמו מתבצע בעזרת שימוש בשפת C for CUDA.

3, ההשפעות הצבאיות והפוליטיות של הAI : א, בחודשים הקרובים, חברות הענק הולכות להשקיע יותר מ300 מיליארד דולר (פי 3 מהתקציב של מדינת ישראל), ברכישה והפעלה של מעבדים גרפיים GPU של אנווידיה. מדובר במיקרוסופט, גוגל, אפל, אמזון, ופייסבוק. לכן מדינות צריכות לבנות ״אוטוסטרדות ציבוריות של GPT” כמו אוטוסטרדות ציבוריות לתחבורה, וכמו אוטוסטרדות המידע של האינטרנט לפני 30 שנה.

ב, המעבדים האלה צורכים כמות עצומה של אנרגיה, לכן ממשלת ארה״ב בודקת אפשרות לשיתוף פעולה עם קנדה, כדי לרתום את מפלי הניאגרה להפקת חשמל הידרו-אלקטרי מהמפלים,

ג, שני המתחרים העיקריים על הבכורה בבינה המלאכותית הם סין וארה״ב. ארה״ב עדיין מובילה בפער של 3-5 שנים על סין (למשל בבילעדיות על ארכיטקטורת CUDA ). לכן ממשלת ארה״ב אוסרת על יצוא מחשבי על בין 5 ל30 מגה-פלופ.

ד, שמידט עובד כבר 7 שנים עם מערכת הביטחון האמריקאית, על הבינה המלאכותית של רחפן ששווה 1,000 דולר ושמסוגל להשמיד טנק או ספינה של מיליון דול

Expand full comment
קובי טורנהיים's avatar

הי מתי,

לגבי האריזה, שמתי לב שה 50 קוביות בצד ימין יותר קטנות מה 48 קוביות בצד שמאל, אז מה הגאונות פה?

Expand full comment
4 more comments...

No posts