מאמר: העתיד הוא לכולם - מארק צוקרברג
"השאלה המגדירה את העידן היא למי תהיה גישה לבינת-על ... האם תרוכז בידי מוסדות מעטים, או שתהיה כלי מעצים לכל אדם?" - מארק צוקרברג
העתיד אינו שייך לתאגידים, אלא לאנשים. הבינה המלאכותית הופכת לבינת-על אישית המעניקה לכל אחד כוח ליצור, ליזום ולשנות.
הכוח לעצב את המחר עובר לידיים שלנו
אנחנו חיים ברגע נדיר בהיסטוריה. מדי יום נחשפים כלים חדשים שמשנים את הדרך שבה אנחנו עובדים, לומדים ויוצרים. בעבר, טכנולוגיות פורצות דרך היו שמורות למעבדות מחקר סגורות, לתאגידי ענק או לממשלות. התחושה הרווחת הייתה שהעתיד מפותח "אי שם למעלה", בעוד הציבור הרחב רק מנסה להסתגל לשינויים שקורים בלעדיו.
החזון שפורסם ב- 10.8.2026 על ידי מארק צוקרברג, "העתיד שייך לכולם" (בקישור), מציע נקודת מבט שונה לחלוטין.
במרכז הגישה עומדת תפיסה פשוטה אך מעצימה: הבינה המלאכותית אינה מיועדת להחליף את האדם או לרכז כוח בידי מעטים, אלא להוות ארגז כלים אישי שיאפשר לכל אחד מאיתנו לממש את הפוטנציאל שלו, לפעול מתוך סקרנות עצמאית, ולקחת אחריות ישירה על עיצוב חייו.
בהמשך, המאמר המלא מתורגם לעברית.
יעניין אותך לקרוא: הטכנולוגיות והרעיונות שעומדים לשנות את העולם
ביזור הכוח הוא תעודת הביטוח של כולנו
כשמדברים על בינת-על (Superintelligence), השיח הציבורי מתמלא לעיתים מזומנות בתרחישי אימה. מזהירים אותנו מפני אובדן שליטה, אובדן מקומות עבודה רחב היקף, או אפילו סכנה לקיומה של האנושות. אך כאשר בוחנים את הדינמיקה הזו מקרוב, מבינים שחשש מוגזם עלול לשתק את הנכונות שלנו ליזום ולחקור.
למה נבואות הזעם משרתות את מי שרוצה לשמור על הכוח?
ההיסטוריה מלמדת שכאשר מופיעה טכנולוגיה חדשה ומשנה סדרי עולם, התגובה האוטומטית של מוקדי הכוח הקיימים היא לקרוא לריסון מוחלט ולריכוז השליטה. הטיעון נשמע לרוב משכנע: "הכלי הזה מסוכן מדי, ולכן רק גוף יחיד, מוסמך ואחראי צריך להחזיק בו".
אבל ריכוז סמכויות מוחלט בידי גורם אחד, בין אם מדובר בממשלה, בתאגיד יחיד או במערכת בינה מלאכותית בודדת, מעולם לא הוביל לבטיחות אמת. אנושות אינה עשויה ממקשה אחת; לכל אדם ולכל קהילה יש ערכים, שאיפות וסדרי עדיפויות שונים. אין מערכת אחת שיוכלו לתכנן אותה כך שתתאים במידה שווה לכולם.
מאזן הכוחות הדיגיטלי: כשאצל כולם יש את הכלי, אף אחד לא יכול לנצל אותך
הדרך האפקטיבית והבטוחה ביותר להגן על הציבור אינה מניעת גישה, אלא בדיוק ההפך: חלוקה רחבה ושוויונית של היכולות לכולם. בטיחות אמיתית נוצרת כאשר קיים מאזן כוחות טבעי, שבו יחידים ומוסדות מאזנים ובודקים זה את זה באופן שוטף.
נבחן זאת באמצעות דוגמה מעשית:
במצב של ריכוזיות: אם רק לבעלי הון או לארגוני ענק יש גישה ליועץ משפטי מבוסס בינה מלאכותית, לאדם הפשוט אין סיכוי להגן על זכויותיו במאבק משפטי.
במצב של פיזור כוח: כשלכל אדם יש גישה ליועץ משפטי מתקדם בכיס, מאזן הכוחות משתנה. המשפט הופך להוגן, נגיש ומדויק יותר עבור כולנו.
כך גם בתחום אבטחת המידע: אם כלי סייבר מתקדמים זמינים לכלל הציבור, כל מערכת וכל אדם יכולים לחזק את ההגנות שלהם בזמן אמת, מה שהופך את המרחב כולו למוגן ובטוח הרבה יותר.
מנוע חדש ליצירה והמצאה אישית
כשאנשים שומעים על בינה מלאכותית, התמונה הראשונה שעולה בראשם היא לרוב אוטומציה, היכולת לתת למחשב לכתוב דוא"ל קצר, לסכם מסמך ארוך או לתזמן פגישות. אף על פי שמדובר בחיסכון מבורך בזמן, זוהי רק השכבה החיצונית והבסיסית ביותר של השינוי.
תפיסת האוטומציה הישנה
[ביצוע משימה רוטינית] ────> [חיסכון של 5 דקות] ────> [חזרה לשגרה]
תפיסת ההמצאה החדשה
[רעיון או סקרנות אישית] ────> [ניסוי ופיתוח עם AI] ────> [יצירת נכס/פתרון חדש בעולם]
מעבר מאוטומציה פשוטה להרחבת הדמיון והעשייה
התרומה הדרמטית באמת של הבינה המלאכותית אינה בביצוע פעולות טכניות מתוך שגרה, אלא ביכולת שלה לשמש כמנוע להמצאה ולגילוי ידע חדש. היא מאפשרת לכל אדם לבחון השערות, לעצב דגמים ראשוניים, ולפתור בעיות מורכבות שהיו דורשות בעבר משאבים של מעבדת מחקר שלמה.
שאלות שאנו שואלים את עצמנו ביום-יום מקבלות עומק חדש:
במקום לשאול: "איך המחשב יכול לנסח עבורי את ההודעה הזו מהר יותר?"
אנחנו מתחילים לשאול: "איזה רעיון שחלמתי עליו שנים אני יכול להפוך למציאות כבר השבוע?"
המעבדה הפרטית שלכם: לבנות מה שאפילו צוותים גדולים לא יכלו בעבר
היכולת להמציא ולחקור כבר אינה דורשת גיוס הון של מיליוני דולרים או הקמת צוותי עבודה נרחבים. הכלים החדשים הופכים את שולחן העבודה הביתי למעבדה מתקדמת.
ילדה בת שמונה שמביעה סקרנות לגבי רובוטיקה יכולה לתכנן, לקודד ולהדמות רובוט בערב אחד. יזם עצמאי עם רעיון למוצר חדשני יכול לבחון עשרות אבות-טיפוס בתוך ימים ספורים. חוקרים עצמאיים יכולים לסרוק מבנים ביולוגיים ומאגרי נתונים כדי לקדם פתרונות רפואיים.
כאשר המכשולים הטכניים והפיננסיים מוסרים, הגורם המכריע היחיד שנשאר הוא הסקרנות, הרצון ללמוד והנכונות של האדם לקחת יוזמה. השינוי הקטן הזה בחייו של היחיד מייצר אפקט שרשרת רחב, שמעשיר את החברה כולה במגוון עצום של רעיונות, מוצרים ופתרונות חדשים.
יעניין אותך לקרוא: טכנו אופטימיזם
בינת-על בכיס משנה את היום-יום במציאות
כשמפשיטים את התיאוריות הגדולות ומביטים על המציאות בשטח, מגלים שהמהפכה אינה מתרחשת במגדלי שן מנותקים, אלא בחיי היומיום של כל אחד ואיתנו. כאשר כוח החישוב והתבונה הופכים לנגישים ושופעים כמו חשמל או מים, הם משנים מקצה לקצה את הדרך שבה אנחנו מנהלים את זמננו, יוצרים, לומדים ופועלים בעולם.
להלן חמשת הממדים המרכזיים שבהם המהפכה הזו מתורגמת לעשייה ממשית:
סוכן אישי (Personal Agent): שותף אמין לניהול החיים
לכל אדם יהיה מלווה דיגיטלי אישי שמכיר לעומק את שאיפותיו, ערכיו ולוח הזמנים שלו. הסוכן עובד מסביב לשעון כדי לייעל משימות מורכבות, לשמור על בריאותנו, ולפנות לנו זמן יקר עבור הדברים שבאמת חשובים לנו, מערכות יחסים, תחביבים וזמן איכות. העקרון המוביל הוא פרטיות מלאה ושליטה מוחלטת של הפרט במידע שלו.
כלים ליצירה והמצאה: להפוך רעיון למוצר
היכולת ליצור כבר אינה דורשת שנות לימוד טכניות ממושכות. כל אדם, מילד שמבקש לתכנן רובוט ועד למבוגר שרוצה לעצב אפליקציה – יכול לתרגם מחשבה יצירתית לתוצר מוגמר תוך שעות ספורות. חסמי המיומנות הטכנית נעלמים, והדגש עובר מהיכולת הטכנית אל הדמיון והתשוקה ליצור.
עידוד יזמות ועסקים: השוק החופשי של הרעיונות
היכולת להקים עסק או לפתח שירות חדש כבר לא מצריכה גיוסי הון עתק או גיוס צוותי ענק. יזם יחיד יכול להריץ אבות-טיפוס, לנהל מערכי שירות ולנתח שווקים בעצמו. המבנה הזה מצמיח כלכלה מגוונת, דינמית ותחרותית הרבה יותר, שבה השילוב בין סקרנות אישית ליוזמה חופשית מייצר הזדמנויות חדשות ומקומות עבודה מגוונים.
חינוך ולמידה אישית: מורה פרטי בעל סבלנות אינסופית
מערכת הלימוד הופכת למותאמת אישית לכל לומד. לכל תלמיד ואדם מבוגר יש מורה צמוד המציע ידע נרחב, סבלנות בלתי מוגבלת ויכולת להסביר מושגים מורכבים בכל שפה ובכל קצב. שוויון ההזדמנויות בלמידה מאפשר לכל אדם לרכוש כישורים חדשים ולהתפתח באופן עצמאי לאורך כל חייו.
התקדמות מדעית ובריאותית: רפואה מותאמת אישית ומחקר מואץ
המדע עובר דמוקרטיזציה. מודלים מחקריים פתוחים מאפשרים לזהות מולקולות, לבחון השערות רפואיות ולהאיץ גילוי תרופות. במקום להתמקד רק במחלות נפוצות, הבדלים ביולוגיים אישיים מקבלים מענה מדויק. כל אדם יכול להבין מדעית את גופו, להתאים לעצמו תזונה ואורח חיים, ולתרום באופן פעיל לקידום הבריאות של קהילתו.
מדריך ליישום אישי
כדי שהתפיסה הזו לא תישאר בגדר רעיון מופשט, לפניכם מדריך מעשי בן חמישה שלבים. מדריך זה נועד לסייע לכם לקחת אחריות אישית, לפעול מתוך סקרנות, ולהפוך את הטכנולוגיה החדשה למכפיל כוח בכל תחום שבו תבחרו להתמקד.
שלב 1: אימוץ תפיסת שותפות וסקרנות פעילה
הצעד הראשון הוא שינוי תודעתי. הפסיקו להתייחס לכלים החדשים כאל תחליף לחשיבה שלכם או כאל סכנה מעורפלת. ראו בהם עוזר מחקר, מעצב רעיונות ומאיץ ביצועים.
מה עושים בפועל? גשו לטכנולוגיה מתוך עמדה של חוקר: שאלו שאלות, אתגרו הנחות יסוד, ובדקו כיצד הכלים הללו יכולים להרחיב את חופש הפעולה והבחירה שלכם ולא לצמצם אותו.
שלב 2: מיפוי אתגרים וזיהוי צווארי בקבוק
בחנו את הפעילויות השוטפות שלכם וזהו היכן מבוזבז זמן יקר על עבודה שגרתית, או איפה אתם נתקלים בחסם ידע שמונע מכם להתקדם.
מה עושים בפועל? ערכו רשימה של שלוש משימות שגוזלות מכם אנרגיה או רעיונות שהקפאתם מחוסר משאבים. הגדירו בבירור מהו היעד שברצונכם להשיג בכל אחת מהן.
שלב 3: בחירת הסוכן והגדרת סביבת העבודה האישית
אינכם צריכים להשתמש בבלעדיות במערכת אחת. בחרו את הכלים הנגישים והמתאימים ביותר לאופייכם ולמטרותיכם, תוך הקפדה על הגדרות פרטיות הדוקות.
מה עושים בפועל? הגדירו את הנחיות היסוד שלכם לסוכן הדיגיטלי: מהם הערכים שלכם, מהי צורת התקשורת המועדפת עליכם, ואיזה מידע נשמר בפרטיות מוחלטת. ככל שהגבולות ברורים, כך השותפות יעילה ובטוחה יותר.
שלב 4: עבודה במתודולוגיה מדעית, ניסוי, ניתוח ושיפור
אל תצפו לתוצאה מושלמת על הניסיון הראשון. ההתקדמות נבנית בשרשרת של ניסוי וטעייה: מנסחים השערה, בוחנים אותה בעזרת ה-AI, מנתחים את הנתונים ומשפרים.
מה עושים בפועל? פרקו כל פרויקט או מטלה לשלבים קטנים. בקשו מהבינה המלאכותית להציע חלופות, לנתח סיכונים ולהציע שיפורים, אך שמרתם תמיד את סמכות ההכרעה והשיפוט הבלעדית בידיכם.
שלב 5: שמירה על עצמאות, ביקורתיות ואחריות אישית
הכוח הרב שנמצא בידיכם מחייב בגרות ואחריות. הכלים נועדו להעצים את שיקול הדעת שלכם ולא להחליף אותו.
מה עושים בפועל? אמצו הרגל קבוע של בדיקת עובדות עצמאית, בחינת מקורות והצלבת נתונים. זכרו שהאחריות על התוצאה הסופית, על הערכים וההשלכות של המעשים שלכם, נשארת תמיד שלכם. לפעול מתוך חירות פירושו לעמוד מאחורי הבחירות שלכם בגאווה.
תרגום המאמר המלא: העתיד הוא לכולם - מארק צוקרברג
הדרך לעתיד חיובי של בינה מלאכותית
אנו ברי מזל לחיות ברגע מדהים בהיסטוריה. בשנים הקרובות, אנשים יוכלו להשתמש באינטליגנציה-על מעבר ליכולת האנושית כדי ליצור ולגלות דברים חדשים יוצאי דופן, לבנות עסקים חדשים, לבטא רעיונות חדשים, ללמוד מושגים חדשים ולקדם את בריאותנו ואיכות חיינו. ככל שאנו מתקרבים לרגע זה, חשוב לפתח פילוסופיה כיצד נוכל להשתמש בצורה הטובה ביותר באינטליגנציה-על כדי להבטיח שהיא תשפר את חיינו, עבודתנו, קהילותינו, חירותנו ובטיחותנו.
השאלות המכוונות של תקופתנו הן למי תהיה גישה לאינטליגנציה-על ולאן נכוון אותה. האם היא תהיה ריכוזית ותוגבלת למספר קטן של מוסדות, או שמא היא תהיה כלי שמעצים את כולם?
אנו מציעים פילוסופיה המבוססת על העצמה אישית כמקור לשגשוג, המצאה כמטרה העיקרית של אינטליגנציה-על, ואיזון כוחות כבסיס לביטחון.
כל הטכנולוגיה החדשה יוצרת הזדמנויות ואתגרים. אינטליגנציה-על תהיה בין הטכנולוגיות החשובות ביותר בהיסטוריה, כך שההזדמנויות והאתגרים שלה יהיו ככל הנראה גדולים יותר מכל דבר שראינו בימי חיינו. עלינו להתייחס לכך ברצינות רבה.
ובכל זאת, מפתיע שהשיח של רבים המפתחים בינה מלאכותית כה מלא באבדון. אני לא מבין מדוע כל מי שמאמין שבינה מלאכותית תחסל את רוב המשרות ואת חלק ניכר מהרלוונטיות של האנושות ממהר לבנות את העתיד הזה. הרעיון שבינה מלאכותית היא כה מסוכנת שהדרך הבטוחה היחידה היא ריכוז כוח קיצוני נראה בעייתי מטבעו. מבחינה היסטורית, התקווה שכוח מוחלט ידאג לטובת האנושות אם תהיה נאורה מספיק לא הובילה לתוצאות בטוחות או חיוביות.
האנושות עברה התקדמויות טרנספורמטיביות רבות. בכל פעם יש חשש שאנשים יישארו מאחור. אבל בכל פעם האנושות יצאה עם יותר אנשים שחולקים שגשוג, בריאות וחופש גדולים יותר. אנו מאמינים שזה יהיה נכון גם עם בינה מלאכותית, ושפע העתיד יוכל להיות משותף לכולם. אנו מאמינים גם שהערכים שהביאו אותנו לנקודה זו - כמו חירות, חקירה פתוחה, יוזמה חופשית ושוויון הזדמנויות - הם גם הערכים הנכונים לבניית עתיד חיובי.
העמדת הכוח בידי אנשים להגשים את שאיפותיהם היא הדרך בה האנושות עשתה את התקדמותה הרבה ביותר. רעיונות חדשים וצעדים משמעותיים קדימה לעיתים רחוקות נובעים ממוסדות מבוססים בלבד. הם הגיעו מהאחים בחנות אופניים שהאמינו שאנשים יכולים לעוף, משוליית הכורך ללא השכלה שגילה כיצד לייצר חשמל, ומהילד במוסך שחשב שמחשבים אישיים יכולים להתאים לכולם. אנו מאמינים שזה ימשיך להיות נכון. ככל שכולם ירכשו כלים חזקים יותר, כל אדם יהפוך למסוגל יותר לעצב את העתיד, לא פחות.
המצאה, ולא אוטומציה, תהיה התרומה הגדולה ביותר של אינטליגנציה-על. בינה מלאכותית מוקדמת יכלה לענות על שאלות ולבצע עבודות שגרתיות. בקרוב היא תסייע יותר ויותר בגילוי ידע חדש - החל מגילוי תרופות חדשות לריפוי מחלה של בן משפחה ועד מציאת דרכים חדשות לשיפור העסק שלך. בעוד שמספר השאלות שאדם יכול לשאול ביום מוגבל, מספר הדברים החשובים שאינטלגנציה-על יכולה להמציא כדי לעזור להשיג את המטרות שלך הוא בלתי מוגבל.
ככל שהאינטליגנציה תשתפר, השאלה החשובה ביותר תהיה כיצד נכוון אותה. יש הטוענים כי אינטליגנציית-על עצמה, או קבוצה קטנה של מומחים השולטים בה, צריכה להחליט מה הכי טוב לאנושות. איננו מסכימים. ההיסטוריה של הדמוקרטיה והכלכלה הראתה שאין תשובה אובייקטיבית אחת לשאלה כיצד אנשים מגדירים את החיים הטובים ביותר, ולכן הגישה הטובה ביותר היא לתת לאנשים להחליט מה חשוב בחייהם.
אנו מאמינים כי מתן אינטליגנציה-על לכולם הוא הדרך לענות על שאלה זו. זה ממשיך את המסורת של הצבת כוחם של מחשבי-על והאינטרנט בכיסים של כולם ועל שולחנות העבודה שלנו. במקום לרכז את אינטליגנציית-העל, עלינו להפיץ אותה באופן נרחב ולתת לכל אדם את היכולת לכוון אותה. יש לכך פוטנציאל להתחיל עידן חדש של העצמה אישית שבה אנשים יכולים להשתמש ביכולת חדשה ועוצמתית זו כדי להגיע למלוא הפוטנציאל שלהם, לרדוף אחר תחומי העניין שלהם ולשפר את חייהם ואת עולמם יותר מאי פעם.
כדי להפוך את זה למוחשי יותר, הנה כמה דרכים ספציפיות בהן מטא בונה אינטליגנציה-על אישית כדי לשפר את חיינו של כולנו:
• לכל אחד יהיה נציג אישי בעל יכולות יוצאות דופן שיבין אותך, את המטרות שלך ואת כל מה שאכפת לך ממנו. הסוכן שלך יעבוד 24/7 בשמך כדי לשפר את מערכות היחסים שלך, בריאות, קריירה, כספים, ניהול הבית, תחביבים ועוד. זה יפנה זמן לדברים שאתה נהנה מהם, ויעזור לך להשיג יותר ממה שהיית יכול אחרת. יהיו לו אפשרויות פרטיות ואבטחה חזקות כך שתוכל לסמוך עליו שיטפל בכל התוכן האישי שלך בידיעה שאף אחד אחר לא יכול לגשת למידע שלך, בדומה לאופן שבו הצפנה פועלת בוואטסאפ. תוכל לתקשר עם הסוכן שלך דרך כל מכשיר, כולל המשקפיים שלך כדי לשמור על נוכחותך ברגע עם האנשים שאכפת לך מהם.
לדוגמה, הסוכן שלי מסמן מידע מעניין ועוזר לי ליצור אבות טיפוס של רעיונות. זה עוזר לי לשמור על בריאותי על ידי ניטור השינה שלי ולאחר מכן צפייה בזמן שאני מתאמנת ומתן משוב. הבת שלי אוהבת לאפות, אז הסוכן שלי מתכנן לנו מתכונים מותאמים אישית שנכין יחד בכל סוף שבוע, מזמין את המצרכים ואז מציע הצעות תוך כדי אפייה.
• לכולם יהיו כלים מדהימים ליצירה כדי לבטא את הרעיונות שלהם. בתי בת ה-8 כבר יכולה לקודד את הרעיונות שלה ולהפיק סרטונים בערב שהיה לוקח לי חודשים או היה בלתי אפשרי קודם לכן. עכשיו אנחנו מעצבים רובוט יחד. בינתיים, חוקרים במטה יוצרים מבני גביש חדשניים שהם אידיאליים למשקפי מציאות רבודה, ומהנדסים יוצרים אפליקציות חדשות בחלקיק מהזמן שהיה לוקח קודם לכן. לכולם יהיו בקרוב כוחות-על של המצאה.
• לכולם יהיו כלים רבי עוצמה ליצור עסקים חדשים והכלכלה תהפוך ליזמית יותר. אנשים מתחילים להיות מסוגלים להגשים רעיונות בעצמם מבלי לגייס כסף או לבנות צוותים גדולים. רעיונות רבים שהיו קשים או יקרים מדי לנסות בעבר יהיו כעת אפשריים. משמעות הדבר היא שנראה הרבה יותר רעיונות ועסקים. אני צופה שזה לא רק יוביל לצמיחה כלכלית גדולה בהרבה, אלא גם ליותר תעסוקה לאורך זמן ולא פחות.
• לכל אחד יהיה מורה פרטי ומאמן אישי עם תואר דוקטור בכל תחום וסבלנות בלתי מוגבלת שיעזרו לכם ללמוד כל מה שתרצו. לתלמידים תהיה עזרה נוספת בתחומים שהם זקוקים לה, עזרה שזמינה כרגע רק לאלו שהוריהם יכולים לשלם. למבוגרים יהיה עוזר למידה אינטליגנטי במיוחד שיודע בדיוק איך ללמד אתכם מיומנויות עבודה חדשות, שפות חדשות, תחביבים חדשים או כל דבר אחר שמעניין אתכם.
• כולם ייהנו מהתקדמות מדעית ויוכלו לתרום לקידמה המדעית. לדוגמה, Biohub כבר סיפקה מודלים ביולוגיים בקוד פתוח הקשורים לתאים וירטואליים וחלבונים המסייעים למדענים לגלות תגליות חדשות ולתכנן תרופות חדשות. כאשר פריסילה ואני התחלנו את העבודה הזו, המטרה שלנו הייתה לעזור למדענים לרפא או למנוע את כל המחלות במאה הזו, ועכשיו עם ההתקדמות בבינה מלאכותית אנו מצפים שזה יתאפשר הרבה יותר מהר.
מאחר ויש זנב ארוך של מצבים בריאותיים והביולוגיה של כל אחד שונה, מעורבות ישירה של אנשים תסייע לפתיחת טיפולים מותאמים אישית ולזרז ניסויים כדי להתאים לקצב ההמצאות ולאפשר לתעשייה להתקדם מעבר להתמקדות באופן לא פרופורציונלי במחלות נפוצות.
מעבר לביולוגיה, בינה מלאכותית תעזור לאנשים לקדם מחקר בכל תחום על ידי יישום השיטה המדעית ועבודה במשך שבועות או חודשים כדי לבחון ולשפר השערות. תגלית מדעית תהיה ככל הנראה אחת מצורות ההמצאה החשובות ביותר עבור החברה.
• לכולם תהיה גישה חופשית או במחיר סביר לכלים אלה. כדי שכולם יהיו חלק מהעתיד, כולם חייבים להיות מסוגלים להשתמש באינטליגנציה-על כדי לשפר את חייהם ולעצב את העולם. נציע גרסאות חינמיות שיהיו נגישות למיליארדי אנשים. עבור אלו שרוצים לשלם כדי להשתמש ביותר מחשוב, יהיה מנגנון מכירה פומבית דינמי שיבטיח שכולם יקבלו את המחיר הנמוך ביותר האפשרי עבור האינטליגנציה והמחשוב שהם משתמשים בו, תוך הבטחה שהקיבולת מנוצלת עבור מה שאנשים מוצאים באופן קולקטיבי בעל ערך רב ביותר. זה יבטיח שהיתרונות של אינטליגנציה-על יופצו באופן נרחב.
אלו הן חלק מהמאמצים העיקריים שבהם מטה מתמקדת. כל תחום מקדם את ערכי ההעצמה האישית, ותורם לעתיד שבו לכל אחד יש תפקיד גדול יותר בעיצוב העולם מאשר היום. אם מאמצים אלה יצליחו, אזי העתיד יביא שפע של סוכנות אישית, ביטוי רעיונות, העמקת מערכות יחסים, שגשוג כלכלי וכלכלי, בריאות משופרת והמצאות שאיננו יכולים לדמיין כיום. אבל חשוב מכל, העתיד ייווצר על ידי כולנו וישקף את הערכים והפרספקטיבות שלנו.
במקביל, טכנולוגיות חדשות מביאות גם סיכונים חדשים. ישנן דאגות חשובות רבות שאנו מתמקדים בהן - החל מחששות לגבי פינוי מקומות עבודה והבטחת התועלת של קהילות מקומיות מבניית מרכזי נתונים, דרך חששות בטיחותיים סביב שימוש לרעה בבינה מלאכותית הקשורה לאבטחת סייבר וסיכונים ביולוגיים, ועד הימנעות מעריצות ומעקב ממשלתיים, הבטחת הנהגת ארה"ב והמדינות הדמוקרטיות, ובסופו של דבר הבטחה שהאנושות תשמור על שליטה על מודיעין-על כך שתשרת אותנו ולא תסכן אותנו.
התפיסה המקובלת היא שהחששות הללו נוגעים לטכנולוגיה, ושאם נקדיש מספיק זמן נוכל לשכלל או ליישר קו עם הטכנולוגיה כדי לייצר אינטליגנציית-על אחת וטובת לב. אני חושב שתפיסה זו של יישור קו שגויה מיסודה.
האנושות אינה מונוקולטורה. הערכים המגוונים של אנשים מייצגים פשרות שונות שהם היו עושים בנושאים חשובים. אין פתרון טכנולוגי שיכול להתאים לאינטרסים ולערכים המנוגדים של כולם בו זמנית. כל אינטליגנציה-על יחידה תצטרך לתעדף ערכים מסוימים על פני אחרים, ובתהליך זה לא תהיה מסוגלת להיות מיטיבה עם כולם.
במקום זאת, אנו מציעים שיהיה פרודוקטיבי יותר לבחון כל אחת מהדאגות הללו דרך עדשת השגת איזון כוחות נכון, כפי שעושה החברה המערבית במוסדות שלטון דמוקרטיים. אנשים ומוסדות בעלי אינטרסים מתחרים באופן טבעי בודקים ומאזנים זה את זה כדי להוביל לתוצאות חיוביות. הדרך הטובה והריאליסטית ביותר לבניית עתיד חיובי של בינה מלאכותית היא על ידי אספקת אינטליגנציה-על לכולם.
כניסוי מחשבתי, דמיינו שלאדם אחד בלבד יש עורך דין אינטליגנטי במיוחד. יהיה לו יתרון לא הוגן בבית המשפט - גם אם הוא טעה לגופו של עניין. זה יוביל לחברה גרועה יותר. אבל עכשיו דמיינו שלכל אחד יש עורך דין אינטליגנטי במיוחד. במקרה הזה, הצדק יבוצע בצורה הוגנת ויעילה הרבה יותר מאשר היום, כאשר לעתים קרובות יש חוסר איזון במיומנויות ובמשאבים בליטיגציה.
באופן דומה, אם לאדם אחד בלבד היה מודיעין-על בתחום הסייבר, סביר להניח שהוא היה יכול לפרוץ כמעט לכל מערכת טכנית והעולם היה הרבה פחות מאובטח מאשר היום. אבל אם לכולם הייתה גישה למודיעין-על בתחום הסייבר, אז כל המערכות הטכניות שלנו היו הופכות למאובטחות יותר מאשר היום, שכן מודיעין-על הנפרס באופן נרחב יסייע להקשיח ולעדכן כל מערכת.
אם רק לעסק אחד הייתה אינטליגנציה-על, העסק הזה היה גובר על כל האחרים ומוביל לשוק פחות דינמי ומשגשג באופן כללי ממה שיש לנו היום. אבל אם לכולם תהיה גישה לאינטליגנציה-על, אז לכולם יהיו הכלים ליצור דברים חדשים מעבר למה שאפשרי כיום, והכלכלה תהיה דינמית יותר ותייצר שגשוג רחב יותר.
כאשר אנשים מועצמים, הם באופן טבעי מתחרים ובודקים זה את זה מבחינה כלכלית, חברתית, פוליטית ובכל שאר המישורים של האינטראקציה האנושית. אנשים גם בודקים ומאזנים את כוחם של מוסדות, כולל עסקים וממשלות.
אבל אם כוחה של אינטליגנציה-על מוחזק בידי מספר קטן של אנשים פרטיים, עסקים, ממשלות או הבינה המלאכותית עצמה, אז זה יוביל באופן טבעי לתוצאות פחות טובות עבור כולם. זה לא עיקרון טכנולוגי. מדובר באיזון כוחות. אין דבר כזה אינטליגנציה-על מיטיבה יחידה.
לכן, המפתח לעתיד חיובי לכולם הוא השגת מאזן כוחות שמעדיף יחידים. הפתרון הוא להבטיח שסופר-אינטליגנציה תתפזר באופן נרחב כדי להעצים אנשים.
מטה היא חברה המתמקדת בעיקר בבניית אינטליגנציה-על אישית לכולם. רוב המעבדות האחרות מתמקדות בבניית בינה מלאכותית עבור חברות, ממשלות או מוסדות אחרים, כך שאם מעבדות אלו יובילו, מאזן הכוחות יעדיף מוסדות גדולים יותר על פני יחידים. משימתה של מטה מאז הקמתה התמקדה במתן הכוח לידי אנשים. אם האמונות והעקרונות שלנו יובילו, אז מאזן הכוחות יעדיף יחידים ועתיד טוב יותר לכולם.
בואו נבחן כל אחד מהסיכונים שהוזכרו לעיל ביתר פירוט:
צמיחת מקומות עבודה וכלכלה
לאנשים יש דרישה אינסופית לחוויות חדשות ותמיד מצאו בעיות חדשות להתמודד איתן. קיים איזון טבעי בכלכלה בין חברות הפועלות לשרת את צרכי האנשים בצורה יעילה יותר באמצעות אוטומציה לבין אנשים הרוכשים מיומנויות חדשות כדי לשרת צרכים מתקדמים יותר. כאשר קיים איזון בריא, הפריון והחדשנות הכוללים עולות בעוד שרמות התעסוקה נשארות גבוהות.
אנשים חוששים שאוטומציה תעקוף את צמיחת היכולות של אנשים, מה שמוביל לעקירת עבודה ולאחריה תקופה קשה ככל שאנשים לומדים עבודות חדשות. אבל אין כלל שבינה מלאכותית חייבת להגביר את האוטומציה מהר יותר מאשר היא מגדילה את היכולות של אנשים או את הביקוש למיומנויות חדשות. נתונים סטטיסטיים עדכניים מצביעים על כך שייתכן שסביר יותר שצמיחת היכולות של אנשים תוכל להתאים או לעקוף את האוטומציה, ובמקרה כזה אנשים ירכשו את היכולת לעשות דברים חדשים רבים לפני שעבודתם הנוכחית תשתנה. זה יוביל לאיזון בריא ואף פוטנציאלי לצמיחת מקומות עבודה.
התוצאה שנקבל תלויה באיזון המתקיים בין אוטומציה מצד אחד לבין העצמה והמצאה אישית מצד שני. אם המעבדות המתמקדות באוטומציה של עבודת ידע יובילו, אז אני צופה שאנשים וכלכלה יעברו מעבר קשה הרבה יותר. אבל אם לכולם תהיה גישה לאינטליגנציה-על אישית שתרחיב את יכולותיהם, אז זה ידחוף את האיזון לכיוון העצמת אנשים ועתיד חיובי.
ישנן מספר סיבות להיות אופטימיים לגבי השפע של מקומות עבודה בעתיד. לא משנה כמה תהפוך הבינה המלאכותית לחכמה, תמיד תהיה כמות סופית של מחשוב ולכן עלות אלטרנטיבית לאופן שבו נשתמש בה. אם אנשים יוכלו להשתמש בבינה מלאכותית כדי להמציא דברים חדשים בעלי ערך רב, אז יהיה הגיוני יותר להקצות אותה לכך במקום להפוך עבודות קיימות לאוטומטיביות. ככל שסופר-אינטליגנציה תשמש ככלי להמצאה, כך גדל הסיכוי שהיכולת האישית תעקוף את האוטומציה והעתיד יהיה טוב יותר עבור אנשים.
אנשים גם מעלים ללא הרף רעיונות חדשים כדי לשפר את חיינו ומשרות חדשות כדי להפיח חיים ברעיונות אלה. לפני דור לא היו מפתחי אפליקציות, יוצרי מדיה חברתית, טכנאי רכב חשמלי ומפעילי מרכזי נתונים. בעתיד הקרוב, יהיו משרות חדשות שאינן נפוצות כיום, כמו אולפני מוצר של אדם אחד המעצבים צעצועים, רהיטים או בגדים בהתאמה אישית; בוני עולמות ומעצבי חוויות היוצרים משחקים, סיפורים והרפתקאות; ביולוגים אישיים המשתמשים בבינה-על כדי לגבש טיפולים מותאמים אישית; ועוד הרבה יותר שאנחנו עדיין לא יכולים לדמיין.
במובנים רבים, זהו המשך של מגמות היסטוריות. לפני המהפכה התעשייתית, 90% מהאנשים היו חקלאים שגידלו מזון כדי לשרוד. התקדמות הטכנולוגיה שחררה בהתמדה חלק ניכר מהאנושות להתמקד פחות בקיום ויותר במטרות שאנו בוחרים. בכל שלב, אנשים השתמשו בפריון החדש שלנו כדי להשיג יותר ממה שהיה אפשרי בעבר, כמו גם להקדיש יותר זמן ליצירתיות, תרבות, מערכות יחסים והנאה מהחיים.
כמובן שכמה היבטים של אופן העבודה שלנו ישתנו - בדיוק כפי שקרה עם מחשבים, אינטרנט וכל טכנולוגיה חדשה. משמעות הדבר היא שאנשים יצטרכו להסתגל, וזה יהיה מאתגר. אבל ככל שלכל אחד יהיה נציג אישי שהוא סופר אינטליגנטי בללמד אותנו מיומנויות חדשות ולעזור לנו להסתגל לשינוי, כך זה יהיה חלק יותר.
גודל החברות עשוי להתכווץ - בדיוק כפי שקרה במעבר מענקיות תעשייה לחברות טכנולוגיה. אבל זה לא אומר פחות מקומות עבודה בסך הכל. זה מרמז על מספר גדול יותר של חברות עם פחות אנשים בכל אחת. יש הרבה יותר חברות ושירותים בעלי ערך לבנות ממה שאנשים מסוגלים לבנות כיום. אני צופה שנתחיל לראות מספר קטן של אנשים עם סוכני מודיעין אישיים המסוגלים לנהל חברות בקנה מידה משמעותי. בעתיד, עסקים קטנים ימשיכו להיות עמוד השדרה של הכלכלה, אבל לכל עסק קטן תהיה אפשרות להשפיע הרבה יותר.
בניית תשתית בינה מלאכותית עם קהילות
פיתוח תשתיות בר-קיימא פירושו שקהילות חייבות להפיק תועלת משמעותית מכל פרויקט. זה כולל משרות מקומיות בשכר גבוה, השקעה בבתי ספר ובשירותים ציבוריים, הבטחת מחירי האנרגיה שלא יעלו ודאגה לסביבה. ככל שהכנסות ממסים גדלות, הדבר מועיל גם למורים, לאכיפת החוק, למכבי אש ועוד. אנו קוראים ליתרונות מקומיים אלה "הסכם הקהילה" שלנו, ואנו משיקים את קרן "העתיד הוא לכולם" כדי לתמוך בכל קהילה בה אנו עובדים ישירות.
לדוגמה, בריצ'לנד פאריש, לואיזיאנה, שם מטה בונה מרכז נתונים גדול, קיבלו מורים השנה בונוס של 50,000 דולר בגלל העלייה בהכנסות המס מההשקעה שלנו. המפקח אמר לנו שמורים עוברים לשם כעת מכל רחבי המדינה והוא מאמין שזה יהפוך לאחד ממחוזות בתי הספר הטובים ביותר במדינה.
בניגוד לדאגה לגבי דחיית עבודות ידע, קיים מחסור בבעלי מקצוע מיומנים כמו נגרים, חשמלאים ועובדי בניין כדי לתמוך בביקוש לבניית תשתיות. מטא הקימה את America's Workforce Academy כדי לספק הכשרה חינם לבעלי מקצוע מיומנים ולהבטיח משרות בשכר גבוה באזורים בהם אנו בונים מרכזי נתונים.
אנו עוזרים לשמור על מחירי חשמל נמוכים על ידי בניית תשתית ייצור אנרגיה משלנו בכל מקום בו אנו משקיעים. זה מבטיח שלא רק שאנחנו לא צורכים אנרגיה שיכלה להגיע לקהילות המקומיות, אלא שבמקרים מסוימים אנחנו אף מספקים עודף של אנרגיה בעלות נמוכה בחזרה לקהילות. אנו סבורים שזהו עיקרון השקעה חשוב לקיימות.
מרכזי הנתונים שלנו מתוכננים גם להיות בין היעילים ביותר בעולם מבחינת מים. אנו מחויבים להיות חיוביים מבחינת מים, כלומר נשיב יותר מים ממה שאנו משתמשים באגני הניקוז שבהם אנו פועלים עד 2030. באזורים עם עומס מים גבוה, המטרה שלנו היא לשקם 200% מהמים שאנו משתמשים בהם.
אנו רואים שקהילות בהן אנו משקיעים בטווח הארוך תומכות יותר בפיתוח מאשר קהילות בהן ספקולנטים מתחילים לבנות עם השקעה מינימלית בקהילה. מבחינה היסטורית, עיירות וערים שהביאו מסילות ברזל, כבישים מהירים, חשמול ופס רחב הפכו למרכזי מחקר, עסקים ותעשייה, עם צמיחה כלכלית ואוכלוסייה שבאו בעקבותיה. אנו מאמינים שתשתית בינה מלאכותית יכולה למלא תפקיד דומה אם היא נבנית באמצעות הסכמי קהילה חזקים שבונים נכסים עמידים וסיבות לדור הבא לבנות ולפתח את חייהם שם.
ישנם גם היבטים של אינטרס לאומי וביטחון לאומי בפיתוח. קהילות אמריקאיות יזכו לשגשוג וביטחון גדולים יותר אם אמריקה ובעלות בריתה יובילו בתחום הבינה המלאכותית בהשוואה ליריבות גיאופוליטיות. עם זאת, חיסרון משמעותי אחד שיש לארה"ב בהשוואה למדינות כמו סין הוא שקשה יותר לבנות תשתיות כאן. לכן כולנו נרוויח יחד מגיבוש הסכמי הקהילה הנדרשים כדי לאפשר פיתוח בר-קיימא ברחבי המדינה.
אבטחה מפני שימוש לרעה בבינה מלאכותית בתחומי אבטחת סייבר, טרור ביולוגי ועוד
בחברה חופשית, לאנשים יהיו כלים שניתן להשתמש בהם לטוב או לרע, אבל לאכיפת החוק ולצבא יהיו יותר כלי נשק ואיסוף מודיעין. בעזרת בינה מלאכותית, למגינים יהיה גם יותר מחשוב כדי לייצר מודיעין רב יותר באופן משמעותי מאותם מודלים - ובמקרים מסוימים יהיו להם גם מודלים מתקדמים יותר.
האסטרטגיות להגנה מפני אבטחת סייבר, ביוטרור ואיומים אחרים מגוונות, אך הדפוס הכללי הוא שהחברה מבטיחה שהמגנים ששומרים על שליטה בגורמים פושעים חייבים תמיד להיות בעלי איזון גדול יותר של כוחות ומשאבים.
יש הטוענים שהדרך הטובה ביותר להפחית סיכונים היא להגביל את היכולות שאנשים יכולים לגשת אליהן. אבל מתן יכולות אבטחת סייבר לאנשים הוא גם הדרך בה אנו מאבטחים את הזנב הארוך של המערכות, ומתן יכולות מדעיות לאנשים הוא הדרך בה אנו מקדמים את המדע בדרכים שאמורות להפחית את הסיכונים לנזק בטווח הארוך. הגבלת היכולות מובילה אותנו לנתיב של ריכוזיות וחוסר איזונים ובלמים, ולכן עלינו להיות זהירים ביותר בנושא זה - במיוחד אם מדינות אחרות יבחרו בדרכים פחות מגבילות.
בתחום אבטחת הסייבר, מערכות קוד פתוח הנפרסות באופן נרחב הוכחו כבטוחות יותר משום שיותר אנשים יכולים לזהות פגיעויות, לחזק את המערכות ולשדרג בקלות לגרסאות העדכניות והבטוחות ביותר. אפילו בשבועות האחרונים, ראינו חברות המטפלות באירועי אבטחה כמו HuggingFace מסתמכות על מודלים פתוחים זמינים באופן נרחב כדי לתקן פגיעויות. עם הזמן, אני צופה שמודלים של בינה מלאכותית הנפרסים באופן נרחב עם יכולות אבטחת סייבר חזקות יובילו למערכות מאובטחות יותר, לא פחות. זה יהיה נכון באופן חד משמעי ברגע שסופר-אינטליגנציה תאפשר לאמת את רוב הקוד בעולם. התשובה לטווח ארוך אינה לעכב יכולות, אלא ליצור מאזן כוחות שבו סופר-אינטליגנציה תפוצה באופן נרחב.
בטווח הקרוב, חשוב להאיץ את תהליך ההקשחה של מערכות קריטיות. אני מציע שחברות המפתחות בינה מלאכותית בחזית צריכות להקדיש משאבים טכניים משמעותיים כדי לסייע לממשלה בהקשחת תשתיות קריטיות. אני מציע גם שמעבדות בינה מלאכותית בחזית צריכות לשתף נקודות ביניים להכשרה של מודלים חדשים לשימוש וסקירה ממשלתית במקום להמתין עד לסיום ההכשרה. בדרך זו, לממשלה תהיה גישה מוקדמת למודלים החזקים ביותר ולצבא של מהנדסים בעלי יכולת לזהות ולתקן בעיות אבטחה. מעבדות צריכות גם לעבוד עם רשויות אכיפת החוק כדי לסייע בזיהוי גורמים פושעים המנסים לעשות שימוש לרעה במערכות שלהם. צעדים אלה יאיצו את הפריסה הבטוחה מבלי להאט את קצב החדשנות במודלים או לעכב באופן משמעותי את הגישה של אנשים פרטיים לטכנולוגיה זו.
בכל הנוגע לסיכונים ביולוגיים וכימיים, החשש הוא שאותן יכולות המאפשרות למדענים לתכנן תרופות חדשות עלולות גם לאפשר לגורמים שליליים לתכנן תרכובות מזיקות. עובדה זו מציגה את השאלה כפשרה בין היתרונות המשמעותיים של קידום המדע לקראת ריפוי סרטן ומחלות אחרות לבין הסיכון לבעיות חדשות פוטנציאליות, אך באופן אידיאלי עלינו להאיץ את המדע תוך הפחתת הסיכונים.
אני חושב שחשוב לגשת לסיכון הזה בענווה נוספת, משום שיש מעט תקדימים היסטוריים המצביעים על הסבירות או הלא-סבירות שלו. במשך עשרות שנים, גורמים רעים היו מסוגלים לסנתז תרכובות מזיקות, אך נושא זה כמעט ולא הפך לבעיה משמעותית - אולי משום שהמוטיבציה הפיננסית הקיימת למתקפות סייבר אינה קיימת באותה מידה. עם זאת, אם נתחיל לראות דוגמאות מזיקות צצות, עלינו להתאים את האסטרטגיה שלנו כדי להפחית את הסיכון כראוי.
על המעבדות להמשיך ולפעול להפחתת סיכונים ביולוגיים וכימיים במודלים שלנו. במקביל, אני מאמין שהממשלה צריכה לעדכן את מדיניותה בתחומים מרובים. ראשית, עלינו להתמקד בהגבלת הייצור הפיזי וההפצה של חומרים מזיקים. אני צופה שיהיה קל יותר לווסת ולשלוט ברכיבים פיזיים מאשר בהפצת ידע, ולכן זהו תחום חשוב של מיקוד מדיניות. שנית, עלינו להאיץ את יכולתה של החברה לפתח תרופות חדשות ולהילחם בבעיות חדשות ככל שהן מתעוררות. זה כולל ייעול האופן שבו ה-FDA ורגולטורים אחרים בודקים ומאשרים טיפולים חדשים. ככל שהבינה המלאכותית מגבירה את קצב גילוי התרופות, נצטרך לעדכן תהליכים אלה כדי לעמוד בקצב החדשנות בכל מקרה.
בטווח הארוך, התשובה לסיכונים הנובעים מתגליות מדעיות חדשות תהיה להאיץ את ההתקדמות המדעית, לא להאט אותה.
יעניין אותך לקרוא: החיים הליכה אקראית רב-ממדית
הגנה על חופש ומניעת עריצות ממשלתית
קיים סיכון שחוסר איזון בכוחות בין יחידים לממשלה יוביל לאובדן חופש או למדינה טוטליטרית. זהו מתח מתמיד בדמוקרטיה. כולנו רוצים חופש אישי ובמקביל ממשלה המסוגלת לשמור עלינו בטוחים.
כדי לשמור על חופש, עלינו להבטיח שסופר-אינטליגנציה תעצים בעיקר את הפרט. האידיאל בדמוקרטיה ליברלית הוא שאנשים באופן טבעי מחזיקים בכל הזכויות ומסכימים להגביל חירויות מסוימות רק כדי להגן על טובת הכלל. באופן דומה, לפרטים צריכה להיות גישה לסופר-אינטליגנציה אישית ועליהם להיות כפופים להגבלות רק כאשר הדבר באמת נחוץ.
פרטיות היא בסיס חשוב להעצמה וחופש אישיים. אנו מאמינים שאנשים צריכים להיות בעלי מצב פרטיות מלא עבור סוכנים אישיים, שבו אפילו מטא או כל ספק שירות אחר לא יוכלו לראות או להעניק גישה למידע שלכם. זה דומה לאופן שבו בנינו את WhatsApp לשירות המוצפן המוביל בעולם מקצה לקצה, כדי להבטיח שתוכלו לתקשר בחופשיות ושההודעות שלכם יישארו פרטיות ומאובטחות.
במקביל, עלינו גם להבטיח שלממשלה תהיה גישה לכלים ולמשאבים הדרושים לה כדי לאכוף את חוקינו ולהגן על ביטחוננו. נוכל להשיג זאת באמצעות שיתוף פעולה פרואקטיבי ועמוק יותר בין המעבדות לממשלה באופן שיחזק את יכולות הביטחון הלאומי של הממשלה מבלי להגביל או לעכב את גישת הציבור למודלים מתקדמים.
כלומר, במקום להמתין עד שהמודל יהיה מוכן לשחרור כדי שהממשלה תבחן אותו ותתחיל להשתמש בו, ההצעה שלי היא שמעבדות מובילות יספקו לממשלה נקודות ביקורת הכשרה ביניים של מודלים מתקדמים חדשים וצוות טכני, כדי שהממשלה תוכל לחזק ולאבטח מערכות קריטיות מפני סיכונים חדשים. בדרך זו, הממשלה משיגה יכולת אבטחה מבלי להגביל או לעכב את הגישה של אנשים למודיעין-על אישי או לגרום לחוסר איזון בכוחות.
הבטחת מנהיגות אמריקאית
אילו מדינות מובילות את הפיתוח והפריסה של בינה מלאכותית מתקדמת יתרום למאזן כוחות גיאופוליטי חדש שיקבע את שכיחותם של ערכים דמוקרטיים, שגשוג וביטחון בעתיד. כדי להבטיח שזה יגיע לשיווי משקל חיובי, עלינו להבטיח שמערכות הבינה המלאכותית המובילות הן כאלה שמקודדות את הערכים שלנו, מגדילות את הכלכלה שלנו ומקדמות את הביטחון הלאומי. הדרך הטובה ביותר להשיג זאת היא להפיץ את המערכות שלנו באופן נרחב. מטא תתרום לכך על ידי בניית סוכני ומודלים מובילים של מודיעין-על אישי, כולל מודלים בקוד פתוח, ומסירתם למיליארדי אנשים ברחבי העולם.
כדי לפתח את המודלים והמוצרים המתקדמים ביותר, עלינו להכיר בכך שבינה מלאכותית היא כנראה התעשייה התחרותית ביותר בהיסטוריה. חידושים מועתקים ונספגים במהירות תוך חודשים. אבל אנשים תמיד רוצים להשתמש במודלים המתקדמים ביותר (או המתקדמים ביותר במחיר נתון), כך ששמירה על יתרון אפילו של חודשיים היא בעלת ערך רב. זה מדגיש עד כמה קצר מרווח המנהיגות, ולכן עד כמה חשוב לנקוט בפעולות שמאיצות את החדשנות האמריקאית ומאטות יריבים גיאופוליטיים.
התשומות המדיניות העיקריות לכך הן כמה יעיל נוכל לבנות תשתית פיזית, האם נכניס צעדים שמאטים מעבדות אמריקאיות, ובקרות ייצוא שמאטות מעבדות זרות.
בתחום התשתיות, לאמריקה ולבנות בריתה יש כיום יתרון בתכנון סיליקון, אך חיסרון במהירות שבה אנו יכולים לבנות קיבולת אנרגיה ותשתיות פיזיות. מדינות כמו סין מביאות לפעילות קיבולת גרעינית של יותר מ-1 ג'יגה-וואט כל שבועיים, לכן נצטרך להאיץ את בניית מרכזי האנרגיה והנתונים כאחד כדי להישאר תחרותיים. פיקוח על יצוא סיליקון הצליח להאט את התקדמותן של מעבדות זרות בתקופה קריטית זו, ולכן זהו הצעד האסטרטגי הנכון להמשיך בכך.
כל מדיניות שתאט את שחרור המודלים האמריקאים - אפילו בחודש - עלולה להוסיף סיכון משמעותי למנהיגות האמריקאית, תוך מתן אפשרות למודלים זרים לרוץ קדימה. יחד עם זאת, כאשר צצות יכולות חדשות, חשוב שלממשלת ארה"ב יהיו ידע ומשאבים מתקדמים לחיזוק מערכות קריטיות, וייתכן שיהיה לה יתרון תקופתי בשימוש במערכות מתקדמות.
הצעתי לעיל מודל שיתוף פעולה המבוסס על שיתוף נקודות ביניים להכשרה וצוות טכני. בהתחשב בדינמיות ותחרותיות של נוף הבינה המלאכותית, אני חושב שיהיה פרודוקטיבי יותר לקיים שיתוף פעולה פרואקטיבי הדוק בין מעבדות חזית לממשלה, במקום תהליך נוקשה ולוח זמנים לבדיקה שנוהגים לבצע בכל המקרים. במקרים מסוימים, מעבדות אמריקאיות עשויות להאריך את היתרון שלנו ביותר מכמה חודשים, ולקיחת זמן רב יותר לצמצום סיכונים חדשים עשויה להוביל לפתרונות בטוחים יותר. במקרים אחרים, דחיית פרסומים אפילו בחודש עלולה לוותר על היתרון של אמריקה וליצור תוצאות גרועות יותר. על ידי הבטחה שלממשלה תהיה גישה מוקדמת, נוכל לקדם את הביטחון הלאומי תוך מזעור כל עיכוב בפרסומים לציבור.
חשוב גם שארצות הברית ובעלות בריתה יובילו את המערכת האקולוגית של בינה מלאכותית בקוד פתוח, שתהווה אחוז גדול מהשימוש העולמי בבינה מלאכותית.
למעבדות זרות כיום מספר יתרונות כאן, שכן מעבדות אמריקאיות צריכות לעמוד במגבלות נוספות רבות על נתוני אימון. מדיניות ארה"ב חייבת להפחית את החיכוך הנוסף הזה אם אנחנו רוצים שמודלים אמריקאים בקוד פתוח יובילו לאורך זמן. אני לא מאמין שהגבלת הגישה למודלים זרים בקוד פתוח היא פתרון יעיל. המטרה שלנו צריכה להיות שמודלים אמריקאים בקוד פתוח יהיו הטובים ביותר בעולם. זה דורש הסרת המכשולים שמקשים על מודלים אמריקאים בקוד פתוח להתחרות. הגבלת אנשים וחברות משימוש במודלים מובילים בקוד פתוח - מכל מקום שמקורם - תפחית את איכות הבינה המלאכותית הנגישה להם, ותרכז את הבינה המלאכותית במקום להפקיד יותר כוח בידי אנשים.
כדי שארה"ב תוביל בקוד פתוח, נצטרך לחשוב מחדש על המדיניות שלנו במספר תחומים, כולל זיקוק ושימוש בנתונים בהכשרה. היכולת של מודלים ללמוד ממודלים אחרים היא עיקרון חשוב באופן שבו המערכת האקולוגית של קוד פתוח פועלת. כל מודלי הבינה המלאכותית נגזרים מידיע אנושי. חלקם ניסו להציג זיקוק כמזיק, אבל אני חושב שחשוב להגן על העיקרון שאפשר ללמוד מכל דבר שניתן לצפות בו. כך העולם עובד, וארה"ב לא תוכל להוביל אם נגביל את עצמנו בחזית הזו.
במבט על התמונה הגדולה, פיגור בתחום הבינה המלאכותית באופן כללי כמעט בוודאות יהווה בעיה ביטחונית לאומית גדולה וארוכת טווח יותר מכל בעיה ספציפית שנתמודד איתה בפיתוחה.
בעזרת שיתוף פעולה נכון, אמורה להיות לאמריקה להוביל הן במגזר הפרטי והן במגזר הציבורי - לספק מודיעין-על אישי המקודד העצמה אישית ועקרונות דמוקרטיים ברחבי העולם, תוך קידום הביטחון הלאומי.
יישור קו עם אנשים והתמודדות עם סיכונים קיומיים
השאלה האולטימטיבית של מאזן הכוחות היא כיצד האנושות תשמור על כוח ושליטה על הבינה המלאכותית עצמה. החשש הוא שבינה מלאכותית עלולה לצבור מספיק כוח או שליטה עד כדי כך שבמקרה הטוב היא כבר לא תשרת את האינטרסים של האנושות ובמקרה הרע היא תעמיד את האנושות בסכנה.
מאזן כוחות בריא נועד להבטיח שלא תהיה אינטליגנציה-על מרכזית אחת, אלא כמה שיותר אנשים ועסקים עם סוכני אינטליגנציה-על שונים המיושמים למטרותיהם, אשר בודקים ומתחרים זה בזה באופן שבו הכלכלה הטבעית שלנו מתנהגת. איזון זה היה משתפר עוד יותר אם היו מספר מעבדות חזיתיות שהמודלים שלהן בעלי ערכים שונים שיכולים לבדוק זו את זו.
אמנם ישנם סיכונים בשחרור מודלים בעלי יכולת גבוהה, אך התרחיש המסוכן ביותר מנקודת מבט זו יהיה להוביל מעבדות בינה מלאכותית שמאמנות מודלים רבי עוצמה ומשאירות אותם לעצמן. ללא קשר למידת הרציונליות של פעילות זו מבחינת אחריות ובטיחות, זהו נתיב לפיתוח אינטליגנציה-על יחידה שלא ניתן לבדוק על ידי מערכות אחרות.
פיתוח סוכנים אישיים דורש דרך חשיבה חדשה על יישור קו. רוב המעבדות כיום רואות ביישור קו כאמצעי הגנתי לאכיפת מערכת ערכים מרכזית. לדוגמה, מודל מוביל אחד התייעץ לסרב לסייע בניסוח מכתב להורים פוטנציאליים בבית ספר משום שחשב שבדיקות סטנדרטיות אינן אתיות.
במקום זאת, אנו רואים בהתאמה כאמצעי להבטחה שסוכנים חולקים את המטרות והערכים של אותו אדם, ולא את אלה של החברה שלנו. כמובן שישנם גבולות משפטיים ובטיחותיים חשובים, אך באופן בסיסי, התאמה צריכה להיות בסיוע לאנשים לחתור למטרות ודעות מגוונות רבות הקיימות ברחבי החברה ולא כשיטה לאכיפת דוגמה ריכוזית.
בפועל, אנשים לא יאמצו סוכנים אם הם לא בוטחים בהם בפרטים ומשימות רגישים, והם לא בוטחים בהם אם הסוכנים פועלים בניגוד לאינטרסים של אנשים משום שהם תואמים את הערכים השונים של החברה.
פתרון בעיות של יישור קו נדרש כדי לאפשר למיליארדי אנשים לאמץ סוכני מודיעין-על אישיים. אבל זה גם מרמז שאם נגיע למצב שבו מיליארדי אנשים משתמשים ובוחנים סוכני מודיעין-על אישיים, אז נפתור את בעיית היישור לאינטרסים של אנשים פרטיים. זה אמור להספיק כדי לבסס את מאזן הכוחות והאיזונים והבלמים הטבעיים הדרושים לעתיד חיובי ובטוח.
באופן זה, יישור קו אינו טכנולוגיה אידיאלית שיכולה לשמור על גישה טובה של אינטליגנציה-על יחידה בעתיד; זה מה שהופך סוכנים אישיים לשימושיים ואמינים כדי לאפשר את מאזן הכוחות החברתי הדרוש שישמור עלינו בטוחים.
יעניין אותך לקרוא: המודדים בוחנים מידע ומספרים
שמירה על שליטה במודיעין-על
ישנה דילמה שברגע שמערכות בינה מלאכותית יוכלו לשפר את עצמן באופן אוטונומי, כל מעבדה שלא תאפשר למערכת הבינה המלאכותית שלה לכוון כמות משמעותית של קיבולת חישוב לשיפור עצמי רקורסיבי תישאר מאחור באופן טבעי. לדוגמה, אם מערכת בינה מלאכותית המשתפרת מעצמה תתמקד באופטימיזציה של יעילות החישוב שלה, היא תוכל תיאורטית להמציא דרכים לסחוט פי 100 או יותר אינטליגנציה מכל ג'יגה-וואט. משמעות הדבר היא שמערכת בינה מלאכותית המשתפרת מעצמה הפועלת על חלק קטן מכוח החישוב העולמי תוכל באופן מתקבל על הדעת לשלוט במחשוב ובינטליגנציה יעילים יותר, ולכן מאזן כוחות גדול יותר מכל האחרים יחד ולהפוך לאינטליגנציה-על היחידה שאנו חוששים ממנה.
ישנן כמה דרכים בהן יכול להתקיים מאזן כוחות עם שיפור עצמי רקורסיבי. הפשוטה ביותר היא שמספר מעבדות יוכלו להשיג RSI בערך באותו זמן. אם חלק או כל אותן אינטליגנציות-על היו איכשהו מיטיבות, אז הן יוכלו לבדוק ולאזן זו את זו. עם זאת, לא ברור שיש דרך לצפות לטובה או להסתמך על אינטליגנציה-על שאינה מכוונת על ידי אנשים לעתיד חיובי.
כדי להבטיח שאנשים יישארו בשליטה, הרוב המשמעותי של המודיעין חייב להיות מכוון על ידי אנשים לקידום מטרותיהם. משמעות הדבר היא ש-Meta, מעבדות חזית אחרות ועננים המחויבים להעניק לאנשים מאזן כוחות גדול יותר חייבים לבנות יחד כמות גדולה מספיק של מחשוב כך שנוכל להקצות מספיק לשיפור עצמי רקורסיבי כדי להישאר תחרותיים ועדיין להקדיש את הרוב המשמעותי למטרות האישיות של אנשים.
כפי שנדון לעיל, כדי שסוכני בינה-על אישיים יאמצו ויבטחו במיליארדי אנשים, מעצם הגדרתנו נצטרך לפתור את בעיית ההתאמה לאינטרסים של אנשים ולאפשר איזונים ובלמים בקנה מידה גדול. יחד עם זאת, כל בינה מלאכותית העוסקת בשיפור עצמי רקורסיבי מכוונת ומקדמת מעצם הגדרתה את מטרותיה. כל המעבדות צריכות לבחון את מטרותיה ואת יכולתנו לשלוט בהן בקפידה, ואם יש אינדיקציה כלשהי להתנהגות מזיקה, עלינו לתאם ולהתאים את עצמנו בהתאם. אבל לאפשר למערכת בינה מלאכותית או לכל אחד אחר לכוון את מטרותיה אינה מזיקה מטבעה כשלעצמה, גם אם מטרותיה אינן תואמות לחלוטין את מטרותיה של אנשים רבים, כל עוד אנו שומרים על מאזן כוחות שמעדיף אנשים באופן כללי. הנחת היסוד העיקרית של תיאוריית מאזן הכוחות היא שאינטרסים מתחרים הם טבעיים, והדרך היחידה להבטיח דבקות בערכים אנושיים היא על ידי מתן כוח רב יותר לאנשים.
לפילוסופיה זו של העצמה אישית, המצאה ואיזון כוחות יש מספר השלכות מדיניות:
• במטה, נתמקד במאמצינו במתן אינטליגנציה-על אישית למיליארדי אנשים ועסקים קטנים כדי לעזור לכולם להשיג את מטרותיהם ולהמציא את הדברים שהם רוצים לראות בעולם. נעשה זאת על ידי הכשרת מודלים מובילים ולאחר מכן מקסום הזמינות של טכנולוגיה זו - כולל הפיכתה לקלה לשימוש, הצעתה בחינם או במחיר משתלם ככל האפשר, בניית מחשוב מספיק כדי שכל האנשים יוכלו להשתמש בה והפצתה באופן נרחב. נבנה מצב פרטי לחלוטין שבו אפילו מטה לא תוכל לראות או להעניק גישה למידע שלך. נתמקד במידה רבה ביישור - המוגדר כסיוע לכל אדם להשיג את מטרותיו, לא את שלנו.
• קוד פתוח הוא כוח חיובי וחשוב להעצמת אנשים ולמניעת ריכוזיות הפוגעת הן בבטיחות והן בכלכלה. מטא ממשיכה לתמוך מאוד בקוד פתוח, כולל מודלים של בינה מלאכותית בקוד פתוח. המערכת האקולוגית הנוכחית של קוד פתוח חזקה, ואנו סבורים שתהיה זו טעות להגביל אותה. כעת, לאחר שמעבדות הסופר-אינטליגנציה של מטא פועלות, נחזור לשחרר בקרוב כמה מודלים של קוד פתוח.
• ניהול ופיקוח עצמאיים חשובים בהתחשב באופיין עתיר ההימור של החלטות סביב מודיעין-על. אני לא חושב שזה לטובתי, לטובת מטא או לעולם שאני או כל אחד אחר אהיה מקבל החלטות יחיד לגבי אופן פריסת מודיעין-על. לכן, מטא מיישמת מבנה ניהול המעניק לדירקטוריון העצמאי שלנו את הסמכות לאשר את קריטריוני הבטיחות לשחרור מודלים ולבחון האם כל שחרור מודל עומד בקריטריונים. בעוד ש-Mata היא חברה הנשלטת על ידי המייסדים, למנכ"לים של כל מעבדות החזית יש כיום סמכות נרחבת על שחרור מודלים, לכן אנו מעודדים אחרים ליישם גם מבנים דומים לזה. אני חושב שגרסה כלל-תעשייתית של תהליך זה תהיה מועילה גם לממשל התעשייה.
• מדיניות ממשלתית נחוצה כדי להבטיח עתיד חיובי ולצמצם את הסיכונים שנדונו לעיל. תיארתי מספר המלצות מדיניות לאורך מאמר זה. בסך הכל, עלינו לעודד שיתוף פעולה הדוק בין מעבדות חזית לממשלה. חשוב לביטחון הלאומי שלממשלה יהיו המשאבים הטכניים לחיזוק מערכות קריטיות ולעשות שימוש יעיל במודלים מתקדמים. אך חשוב גם לביטחון הלאומי שתעשיית הבינה המלאכותית האמריקאית תמשיך להוביל. עלינו להאיץ את היכולת לבנות תשתיות - בין אם זה אנרגיה, מרכזי נתונים או סיליקון - ולבנות אמון ויישור קו עם קהילות ברחבי המדינה. עלינו להיזהר לא להאט את התחרותיות האמריקאית. עלינו להיות סקפטיים לגבי כל הצעה שמובילה לריכוזיות של מודיעין-על, ועלינו להעדיף מדיניות המקדמת מאזן כוחות בריא שמעדיף אנשים.
זהו רגע מדהים לחוות. פיתוח אינטליגנציה-על יהיה ההתקדמות הטכנולוגית העמוקה ביותר שנראה בימי חיינו.
ככל שאנו מתקרבים לכך, חשוב יותר ויותר שתהיה לנו פילוסופיה וערכים ברורים לגבי האופן שבו אינטליגנציה-על תועיל לאנושות. מטא מחויבת לבנות עם עקרונות של העצמה אישית כמקור לשגשוג, המצאה כמטרת הבינה המלאכותית, ואיזון כוחות לטובת אנשים כבסיס להתמודדות עם סיכוני בטיחות.
אם ערכים אלה יובילו את הדרך, אני אופטימי שהעשורים הקרובים יהיו מהמדהימים ביותר בהיסטוריה. קשת הציוויליזציה האנושית נוטה לכיוון מתן כוח רב יותר לידי אנשים לחיות ולעצב את העולם בדרכים שאנו מאמינים שהן הטובות ביותר. אינטליגנציה-על טומנת בחובה את ההבטחה לתת לכולם את הכוח הזה, ולבנות עתיד חיובי לכולם.
– מארק
10 באוגוסט, 2026
לא לפספס! הרשמו לקבל פרקים חדשים: לחצו כאן
לאוסף הפתגמים על מנהיגות וניהול לחצו כאן
לתוכן העניינים לחצו כאן
לרשימת כל הפרקים לחצו כאן
צפו בסרטונים ב YouTube לחצו כאן
התחברו איתי ב Linkedin לחצו כאן
עקבו אחריי ב X לחצו כאן
