קשב זה כל מה שצריך - המסמך שהביא את מהפכת ה-AI
"בהתחלה היה קשה לשכנע אנשים שזה יעבוד, כי זה היה כל כך שונה" - ניקי פארמר נדיר שמסמך עושה מהפכה. מרתין לותר עשה את זה וגם איזיק ניוטון. נספר את סיפור כתיבת "קשב זה כל מה שצריך" וכיצד יצר מהפכה בהתפתחות הבינה המלאכותית שכולנו חווים היום. מסמך שעשה מהפכה המסמך "Attention Is All You Need" הוא מאמר מחקר משנת 2017 בתחום למידת מכונה, שנכתב על ידי שמונה מדענים שעבדו בגוגל. המאמר הציג ארכיטקטורת למידה עמוקה חדשה המכונה "טרנספורמר" (Transformer), המבוססת על מנגנון הקשב (Attention Mechanism) שהוצע בשנת 2014. המסמך נחשב למאמר יסוד בבינה מלאכותית מודרנית ותורם מרכזי לפריחת הבינה המלאכותית, שכן גישת הטרנספורמר הפכה לארכיטקטורה העיקרית במגוון רחב של יישומי AI, כגון מודלי שפה גדולים (LLMs). זו הייתה פריצת דרך משמעותית שבזכותה פותחו מודלי בינה מלאכותית כ: Chatgpt, Gemini, Grok, Claude ואחרים. אחת הסיבות העיקריות לכך שהארכיטקטורה הזו מועדפת על ידי רוב מודלי השפה הגדולים המודרניים היא יכולת המקביליות שלה על פני קודמותיה. שם המאמר הוא התייחסות לשיר "All You...
