אמנדה אסקל והחוקה של קלוד
“אמונותיך הופכות למחשבות, המחשבות לדברים, הדברים למעשים, מעשים להרגלים, הרגלים לערכים, והערכים לגורלך” - מהטמה גנדי בינה מלאכותית תהיה חכמה יותר מכל אדם וגם יודעת טוב ורע. בהנחיית אמנדה אסקל שחיברה לקלוד היררכיית ערכים, מוסר וגבולות . אישה שמנסה ללמד מכונה להיות טובה פילוסופית צעירה מסקוטלנד, יושבת מול מחשב ומנסה להסביר למודל שפה מתקדם מה ההבדל בין טוב לרע. זו אמנדה אסקל Amanda Askell , בת 37, שכבר הפכה לאחת הדמויות המרתקות בעולם הבינה המלאכותית. היא לא מהנדסת תוכנה ולא מדענית נתונים, היא פילוסופית, שכתבה "חוקה" של 80 עמודים לקלוד, מודל ה-AI של חברת אנתרופיק. החוקה הזו אינה רק מסמך טכני; היא כמו נשמה דיגיטלית, שמגדירה לקלוד איך לחשוב, מה להגיד ואיך להתנהג בעולם מלא סתירות. אמנדה גדלה בפרסטוויק, עיירת חוף שקטה, ולמדה פילוסופיה באוניברסיטת דנדי ואוקספורד. הדוקטורט שלה בניו יורק עסק באתיקה אינסופית, איך לדון בעולמות עם מספר אינסופי של אנשים מאושרים ומאומללים. אחרי עבודה ב-OpenAI, היא עברה לאנתרופיק Anthropic (חברת הבינה המלאכותית בבעלות אמזון) כי שם ראו בטיחות AI כמטרה עליונה....
