מחקר של MIT מ-2018 בחן תוכנות לזיהוי תווי פנים שמשמשים את המשטרה לגילוי חשודים בפלילים. בניתוח הסתבר שהתוכנות זיהו שליש מהנשים כהות העור כגברים (לעומת טעות של פחות מאחוז אחד אצל גברים לבנים). הטעות נובעת מבסיס הנתונים בו השתמשו התוכנות שכמעט ולא הכיל נשים כהות עור.
מערכת AI היא מאומנת מראש שמבססת את החלטותיה על הנתונים הזמינים. אם יש הטיה במסד הנתונים, AI יכולה להגיע למסקנות לא אתיות.
חברת OpenAI שהביאה לנו את ChatGPT ואת Dall-E הוקמה מאחר ומספר אנשים בסיליקון וואלי האמינו שיש סכנה בבינה מלאכותית ולכן רצוי שהיא תהיה פתוחה לקהל וכולם יוכלו להבין מה היא עושה. הסכנות שמהן אנחנו מפחדים קשורות באפשרות שהמכונה שתדע לתמרן אותנו, ולגרום לנו לעשות דברים שאנחנו לא מעוניינים בהם. מדוע שתוכנה תרצה לגרום לנו לעשות דברים שכאלו? יתכן וזה יקרה מאחר ואנשים או מדינות ירצו לשחק לנו במוח, מסיבות טובות (לדעתם) או מסיבות פחות טובות, ויתכן גם שהמידע עליו מתבססת המערכת שגוי ולכן ייווצרו מסרים שגויים. ידוע מקרה שתלמיד ביקש ללמוד על השואה וקיבל מסרים נאו-נאצים, לעומת זאת מורה שניסה ללמד על נאציזם ונחסם מאחר וזה תוכן אסור.
נכון, גם היום מתמרנים אותנו. אלא שבניגוד לתחום העסקי כשמשכנעים אותנו לקנות דברים מיותרים או בתחום הפוליטי כשמשכנעים אותנו לבחור ממניעים כאלו ואחרים, הרי כאשר מדובר בחינוך ההשפעה הינה בסדר גודל אחר, הן מאחר והלקוחות, קרי התלמידים, צעירים והן מאחר וההשפעה עלולה להיות עמוקה יותר.
כפי שכתבתי בפוסט "בינה מלאכותית – טכנולוגיה בלתי נמנעת", אני מאמין שבשלב מסוים בינה מלאכותית תכפה את עצמה על מערכת החינוך. כשזה יקרה יש סיכוי לא רע שניתן יהיה לנצל אותה בדרכים שונות לתמרן את התלמידים להאמין/לפעול בצורה שנוגדת את הערכים המקובלים. ניתן לטעון שהבעיה איננה של מערכת החינוך. וכדאי שהמדינות יתאחדו כדי ליצור רגולציות שימנעו חלק ניכר מיכולת התמרון השלילית הפוטנציאלית של הבינה המלאכותית. אך גם בתסריט אופטימי, עדיין לדעתי מערכת החינוך תצטרך ללכת מייל נוסף כדי להגן על התלמידים.
בעולם בו ניתן ליצר בקלות כל מסר, בכל מדיה (תמונה, כתבה, וידאו), קל לשכנע בנכונותו של המסר. היחידים לדעתי שיוכלו לעמוד בפרץ הם המחנכים (מורים והורים) שילמדו את התלמיד להפעיל הגיון בריא (וזה לא פשוט) ולבצע התבוננות ביקורתית, לפעול כאשר יש צורך בפעולה, ולגלות אנושיות (אהבה, חמלה, פחד, תשוקה...). בעולם כזה המורה צריך להיות מחנך שמלמד את התלמיד להבחין בין טוב לרע ולהשאיר למכונה להתמקד לחלק הטכני של הלמידה.
אני הייתי מסב את כל המורים ככל שניתן למקצועות כגון, פילוסופיה, אמנות, ספורט, אזרחות, אקטואליה (ואם זה מזכיר לכם את יוון העתיקה, זה לא במקרה). אין לי בעיה עקרונית עם לימודי שפה, מדעים, או היסטוריה, אך לדעתי מהר מאד המחשב יעשה זאת טוב מאיתנו.
לצערי אני לא ממציא שום דבר חדש, אנשי חינוך כגון צבי לם, ורוני אבירם בישראל ועוד רבים וטובים ברחבי העולם מדברים מזה עשרות שנים על הצורך של מערכת החינוך להתמקד בחינוך לחזון משותף, לערכי יסוד הומניים המוסכמים על העם והמדינה, לטיפוח יחסים בינאישיים, וחשיבה רציונלית וביקורתית... אלא שהמורים עסוקים רוב זמנם בהעברת מידע. זאת הזדמנות היסטורית לתת למכונה להתמקד בחלק הטכני של הלימוד ולתת למורה להתמקד בחלקים התבוניים והרגשיים.
ובחזרה ל- OpenAI, שהתחילה כעמותה לתועלת הציבור ממניעים אלטרואיסטים. החברה זנחה לבסוף את המניעים המוסריים והפכה לחברה מסחרית (כמעט) ואם יצליח לה היא תהיה עוד קונגלומרט שעיקר עיסוקו עשיית כסף.
EN