בשנת 2012 הכריזה גוגל על 'גוגל גלס', משקפי מציאות מדומה, הדבר החם ביותר באותה תקופה, שלוש שנים מאוחר יותר החברה גנזה את הפרויקט. הסיבה העיקרית הייתה חוסר הנוחות של הציבור מאנשים שמצלמים ומקליטים כל הזמן. בתי קולנוע לא הרשו להיכנס עם משקפיים מחשש הקלטה פירטית, ובארים לא הרשו לחבוש אותם. מאחר ואני מאמין שבינה מלאכותית תהיה אפקטיבית רק כשהיא מכירה אותנו אישית, השאלה היא מה השתנה?
בסין כבר היום (בניסוי די רחב) מופעלת שיטת קרדיט אישי. הממשל עוקב אחרי התנהגות הציבור ונותן קרדיט (חיובי או שלילי) בהתאם להתנהגות האזרחים: ירקת ברחוב – מינוס, עזרתה לזקנה לעבור את הכביש – פלוס, לא שילמת חשבון חשמל בזמן – מינוס, עמדת בסבלנות בתור – פלוס... בהתאם לקרדיט תתקבל עדיפות בקבלת שירותים: מינוס - לא ניתן להזמין כרטיס לרכבת המהירה, פלוס - הלוואה בריבית טובה יותר. לעומתם האיחוד האירופאי שמוביל ברגולציה להגנה על מידע מתחיל לשים לב לצורך בהגנה על פרטיות האדם, מידע ואלגוריתמים שמתייחסים לאדם (עדיין בשלבי חקיקה והתחלת יישום), לדוגמא אסור לדרג אדם (נניח בקבלה לעבודה) על סמך אלגוריתם בלבד, או שיש לבחון בקפדנות אלגוריתם שמטפל פיזית או נפשית באדם.
מי שקרא את הפוסטים שלי בנושא ‘בינה מלאכותית בשירות החינוך’ יודע שאני מאמין שהטכנולוגיה תהיה אפקטיבית כאשר היא תכיר אותנו (אישית) לפני ולפנים, אני גם מאמין שזה קורה כעת ויתרחב משמעותית בעתיד הקרוב ועוד אני מאמין שהטכנולוגיה לא תחכה לנו ותהיה בלתי נמנעת. בדיוק כפי שהדפוס הגביר את החילון, הרכב תמך ביצירת מגה ערים והתקשורת עודדה עבודה מסביב לשעון, כך לדעתי הבינה המלאכותית (ביחד עם מכשיר מציאות מדומה) תשנה את החינוך (לא רק).
אלא שנושא בטיחות המידע האישי רחוק מלספק. כבר היום נצבר עלינו מידע רב: מה חיפשנו, איפה היינו, מה קנינו... ואנחנו יודעים שלפעמים המידע הזה דולף או מגיע לידיים שלא התכוונו אליהם או לא נתנו אישור לכך. בדור הבא מדובר על כמות רבה יותר של מידע וחלקו אינטימי הרבה יותר. מאחר והמערכת תתלווה אל המשתמש 24X7 היא תדע על התכונות שלו, ההעדפות, מצבו הבריאותי, מצבו בלימודים ומצבו החברתי ... הכל! מידע, שאם ייפול לידיים הלא נכונות, יכול במקרה הטוב לשכנע את התלמיד לקנות מוצרים שהוא לא צריך ובמקרה הרע לגרום לו לנזק נפשי, חברתי או כלכלי ארוך טווח.
אני רוצה להאמין שתהיה רגולציה שתבטיח שלא יהיה שימוש בניגוד לרצוני במידע אודותיי, אני רוצה להאמין שממשלות וקונגלומרטים לא ינצלו לרעה את המידע הזה, ואני מאד רוצה להאמין שהאקרים לא יצליחו להשתמש במידע אודותיי. אלא שבין אם יתקיימו התנאים האופטימליים ובין אם לא אני מאמין שלאט לאט, מבלי שנשים לב, המערכת תדע אודותינו עוד ועוד פרטים, ותנצל את זה לתת לנו עוד שירותים (חלקם מטיבים עימנו וחלקם מטיבים עם שולחיהם). מאחר ואני אופטימי מטבעי אני רוצה להאמין שרב יהיה הטוב על הרע.
לדעתי לא נוכל להתנגד למגמת השימוש בבינה מלאכותית בחינוך, שכן היא כבר נוכחת מסביבנו ותהיה נוכחת הרבה יותר בעתיד בכל תחום, אישי וציבורי, עבודה ופנאי. מה אנחנו יכולים לעשות? בדיוק כמו שאנחנו נלחמים בגנבים, מצד אחד סומכים על המשטרה, מאידך, מתקינים רב בריח וכספת בבית. באותו אופן בנושא מידע אישי, רוב הטיפול צריך להיות על ידי רגולציה ממשלתית, שכן ממול עומדות ממשלות אחרות (פחות ידידותיות/ ליברליות), קונגלומרטים ואנשים תאבי בצע. אך עלינו להיות זהירים באילו אפליקציות להשתמש וכיצד.
EN