החמימות מנצחת

ד”ר עפרה עמיר

ספוטיפיי או אפל מיוזיק? ווייז או גוגל מפות? צרכנים נדרשים לבחור לעיתים תכופות בין מערכות שונות, מבוססות בינה מלאכותית, שמציעות שירותים דומים. כיצד הם בוחרים ביניהן? בהתחשב בכמות המשאבים שחברות משקיעות בשיפור ביצועי אלגוריתמים של בינה מלאכותית, אפשר היה לצפות שהבחירה האמורה תושפע בעיקר מיכולותיהן הטכנולוגיות של מערכות אלה.

וכאן טמונה ההפתעה: מחקר חדש של שלוש חוקרות מהפקולטה להנדסת תעשייה וניהול בטכניון מראה כי בעת בחירה בין מערכות, צרכנים מייחסים חשיבות רבה מאוד לחמימות של המערכת כלפיהם, ובמילים אחרות – לכוונות המערכת ולנכונותה לפעול לטובתם. המחקר הוצג בכנס – CHI Conference on Human Factors in Computing, אחד הכנסים הבין-לאומיים החשובים בעולם בנושא ממשקי אדם-מחשב, והוא מציע תובנות על המנגנונים הפסיכולוגיים המכוונים את בחירותיהם של צרכנים פוטנציאליים.

שלוש החוקרות – הדוקטורנטית זהר גלעד, ד”ר עפרה עמיר וד”ר ליאת לבונטין ערכו שישה ניסויים שבהם השתתפו יותר מ-1,600 איש. בכל ניסוי התבקשו המשתתפים לבחור בין שתי מערכות מבוססות בינה מלאכותית שתוארו על-ידי חמימותן (כוונות המערכת) ויכולותיהן.

יכולת וחמימות, שהן ממדים בסיסיים להערכה ושיפוט של אנשים אחרים, נחקרו רבות בפסיכולוגיה חברתית, וכיום ברור שהן רלוונטיות גם לשיפוט אנושי כלפי ישויות לא אנושיות כגון סוכנים וירטואליים ורובוטים. במילים אחרות, אנשים מייחסים כוונות ויכולות גם למערכות מלאכותיות המבוססות על בינה מלאכותית. המחקר הנוכחי, בניגוד למרבית המחקרים הקיימים בנושא, התמקד במערכות בינה מלאכותית שאין להן נוכחות פיזית או וירטואלית. מדובר במערכות המלצה כדוגמת נטפליקס וספוטיפיי, במנועי חיפוש ובאפליקציות ניווט.

ד”ר ליאת לבונטין

עבור המערכות האמורות הגדירו החוקרות את החמימות של המערכת על סמך המרוויח העיקרי מהשימוש בה, כלומר – את מי המערכת מציבה בראש סדר העדיפויות. דמיינו לדוגמה שאתם בדרך הביתה ומפעילים את אפליקציית הניווט החביבה עליכם. יש לכם תחושה חזקה שהדרך שהיא מציעה אינה הדרך המהירה ביותר וכי האפליקציה מנסה לבדוק על חשבונכם אם יש פקק בכבישים בסביבה או ללמוד על מהירות הנסיעה בכבישים צדדיים. תחושה כזו מעידה על תפיסת חמימות נמוכה של המערכת, כלומר – איננו בטוחים שהיא פועלת לטובתנו.

הדוקטורנטית זהר גלעד

החוקרות מצאו שהחמימות שאנו מייחסים למערכת היא שיקול חשוב בעיני משתמשים פוטנציאליים והשפעתה עליהם גדולה מהשפעת יכולותיה הביצועיות של המערכת כפי שהן נתפסות על ידם. מרבית האנשים העדיפו מערכת חמימה על פני מערכת בעלת יכולות טכנולוגיות גבוהות. העדפה זו נמשכה אפילו כאשר המערכת החמימה הייתה בעלת נחיתות טכנולוגית מוצהרת. כך לדוגמה, כאשר המשתמשים התבקשו לבחור בין שתי מערכות שממליצות על ביטוח רכב, מרביתם העדיפו מערכת עם יכולת נמוכה (המבוססת על אלגוריתם בסיסי יחסית שאומן על אלף החלטות קודמות) וחמימות גבוהה (פותחה עבור אנשים כמוהם) על פני מערכת עם יכולת גבוהה (המבוססת על אלגוריתם חדשני שאומן על מיליון החלטות קודמות) וחמימות נמוכה (פותחה עבור סוכני ביטוח). באופן דומה, מרבית האנשים העדיפו מערכת המלצת סרטים בעלת אלגוריתם נחות שמתבססת רק על מידע שמגיע מהם על פני מערכת בעלת אלגוריתם מתקדם שמתבססת על מידע המגיע מהם אך גם מנסה לקדם סרטים מסוימים. כלומר, צרכנים מוכנים לוותר במידה מסוימת על יכולות של המערכת אם הם מאמינים שהיא ידידותית ופועלת לטובתם.

ממצאים אלו דומים לממצאים המתקבלים במחקר על אינטראקציות בין בני אדם, שכן גם בשיפוט של בני אדם אחרים תפיסת החמימות (הכוונה) מקבלת עדיפות על תפיסת היכולת. מהמחקר הנוכחי אפשר ללמוד כי אנשים משתמשים באותם חוקים חברתיים כדי לשפוט בני אדם ומערכות מבוססות בינה מלאכותית.

החוקרות מסבירות כי באופן טבעי, מפתחי מערכות בינה מלאכותית מתמקדים ביכולת הטכנולוגית של המערכת ושל האלגוריתמים שלה, והן ממליצות להקדיש תשומת לב גם לחמימות של המערכת ולאופן שבו הם מציגים אותה לצרכנים פוטנציאליים.

המחקר מומן חלקית על ידי הקרן הלאומית למדע (ISF) והוצג בכנס CHI Conference on Human Factors in Computing.

למאמר שהוצג בכנס CHI, לחצו כאן