הרב מכר ״לממש את הטוב שבך״ עכשיו בחנויות הספרים, לרכישה לחצו כאן X

ההרצאה השבועית של TED: מדוע חיילים עורכים מסדרי כבוד לרובוטים?


20 בדצמבר, 2018

כאשר אנשים התבקשו להחזיק בובת דינוזאור בזנבה וזו החלה לבכות, הם מיד הניחו אותה כאילו היה מדובר בגור כלבים. מה גורם לנו לפתח אמפתיה למערכת של ברגים ושבבים? ומה ההשלכות של היחס שלנו כלפי רובוטים על היחס שלנו לאנשים?


בועז מזרחי

בצבא ארה"ב הכניסו לשימוש ניסיוני רובוטים שמטרתם לנטרל שדות מוקשים. הטכנולוגיה המתקדמת אפשרה למפתחים לבנות רובוט דמוי עכביש, כך שבכל פעם שהוא דורך על מוקש מתפוצצת רק רגל אחת והוא ממשיך במשימה. אבל המפקד הבכיר שהיה אחראי על הניסוי ביקש לעצור אותו. לדבריו, הצפייה ברובוט גורר את עצמו בתוך שדה המוקשים ומאבד חלק אחר בכל פעם הייתה קשה מדי לחיילים.

את הסיפור הזה מביאה על בימת TED ד"ר קייט דרלינג, מדענית רובוטיקה מ-MIT, לצד שלל סיפורים נוספים על תגובה רגשית חזקה שבני אדם מפתחים כלפי מכונות. הניסוי של הצבא מפתיע במיוחד, כי היינו מצפים שחיילים קשוחים יפעילו רציונליות קרה בנושא כמו סכנת חיים, ויכירו בכך שלמעשה מדובר בערימת מתכות ותו לא. אבל ככה, מסבירה דרלינג, לא עובד המוח האנושי, ולבטח לא הרגש האנושי.

מה גורם לבני אדם להניח לעובדה הזניחה שמדובר במכונות חסרות רגש, ולהתייחס אליהם כאל יצורים חיים לכל דבר? דרלינג ניסתה לענות על כך באמצעות מספר ניסויים שבדקו התאכזרות לרובוטים, וגילתה כי היחס שלנו כלפיהם מלמד משהו רחב יותר על האופן שבו אנו תופסים את עצמנו. היחס שלנו לרובוטים, אפוא, הוא שיקוף של מאבק ערכי פנימי המתחולל בתוכנו תמיד, וייתכן שבאופן מפתיע דווקא למכונות יש את הכלים לחזק את האמפתיה במאבק זה.


המוח שלנו מתוכנת לראות תכונות אנושיות בכל מקום

אנחנו יודעים לזהות בקלות רבה מה אנושי ומה לא. מה שיותר קשה לנו זה להסביר מה הופך דבר מסוים לאנושי. במקרה של אבן, ברור מאוד שאין לה מוח או דופק. אבל מה לגבי כלב, שיש לו מוח, דופק ואינטליגנציה? על פי ההגדרה המדעית הוא לא אנושי, אבל הגדרה כזאת לא מעניינת בעלי כלבים. אוקיי, תגידו שאנושי הוא כל מי ששייך למין האנושי, זה די מגדיר את עצמו. ניחא. ומה לגבי עוברים? באיזה שלב התפתחותי הם נחשבים אנושיים? קשה להשיב על שאלות אלה בין היתר משום שבני האדם נוהגים להרחיב את מושג האנושיות שלהם מעבר לגבולות המין האנושי.

קחו למשל ניסוי, לא בתנאי מעבדה יש לציין, שערכה ד"ר קייט דרלינג עם רובוט של דינוזאור תינוק. כבר בהגדרה הזו אנו מייחסים אנושיות ליצור שאינו חי, שכן תינוק הוא כינוי רק לוולדות של בני אדם. אבל הניסוי עצמו מעניין יותר. דרלינג, חוקרת רובוטיקה מהמכון הטכנולוגי במסצ'וסטס, ביקשה מחבר לאחוז את הרובוט מהזנב. מדובר בבובה שיוצריה שיוו לה מראה חמוד, וציידו אותה בחיישנים ומנועים משוכללים שמקנים לה יכולות תגובה מגוונות באינטראקציה עם בני אדם. החבר לא ידע זאת, אבל גורי דינוזאורים לא כל כך אוהבים שמרימים אותם מהזנב. בזכות חיישן הטיה הרובוט ידע שהוא מורם הפוך – והחל לבכות תוך שהוא מתנועע באוויר.

"עמדנו וצפינו ברובוט שהתחיל להיאבק ולבכות", מספרת דרלינג, "ואחרי כמה שניות, זה התחיל להציק לי קצת, ואמרתי, 'בסדר, זה מספיק. בוא נניח אותו'. ואז ליטפתי את הרובוט כדי שיפסיק לבכות".

אפשר לסמוך על חוקרת רובוטיקה עם דוקטורט במדעים שהיא מבינה דבר או שניים על מה שקורה מתחת למעטה המלאכותי של הרובוט. יש לה בראש תמונה מדויקת של המנגנונים המכניים והיא מכירה את המערכת  לפני ולפנים. ובכל זאת, היא התקשתה לראות את הרובוט 'סובל'. המקרה הזה הצית בה סקרנות לגבי התגובה שלנו לרובוטים, ומה היא מספרת על אנושיות בכלל. היא החלה לחקור את הנושא ומספרת כי מהר מאוד נתקלה במקרים נוספים של אמפתיה למכונות, כמו הניסוי בצבא ארה"ב עם הרובוט מנטרל המוקשים.

הסיפור הזה במיוחד גרם לה לתהות, שהרי "מה יכול לגרום לקצין צבא קשוח ולאישה כמוני להגיב באופן כזה לרובוטים?" לדבריה, חלק מכך קשור לתרבות הפופולרית. קחו למשל את הרובוטריקים שמלווים דורות של ילדים החל מאמצע שנות ה-80. "אבל זה טיפה יותר עמוק מזה", מסבירה דרלינג, "מסתבר שאנחנו מחווטים ביולוגית להקרין כוונות וחיים על כל דבר שנע במרחב ונראה לנו אוטונומי". במילים אחרות, אנחנו משליכים את התכונות שלנו על יצורים אחרים וכן על עצמים, ככל שהדמיון שלנו מאפשר זאת. תופעה בשם פארדוליה, שגורמת לנו לזהות פרצופים בחפצים יומיומיים, היא דוגמה קלסית לכך. במקרה של רובוטים זה עוד יותר עוצמתי, כיוון שחלקם מעוצבים בדרך שמחקה התנהגות ומראה אנושיים. המתכננים שלהם עושים לנו חצי עבודה בדרך להאנשה. "כך שאנשים יתייחסו לכל מיני רובוטים כאילו הם חיים", ממשיכה דרלינג, "הרובוטים לפירוק מוקשים מקבלים שמות, הם מקבלים מדליות, ערכו להם הלוויות צבאיות מכובדות. והמחקר מראה שאנחנו עושים את זה אפילו עם רובוטים ביתיים פשוטים, כמו הרובוט שואב האבק".

רובוטים הולכים להיות סוג נוסף של חיות מחמד

ייתכן שיש לרומבה שלכם שם וייתכן שלא, אתם לא חייבים להודות בכך בפומבי. אבל מחקרים מראים כי בסיטואציות מסוימות רובנו הגדול נתייחס לרובוט כמו לאדם, ולא כמו למכונה. "לדוגמה, חוקרים באוניברסיטת סטנפורד גילו שאנשים מרגישים לא בנוח כשמבקשים מהם לגעת באיברים המוצנעים של הרובוט". ברור שלרובוט אין באמת אזורים מוצנעים, וברור עוד יותר שאין לו תודעה להבין מה זה בכלל אומר. שום נזק לא ייגרם אם מישהו ייגע ברובוט בכל אזור שהוא, כפי ששום נזק לא ייגרם אם מישהו ייגע במיקסר ביתי בכל אזור שהוא (לבד מהסכינים, אז עלול להיגרם נזק, אבל לא למיקסר). זאת מכונה, וזאת מכונה. חוסר הנעימות נמצא בראש שלנו, בגלל שאנו מייחסים לרובוט תכונות אנושיות.

במובן מסוים, טוענת דרלינג, מה שקורה עכשיו עם רובוטים מזכיר את מהפכת הביות שחלה לפני אלפי שנים. רובוטים הולכים וחודרים אל מקומות רבים בחיינו. הם כבר לא נחלתם הבלעדית של פסי ייצור במפעלי ענק, הם כבר מסתובבים לנו בין הרגליים בתוך הבית. וכפי שבעלי חיים מסוימים – כמו כלב או חתול – מקבלים יחס שונה מבעלי חיים אחרים – כמו פרות וכבשים – כך מציעה דרלינג לחשוב על רובוטים. לא בגלל שיש להם רגשות, בגלל שיש לנו רגשות. "אנחנו רחוקים מאוד מהיכולת לפתח רובוטים בעלי רגשות", היא מסבירה, "אבל אנחנו מזדהים איתם, וזה חשוב, כי אם אנחנו מנסים להכניס רובוטים לחללים המשותפים הללו, אנחנו צריכים להבין שאנשים יתייחסו אליהם אחרת מאשר למכשירים אחרים".

יש לכך משמעויות לכאן ולכאן. דרלינג אומרת שחייל שנקשר לרובוט זו דוגמה פחות מוצלחת, שכן אנחנו לא רוצים להעמיס מתח נפשי או אף לסכן חיים בשר ודם עבור מה שביסודו הוא פיסות מתכת מחוברות בברגים. "אבל במקרים אחרים, חיזוק הקשר הרגשי לרובוטים יכול להיות שימושי. אנחנו כבר רואים מקרים כאלו. לדוגמה, רובוטים שעובדים עם ילדים אוטיסטים ומצליחים להגיע אליהם באופנים חדשים".

לא משנה מה עובר הרובוט – משנה מה מתחולל בתוכנו

השילוב של התפשטות הרובוטים והנטייה הביולוגית שלנו להצמיד להם תכונות אנושיות מעלה שאלות חשובות, כמו המקרים שבהם כדאי לשלבם לעומת אלה שלא. אבל בנוסף לשאלות פרקטיות, הוא מעלה גם שאלות מהפן המוסרי-חברתי. דרלינג מספרת כי מספר שנים לאחר ההתנסות עם רובוט הדינוזאור היא ערכה ניסוי רחב יותר, שבו אפשרה למספר חברים לשחק עם כמה רובוטים דומים, להיקשר אליהם ולהעניק להם שמות. ואז היא ביקשה מהם לקחת פטיש או גרזן ולהשמיד אותם. כולם סירבו, כצפוי, והיא החלה להציב להם תנאים: "תוכלו להציל את הרובוט של הקבוצה שלכם אם תשמידו את הרובוט של הקבוצה השנייה", וכשזה לא עבד, "אנחנו הולכים להרוס את כל הרובוטים אלא אם כן מישהו מכם יכה באחד מהם בגרזן". בסופו של דבר נכנע אחד המשתתפים ולקח על עצמו את הפעולה. היא מספרת שכל המשתתפים נרתעו כשהגרזן הונף והתחושה הייתה חצי בצחוק וחצי רצינית. זה זמן טוב להזכיר לבעלי הלב הרגיש ביננו – מדובר ברובוט.

הניסוי הזה וניסויים דומים שנערכו מראים שהאמפתיה שלנו צפה החוצה גם מול רובוטים. אבל דרלינג רואה בכך קצת את המובן מאליו. מה שיותר מעניין אותה הוא "האם רובוטים יכולים לשנות את היכולת של אנשים לחוש אמפתיה? האם יש סיבה, לדוגמה, למנוע מילד לבעוט בכלב רובוטי, לא כדי ללמד אותו כבוד לרכוש, אלא כיוון שהוא עלול לבעוט בעתיד בכלבים אמיתיים?"

ככל שהם יהיו נפוצים יותר ודומים לנו יותר, הן במראה והן במידת התחכום, כך ילכו השאלות הללו ויתחדדו. אבל לא צריך להמתין עם המחשבה עליהן, שכן היא מגלה לנו משהו הרבה יותר עתיק ומיידי מרובוטים. "אפילו אם רובוטים אינם מרגישים דבר, ההתנהגות שלנו כלפיהם עלולה לשנות אותנו", מסבירה דרלינג, "הרובוטים האלו אינם רק מנוע וגלגלי שיניים ואלגוריתמים. הם השתקפויות של האנושיות שלנו".

תמונת כותרת: MikeDotta / Shutterstock.com

 

כתבות נוספות שעשויות לעניין אותך:

הצד האנושי של חומרנות – אנחנו אוהבים דברים שאנו מזהים בהם את עצמנו

ההרצאה השבועית של TED: כיצד ייראה העולם כשלטכנולוגיה יהיה שיקול דעת?

המצרך היקר שלא עולה כסף – מהיכן נובעת אהבת חינם וכיצד מוסיפים אותה לחיינו?

עוד ממהות החיים

20.05.19
אתה יודע שהצלחת להשיג שליטה במשהו כשאתה לא חושש להתרשל קצת
16.05.19
ההרצאה השבועית של TED: מה קורה כשמתגמלים עובדים דווקא על הכישלונות שלהם?
14.05.19
ליין נוסף של מצעים אקולוגיים מבמבוק – האם ניתן להשתחרר מתרבות הצריכה?
13.05.19
הגורמים המפתיעים שעיצבו את ההבדלים הפסיכולוגיים בין מזרח ומערב
07.05.19
הנוכחות שלנו מספיקה – פסיכולוגים מסבירים כיצד לגשת לאדם בשעת כאב
06.05.19
מאחורי יופיים של שמי לילה זרועי כוכבים מסתתרת הסימטריה של היקום
02.05.19
ההרצאה השבועית של TED: הפסיכיאטר ששרד מחנה ריכוז ולא הפסיק להאמין בבני אדם
01.05.19
9 ציטוטים מעוררי השראה של יאנוש קורצ'אק, המחנך האולטימטיבי
29.04.19
הכישרון לפגוש ענווה – ליהנות מהפשטות שבהיותנו בני אדם רגילים
24.04.19
סיטואציות מביכות – מתברר שיש להן סיבה טובה ואף כדאי לאמץ אותן אל חיקנו
22.04.19
הנדסת האושר של תעשיית הבידור – כך מעצבים עבורנו חוויות בלתי נשכחות
21.04.19
הפילוסוף של ההרים – 17 ציטוטים מאת ג'ון מיור, אבי הפארקים ושמורות הטבע
18.04.19
ההרצאה השבועית של TED: מדוע לפעמים העיניים מפריעות לנו לראות את המציאות?
17.04.19
החירות להפוך לאדם שאנו שואפים להיות מתחילה בנכונות להתבגר ולקחת אחריות
15.04.19
3 שינויים קטנים בבחירת המילים שלנו יכולים לעשות הבדל של שמיים וארץ
11.04.19
ההרצאה השבועית של TED: כיצד לוודא שאופטימיות לא הופכת לשאננות ביחס למצבנו
10.04.19
מיוון העתיקה ועד הודו הרחוקה – 5 סיפורי בריאה מציעים דרכים שונות להסתכל על תהליך היצירה
08.04.19
לאו דווקא מצב רוח – הנסיבות ההיסטוריות והתרבותיות שמכתיבות האם ומתי נחייך
04.04.19
ההרצאה השבועית של TED: מה בעצם יכול מבחן רורשאך לגלות על האישיות שלנו?
03.04.19
איזו גישה אתם נוקטים להפחתת שימוש בסמארטפון – רגע, בכלל יש לכם אחת?