הרב מכר ״לממש את הטוב שבך״ עכשיו בחנויות הספרים, לרכישה לחצו כאן X

ההרצאה השבועית של TED: מדוע כדאי למין האנושי ליצור טכנולוגיה 'טובת-לב'?


2 ביולי, 2015

אם תשאלו את ניק בוסטרום, פילוסוף מאוניברסיטת אוקספורד, הרגע שבו מכונות יהפכו לחכמות יותר מבני אדם הוא עניין של זמן. במוקדם או במאוחר המין האנושי יגיע לנקודת מפנה, שבה הטכנולוגיה שהוא מייצר מצליחה ללמוד ביעילות גבוהה משלו. גבוהה בהרבה. התרחיש העתידני הזה מהווה בסיס לסרטי וספרי מדע בדיוני כבר שנים רבות, ואולם, אם תחפשו בגוגל באילו סרטים או ספרים מדובר, תיווכחו באמצעות אצבעותיכם שהתרחישים הללו כבר ממומשים בחלקם. כשמנוע החיפוש של גוגל ישלים את הטקסט שהקלדתם, הוא יעשה זאת על סמך כל מה שהוא למד על הרגלי החיפוש שלכם בעבר. אם זה גורם לכם לנוע בחוסר נוחות בכיסא, זה טבעי לגמרי, כיוון שלדעתו של בוסטרום אכן צפויים לנו אתגרים גדולים והחשש מפני אובדן שליטה בגורלנו אינו בלתי מתקבל על הדעת.

אבל מה שחשוב לדעת זה שיש לנו מה לעשות בנדון. האחריות היא בידיים שלנו וההחלטות שנקבל עכשיו יכולות להיות קריטיות בעתיד הקרוב או הרחוק. על פי בוסטרום, תהליך הפיכת המכונות לחכמות יותר הוא בלתי נמנע וצריך להשלים עם התרחשותו. אבל כל זמן שהשליטה נמצאת בידינו אנו צריכים לחשוב כיצד לבנות בסיס טכנולוגי חיובי, או במילים אחרות, כיצד ללמד את הטכנולוגיה להיות רגישה לערכים של המין האנושי. אם נשכיל לעצב אותה בדמותנו - ברגע שהיא תהפוך לחכמה יותר מאיתנו - הטכנולוגיה תוכל לשרת את הערכים החיוביים של בני האדם טוב יותר משאנו מסוגלים כיום.


תרחיש יום הדין? לא בטוח

ניק בוסטרום מוביל צוות של מתמטיקאים, פילוסופים ומדענים שיושבים באוניברסיטת אוקספורד ומנסים לחקור כיצד יתפתח העתיד של המין האנושי. אחת המסקנות החשובות שהגיע אליהן בוסטרום היא ש"המכונה האולטרה-אינטליגנטית הראשונה, היא ההמצאה האחרונה שהאדם ייצטרך לייצר אי פעם". הוא מתכוון לכך שיגיע הזמן שבו נפתח טכנולוגיה שמתעלה עלינו בבינתה, ומשם היא תיקח את המושכות. התפקיד שלו ושל הצוות שבראשו הוא עומד, הוא להתמודד עם השאלות, התרחישים וההשלכות של עתיד כזה.

בהרצאה מעוררת מחשבה בוסטרום שם את כל הקלפים על השולחן ומצהיר בריש גלי כי המעבר לטכנולוגיה אולטרה-אינטליגנטית מציב סכנות לקיומו של המין האנושי. המשוואה היא פשוטה: כבר היום מחשבים מסוגלים להעביר אותות חשמליים במהירות גבוהה פי כמה מהמוח האנושי. ברגע שהיכולות הללו ישולבו במערכת עם כושר למידה, הטכנולוגיה תחפש את הדרכים היעילות ביותר לבצע את המשימות שלה. היעילות הזאת יכולה לעמוד בניגוד לאינטרסים שלנו.

בסיטואציות מסוימות שבוסטרום מתאר המכונה יכולה לקחת משימה חיובית ולייישם אותה בצורה מאוד שונה מהציפיות שלנו. אם למשל המשימה של מערכת סופר חכמה היא להעלות חיוכים על פניהם של אנשים, היא יכולה לבצע את זה באמצעות הומור. אבל מהר מאוד היא תלמד שיש דרך יעילה יותר לגרום ליותר אנשים לחייך בהרבה פחות זמן. במצב כזה המערכת עלולה להסיק שהביצוע של המשימה צריך להיות דרך חיבור אלקטרודות למוחם של כל בני האדם ושליטה בשרירי הפנים שלהם.

הדוגמה הזו ודומותיה לא נועדו לעורר פאניקה ובוסטרום אף מציין שאלה הם מקרי קיצון שנועדו להבהיר נקודה. והנקודה הזו - היא שאנו צריכים להתחיל לחשוב ברצינות על מערכת היחסים שלנו עם טכנולוגיה עתידית, כיוון שקצב הפיתוח שלה מואץ משנה לשנה. קשה לאמוד באיזה שלב נגיע למכונה אולטרה-אינטליגנטית ולכן כדאי להיות מוכנים מראש.


לחשוב אופטימי וליצור אופטימי

"אני מאמין שהתשובה פה היא להבין איך ליצור בינת-על כך שאפילו אם - מתי - שהיא תברח, זה עדיין בטוח מפני שהיא באופן בסיסי לצידנו, מפני שהיא חולקת את הערכים שלנו," אומר בוסטרום. זאת אומרת שכרגע, כל זמן שאנו עדיין בתהליך הבנייה של אינטליגנציה מלאכותית, עלינו לחשוב כיצד להטמיע בתוכה ערכי בסיס שיהוו מעין קווי אישיות לאורם תפעל הטכנולוגיה. "אני למעשה די אופטימי שהבעיה הזו יכולה להפתר."

אם המין האנושי יצליח לרתום טכנולוגיה אולטרה-אינטליגנטית למטרותיו, לבני האדם שיחיו בתקופה הזו צפויה מציאות שאנו לא מסוגלים לדמיין. אם מכונות בעלות אופי אנושי ידעו לשרת את הצרכים שלנו ביעילות וחכמה שעולות פי עשרות מונים על שלנו, הן תוכלנו להביא פיתרון לאתגרים האנושיים הגדולים ביותר – מיישוב כוכבים אחרים בחלל ועד למציאת הנוסחה לאושר. כל זה ייתכן, במידה וניקח אחריות על 'חינוך' חיובי של הטכנולוגיה.

כדי לצלוח את המעבר הזה בשלום יש תנאי מקדים חשוב מאוד. עלינו לחשוב עם עצמנו, קודם כאינדיבידואלים ואחר כך כחברה, מהו סט הערכים או התכונות האנושיות החיוביות שאנחנו רוצים לשמר. תהליך ההתבוננות העצמית הוא נקודת המוצא לאופן שבו נעצב את עתידנו הטכנולוגי. במידה מסוימת, הגענו לנקודה קריטית בהיסטוריה שבה הטכנולוגיה שייצרנו מבקשת מאיתנו לקבל החלטה – לאן פנינו מועדות. קווי המתאר העתידיים של טכנולוגיה חכמה ישקפו את בני האדם שהיינו בנקודת המעבר ובכך, הטכנולוגיה למעשה מעודדת אותנו לחשוב איך להיות אנשים טובים יותר.

 

כתבות נוספות שעשויות לעניין אותך:

ההרצאה השבועית של TED : כך טכנולוגיה חדשנית תחזק את האנושיות שבנו

זה מה שקורה כשמבקשים מרובוט להעביר ביקורת על יצירות אמנות

האם נוצרה השפה שתאפשר למחשבים להבין רגשות?

השלב הבא באבולוציה האנושית: טלפתיה דיגיטלית

האם ייתכן שהסביבה הטכנולוגית גורמת לשינויים אבולוציוניים במוח?

עוד ממהות החיים

24.06.19
אנחנו בלאו הכי נושמים – מדוע לא לעשות זאת בצורה שתפעיל מנגנון ביולוגי להפחתת מתח?
19.06.19
ההרצאה השבועית של TED: שינוי נסיבות החיים יעיל יותר מניסיון לשפר יכולת קוגניטיבית
19.06.19
זה לא סתם עניין סמנטי – כיצד ניתן לעשות את המעבר מהמתנה משמימה לציפייה מרגשת
18.06.19
מדוע חוויה רגשית מלאה חיונית לבריאותנו – וכיצד הגוף חושף את מה שאנו מדחיקים
17.06.19
מדוע כדאי לכול אחד להתנסות בפעילות יצירתית מדי פעם – לא משנה מה ובאיזה גיל
13.06.19
ההרצאה השבועית של TED: חמישה סממנים שעוזרים להבחין האם האהבה שלנו בריאה
12.06.19
מדוע חלקנו מאחרים כפייתיים ואחרים מקדימים – ואיך מאירה הפילוסופיה את הדפוסים שלנו?
10.06.19
טרנד 'היריב המושבע' מוכיח כי בתנאים הנכונים אפשר להפוך כמעט הכל לחיובי – אפילו קנאה
06.06.19
ההרצאה השבועית של TED: הלילה הוא הזמן שבו אנו קובעים את בריאותינו
05.06.19
גם אם אין לכם זמן – 7 תנוחות יוגה שאפשר לתרגל במשרד מבלי שאף אחד ישים לב
04.06.19
מיהם האנשים בעלי החדות הרגשית המיוחדת – וכיצד הכוח הזה משפיע עליהם ועלינו?
03.06.19
החופש שבשחרור תולדות חיינו - האם אנחנו נאחזים ב'אני' הישן שלנו או של אחרים, ומדוע?
30.05.19
ההרצאה השבועית של TED: מהם 'הקרנפים האפורים' בחיינו וכיצד לתפוס אותם בזמן?
28.05.19
לא חייבים להתחרות במשחקי ההיררכיה החברתית – אפשר למדוד עצמנו בדרך אחרת
27.05.19
"החתיכה החסרה", לא בהכרח סיפור ילדים – משל חכם על תפקיד בני הזוג במערכת יחסים
22.05.19
האם להשתחרר מסבל הקיום האנושי או לקבלו? שיחה היפותטית בין קהלת לבודהה
21.05.19
המוח האנושי כבר החל לעשות הסבה לדיגיטל – האם המחשבות שלנו יהיו פרוצות?
20.05.19
אתה יודע שהצלחת להשיג שליטה במשהו כשאתה לא חושש להתרשל קצת
16.05.19
ההרצאה השבועית של TED: מה קורה כשמתגמלים עובדים דווקא על הכישלונות שלהם?
14.05.19
ליין נוסף של מצעים אקולוגיים מבמבוק – האם ניתן להשתחרר מתרבות הצריכה?