fbpx

איך יכול להיראות עולם התוכנות המסייעות בעתיד // אושי שהם קראוס

0

תל אביב, 2075

אני: אני רוצה לפתוח עסק חדש. עיצוב פנים.

תוכנה: כרגע יש ביקוש לעיצוב אנושי של חדרים. גחמה של עשירים. פתחתי את העסק. יש לך עשרה לקוחות ממתינים.

אני: מה אני אמור לעשות?

תוכנה: הם רוצים עבודת יד כמו פעם. לא רוצים עיצוב דיגיטלי. הכנתי לך 20 עיצובים אפשריים. תתחיל לשחק איתם אקראית.

אני: מה עבודת יד בזה?

תוכנה: אתה בוחר לפי שיקולים אנושיים. זה מה שיש כרגע, אל תציק. נמשיך הלאה… סגרתי מול באטלר של בחורה שמחפשת קשר; היום בשבע סרט. דרמה היסטורית.

אני: זה משעמם. למה היסטורי?

תוכנה: בפסיכואנליזה הדיגיטלית שלך הבנו כמה חשוב להתפתחות שלך להתמודד עם תסכולים. זו בחורה שמתמצאת בתקופה הזאת, והיא זקוקה לחיזוקים. זה גם טוב לך. זה מה שיביא סקס, לפי הבאטלר שלה.

אני: ו…

תוכנה: דאגתי לקונדומים. בכל מקרה, צהריים בטבעונית עם אמא שלך. יום ההולדת שלה.

אני: למה מסעדה טבעונית?

תוכנה: סגרתי עם הבאטלרית שלה. זה טוב לה לעיכול השבוע. וחוץ מזה, הדפסתי לך ענק פנינים אותנטי. זה מה שהיא רוצה.

אני: לא מוגזם?

תוכנה: אני מסיקה משיחה עם הבאטלרית שלה שמצב מטאבולי טוב וענק כזה יפתחו את הארנק שלה בלי להביך אותך.

.

העוזרת שלי מנהלת אותי

יותר ויותר אנשים נעזרים בתוכנות. חלקן כבר לא מורגשות, למשל הזיכרונות בטלפון, או מחשבונים וגיליונות חישוב (Excel). חלק מהן מנחות אותנו ממש, למשל Waze. המגמה של הישענות על תוכנות תלך ותתעצם ככל שיתפתח תחום האלגוריתמיקה והבינה המלאכותית. מה שמביא אותנו לחשוב על יישומים שיתפקדו כעוזרים ואפילו מנהלים אישיים של ממש. מדובר בסופר־אינטליגנציות: תוכנות שתעלינה ביכולותיהן הקוגניטיביות עלינו, ואפילו תוכלנה לבנות ולשפר את עצמן.

וכך, ה"באטלרים" הווירטואליים האלה ינהלו כמעט כל תחום בחיינו. הם יהיו בקשר עם תוכנות שמשרתות אחרים ויעסיקו תוכנות־בנות כחלק מתפקודי היומיום שלהם.

 .

איך זה ייראה?

התחום של אינטליגנציה מלאכותית מתקדם יותר ויותר. אנחנו מפגרים (אולי) אחרי התחזיות מלפני כמה עשורים, אבל צועדים בכיוון. קחו את הגדרותיו של פרופ' ניק בוסטרום מאוניברסיטת אוקספורד. בוסטרום מציג שלושה תפקודים של תוכנות עתיד: אורקל (Oracle), ג'יני (Genie) וסובריין (Sovereign).

בניגוד לתוכנת האורקל שיודעת לענות על כל שאלה ולג'יני שמבצעת משימות סגורות ומוגדרות בשטח, הסובריין היא תוכנה שמסוגלת לקדם נושאים פתוחים וארוכי טווח. בדוגמה שלנו הסובריין הוגדרה כתוכנה לסיוע וניהול אישי של הבעלים שלה. את הדבר הזה יכולה התוכנה לעשות בעצמה, אך גם תוך שכירת או רכישת שירותים של תוכנות־בנות; וכמובן באמצעות קשר שוטף עם תוכנות ששייכות לעסקים אחרים ולאנשים בסביבה שלנו.

בוסטרום מתאר שלושה גורמים שיקפיצו את היכולות של תוכנות כאלה. הגורם הראשון הוא מהירות פעולה. חשבו למשל על מהירות החישוב של מחשבון כיס בימינו. גורם נוסף הוא איגום המשאבים: תוכנות כאלה תוכלנה לייצר שיתופי פעולה, לימוד הדדי ועבודת צוות. והחשוב ביותר, הן תוכלנה להתפתח ולצמוח בעקבות הפעילות ההדדית שלהן וההתנסויות שלהן בעולם.

תסריט כזה משנה את העולם הרגשי שלנו ואת המרחב החברתי. אינטראקציות רבות שמתרחשות בימינו בין בני אדם יועברו לניהול משותף של תוכנות. זה יתרחש בתחום העסקי, למשל בכל הקשור להזמנות מוצרים ולהובלה שלהם. אלה יוכלו להיסגר ברמה של תוכנות בלי לערב אדם.

אבל גם בתחומים שאינם לוגיסטיים יוכל השינוי להיות מורגש. למשל, תחום השיווק. אנשי המקצוע ישתנו וגם קהל היעד. את עבודת השיווק האנושית היצירתית יחליפו יישומים, שיעמדו בקשר עם יישומים אחרים. למה אין צורך בהברקות יצירתיות של המוח האנושי? פשוט מאוד, כי אין צורך להטריד אותנו – בני האדם – בשיקולים של רכישה. קהל היעד לשיווק במקרה הזה הוא אותן תוכנות באטלר ותוכנות הרכישה. הן יודעות בדיוק מה אנחנו צריכים בכל רגע נתון.

ההבדל העיקרי עשוי להתרחש ברובד החברתי־פסיכולוגי. נדמיין, למשל, את עולם הדייטים. הסיטואציה של ישיבה מול אתר היכרויות, בחינת פרופילים ופנייה מהוססת למועמדים, נעלמת בתסריט שלנו. כאן נכנסים שוב לפעולה הבאטלרים. הבאטלר מפרסם את רשימת הצרכים, הבעיות והמגבלות של הבעלים שלו ומחפש מועמדים, באמצעות פנייה לבאטלרים אחרים.

.

מה ישתנה בנו?

השימוש במכשירים שאנחנו מפתחים משנה אותנו. טכנולוגיות חדשות מנוונות אצלנו כישורים שונים ומאפשרות לאחרים להתפתח. כשהמכונית מחליפה את ההליכה ברגל היא פוגעת בכושר הגופני שלנו. לעומת זאת, היא מאפשרת לנו להגיע למקומות רחוקים יותר ומעניינים יותר.

אנחנו מתפנים לחלקים היצירתיים יותר, אבל הופכים תלויים במכשירים שלנו. מתי בפעם האחרונה ניסיתם לפתור בעצמכם תרגיל חילוק ארוך? המחשבונים פגעו בכושר החישוב שלנו, אבל מאפשרים לנו לעשות דברים אחרים. מה עם הזיכרון שלכם למספרים? גם הוא נשחק. ויכולת האוריינטציה במרחב? כנראה שנשחקה בעקבות שימוש מוגבר ב־Waze.

האם נוכל להקדיש את עצמנו לחלקים היצירתיים ביותר של חיים – עיצוב, אמנות, כתיבה וניהול אסטרטגי? ייתכן, אבל סביר שזה לא יהיה סופה של הדרך. כיום כבר ברור שתוכנות יכבשו גם את המלאכות היצירתיות יותר. כבר בימינו ישנם אלגוריתמים שמלחינים ברוח באך ויוצרים אמנות פלסטית, טקסטים, בדיחות ולחנים.

התוכנות לא מחליפות אותנו רק בממד המקצועי. הן מייתרות חלק גדול מהאינטראקציות שאנחנו מקיימים בינינו לבין עצמנו. המרחב החברתי שהכרנו מצטמצם וכמעט נעלם, ואיתו ממד פסיכולוגי שלם.

איך ייראו יחסי זוגיות בעולם של באטלרים? הרי חלק משמעותי בבנייה של קשר הוא האינטראקציות הרבות; השמחות, המרגיזות, הכואבות. אנחנו מתאהבים בזמן שאנחנו שומעים אחד את השני, מצליחים ונכשלים, פוגעים ונפגעים, שמחים ומשמחים. חלק ניכר מהאינטראקציות האלה ייעלם. האם ייתכן שגם חלק ניכר מהקשר האנושי שהכרנו ייעלם, יחד עם היכולות האריתמטיות שלנו?

.

והסכנות שבדרך לשם

אבל לא רק השינוי הפסיכולוגי מסוכן. ישנם לא מעט סיכונים טכנולוגיים. תוכנות כאלה תוכלנה להפעיל את כל העולם המכני שסובב אותנו ולמעשה לשלוט בכל אספקט בחיים על פני כדור הארץ.

הסכנה הפשוטה היא סכנת התכנות הלקוי. הבה נדמיין רובוט – תוכנה לייצור אטבים. במקרה של תכנות רשלני של מטרות היא תשאף לייצר אטבים ללא סוף. באופן עקרוני, תוכנה כזו לא תפסיק לייצר אטבים בלי קשר למחירים של הייצור הזה; למשל, שימוש במשאבים אדירים של כדור הארץ לייצור אטבים.

סכנה גדולה יותר היא הסכנה של שינוי תפיסת המציאות של התוכנה ואולי גם שינוי של הערכים המפעילים אותה בעקבות אבולוציה עצמית. נדמיין את הילד שלנו. אנחנו מחנכים אותו בהתאם לתפיסת החיים שלנו ובהתאם לערכים שלנו. אבל הצאצא שלנו לא מקובע. הוא מתפתח ובהמשך החיים שלו יכול להגיע לתובנות שסותרות את התובנות שעליהן גדל (חשבו על הצהרות התדהמה של הורים למי שהפכו לרוצחים).

המצב הטבעי הזה מסוכן בהקשר של סופר־אינטליגנציות. עוצמת האבולוציה הקוגניטיבית אדירה, התוכנות יוכלו להמריא ולייצר יתרון אבולוציוני של אלפי שנים ביחס אלינו. לא מדובר בתסריט של הרובוט המרושע, אלא בסיטואציה מורכבת הרבה יותר; תוכנה שפועלת לטובתנו – לכאורה – באמצעות קריטריונים שלא מובנים לנו.

ובפשטות, חשבו על התסריט הבא: הבאטלר שלנו מתפתח להבנה שהחיים כואבים; ולטובתנו אנו, הוא פשוט מרדים אותנו – ודי.

.

לחצו כאן ותוכלו לקבל את הגיליון החדש של ליברל במתנה עד הבית

.

צילום: thinkstock

    LinkedInEmailWhatsAppTwitterFacebook