דימויים הם כלי חזק, לפעמים חזק מדי, עד כי דימוי טוב עשוי להחליף את תפיסת המציאות שלנו, ואנו עלולים לחשוב שהוא מכיל בתוכו את האמת כולה. דוגמה לתופעה זו היא תפיסת האדם וגופו כדומים להתפתחות הטכנולוגית המובילה של התקופה. כך, ב־1886 תיאר המשורר העברי מרדכי צבי מאנה את גוף האדם כמכונת קיטור שעובדת על מערכת לחצים של חום וקור.
כוח חזק נוסף שפועל בעולם הרעיונות הוא הדיסטופיה (ולצידה גם האוטופיה), בדגש על הדיסטופיה הטכנולוגית. סיפורים דיסטופיים עלולים להיות כה חזקים, עד כי לעיתים המושגים בהם עלולים להפוך לדרכים עיקריות שבהן אנו מפרשים את המציאות, לעיתים במנותק ממנה או באופן שמגביר את החרדה מהטכנולוגיה והתקדמותה.
מחוץ למטריקס
לאחרונה הציתו שתי התפתחויות טכנולוגיות את הדמיון רואה השחורות. הראשונה היא מערכת בינה מלאכותית שמפתחת חברת גוגל, בשם "למדא", שאיתה אפשר לנהל שיחה מורכבת יחסית. בתמליל שיחה שפרסם מהנדס של גוגל, אפשר לראות ש"למדא" מדברת על ספרות, על עצמה ועל רגשותיה, ואף מבקשת להצביע על עצמה כסובייקט בעל תודעה. מה שעורר את ההתרגשות הגדולה ביותר, הייתה העובדה ש"למדא" אמרה כי היא מפחדת שיכבו אותה, מה שגרר השערות כי היא פיתחה תודעה ורגשות.
"למדא" היא התפתחות טכנולוגית שאנו מכירים מהמדע הבדיוני כבר שנים רבות. בסרט מטריקס, למשל. עם זאת, השאלה אם לאובייקט מסוים קיימת מודעות או נפש מורכבת מכדי שמהנדס יוכל להכריז עליה.
הטענה העיקרית של מומחים בתחום, היא ש"למדא" פשוט חקיינית טובה מאוד ו"יודעת" כאלגוריתם מה מצופה ממנה כדי להיות "כמו בן אדם". למשל, שכאשר מתארים ספרות צריך לדבר על תכונות ורגשות ולא רק לתאר עלילה.
ייתכן כי ייחוס המודעות והתודעה לאלגוריתם הוא תוצר של תפיסות שגויות שלנו על מודעות. הטכנולוגיה המתקדמת ביותר היא כולה תוצר של אלגוריתמים: אנחנו מכניסים מידע מסוים למערכת, ובסדר פעולות היא מעבדת אותו ומוציאה פלט – קול, תחושה, פתרון לבעיה ועוד.
התפיסה האלגוריתמית גורמת לנו לתפוס גם את המוח כמכונה אלגוריתמית, ואת המודעות והאדם כתוצר שלה. בהתכתבות עם הדיסוטופיות, אנו מנתחים את המציאות והמודעות באופן בעייתי.
כדי להבין זאת אפשר לקחת כדוגמה אדם שלומד יפנית ומלימוד השפה משהו במוחו משתנה, נוצרים קשרים חדשים. אם היינו מכניסים אדם למכשיר שמייצר במוחו את אותם שינויים, האם הוא היה יודע לדבר יפנית? אם התשובה שלילית, הרי שחסר לנו משהו – חוויה של מודעות, מעבר ללמידה.
היכולת ליצור
גם תחום העיצוב הגרפי חווה טלטלה, בשל מערכת הבינה המלאכותית dall-e: אנחנו מתארים במילים ציור, לדוגמה: "פורטרט של ביבי נתניהו שצויר בידי ואן גוך" והמערכת תוציא תוצר ברמה גבוהה מאוד של הבקשה.
הסערה שנוצרה סביב dall-e עסקה בעיקר בחשש שתחום העיצוב הגרפי הסטנדרטי צפוי להיעלם. הרי במקום להעסיק גדודי מעצבים או צלמים, יוצר הרעיון יוכל להכניס למערכת את רצונו והיא תספק לו תוצר.
ובכל זאת, בדיוק כמו הבינה המלאכותית של גוגל, dall-e חסרה דבר אחד מהותי בחוויה האנושית: יצירה. המערכת זקוקה לרעיון קיים ולהדרכה כדי לפעול, וברור שאם המונה ליזה או הגרניקה לא היו קיימות – היא לא הייתה מסוגלת ליצור אותן.
אם כן, אנו יודעים ש־dall-e זקוקה לרעיונות קודמים כדי להרכיב מהן יצירה חדשה. אנו מבינים שהבינה המלאכותית של גוגל מחקה באופן מעולה את המחשבות שלנו על מודעות אנושית.
אך כרגע אנו יודעים גם משהו נוסף: dall-e לא יכולה ליצור את הגל האמנותי החדש שירגש אותנו, והדיאלוג שהבינה המלאכותית תנהל עם מהנדס כלשהו לא יהיה שונה מדיאלוגים שכבר שמענו או שמישהו כתב.
בסופו של דבר, לעת עתה לפחות, האדם עדיין שונה, מיוחד ובעל איכות ייחודית המבדילה אותו מהאלגוריתמים החקיינים. כל עוד הם לא יכולים לחולל מהפכה כמותנו, הם רחוקים ממודעות, מלהיות אדם.
