לדיון הזה, ב'וועדת המשנה לבינה מלאכותית בוועדת המדע והטכנולוגיה של הכנסת', הגענו בהמונינו. חדר מלא של מומחים, חוקרים, ארגוני החברה האזרחית, חברות טכנולוגיה ועובדי משרדי ממשלה. הגענו כדי לנסות לשכנע את הפוליטיקאים להקשיב לנו הפעם. מהצד השני, הגיעו 3 ח"כיות בלבד: אורית פרקש הכהן, יו"ר הוועדה, גלית דיסטל ושלי מירון מיש עתיד.
הזירה הדיגיטלית, ברשתות החברתיות ובכלל, היא חלק בלתי נפרד מהמערכה.
אין שום דבר מפתיע במשפט הזה, נכון? זה הרי ידוע. מה שכן מפתיע, זו התעלמות של מדינת ישראל מהמציאות שבה הזירה הדיגיטלית מפזרת פייק ניוז בלי הכרה.
בישראל אין אף גוף מתכלל שעוסק באתגר הזה ברמה הלאומית, למרות שההשפעה שלו היא קריטית: הוא משפיע על החוסן של העורף הישראלי וגם על האופן שבו ישראל נתפסת בעולם.
אנחנו ״קרקס נודד״ של מומחים בתחום, שנפגשים בפורומים שונים כבר כמה שנים.
את ההמלצות שלנו כתבנו כבר אחרי "שומר חומות". אם הן היו מיושמות אז, כנראה היינו היום במקום אחר. אבל אולי הפעם זה יקרה, אולי לא נצטרך לנהל את אותו הדיון בדיוק גם במלחמה הבאה. כי בינתיים, הטכנולוגיה מתקדמת והאתגרים מעמיקים.
בשנה האחרונה חייהם של זייפנים ושקרנים נהיו קלים יותר בעזרת טכנולוגיות בינה מלאכותית שמאפשרות להם ליצור תכנים שנראים אמיתיים במהירות גדולה, איכות שהולכת ומשתפרת ובכמויות אדירות.
אז למה צריך גוף מתכלל שירכז את הטיפול בזירה הזאת, מין ״פיקוד עורף דיגיטלי״?
- בדרך כלל הדיונים על איך להתמודד עם האתגר הזה מגיעים מהר מאוד ל״צריך לחנך את הציבור לאוריינות דיגיטלית״. הרגולציה הרי לא זזה ובכל מקרה קשה לה מאוד להתמודד עם המהירות שבה מתקדמת הטכנולוגיה.
אלא שלדבר על ״חינוך הציבור״ ולהשקיע בקמפיינים כאלה זה אמנם חשוב, אבל ממש לא מספיק. למעשה, זו זריקת האחריות על הציבור מבלי לתת לו כלים להתמודד עם זה. אז נגיד שלציבור תהיה מודעות, מה הוא אמור לעשות איתה כשהוא נתקל במידע חשוד? שקרי? חשד להתערבות זרה? אין לו כתובת ואין לו כלים.
- הנה דוגמה לכלי טכנולוגי כזה שאפשר שיכול לעזור:
הבינה המלאכותית הציפה את החיים שלנו בתמונות שנראות כמעט אמיתיות. אולי יצא לכם לראות, למשל, תמונה של ילדה פלסטינית שנכתב שנאנסה בידי חיילי צה״ל. אין באמת ילדה כזו. התמונה שלה נוצרה בבינה מלאכותית. זה לא הפריע לציוץ שהפיץ אותה להגיע ל-3.5 מיליון צפיות. תמונה אחרת שהופצה הציגה כביכול ילדה פלסטינית שנפגעה מפצצת זרחן של צה"ל. אלא שלמעשה, התמונה הזאת צולמה בקאבול ב-2008.
מה שצריך כאן זו פלטפורמה מקצועית ואמינה שניתן להעלות אליה תמונות ולקבל חיווי מה הסבירות שמדובר בתמונה שנוצרה ב-AI, או אולי תמונה אמיתית שהוצאה מהקשרה.
- כל מלחמה ומבצע מביאים אתם אתגרים חדשים ופלטפורמות חדשות. במלחמה הזאת, אלה ערוצי הטלגרם. מאז תחילת המלחמה נוספו מעל ל-1.2 מיליון משתמשים (!!) לערוצי עדכוני החדשות הגדולים בשפה העברית בטלגרם. אלה ערוצים שנמצאים מחוץ לרדאר והם קרקע פוריה להפצת סרטונים מכל הסוגים והזוועות, הפצת שמועות עוקפות צנזורה וזריעת תבהלה ציבורית גדולה.
אחד התפקידים של גוף מתכלל שצריך לקום כאן הוא לזהות את הסכנות החדשות האלה ולהתאים להם כלים ופתרונות.
- עוד משהו שחשוב לעשות הוא לדעת לסגור מעגל מול הציבור.
כלומר, נניח שנתקלת במידע שנראה לך שקרי או חשוד. גם אם יש לך למי לפנות ולמי לדווח, צריך שלדיווח יהיה המשך, שיהיה מי שילחם בשקר כשהוא עוד קטן.
אחד השקרים שרצו ב-7 באוקטובר, למשל, דיבר על כך שמחבלים חטפו ניידות משטרה ומסתובבים אתן בערים במרכז הארץ.
אחרי דיווח על מידע שחשוד כשקרי, חייבת לבוא תגובה מהירה של גורמים רשמיים, שיפריכו את השקר ויעצרו את הפייק שמתפשט כאש בשדה קוצים.
היום פועלים במרחב הזה ארגוני חברה אזרחית שעושים עבודה חשובה, אבל הם לא יכולים להחליף את הגורמים הרשמיים והמדינתיים שחייבים להיות חלק מהמאמץ הזה.
בקיצור, כדי להתמודד עם כל אלה צריך לקום כאן גורם מתכלל שמסתכל לכל הכיוונים, עוקב אחרי דיווחים, סוגר מעגל ומדווח, יודע לזהות מגמות וטכנולוגיות חדשות, מפתח כלים להתמודדות ונמצא בקשר עם כל הגורמים הרלוונטיים.
והגוף הזה צריך לקום היום.
רק שזה מחזיר אותנו לנציגי הממשלה והכנסת שכאמור, בלטו בהיעדרם בדיון אתמול. הנוכחות הדלה שלהם מוכיחה לא רק שהם לא מכירים בחשיבות הנושא הזה או נותנים לו עדיפות. הבעיה היא שלפוליטיקאים אין להם אינטרס לשנות את המצב הזה.
אין להם אינטרס לקדם חקיקה ופיקוח על הרשתות כי הם בעצמם לפעמים נהנים מהמערב הפרוע שהולך שם ומהיכולת להשתמש בו לקמפיינים שלהם.
כשזה המצב – יש סיכוי טוב שניפגש שוב במלחמה הבאה, ואז כבר יהיה מאוחר מדי.
