בואו נדבר על הסרט The Social Dilemma של נטפליקס

with אין תגובות

לאחר שחברים וקולגות המליצו לי לצפות, אז הינה דעתי על הסרט הנפלא The Social Dilemma של נטפליקס (מומלץ בחום)! אז האם לנו כמעצבים ומפתחי מוצר יש מה לעשות בנידון? האם נוכל להשפיע בנושאים אלו? והאם נוכל כצרכנים (משתמשים) להגן על עצמנו?

אתחיל בכך שאני בכלל שמח שהנושא הזה סוף סוף צף גם בקרב כל בעלי הדיסציפלינות השונות בהייטק, ולא רק בקרב אלו שזה נוגע בהם. ואני שמח לגלות שאני לא לבד, כי לא פעם בעבר חשבתי שאני קצת מוזר בקטע הזה של פרטיות, ביג דאטה, AI וסייבר, מאחר ואני כותב על כך כבר 5 שנים מאז שהקמתי את StartUX (שיט הזמן טס!) ועוד מ-2010 בבלוג הפרטי שלי iBarel.com אך היה לי מוזר ששאר מעצבי ומפתחי אתרים ואפליקציות בקרב חבריי כלל לא מוטרדים מכך. אז נראה שזה השתנה מן הקצה אל הקצה!

היה השינוי שאתה רוצה לראות בעולם!

פעם תמיד חשבתי שזה לא מעניין אף אחד, ובטח שלא מעצבים ומפתחים דומים לי, שתכלס הם חלק מהתעשיה הזו וגם הם עובדים בחברות סטארטאפ והייטק גדולות… אבל כמו כל דבר שחשוב לנו, כמובן שעדיין המשכתי לכתוב (באיפוק) על הנושאים האלו שחשובים לי, לא כתחושת שליחות, אלא יותר בשביל לעורר מודעות. אז גם אם חלקכם חושבים\ות שאת\ה עוף מוזר, אל תהססו לכתוב על נושאים שחשוב לכם, ואם צריך – גם לפעול למען מטרות שחשובות לכם. והינה, לשמחתי הזמן עשה את שלו ונראה שהנושא החל לחלחל בעולם והינה המודעות הגיעה גם לארץ. אני לא אשתמש במושגים קלישאתיים כמו "עיצוב אתי" אבל מה שחשוב הוא שהרעיון והמודעות לנושא כבר כאן! ובסוף הפוסט תגלו גם איך אני עצמי מצאתי את עצמי מאזן בין כל זה בלי נקיפות מצפון רבות, כולל כמה טיפים משלי כיצד להתמודד עם המצב בעצמכם. 🙂

אנו לא חפים מהטיות והנדסת תודעה ע"י אלגוריתמים זדוניים

הסרט חיזק אצלי את המחשבה שהאלוגריתמים האלה של חברות הטק הגדולות מעמק הסיליקון נהיו כמו סוג של Echo Chamber לאנשים עם דיעות מסויימות (שנטען כי הן משקפות את אלו של יוצריהם בעמק הסיליקון), ואנו חיים בעידן בו האלגוריתם סה"כ מציג לאנשים תכנים דומים למה שהם אוהבים וחושבים. מה שלטעמי רע ומונע פיתוח חשיבה ביקורתית, פלורליזם, וכושר יכולת לנהל דיון מהימין ונייטרלי גם עם אנשים שדעתם שונה משלך (אולי זה מסביר למה גם מאסק יוצא כנגד ביריונות הרשת וסתימת הפיות ע"ס כת שנקראת Cancel Culture). וכפי שצויין לקראת סוף הסרט ע"י אחת המראויינות – בדיוק כמוה, גם אני מצאתי יתרון בלעקוב אחרי אנשים שדעתם שונה משלי, וגם אני משתדל לצרוך תכנים מאתרי תוכן וחדשות מגוונים ומנוגדים. למרות שחשוב להבין שאף אחד מאיתנו לא חף מהטיה כזו או אחרת, ואף מהנדסת תודעה. אלו מכם שהתנסו או עבדו בתחומי, סייבר, אבטחת מידע, והאקינג (הנדסה חברתית גם בלי לגעת במשחב) – אז אתם בטח יודעים שהאדם הוא החוליה הכי חלשה…

ואם כבר הזכרתי את מאסק והביקורת שלו על גוגל ופייסבוק (הוא נמצא רק בטוויטר אגב) גם חברו והמייסד השותף לפייפאל, פיטר תיל (כן, המשקיע הנערץ) עזב את עמק הסיליקון והגדיר אותה כמעוז של Group Thinking ולראשונה שבר לכולם את הקבעון המחשבתי שכולנו \ רובנו החזקנו בו – שמא בעמק הסיליקון יושבים כל המוחות המבריקים בעולם… ואם חושבים על זה שהם גם אלו האחראיים על פיתוח מוצרים וכתיבת אלגוריתמים שמעצבים תודעה של מיליארדי אנשים בעולם, זה בהחלט קצת מטריד וקריפי, בדיוק כפי שסוף סוף נגלה לעינינו בסרט החשוב הזה!

 

לכעוס על המנכ"לים והמייסדים זה לא הפתרון

הסרט לא מערב פוליטיקה או תופס צד כזה או אחר (בניגוד לסרטים דומים על אלגוריתמים או הטיית בחירות) וכן רומז על המצב הקיים בעמק הסיליקון, ומחזק את הטענות שעולות בשנים האחרונות מהצד (בגדי המלך החדשים?) שטוענות כי כל עוד אין דייברסיטי אמיתי ומגוון דיעות (ולא סיסמאות וקלישאות) בחברות הטק הגדולות, נראה כי המנכ"לים העשירים ימשיכו להתחבא מאחורי סיסמאות, טרנדים בנוסח PC (נגיד צביעת הלוגו שלהם בצבע\ים של טרנד או אירוע פופולרי בחדשות) כדי שחלילה לא יקראו להם עשירים מנותקים ורעים, ולהתחמק בשקט בזמן שהם ממשיכים להתעשר ע"י שימוש במידע והתכנים שלנו שינותחו ע"י האלגוריתמים וה-AI המפחידים שלהם, ועדיין למרות כל זאת הם ימשיכו לקבל חיבוק ו-PR טוב למרות הביקורת על המוצרים הקריפיים שיצרו. כמובן שזה משהו שמתחיל כבר לקרות ולא רק מבחוץ, אלא אפילו ע"י עובדים בחברות האלה שמתחילים להצביע על בגדי המלך החדשים. אני אישית לא חושב שזו הדרך, אבל תכף נגיע לזה…
לעומת זאת, הנקודה שאני כן מסכים איתה היא שלאנשים זה כבר לא כ"כ משנה אם המנכ"ל של החברה הומניסט למראית עין, במיוחד לאור העובדה שהוא עושה כסף ממוצר \ שירות שרומס זכויות אדם, זכויות פרט, ע"י שימוש באלוגריתם ו-AI אשר מנתחים כל דבר שאנו עושים ברשת, ועל הדרך מוכר לנו פרסומות, לצד מכירת המידע שלנו לענקיות אחרות.

אז כן, זה שהוא עשיר דווקא לא מעניין אותי אישית! שיבושם לו, הרוויח את שלו ואני מכבד יזמות וחדשנות (כי כפי שנאמר בסרט, אין טכנולוגיה רעה, אלא רק שימוש לרעה), זה שאין רגולציה והוא ניצל את הפרצה זו לא אשמתו (גם אם זה לא אתי), הרי גם גוגל התחילה את דרכה עם המוטו "Don't be evil". וחשוב לזכור שמה שהופך את ארה"ב לארץ ההיזדמנויות היא העובדה שכל אדם פשוט כולל מהגרים יכולים ליזום, לעבוד קשה, ולהגיע לגדולות בזכות מריטוקרטיה, קפיטליזם, ושיוויון הזדמנויות (כמו יאן קום שהקים את וואצאפ, כמו אילון מאסק, ועוד המון יזמים שהגיעו כמהגרים חסרי כל לארה"ב ועדיין הגיעו לצמרת). לכן אני יכול רק להעריך אותם, כי שוב, זו לא אשמתם שאין רגולציות ושכמעט כל מקבלי ההחלטות בפוליטיקה העולמית הם שעונים אנלוגיים בעידן דיגיטלי (שבקושי יודעים מה ההבדל בין פייסבוק לאינטרנט). ובכלל, הייתם מסוגלים לדמניין את חייכם בלי פייסבוק? וברור שיש מנכ"לים ובכירים בעייתיים, אבל מי שרואה מבעד למסכה שלהם, מעולה. מי שלא, לבריאות (הרי במילא לא כל האנשים בנויים לקחת את הגלולה האדומה 🙂 ).

בינתיים מאסק הוא הכי אותנטי ומפתח טכנולוגיות באמת אתיות שבאמת מקדמות את האנושות, בניגוד לחבריו צוק, ברין, פייג', דורסי, וכו'. הרי מאסק יכל כבר בכיף לפרוש לפנסיה מוקדמת לאחר האקזיט המכובד של פייפאל, אבל הוא בחר להמשיך לתמוך ולייסד חברות כמו טסלה, SpaceX, בורינג, הייפרלופ, ניורולינק, סולאר סיטי, ועוד חברות שמשנות ועוד ישנו את חיינו!

 

אז מה עושים? הן באספקט האישי, והן בקריירה?

עם הזמן גם מצאתי דרך לשלב בין השניים – להמשיך להנות מעבודה בחברות סטארטאפ וגם בחברות הגדולות, בלי נקיפות מצפון רבות, כי לא הכל שחור ולבן בחיים, כמו שחלק מהבכירים בסרט מציינים, כמותם אני מכיר כמה בתעשייה כולל בכירים לשעבר בפייסבוק שאמרו לי "איך אתה מסוגל לקנות Oculus Quest מחברה כ"כ נוראית כמו פייסבוק שגם עוזרת לדיקטטורים?". אבל כמו שחלקם ציינו בסרט – פייסבוק היא סה"כ כלי, שבזכותו ובשימוש נכון בו גם נעשו דברים מדהימים בעולם ולטובת האנושות. ואם אנו עושים שימוש מושכל בו (כולל לבלבל את האלגוריתם לפעמים) אז מעולה! מודה שלפעמים אני מכור ונופל ברשת, אבל לרוב? אני כלל לא לוחץ על מה שפייסבוק או גוגל מציעות, כי כאמור אני עוקב וניזון מכ"כ הרבה גופים ואנשים עם תכנים ודיעות מקוטבות, שהאלגוריתם לא תמיד קולע לטעמי. אה ואל תגלו לענקיות – אבל חוסם פרסומות כמו Ublock Origin ו-תוסף דפדפן כמו Privacy Badger באמת עוזרים לכם לקחת פיקוד. עוד קצת טיפים בסוף המאמר.

כך שעם כל האידיאולוגיה שלי והחשיבות של הנושאים האלו וקרבתם לליבי, אולי זה לא מקרי שבתקופת עבודתי במיקרוסופט הפסקתי להשתמש ב-WINDOWS 10 (ולא רק בגלל שבלתי אפשרי לבטל בה טלמטריות ואיסוף מידע). וכל זאת למרות שעוד הרבה לפני שהצטרפתי למיקרוסופט, לקחתי חלק פעיל בתוכנית ה-Windows Insider Program כש-Windows 10 הייתה עוד ב-BETA, וכל זאת כי רציתי לעזור להם לשפר את חוויית המשתמש, לשלוח להם פידבקים על באגים, ושאר ירקות (כשעוד היה לי זמן ל-Beta testing).
גילוי נאות – מחשבי Mac היו כלי העבודה הראשי שלי גם בסיסקו וגם במיקרוסופט, לצד מחשב PC (שהעלה אבק) ע"מ לבצע בדיקות UI ולעזור לחבריי המפתחים, אבל עם הזמן מצאתי את עצמי נוטש \ נגמל גם מ-macOS (שגם החלה לאסוף אנליטיקס אגב), מהלך שלא היה קל לי, במיוחד בגלל שהשתמשתי במערכות ההפעלה האלה כ-20 שנה (מודה שתמיד נהנתי יותר במק). אבל כמובן שבכל עבודה חדשה אני תמיד בוחר במק, כי אני רואה בזה כלי עבודה פרודוקטיבי שהופך אותי למקצועי ויעיל יותר. למרות שעם כלים כמו FIGMA, אין שום הצדקה לעבוד על מק, אפשר בכיף גם חלונות ואפילו לינוקס…

אז לי אישית לא הייתה שום בעיה להמשיך לעבוד בחברות השונות, גם אם אני לא מזדהה עם כל מה שהן עושות, כי הבחירה קיימת, בין אם בכלים איתם אתם בוחרים לעבוד, ובין אם בצוותים שאליהם תבחור לעבור בתוך הארגון. ועובדה שאני דווקא מצאתי מפלט ואף התחברתי למוצרי קוד פתוח (כיום גם מיקרוסופט וגוגל דוגלות בקוד פתוח). ואני גם תורם להן כספית, ואף לוקח חלק בפיתוח ועיצוב של פרויקטי קוד פתוח שאני עצמי נהנה להשתמש בהם (וכפי שאתם יודעים וזוכרים, גם עודדתי אתכם בעבר לקחת חלק ולעזור לרשימת פרויקטי Open Source ששיתפתי ב-StartUX ובקבוצות אחרות, במקום עוד רידיזיין סתמי לגוגל, פייסבוק, וחברות שבמילא לא יישמו אותן). אז מה הפלא שבסוף מצאתי את עצמי הולך את האקסטרה-מייל ועובר לגמרי ללינוקס? אחרי הכל כמה מעצבי מוצר (UX\UI) אתם מכירים על לינוקס? (טוב בארץ לא, אבל בעולם יש כבר המון). אז תמיד יש בחירה, גם אם זה מהלך קיצוני עוד יותר כמו החבר'ה בסרט שהם לשעברים בגוגל ופייסבוק שלגמרי מחקו את החשבונות שלהם לאחר שעזבו את החברה. אבל שוב, הנקודה שלי היא שלא הכל שחור ולבן ואתם לא חייבים לעשות מהלך קיצוני שכזה. יש גם צבעים באמצע. 🙂

מקווה שהפוסט תרם לכם להיות שלמים עם מה שאתם עושים, גם אם אתם לא לגמרי מזדהים עם כל מה שהחברה שלכם עושה, לדעתי חשוב להשאר נאמנים לארגון, אחרי הכל השכר טוב וזה קצת טרחני (וצבוע?) להתלונן על זה. כמו הבכירים בסרט שעשו את הונם בחברות האלה, אבל עכשיו פתאום מחשיבים אותן כשטניות (סורי, זה קצת צבוע לטעמי) הרי כבר מזמן ברור שאם אתה לא משלם על משהו, אז אתה המוצר. אבל הנקודה היא שאפשר גם לשלב, ולמצוא עיסוקים או פרויקטי צד שממלאים אתכם ועושים טוב לאחרים ולעולם, גם מחוץ לעבודה, ואם יש לכם אפשרות לעשות אותם גם במסגרת העבודה כפרויקט 80/20, אז מעולה! וגם אם צריך להרים דגל אדום, כולל להצביע על הבעיה בתוך הארגון – מניסיוני, רוב החברות הגדולות הן מאוד ליברליות ומאפשרות לקולות שונים להשמע! גם מקבלי ההחלטות, כולל מנכ"לים קשובים ושמחים לשמוע מעובדים שיש להם מה להציע ע"מ להשתפר. הם גם מעדיפים את זה מבחינת מוניטין לחברה, מאשר עובדים שיחשפו את הכביסה המלוכלכת בחוץ.

 

10 טיפים כדי לשמור על עצמנו ועל פרטיותנו כמשתמשים:

  1. השתמשו בתוסף הדפדפן של Ublock Origin כחוסם פרסומות – כך גם אם פייסבוק וגוגל יציגו לכם פרסומות, לא תוכלו לראות אותן בכדי שהיפתיון שלהם יעבוד, וכך לא תלחצו עלייהם (מה שתורם שמלמד את האלוגריתם שלהן ללמוד יותר עליכם).
  2. השתמשו בתוסף הדפדפן בשם Privacy Badger בשביל פרטיות – כך המעקב של גוגל, פייסבוק, ושאר החברות ינוטרל בדפדפן שלכם, והן לא יוכלו לדעת לאיזה אתרים אתם גולשים כדי לאסוף עליכם מידע.
  3. השתמשו בתוסף הדפדפן HTTPS Everywhere – כדי שהדפדפן שלכם יכריח את רוב האתרים לעלות בצורה מאובטחת עם SSL.
  4. למחמירים אפשר להתקין גם את תוסף הדפדפן של NoScript שחוסם JavaScript ומבטיח פרטיות טובה יותר ופחות מעקב, אבל אם לא תשתמשו בתוסף בצורה נכונה, רוב האתרים לא יעבדו כראוי.
  5. אם אתם באנדרואיד – NetGuard היא אפליקציית פיירוול (חומת אש) בקוד פתוח שתשמור על פרטיותכם ותאפשר לכם לנטרל גישת אינטרנט לאפליקציות ומשחקים סוררים שלא חייבים גישה לאינטרנט. כך שגם אם תתקינו אפליקציה או משחק זדוניים, הם לא יוכלו לשלוח את המידע שלכם לשרתי המפתח.
  6. למשתמשי אנדרואיד – השתמשו בחנות האפליקציות בשם FDROID שבה כל האפליקציות הן בקוד פתוח ושקוף, ומספקות חלופות למוצרים קנייניים (שלרוב גם מרגלים אחריכם).
  7. השתמשו במנהל ההרשאות המובנה באייפון ובאנדרואיד שלכם, כדי "לסרס" אפליקציות כמו פייסבוק, וואצאפ, אינסטגרם וכו' ולמנוע מהן גישה למצלמה, למיקרופון, GPS וכו'.
  8. למשתמשי macOS / iOS – כל עוד ניתן, תבטלו את ה-Analytics בהגדרות המערכת בכדי לא לשלוח לאפל מידע מהמחשב או המכשיר שלכם (למקרה שזה מטריד אתכם).
  9. למשתמשי Windows 10 – העבירו את איסוף המידע (Telemetry) מ"הכל" ל-Basic, כך מידע רגיש כמו סיסמאות, וכל מה שאתם מקלידים במקלדת לא ישלחו למיקרוסופט. למי שרוצה לבטל טלמטריות לגמרי (דבר שמתפאשר רק בגרסת האנטרפרייז לארגונים), יש תוכנות ייעודיות לכך אך לא אפרט עלייהם כאן מאחר וחלקן נחסמות ולא רלוונטיות לאחר כל עדכון של חלונות 10.
  10. אם אינכם חושישם לצאת מאיזור הנוחות ואוהבים לנסות דברים חדשים ומרעננים, נסו קצת את לינוקס על מחשב משני או מחשב וירטואלי, לבאים מ-macOS אני ממליץ בחום על Elementary OS ו-Ubuntu Budgie. ואילו לבאים מ-Windows ההמלצה היא על Linux Mint, ZorinOS ואפילו על Ubuntu 20.04 LTS.

 

10 טיפים כדי לשמור על פרטיותם וזכויותיהם של המשתמשים שלנו:

  1. להבין איך ההחלטות שלנו כמעצבים ומפתחים משפיעות על מיליוני אנשים, ולא למהר לאסוף מידע שלא קריטי להצלחת המוצר שלנו.
  2. להבין מהי החשיבות של אתיקה עיצובית, רגולציות פרטיות, אבטחת מידע, ולעקוב אחרי ארגונים כמו EFF.
  3. להתעניין יותר בתחומי סייבר, אבטחת מידע, פרטיות. וגם ללמוד בעיקר איך הדברים עובדים מאחורי הקלעים (חוות שתים, שירותי ענן, ביג דאטה, הצפנת נתונים, וכו').
  4. השתדלו להיות הקול של המשתמש לאורך כל תהליכי האפיון, העיצוב, ופיתוח המוצר. ולא להתבייש להרים דגל אדום אם משהו נראה לכם כמפר \ דורס את זכויות המשתמש.
  5. לא להתעצל להסיר APIים ושירותי אנליטיקס ששילבתם בפרוטוטייפ של המוצר שלכם ע"ם להבין מה עובד ומה לא בשלבי האפיון והפרוטוטייפינג, אם האנליטיקות כבר לא חיוניות להצלחת המוצר – פשוט להפסיק את השימוש בהן.
  6. לעבור על תקנות GDPR ותמיד לדאוג לשקיפות עבור המשתמשים בנוגע למידע שאתם אוספים ושומרים עלייהם במוצר שלכם.
  7. אם אינכם חייבים להשתמש באנליטיקות של גוגל, תמיד יש חלופות טובות יותר לפרטיות כמו plausible לדוגמא.
  8. גם כלים כמו HotJar (שהמלצתי עלייהם כבר בעבר) זה משהו שלדעתי מומלץ להכיר ושיהיו בסט הכלים שלכם.
  9. תמיד להשתדל לחקור ולמצוא חלופות ל-APIים עם מדיניות פרטיות ברורה ושקופה יותר כ-Tech Stack שלכם.
  10. לשמש דוגמה לצוות – במסגרת האקאתון לעובדי מיקרוסופט, השותף שלי ואני השתמשנו ב-AI Cognitive Services אך הקפדנו וביקשנו מהצוות שלא לשמור שום מידע על המשתמשים במחשבים שלנו ועל השרת של Azure לאחר שסיימנו עם תהליכי לימוד המכונה (ML).

 

אם יש לכם עוד, שתפו בתגובות 🙂

Leave a Reply

*