בשבוע שעבר התקיים כנס isvis במהלכו הצגתי את המחקר שערכתי יחד עם נביל סולימאן בו בדקנו את ההשפעה של כיוון הקריאה על תפיסה חזותית של גרפים. עד שההקלטה של ההרצאה תעלה ליוטיוב, קבלו את ה־״גרסה הביתית״

מה קובע אם גרף מסויים טוב ואחר – רע?

באופן פשטני, אם גרף עוזר לי להבין את הנתונים מהר ובלי לעוות את המציאות, הוא גרף טוב. אם, לעומת זאת, הגרף גורם לי לטעות לגבי האופי האמיתי של הנתונים או מאלץ אותי לבלות זמן רב בניתוח, הוא גרף גרוע. 

מן העקרון הפשוט הזה נגזרות הרבה מאוד המלצות לגבי ה־״עשה״ ו־״אל תעשה״. ככה, למשל, גרף עוגה תלת מימדי היה בעניי החטא הגדול ביותר שאפשר לעשות בהדמיית נתונים. למה? כי העוגה מקשה על הצופה בהשוואת גדלים קרובים, ואם מוסיפים לה עיוותים של תלת מימד, אז בכלל….

שמחתי לראות שבמשאל שפרסמתי מוקדם יותר היום, לא מעט אנשים בחרו בעוגות התלת מימדיות כחטא הגדול ביותר. אבל, ייתכן שכולנו קצת טועים. כי הקריטריונים שרשמתי בתחילת הפוסט ניתנים למדידה. וכשיש נתונים אמפיריים, השיקולים התיאורטיים מקבלים משקל נמוך יותר. אתמול נתקלתי במאמר די מעניין. במאמר, החוקרים חשפו את הנסיינים לשלושה סוגי גרפים ובדקו את הזמן הדרוש לניתוח הגרף ואת גודל הטעויות במהלך הניתוח. שלושת סוגי הגרפים היו: תרשים עוגה ״רגיל״, תרשים עמודות ותרשים עוגה תלת מימדי.

לפי התיאוריה שלי, הסוג האחרון של הגרפים היה צריך להוביל לזמן קריאה הארוך ביותר ולטעויות הגדולות ביותר. ולא כן! ביצועי הנסיינים בכל הגרפים היו זהים.

מה ניתן ללמוד מזה? שיקולים עקרוניים זה טוב, אבל כדאי לבדוק אותם מדי פעם בעזרת ניסויים.

האם מעכשיו אתחיל ליצור עוגות תלת מימדיות? ממש ממש לא! אני כבר זקן מדי כדי לשנות את דרכי. האם אני אנזוף בסטודנטים שלי שייצרו עוגות תלת מימדיות בתרגילים? עדיין כן,  אני כבר זקן מדי כדי לשנות גם את זה. האם אני אראה לסטודנטים את המחקר הזה ואחפש מחקרים דומים אחרים? כן וכן.

היום ראיתי פוסט שניסה להראות את ההתאוששות של שוק המכוניות בישראל באמצעות גרף. לצערי, איבדתי את הפוסט המקורי, אבל הגרף נראה בערך כך

מה רואים? נתוני מכירות של מכוניות חדשות בארך מאז קדמת דנא, גרף מגמה עולה (טוב, תמיד נחמד לראות גרף מגמה עולה) ובערך זהו.

על השפה הקריפטית של הגרף (מה זה car_num) ועל כמות הנתונים הלא נחוצים (תאריכים, יותר מדי שנתות על שני הצירים) אני כבר לא מדבר. 

אז מה עושים?

קודם כל, מוסיפים כותרת (אני לא אתעייף להגיד עד כמה הכותרת היא כלי חשוב בעבודה של יוצר גרפים). הכותרת תהיה ״Post COVID purchase recovery״. אז עוד לפני שממשיכים, אפשר להבין שאין טעם להסתכל על שנת 2010, מהיכן שהנתונים שלנו מתחילים. עוד ברור שצריך לסמן את ״שנת הקורונה״ ואת ״שנת ההתאוששות״. אז הנה מה שיצא לי: פחות רעש חזותי, פחות נתונים וכבר יותר ברור.

זה אכן יותר טוב, אבל ממש לא מצויין. שימו לב עד כמה הכותרת לא באמת תואמת את הגרף! צריך קצת מאמץ מטלי כדי להבין שמה שאנחנו רואים מצביע על התאוששות. אחרי הכל, צורת הקו די דומה משנה לשנה. אולי מה שחשוב זה ההשוואה בין כל חודש לחודש מקביל אשתקד. בואו ננסה

הו! הרבה יותר טוב

תראו איזה יופי. שני גלי קורונה בבריטניה בהשוואה ישירה.

רואים איך הזן הנוכחי מדביק יותר (החלק העליון של הגרף), אבל מסב פחות נזק ועומס על מע׳ הבריאות. האם זה תכונה של הזן החדש או האפקט המגן של החיסון – לא ברור. הניחוש שלי – החיסון.

זהו אחד הגרפים הטובים והברורים ביותר שראיתי זה זמן רב. אני מוריד את הכובע בפני מי שהצליח ליצר גרף עם כל כך הרבה פרטים מועילים ואפס שטויות. אני גם מקנא כי אני יודע שלא הייתי מצליח לעשות גרף טוב כל כך.

אדם שאני לא מכיר בשם הקבוצה ‏אייל פרדיס, דעתן‏ פרסם את הגרף הזה (התוספת על דמגוגיה – שלי)

אז בואו נעשה סדר

אני אתעלם מכך שבחירת המדינות כאן מאוד מגמתית (באירלנד וצ׳כיה המספרים עוד יותר גבוה, אבל הם לא בגרף). בואו נתיחס לנתונים כפי שהם מופיעים כאן

נתחיל. קשה מאוד להתיחס לגרפים כאלה ברצינות. קודם כל, לבנון וסוריה מדינות כל כך כושלות שגם אם שלטונות היו רוצים לפרסם נתונ אמת, הם לא מסוגלים לאסוף אותם. מצרים והודו – אותו הדבר. אומנם מדינות לא כושלות לגמרי, אבל בגלל הגודל והעוני השליטה של מה שנעשה מאוד חלקית. במקרה של טורקיה (כמו גם רוסיה, סין, איראן) – קשה להאמין לאף מספר שיוצא מהשלטונות הרשמיים שלהם.

נמשיך. יש בסטטיסטיקה משהו שנקרא ״חוק המספרים הקטנים״ שאומר (בהקשר שלנו) שמספרי סיכום כגון אלו יהיו קיצוניים יותר באוכלוסיות קטנות יותר. דוגמה קיצונית: קחו קבוצה של מאה איש. אם אין בה נפתרים מקורונה, אז הסיכום בה יהיה 0 נפתרים למיליון. ברגע שיהיה נפתר אחד בודד – פתאום הסיכום יהיה 10,000 למיליון. ישראל, עם תשעת מליון התושבים שלה עדיין נחשבת למדינה לא גדולה מבחינת גודל האוכלוסיה.

נמשיך הלאה. איך ניתן בכלל להשוות מדינות שונות? קחו את פינלנד מאותו הגרף. אוכלוסיית פינלנד בערך חצי מאוכלוסיה של ישראל. השטח שלה, לעומת זאת גדול פי חמש עשרה, כך שברור שהמחלה תתפשט בה לאט יותר. מצד שני, בפינלנד 20% מהאוכלוסיה עברה את גיל 65 ואילו בארץ רק 10%. האם במצב הזה זה הגיוני להשוות תמותה ממחלה שעוברת בהדבקה ופוגעת פעיקר בזקנים? ברור שלא! ואפשר להמשיך הלאה והלאה.

לכיסום

בקיצור, מה אני רוצה להגיד? קל מאוד לקחת אג׳נדה ולבחור בפינצטה איזה מדד משווים ועם אילו מדינות כדי להראות את האג׳נדה הזאת. למשל, אפשר להראות את אחוז המחוסנים באוכלוסיה, אם רוצים, שם אנחנו במקום הטוב ביותר. אפשר להראות את מספר מקרי המוות העודפים, שם אנחנו במקום טוב באמצע

והנה עוד דוגמה: מספר הנפתרים למליון איש, כפונקציה של צפיפות אוכלוסין במדינות בעלות צפיפות הדומה לישראל

אנחנו מתחת לגרמניה, בריטניה, בלגיה ועוד. כבוד! מצד שני, אנחנו הרבה יותר צעירים מהמדינות האלה אז שוב קשה לשוות. יפן, לעומת זאת, גם צפופה, גם זקנה אבל הרבה מתחתנו.

אז מה האמת? מה המדד הנכון?

אז זהו, שאין מדד ״נכון״ יש הרבה מדדים, כל אחד משמש לבחינה של פן אחר של מציאות. המציאות מורכבת. באסה

תרשים רדאר, או תרשים עכביש הוא סוג התרשימים שנראים, אל פניו, מגניבים, אך למעשה כמעט תמיד הם בחירה ממש גרועה. בואו נבחן את הסיבות לכך ונחשוב על אלטרנטיבה טובה יותר. 

לפני: הבעיות של תרשים עכביש 

הנה השחזור שלי של תרשים רדאר שראיתי באחת הקבוצות בפייסבוק. 

מה הבעיות שלו? 

הבעיה הראשונה היא הקריאוּת (readability באנגלית): הגרף הזה לא קריא. האם אתם יכולים להזות בצורה מהירה את הערך של הסדרה האדומה עבור ״substance abuse״? לדעתי, לא.

אבל בעיה גדולה יותר נעוצה בכך שמאחר ואין סדר מובנה לקטגוריות, כל אחד חופשי למיין את הקטגוריות של הגרף איך שבא לו. התוצאה של זה היא אסופה של גרפים שנראים ממש ממש שונה אחד מהשני, למרות שהם מכילים את אותם הנתונים

אחרי: בחירת גרף מבוססת מסקנה

מה האלטרנטיבה?

קודם כל, צריך להחליט מה המסקנה של הגרף. לא רק לחשוב, אלא לכתובת את המסקנה ככותרת של הגרף. זה יאלץ אותך להחליט מה המסקנה וידריך אותך במאמצים לשיפור. (אני מאוד ממליץ לקרוא את הפוסט הזה https://gorelik.net/…/how-to-suck-less-in-data…/ או לראות את ההקלטה של ההרצאה שלי כאן: https://youtu.be/xGfaFdoQVHM

חזרה לדוגמה שלנו. אם המטרה את הקורלציה בין שתי קבוצות, אז אפשר ליצור גרף עמודות, כאשר אחד התת־גרפים ממויין. וזאת התוצאה

ומה אם המסקנה שלנו נוגעת לתובנה מעניינת לגבי ההפרשים בין הסדרות? במקרה כזה, צריך לחשב את ההפרשים ולהראות אותם, בנוסף לערכים עצמם, או במקומם.

(שימו לב שגם כאן מיינתי את העמודות. הדרך הקלה ביותר לשפר את הקריאוּת של גרף עמודות זה למיין אותם לפי הערך.

קוד פייתון שהשתמשתי בו כדי ליצור את הגרפים כאן נמצא כאן: https://gist.github.com/bgbg/db833db723998cd244b5049bfe01f5ac

אני מתנצל על השפה הבוטה, אני פשוט נסער (טוב, לא באמת, סתם עושה את עצמי). 

יש אתר שנקרה information is beautiful שמוקדש ל־ (איך לא) הדמיית נתונים. הרבה אנשים הולכים לשם כדי לקבל השראה לגרפים טובים ולכן זה מרתיח את דמי (טוב, לא באמת, סתם עושה את עצמי) כשאני רואה גרפים כל כך גרועים. על מה אנחנו מדברים?

הנה גרף שראיתי בקבוצת הפייסבוק https://www.facebook.com/groups/DataVisualizationIsrael

(אני לא נותן לינק לגרף המקורי בכוונה, כדי לא לעודד את גוגל לשלוח לשם מבקרים)

הגרפים אמורים להציג תמונה יפה של כמה החיים שלנו היום טובים יותר מהחיים פעם. מטרה נעלה. אז מה עשו הגאונים? אספו קצת סטטיסטיקות של ״לא מזמן״ ו־״פעם״, בחרו צבעים מגניבים וציירו ציורים מאירי עיניים. כמה נחמד! בואו נתלה את זה על מקרר כדי שכולם יראו!

מה רע בגרפים האלה?

מה רע בגרפים האלה? מה לא טוב בהם? שום דבר לא טוב!

קודם כל, מה משותף בין כל המדדים האלה? שום דבר. ניחוש שלי, שהחברים באתר בחרו מדדים באקראי ומתוכם בחרו כאלה שיראו תמונה טובה יותר. יותר חשוב מזה, שימו לב שהשנים לשוואה משתנים בין גרף לגרף. למה? אני מנחש שמי שיצר את יצירת המופת הזאת התעצל לחפש שנים בהתאמה או, שוב, בחר בפינצטה שנים שיציגו משהו דרמטי. 

ועכשיו בואו נחזור להדמיית נתונים. תראו את הגרף הזה

איזה גרף יפה! אילו קווים חלקים ונעימים. אלא מה? 

הפעם היחידש שאנחנו משתמשים בקווים האלה היא כאשר אנחנו רוצים להציג חוסר וודאות. במקרים האלה, המדד אותו אנחנו מציגים נמצא על ציר ה־x וציר ה־y מראה את רמת הבטחון שלנו בערך הספציפי. במקרים האלה, המרחק בין ה־״פעמונים״, כמו גם העובי שלהם, וגם השטח שמשוטף לשתי העקומות – כולם בעלי משמעות. הנה דוגמה לשימוש נכון בעקומות מסוג זה. כאן הציר האופקי מראה את הסיכוי של אתר אינטרנט מסויים למכור מוצר, שלוש העקומות השונות מייצגים שלוש גרסאות של אותו האתר, וכך ניתן לקבל החלטה מושכלת איזו גרסה עדיפה ומה הסיכוי שההחלטה תתברר כנכונה

(מקור התמונה – כאן)

ובחזרה לגועל הנפש שלנו (באמת, אני לא מגזים). בגרף ה־״חמוד״ הזה, אין למיקום הפעמון, העובי שלו ומידת החפיפה שום משמעות! כל מה מעניין זה הגובה של הצורה. אז למה לא קיבלנו גרף עמודות? באמת שאין לי מושג. הנה, הפכתי את הגרף המקורי לעמודות. עכשיו, כל נהיה בסדר.

למה זה חשוב?

כשאני מלמד הדמיית נתונים, אנשים אומרים לי שהערות מסוג זה מעצבנות ושמדובר בטהרנות לשמה. אז ככה, הדמיית נתוים זאת שפה. וכמו בכל שפה, גם בשפה הזאת יש כללי דיקדוק. ואם יש כללים חייבים להקפיד עליהם. לעתים רחוקות, חירות הסופרים מאפשרת הפרת כללים, אבל זה בתנאי שמי שמפר את הכלל מודע אליו, מכיר אותו, עושה זאת במכוון ולכולם ברור שזה נעשה במכוןן. גם בשפה העברית יש כללים. גם בעברית, אם אגיד לכם ״שלוש גרפים עם שני טעויות״ אתם תבינו למה אני מתכוון, אבל מיד תשפטו אותי על העברית העילגת שלי. כמו בשפה המדוברת, גם בשפה הגרפית צריך להקפיד על הכללים. זה חשוב.