חזרה לרשימת הפרסומים

דוח ינואר סייבר

גודל טקסט18

מדיניות וביטחון סייבר –

ינואר

2018

סדנת יובל נאמן למדע, טכנולוגיה

וביטחון

אוניברסיטת תל-אביב

פברואר 2018

תקציר חודשי

בממשל האמריקני וק דמו החודש מספר הצעות לשיפור האבטחה הקיברנטית, ביניהן הטלת עונש על סוכנויות דירוג אשראי שתיכשלנה בהגנה על מידע, הגברת השקיפות על תהליך חשיפת החולשות של המחלקה לביטחון המולדת והצעה להקים מחדש את משרד המתאם לאבטחה קיברנטית. בנוסף, עסק הקונגרס במספר איומי סייבר אפשריים, כולל היריבות מול סין בפי תוחים ט כנולוגיים וחולשות חדשות שנח שפו במספר מעבדים ו שבבים. בתחום הביטחון והצבא עסקו החודש באיוש תפקידים משמעותיים הקשורים לסייבר, לאחר שנודע כי ראש ה-NSA צפוי לעזוב השנה, וככל הנראה מפקד פיקוד הסייבר של הצבא הוא המועמד להחליפו. נוסף על כך, מונה עוזר למזכיר ההגנה בתחום מדיניות הסייבר, תפקיד אשר נותר ריק למעלה משנה. בהתפתחויות נוספות, מסמך סקירה גרעינית שפרסם הפנטגון הוביל לתהיות רבות על האפשרות שארה"ב תשתמש בהתקפה גרעינית גם כתגובה למתקפות סייבר הרסניות, ואילו נושא הפרדת פיקוד הסייבר מה-NSA נותר שנוי במחלוקת לאחר שלא הופיע במסמך אסטר טגיית ההגנה הלאומית שפורסם בתחילת החודש. רוסיה עמדה החודש במוקד של מספר האשמות על מבצעי סייבר שונים, כולל דו"ח של חבר ת Trend Micro בו נחשף כי האקרים רוסים החלו לפעול כנגד הסנאט האמריקני, ו האשמה נוספת מפי מזכיר ההגנה של בריטניה על כך שרוסיה בוחנת תשתיות בריטיות כהכנה למהלכים התקפיים עתידיים אפשריים. באירופה עסקו החודש ב ביצוע התאמות לחוק ההגנה הכללי על מידע ה-GDPR שצפוי להיכ נס לתוקפו בחודש מאי הקרוב, לאחר שנודע כי חברות טכנולוגיה רבות כבר החלו להתאים עצמן אליו, ואילו בריטניה אף נמצאה בסקר חדש כמדינה המוכנה ביותר אליו מבין המדינות החזקות ביבשת. בנוסף, עסקו המדינות בהתמודדות מול איומי השפעה, כש בריטניה הודיעה על הקמת צוות מיוחד ללחימה בחדשות מזויפות ו צרפת הודיעה על חקיקה כנגד הפצת מידע כוזב בזמן בחירות. באסיה פרסמה סין חוק חדש שיחייב חברות זרות לשתף מידע על איומי סייבר, ואילו יפן הודיעה על הקמת ארגון חדש להגנת סייבר ועל קידום שיתופי פעולה בתחום הסייבר עם מרכז המצוינות של נאט"ו. במזרח התיכון נרשמו ב ישראל מספר שיתופי פעולה חדשים, ביניהם שת"פ מקומי במחקר Blockchain והסכם עם הודו להגנת סייבר ועם מפעילת רשת חשמל בפולין למאבק באיומי סייבר. באיראן ו ב לבנון נחשפו החודש מספר יכולות סייבר שונות, כשע"פ דו"חות חדשים, איראן משתמשת במ ספר יכולות סייבר כנגד אזרחיה, בעוד ש בלבנון האקרים מקומיים ביצעו פעולות כנגד מטרות ב מדינ ות זרות. ברמה הבינלאומית הושקו החודש שני גופים חדשים להגנת סייבר, האחד גוף גלובלי לאבטחה קיברנטית שיוקם בג'נבה והשני גוף פרטי מטעם חברת האם של גוגל, Alphabet, שיפתח מערכות סייבר חסינות. בתחום ביטחון סייבר נחשפו החודש איומים חדשים הקשורים לשיבוש והתקפה של מערכות ניווט, איומים חדשים על כספומטים בארה"ב ועלייה במספר מה תקפות על שירותי הנפקת מטבעות דיגיטליים.

ארה"ב

ממשל אסטרטגיה ומדיניות 10 בינואר – מחוקקים דנו ב מאמציה של סין לעקוף את ארה"ב בתחומי מפתח טכנולוגיים – בשימוע שערכה תת-הוועדה לאיומים ויכולות הכפופה לוועדת הכוחות המזוינים של בית הנבחרים הזהירו מומחים מכך שסין עלולה לעקוף את ארה"ב כמובילה בתחומי חלל, סייבר, בינה מלאכותית וטכנולוגיות הצפנה. לדברי יושבת רא ש תת-הוועדה, הסנאטורית הרפובליקנית אליס סטפניק (Elise Stefanik), השקעות יה של סין במחקר ופיתוח, בנוסף למחסומי הסחר שהיא מערימה על מנת לתמוך בחברות מקומיות, מהווים סכנה לביטחו נה הלאומי של ארה"ב. במקביל, פחתה הסתמכותה של סין על רכישת טכנולוגיות זרות והיא עובר ת להתמקד בייצור עצמי שמאפשר לה לייצר יוזמה בענף הטכנולוגיה ולצמצם את התלות במערב. 1

10 בינואר – הצעת חוק חדשה מבקשת להטיל עונשים על סוכנויות לדיווח אשראי שתיפרצנה – הצעת החוק The Data Breach Prevention and Compensation Act, שהוצגה על ידי סנאטורים דמוקרטיים, תקנה לרשות הסחר הפדראלית ה-(FTC Federal Trade Commission), סמכות פיקוח ישירה על אבטחת המידע בקרב סוכנויות ל דירוג אשראי וכן סמכויות ענישה במקרה והן ותכשלנה בהגנה על מידע של לקוחותיהן. ההצעה כוללת גם פיצוי כספי שיינתן ללקוחות שהמידע שלהם ייגנב. לדברי יוזמי ההצעה, החוק ישמש תמריץ לסוכנויות להשקיע באבטחה וימנע מהן לעשות רווח על מכירת מוצרי הגנת אשראי לאחר הפריצה. 2

10 בינואר – ביטול העסקה בין Huawei הסינית ל בין AT&T האמריקנית תעי ב על יחסי הסחר בין המדינות – על פי אתר חדשות הטכנולוגיה, The Information, ה עסק ה שהייתה אמורה להיחתם בין Huawei ו-AT&T בוטלה ברגע האחרון בשל לחץ פוליטי אמריקני. מחוקקים מהסנאט ומבית הנבחרים שלחו מכתב לרשות התקשורת הפדראלית ה-FCC, בו הביעו ד אגה מכך ש-Huawei תשווק את מוצריה באמצעות חברת התקשורת AT&T. ביטול העסקה מהווה עליה במתח בין סין ו ארה"ב בתחום המסחר וההשקעות, היכן שוושינגטון מנסה למנוע רכישות או הסכמי שותפות עם חברות סיניות, בעיקר בענף הטכנולוגיה. לדברי היועץ העסקי לשעבר בקונסוליה הסינית בניו יורק, הי ווייוון (He Weiwen), סין עלולה לשקול צעדי נגד אם וושינגטון תבצע צעדי ענישה כנגדה. 3

17 בינואר – הצעת חוק הקוראת להקמה מחדש של משרד המתאם לאבטחה קיברנטית עברה בבית הנבחרים – הצעת החוק Cyber Diplomacy Act מגדירה ומרחיבה את סמכויותיו של משרד המתאם לאבטחה קיברנטית תחת מחלקת המדינה, שנסגר בשנה שעברה על ידי מזכיר המדינה, רקס טילרסון (Rex Tillerson). הצעת החוק זוכה לתמיכה ממחוקקים משתי המפלגות ויש התומכים בה גם מקרב הסנאט. תומכי ההצעה טענו כי סגירת המשרד פגעה ביכולת האמריקנית לקדם כללי התנהגות במרחב ה סייבר וביכולת להתנהל מול יריבים ובעלי ברית בזמן עימותים עתידיים. 4

17 בינואר – הצעת חוק חדש ה תגביר את הפיקוח על תהליך גילוי החולשות של המחלקה לביטחון המולדת – הצעת החוק, שעברה בבית הנבחרים וכעת תועבר לסנאט, תדרוש מהמחלקה לביטחון המולדת להגיש לקונגרס דו"ח שנתי המתאר את תהליך גילוי החולשות ב מגזר הפרטי ו ב ארגונים נוספים. הדו"ח יכלול מידע המתאר כיצד משתפת המחלקה לביטחון המולדת פעולה עם סוכנויות פדראליות ועם מנהלי תשתיות סייבר פרטיות על מנת להתמודד עם ה איו מים. כמו כן, יכלול הדו"ח מידע על יעילות התהליך כגון מידת השימוש שעשה המגזר הפרטי במידע שנמסר לו. 5

23 בינואר – נמשך הקושי באיוש משרות בתחום האבטחה הקיברנטית בממשל טראמפ – עת כניסתו של ממשל טראמפ לשנתו השנייה, כרבע מהמשרות הפדראליות של מנהלי מערכות המידע (CIO) וכשליש ממשרות מנהלי אבטחת המידע (CISO) מאויש ות על ידי ממלאי מקום ולא על ידי נושאי משרה קבועים. הבעיה בכך היא ש מכיוון ש מדובר באנשי מקצוע זמניים הם אינם מסוגלים לבצע שינויים גדולים. בעיה נוספת היא שעל אף שממלאי המקום מוכשרים מספיק לביצוע עבודתם, קשה להם לגייס תמיכה מקרב הממונים עליהם ומקרב עובדי הסוכנות מפני שהם נתפסים כבעלי סמכות פחותה. 6

30 בינואר – דעה: על הקו נגרס לנסח חוק כולל להג נה על פרטיות ומידע אישי – שור ת פריצות והדלפות מידע ונתונים בשנים האחרונות, כולל הפריצה ל-Yahoo ולסוכנות דירוג האשראי Equifax, ה ובילו עד כה לתגובות לא מספקות ברמה הפדראלית, החופפות ברובן ל חוקים הקיימים ברמת המדינה (state level.) כיום, חסר בארה"ב חוק פדראלי מקיף המסדיר את סוגיית איסוף ה מידע ה אישי והשימוש בו. במקום זאת, המדינה עסקה עד עתה ברגולציה של מגזרים וסוגים מסוימים מאוד של מידע (כמו מידע רפואי ופיננסי).

על כן, על הקונגרס לנסח מסגרת הגנת מידע מ קיפ ה אחת, שתקיים לפחות את ארבעת התנאים הבאים: הראשו ן, הח לתו על כל המוסדות והארגונים ולא רק על חברות טכנולוגיות, סוכנויות לדירוג אשראי ומגזרים כלכליים. ה שנ י, איחוד, התאמה ומילוי של כל הפערים שנוצרו בשל הגישה המגזרית שננקטה עד כה. ה שלישי, ע ידו ד חברות להתמקד במניע ת הדלפות מידע ולא רק בדיווח על פרצות שכבר אירעו. ה רביע י, זי הו י או ספק ת פתרונות לנזקים שנגרמו מהפרות פרטיות, כולל הרחב ת ההגדרה של"נזק לפרטיות"ו ה מחיר שתשלמנה חברות שתיכשלנה בהגנה. 7

** מאת נואלה או'קונור (Nuala O'Connor), עמיתת מחקר בכירה בתכנית למדיניות דיגיטלית במכון המחקר Council on Foreign Relations.

צבא וביטחון 2 בינואר – הצבא יו זם פרויקט להאצת פיתוח מערכות ל הגנ ת סייבר – התהליך המתוכנן יקל על ביצוע רכש ובניית אבות טיפוס, זאת באמצעות יצירת קונסורציום של ספקים שיגישו הצעות לפלטפורמות הגנה קיברנטית שיתקבלו ויעובדו בתוך 30 יום. בחודש מאי 2018 יבחר הצבא קבוצה עצמאית שתגייס חברות לקונסורציום, שייקרא Cyberspace Real-time Acquisition Prototyping Innovation Development consortium. בתהליך המוצע, החברות בקונסורציום תתבקשנה להגיש כל שנה מספר אבות טיפוס של מערכות הגנה קיברנטית לצורך הערכה של פיקוד הסייבר האמריקני, מתוכ ם תצומצם רשימת מועמדים שידגימו את הפלטפורמות שלהם במרכז אימוני הסייבר של הצבא (Army cyber range). בהמשך ייבחר מספר מצומצם יותר של חברות שיזכו בחוזים לפיתוח ו ל ייצור מלא של מוצריהן. 8

3 בינואר – הנאשם ב גניבת מסמכי ה-NSA שהודלפו באמצעות ה-hadow Brokers S הסכים להודות באשמה – על פי דיווחים, צפוי הנאשם ב גניבת ו החזקת מסמכי ה-NSA, הרולד מרטין (Harold Martin), להודות בסעיף אחד של החזקה מרצון במידע הנוגע לביטחון לאומי, מתוך 20 סעיפי אישום שהוגשו כנגדו. כמו כן, צפוי מרטין להודות בלקיחת מסמך מסווג של ה-NSA לביתו, על אף שהואשם בלקיחת 12 מסמכים נוספים של ה-NSA, חמישה מסמכים של פיקוד הס ייבר, מסמך של ה-CIA ועוד. מרטין, שהוגדר על ידי עורכי דינו כאגרן כפייתי (compulsive hoarder), נאשם בכך שבמשך שני עשורים גנב מה-NSA כ - 50 טרה-בייט של מידע מסווג. חלק גדול מהמס מ כים שלקח מר טין, שעבד במחלקת הפריצה של ה-NSA, דלפו בהמשך לאינטרנט על ידי קבוצת ה-Shadow Brokers, והובילו לחקירה הפנימית בסוכנות שהב י אה לאיתורו. למרות זאת, החקירה לא העלתה עד כה קשר מוכח בין מרטין ל בין ה קבוצ ה שלה ככל הנראה קשר למודיעין הרוסי. 9

4 בינואר – המחלקה לביטחון המולדת הודתה בדליפת פרטיהם של 247 אלף ע ובדיה – בהודעה נמסר כי התקרית לא אירעה כתוצאה ממתקפה וככל הנראה התרחשה העברת נתונים לא מאושרת, שהמידע האישי של העובדים לא היה המטרה העיקרית בה. במאי 2017, חשפה חקירה של משרד המפקח הכללי של המחלקה לביטחון המולד ת, כי בוצעה העתקה לא מאושרת של מערכת ניהול חקירה (investigative case management system.) שהייתה ברשות עובד לשעבר של משרד המפקח בכך, דלפו פרטיהם של 247,167 עובדי המחלקה הנוכחיים ועובדים לשעבר שעבדו בה בשנת 2014 וכן פרטיהם של נחקרים, עדים ומתלוננים שנקשרו בח קירות של משרד המפקח הכללי בין השנים 2002 ו - 2014. המחלקה הציעה 18 חודשים של שירותי ניטור והגנת זהות בחינם לנפגעים וכן מסרה כי היא מיישמת צעדים לצמצום הגישה למידע רגיש ופועלת לביצוע זיהוי טוב יותר של דפוסי גישה בלתי מאושרת. 10

5 בינואר – ראש ה-NSA הכריז על כוונתו לפרוש באביב – ראש ה-NSA ופיקוד הסייבר האמריקני, מייק רוג'רס (Mike Rogers), הודיע על כוונתו לפרוש ו כי הוא מצפה שהסנאט ימנה מחליף עוד בחודש ינואר. 11 פרישתו המתוכננת של רוג'רס ה ובילה אחדים בפנטגון להאמין כי זו ההזדמנות להפריד את פיקוד הסייבר מה-NSA, בעוד ש מחוקקים בקונגרס הערימו קשיים על הפיצול מחשש שביצועו הנמהר יפגע בביטחון הלאומי. 12 לפי בכירים מגבעת הקפיטול והפנטגון, ששמם לא נמסר, צפוי הנשיא טראמפ למנות לראשות ה-NSA את מפקד פיקוד הסייבר של צבא היבשה (ARCYBER), גנרל פול נאקאסונה (Paul Nakasone). נאקאסונה סייע לתכנן את המערכה הדיגיטלית כנגד דאע"ש וכן סייע לפתח ולהרחיב את פיקוד הסייבר האמריקני בשנים האחרונות. 13

5 בינואר – דו"ח חדש: על ארה"ב לצפות ל מתקפות סייבר נוספות מצד איראן – בדו"ח חדש שפרסמה קרן קרנגי הבינלאומית לשלום (Carnegie International Endowment for Peace), נטען כי ארה"ב פועלת ב מרחב סייבר שאינו מאובטח מספיק וכי עליה לצפות למתקפות סייבר על תשתיותיה, הכוללות נכסים ממשלתיים וכלכליים. לפי הדו"ח, מספר המתקפות מטעם איראן על ארה"ב פחת משמעותית מאז תחילת תהליך המשא ומתן על הסכם הגרעין בשנת 2013 אך התוקפנות האיראנית צפויה לגבור עם עליית המתחים בין המדינות. כותבי הדו"ח טוענים כי לא ברור אם ביכולתה של איראן לבצע מתקפות כנגד רשת החשמל או מערכות שליטה תעשייתיות ועל כן היא צפויה לתקוף מוסדות וענפים רגישים יותר כגון תחבורה ולוגיסטיקה. כמו כן, איראן צפוי ה להמשיך לבצע ריגול קיברנטי כנגד מטרות זרות בארה"ב ובאירופה. 14

10 בינואר – ראש ה-FBI: אנו זקוקים לגישה למכשירים מוצפנים – לדברי ראש ה-FBI, כריסטופר וו ריי (Christopher Wray), בידי ה-FBI 7,775 מכשירים שאין לו גישה אליהם בשל הצפנה. לדבריו, חוסר היכולת של ה-FBI לגשת למידע שב מכשירים מוצפנים הופך להיות איום חמור לביטחון הציבור. לדבריו, ה-FBI אינו מעוניין בהתקנת "" דלתות אחוריות, אלא ב יכולת גישה למכשיר מרגע הש תקבל צו מבית המשפט. ריי הוסיף כי על חברות הטכנולוגיות האמריקניות למצוא פתרון שישלב בין הצפנה חזקה לבין מתן גישה לגופי אכיפה. 15

10 בינואר – ה מחלקה לביטחון המולדת מקווה לבדוק את מערכות הבחירות של כל 50 המדינות לפני בחירות אמצע הקדנציה – בפסגה שנערכה בנושא אבטחת בחירות, אמר סגן תת-המזכיר בחטיבת ההגנה על תשתיות קיברנטיות של המחלקה לביטחון המולדת, בוב קולאסקי (Bob Kolasky), כי עד כה בדקה המחלקה את מערכות הבחירות של שלוש מדינות וכי נקבעו בדיקות למערכותיהן של 11 מדינות נוספות עד אמצע חודש אפריל הקרוב. לאחר מכן, ניתן יהיה לבדוק את מערכותיהן של מדינות נוספות עד בחירות אמצע הקדנציה שיתקיימו בנובמבר. עוד לדברי קולאסקי, מדי נות רבות עדיין חוששות משיתוף פעולה עם המחלקה, אך היא הצליחה לבנות יחסי אמון עם חלקן. צעדים נוספים של המחלקה לביטחון המולדת כוללים הקמת מועצה לתיאום ענף הבחירות שתכלול גם יצרני מכונות הצבעה וחברות נוספות העובדות בתחום. 16

19 בינואר – הממשל האמריקני האריך את תכנית המעקב ללא צווים של ה-NSA ב שש שנים נוספות – ה נשיא טראמפ חתם על הצו המאריך את סעיף 702 של חוק מעקב המודיעין הזר (Foreign Intelligence Surveillance Act), המאפשר לממשלה לאסוף תכתובות ותקשורת של אזרחים זרים מחברות תקשורת וטכנולוגיה כגון גוגל ו-AT&T ללא צו מטעם בית משפט. הארכת החוק הגיעה לאחר שאושר בבית הנבחרים ובסנאט, ש דח ו את הניסיון להציג מגבלות על טכניקות המעקב ויירוט התקשורת הפרטית של אזרחים אמריקנים. המחלוקת שמעורר החוק, שנועד לתת מסגרת חוקית לפעילות המעקב של ה-NSA, נובעת מכך שגם תכתובות של אזרחים אמריקנים נאספות כשהם מתקשרים עם אזרחים זרים. 17

16 בינואר – המחלקה לביטחון המולדת מספקת רכיבי הגנה אקטיבית למגזר הפרטי – בשימוע שנערך בפני וועדת ביקורת המשפט של הסנאט, אמרה מזכירת המחלקה לביטחון המולדת, קריסטיין נילסן (Kirstjen Nielsen), כי המחלקה מס פקת כלים לחברות פרטיות לטובת הגנה אקטיבית. לדבריה, המחלקה משתפת את החברות הפרטיות במידע מודיעיני נוזק ות, botnets ושאר איומים על מנת לאפשר להן להגן על עצמן לפני שהן מותקפות. נילסן לא הרחיבה עוד לגבי אילו רכיבי הגנה אקטיבית מספקת המחלקה לחברות. 18

17 בינואר – הפנטגון שוקל אפשרות להגיב על מתקפות הרסניות לא-גרעיניות בנשק גרעיני – על פי טיוטה של מסמך הסקירה למדיניות הגרעינית של הפנטגון לשנת 2018, ה-NPR (Pentagon's Nuclear Posture Review 2018,) ש נשלחה לבית הלבן לבחינה ו ל חתימה, על ארה"ב לשקול שימוש בנשק גרעיני תחת נ סיבות קיצוניות על מנת להגן על האינטרסים החיוניים של ארה"ב ובעלות בריתה. ב טיוטת המסמך מפ ו רט כי נסיבות קיצוניות מוגדרות גם כמתקפות אסטרטגיות לא-גרעיניות על אוכלוסייה אזרחית ותשתיות אמריקניות, ע ל מדינות בעלות ברית או על מערכי פיקוד ושליטה גרעיניים ויכולות התר עה והערכת מתקפות. בעוד ש מתקפות סייבר אינן מוזכרות בטיוטה, לפי מספר בכירי ממשל בהווה ובעבר, מתקפות גדולות אלו יכללו גם את מתקפות הסייבר ההרסניות ביותר, שעלולות לגרום לנזק פיזי ממשי על תשתיות חיוניות. 19 בתגובה לידיעה הנ"ל סיפק סגן יושב ראש המטות המשולבים של צבא ארה"ב, גנרל פול סלבה (Gen. Paul Selva) הבהרה לפיה הרעיון של תגובה גרעינית על מתקפת סייבר אינו נתמך במסמך שפרסם הפנטגון. סלבה הוסיף כי פרסום המסמך, שתויג כלא מסווג, מהווה עבירה על החוק משום שהוא כלל לא אושר על ידי דרגים בכירים. 20

19 בינואר – ה מחלקה לביטחון המולדת חתמה על חוזה עם חברת Inferlink לשדרוג מאגר הנתונים על איומי סייבר – במסגרת החוז ה, שעלותו 750,000 דולר, Inferlink תהיה אחראית על בניית פונקציות חיפוש מתקדמות באחד ממאגרי המידע החשובים של המחלקה ה מכונה IMPACT (Information Marketplace for Policy and Analysis of Cyber-risk & Trust,). חוקרים מהממשל האקדמיה והמגזר הפרטי משתמשים בפורטל זה על מנת לשתף במשאבים ולעבוד יחד כדי לפתור את בעיות האבטחה האחרונות ברשתות המקוונות. לדברי מנהל חטיבת האבטחה הקיברנטית במנהלת המדע והטכנולוגיה של ה-DHS, דאגלס מוהן (Douglas Maughan,), החוזה החדש יבטיח שלחוקרים יהיה את המידע והנתונים הרלוונטיים ביותר וכך יחזק מאד את יכולתם לאתר בעיות בתחום האבטחה הקיברנטית, תוך פיתוח מהיר של פתרונות חדשים. פונקציית חיפוש משודרגת ל-IMPACT, אמר מוהן, תספק לחוקרים מידע רלוונטי במהירות, דבר שי סייע להם בתהליך קבלת ה החלטות לאורך שלבי המחקר שלהם. 21

23 בינואר – אסטרטגיית ההגנה הלאומית של ארה"ב לא מזכירה את הפרדת פיקוד הסייבר מה-NSA – בתקציר הלא מסווג של אסטרטגיית ההגנה הלאומית של ארה"ב הודגש הצורך של מחלקת ההגנה לאחד את מבצעי הסייבר באמצעות רפורמות בתהליכי רכש והשקעה בתשתיות טכנולוגיות, אך לא הוזכר הצורך להפריד את פיקוד הסייבר מה-NSA. הפרדת פיקוד הסייבר הוזכרה מספר פעמים על ידי מזכיר ההגנה, ג'יימס מאטיס (James Mattis) ועל ידי הנשיא דונלד טראמפ ועל כן השמטת ה מהאסטרטגיה הלא ומית מעלה את הסברה, לפיה ההפרדה נתונה במחלוקת ב תוך מחלקת ההגנה. 22

29 בינואר – דו"ח חדש קבע כי מערכת השליטה והבקרה בחלל של חיל האוויר סובלת מליקויי אבטחה – בדו"ח הבחינה וההערכה השנתי של הפנטגון (s annual Operational Test ’ Pentagon and Evaluation report), נכתב כי מערכת השליטה והבקרה בחלל של חיל האוויר האמריקני, ה-JMS (Joint Mission System,) סובלת מ ליקויי אבטחה קשים וזקוקה להגנות סייבר מקיפות יותר. כותבי הדו"ח התייחסו לעדכון השני של המערכת (2 JMS Increment) והצביעו על עיכובים בניסויים במערכת עקב ליקויי אבטחה. עי כובים אלו עלולים לה וביל גם לעיכובים באספקת העדכון השלישי של המערכת (3) JMS Increment שאמור לשמש גם את המרכז הלאומי להגנת חלל, ה-(NSDC National Space Defense Center). לדברי מחבר הדו"ח, רוברט בהלר (Robert Behler), העיכוב באספקת עדכון המערכת השני עלול לגרום ל גילוי מאוחר מדי של ליקויים בהטמעת המערכת במכ"ם ה-Space Fence., שעתיד לאפשר מעקב אחר פסולת חלל זעירה 23

31 בינואר – מ משל טראמפ מינה עוזר למזכיר ההגנה בנושא מדיניות סייבר – מ זכיר ההגנה האמריקני, ג'יימס מאטיס (James Mattis), הודיע על מינויו של מייג'ור גנרל בור ק"אד"וילסון (Burke "Ed" Wilson) לתפקיד תת עוזר מזכיר ההגנה למדיניות סייבר. וילסון ישמש כעת כיד ימינו של מאטיס בנוגע למדיניות סייבר. קודמו של וילסון בתפקיד היה ארון יוז (Aaron Hughes), שביצע את התפקיד ממאי 2015 עד ינואר 2017, עת נכנס הנשיא טראמפ לתפקיד. מאז, במהלך יותר משנה, היה התפקיד פנוי. מינויו של וילסון אינו מצריך את אישור הסנאט. 24

רוסיה

9 בינואר – רוסיה השתמשה בטילי יירוט ו אמצעי לוחמ ת סייבר כנגד מתקפות כטב"מים על בסיסיה בסוריה – לדברי דובר משרד ההגנה של רוסיה, הדפו לאחרונה הכוחות הרוסיים המוצבים בסוריה 13 מתקפות של כטב"מים מיושנים שהופעלו ע"י כוחות ג'יהאדיסטים. בין האתרים שהותקפו היו נמל התעופה חמיימים (Khmeimim) ומתקן ימי בעיר טרטוס (Tartus). שבעה כטב"מים יורטו באמצעות טילי נ"מ, ואילו לששת הכטב"מים הנוספים פרצו לוחמי סייבר רוסים והשתלטו עליהם. דובר משרד ההגנה אישר כי זו הייתה הפעם הראשונה בה ג'יהאדיסטים השתמשו בלהק תקיפה של כטב"מים, בטווח משוער של למעלה מ - 50 ק"מ, תוך שימוש במערכות הנחייה וניווט מודרניות. 25

12 בינואר – האקרים רוסים החלו להתמקד בסנאט האמריקני – לדברי חבר ת Trend Micro, קבוצת ההאקרים הקשורה לממשל ה רוסי שפרצה לוועדה הלאומית הדמוקרטית לפני הבחירות לנשיאות בשנת 2016., מתמקדת עתה בסנאט האמריקני החל מחודש יוני, ה קבוצה המכונה Pawn Storm החלה להפיץ גרסה מזויפת של דף ההתחברות של הסנאט ברשת (Senate Login Page) במטרה להונות חברי צוות להזין את אישורי הכניסה שלהם. Trend Micro אמרה כי התיקייה האמיתית של הסנאט אינה נגישה באינטרנט הציבורי, כך שההאקרים לא קיבלו גישה לאישורי הכניסה של המשתמשים. אף על פי כן, אם ההאקרים הצליחו לפרוץ למערכות הסנאט בשיטה אחרת מבעוד מועד, הרי שאישורי הכניסה עלולים היו לשמש אותם עבור חשיפה של נתונים ומידע רבים יותר. 26

נאט"ו

30 בינואר – מרכז ה מצוינות בהגנת סייבר של נאט"ו יעביר אימונים והכשרות באבטחת קיברנטית – ה-CCDCOE (Cooperative Cyber Defense Centre of Excellence) נבחר לתאם את כל שירותי ה הכשרות ו ה אימונים בהגנת סייבר לכל ל גופי נאט"ו השונים. המרכז יעבוד כעת בשיתוף פעולה עם מפקדת ה-ACT (Allied Commander Transformation,) של נאט"ו שאחראית על מחלקת החינוך וההכשרות של המדינות החברות ב ברית. 27

אירופה

28 בינואר – ענקיות הטכנולוגיה החלו לאמץ את תקנות פרטיות המידע החדשות של האיחוד האירופי – חברות טכנולוגיה גדולות כדוגמת פייסבוק, גוגל ו אמזון החלו להתכונן לקראת כניסתה של רגולציית הגנת המידע הכללית של האיחוד האירופי, ה-(GDPR General Data Protection Regulation), שתיכנס לתוקף ב - 25 במאי 2018. כחלק מההכנות, החלה גוגל לאפשר למשתמשים לבחור איזה סוג של מידע הם מוכנים לשתף במסגרת שירותיה, פייסבוק השיקה עמוד המאפשר למשתמשים לבחור מי יצפה במידע שלהם, ו אמזון החלה לשפר את ההצפנה בשירותי אחסון הענן שלה ושינתה את נוסח ההסכם המאפשר לה לעבד את המידע של לקוחותיה לנוסח פשוט יותר. כמו כן, החברות השקיעו רבות על מנת להבין כיצד לממש את סעיפי הרגולציה והחלו לשנות מוצרים ושירותים שדרשו מהמשתמשים מידע אישי רב. בנוסף, הסירו החברות מספר שירותים מהשוק האירופאי, מחשש שאלו יפרו את חוקי הפרטיות. 28

בריטניה

22 בינואר – מחקר חדש: בריטניה המדינה המוכנה ביותר להחלת רגולציית ההגנה על מידע של האיחוד האירופי – על פי מחקר שנערך על ידי חברת השיווק W8 Data, רמת הביטחון בקרב חברות בבריטניה באשר ליכולתן לפעול במסגרת ה-(GDPR General Data Protection Regulation), הייתה הגבוהה ביותר מבין עשר המדינות האירופאיות בעלות התמ"ג הגבוה ביותר. 29% מהארגונים בבריטניה חשו לא מוכנים או לא מודעים לשינויים שתביא ה-GDPR, לעומת מחצית מהארגונים בגרמניה ו - 73% מהא רגונים בספרד. 29

22 בינואר – ממשלת בריטניה תקים צוות תגובה מהירה להתמודדות עם חדשות מזויפות – לדברי מנכ"ל שירות י התקשורת הממשלתי, אלכס אייקן (Alex Aiken), הצוות, שיפעל תחת סמכות הקבינט, יהיה אחראי לעקוב אחר המתרחש ברשתות החברתיות על מנת לזהות ולאתגר סיפורים מזויפים ודיסאינפורמציה. משתמשי הרשתות החברתיות הביעו חשש שצוות התגובה המהירה עלול גם להגיב על עניינים שהם בגדר מחלוקת פוליטית לגיטימית. בתגובה, אמר דובר ממשרד הקבינט שהממשלה מחויבת להתמודד עם מידע כוזב. לדבריו, התקשורת הדיגיטאלית מתפתחת בקצב מהיר ומשרד הק בינט בוחן דרכים שונות על מנת להתמודד עם המרחב התקשורתי, תוך רתימת העוצמה של הטכנולוגיה החדשה לטובה. 30

26 בינואר – מזכיר ההגנה הבריטי הזהיר מפני מתקפת סייבר מ צד רוסיה – בראיון לעיתון ה-Telegraph הזהיר מזכיר ההגנה הבריטי, גווין וויליאמסון (Gavin Williamson,) כי מתקפת סייבר מטעם רוסיה על תשתיות בריטיות תגרום לאלפי קורבנות. לדבריו, ממשלת רוסיה בוחנת את מגזר האנרגיה ותשתיות אספקת האנרגיה של בריטניה, היכן שמתקפת סייבר תהווה איום על הסדר הקיים. 31 דובר משרד ההגנה של רוסיה, איגור קונשנקוב (Igor Konashenkov), דחה את ה האשמות וטען כי מדובר בניסיון לעשות רווח פוליטי על חשבונה של רוסיה. 32

צרפת 3 בינואר – נשיא צרפת הכריז על הצעת חוק שתאסור על הפצת מידע כוזב במהלך בחירות – לדברי נשיא צרפת, עמנואל מקרון (Emmanuel Macron), הטיוטה להצעת החוק תוגש בקרוב במטרה להיאבק בהפצת חדשות מזויפות ברשת במהלך תקופת בחירות. עוד טען מקרון כי על פי הצעת החוק, הרשתות החברתיות תחויבנה לפעול ביתר שקיפות בנוגע לתכנים ממומנים ולחשוף את זהות המפרסמים שלהן. 33

12 בינואר – צרפת תגדיר בינה מלאכותית ואבטחת מידע כענפי תעשייה אסטרטגיים – שר הפנים של צרפת, ברונו לה-מר (Bruno LaMaire), הודיע כי המדינה תגדיר חברות בינה מלאכותית ואבטחת נתונים כנכס אסטרטגי, במהלך שצפוי לאפשר לממשלה לחסום ניסיונות של חברות זרות לרכוש חברות צרפתיות בתחומים אלו. בכך, מצטרפות תעשיות אלו לתעשיות חיוניות אחרות שרכישת ן דורשת אישור מיוחד מהממשלה כגון אנרגיה, תקשורת, תחבורה, מים ורפואה. 34

הולנד

29 בינואר – רשות המיסים הלאומית והבנקים המרכזיים ספגו מתקפות DDoS – רשות המיסים הלאומית של הולנד הודיעה כי אתר האינטרנט שלה קרס לפרק זמן של חמש עד עשר דקות לאחר מתקפת DDoS. כמו כן,, דיווחו הבנקים המרכזיים ING, ABN Amro ו-Rabobank כי מתקפות סייבר שיבשו את פעילותם המקוונת ואת מתן שירותי הבנקאות למכשירים ניידים. 35

לטביה 17 בינואר – מתקפת סייבר שיתקה את מערך הבריאות המקוון של לטביה – בהודעה מטעם נציגי משרד הבריאות של לטביה נמסר כי בוצעה מתקפת DDoS על שירות הבריאות המקוון שהושק לאחרונה והביאה לשיתוקו. לדברי מזכיר משרד הבריאות הלטבי, אייברס לאפינס (Aivars Lapins,) מרגע גילוי המתקפה, הושבתה המערכת על מנת למנוע נזק לנתונים, אפליקציות או משתמשים. זמנית מכמה שרתים הממוקמים במדינות זרות. 36 לדבריו, משרד הבריאות הלטבי הותקף בו -

אסיה

סין 2 בינואר – חוק חדש ייאלץ חברות זרות למסור מידע על איומי סייבר – החוק החדש Public Internet Cybersecurity Threat Monitoring and Mitigation Measures, ש פורסם בספטמבר 2017 אך נכנס לתוקף החודש, יחייב חברות פרטיות הפועלות בסין למסור מידע על איומי סייבר למשרד התעשייה וטכנולוגיית המידע של סין, ה-MIIT (Ministry of Industry and Information Technology). החוק יכלול מסירת מידע על מתקפות סייבר שהחברות נתקלו בהן לצד מודיעי ן איומים שנאסף על ידן באופן תדיר. כמו כן, יעבור המידע למאגר לאומי מרוכז של איומי סייבר שינוהל על ידי צוות ה-CERT הלאומי. על פי החוק, חברות אינטרנט, תקשורת, ניהול שמות Domain ועוד, שתכשלנה לעמוד בדרישות החוק, יעמדו בפני צעדים הכוללים תשאול, פרסום אזהרות, מת ן קנסות ועוד. 37

29 בינואר – דעה: מאמציה של סין למ יזו ג טכנולוגיות אזרחיות וצבאיות – ס ין נמצאת בדרכה להפוך למעצמה מדעית וטכנולוגית. שלוש מחמש חברות ההזנק המוערכות בשווי הגבוה ביותר בעולם הן סיניות, חברות טכנולוגיה גדולות בסין מצמצמות את הפערים במחקר ופיתוח ממקבילותיהן בארה"ב, ובתחומים כמו בינה מלאכותית, טוענים מומחים כי סין בדרכה להדביק את יכולותיה של ארה"ב ו אף לעבור אותה בקרוב. לאור התפתחויות אלו, רבים מאמינים כי סין תמנף את התעצמותה הטכנולוגית בכדי לשפר את יכולותיה הצבאיות, ותפעל לשלב טכנולוגיות פורצות דרך בכוח הלחימה שלה. עם זאת, בעוד ש בעבר טכנולוגיות כמו האינטרנט וה-GPS פותחו ע"י תעשיות ממשלתיות ביטחוניות, כיום מתבצעים רוב המחקרים פורצי הדרך במגזר הפרטי ולא במעבדות ממשלתיות. בפנטגון הגיבו לשינויים אלו באמצעות יצירת מיזמים ושיתופי פעולה רחבים יותר עם המגזר הפרטי, בעוד ש בסין ההנהגה ביקשה לעשות דבר דומה, באמצעות מהלך המכונה מיזוג אזרחי צבאי (Civil-Military Fusion). המהלך הסיני הינו שאפתני ורחב הרבה י ותר מהאמריקני, בין היתר לאור הפער הטכנולוגי ש אותו היא צריכה לסגור. על אף שנדמה כי לאור המבנה הקפיט ליסטי-מדינתי (State-capitalism) שמובילה סין הגבולות בין הפרטי לממשלתי כמעט וא ינם קיימים, ההפך הוא הנכון. כל התאגידים בבעלות הממשלה הקשורים לביטחון נותרו נפרדים עד עתה מהכלכלה עצמה, ועל אף דחיפה של המפלגה הקומוניסטית בחברות טכנולוגיות, בדמות כינון וועדות מפלגתיות בתאגידים גדולים כמו Tencent ו-Baidu בכדי לקדם את תכניות המפלגה, החיבור בין המדינתי לפרטי לא סייע בהכרח לסין לתרגם את יתרונות המגזר הטכנולוגי ל התקדמות ב תעשייה הצבאית. כאשר הנשיא הנוכחי שי ג'ינפינג (Xi Jinping) עלה לשלטון בשנת 2012, הוא הפך את המיזוג האזרחי צבאי לחלק בלתי נפרד מכל יוזמה אסטרטגית, במטרה לחזק את החדשנות הלאומית בתחומים דו שימושיים)(בעלי תכלית אזרחית וצבאית ביניהם תעופה, חלל, אוטומציה וטכנולוגיית מידע. כחלק מהמאמץ הנוכחי, תאגידים מדינתיים וצבאיים משמשים ככוח חלוץ ליוזמת המיזוג עם המגזר האזרחי. תאגידים כמו תאגיד החלל והטכנולוגיה הסיני (CASIC) ותאגיד הטכנולוגיה האלקטרונית של סין (CETC) סללו את הדרך לשיתוף פעולה רב יותר. בצבא, הוקמה יחידה חדשה בשם Strategic Support Force, האחראי ת על לוחמת חלל סייבר ואלקטרוניקה, ש בנ ת ה קשרים רבים עם האקדמיה וחברות טכנולוגיה. לבסוף, מספר מחוזות בסין הצטרפו גם הם למאמץ, לאחר שעודדו פיתוח תעשיות המשלבות בין חברות ביטחון למכוני מחקר ו עם חברות פרטיות. על אף ה תנופה הגדולה בה נמצאת סין, ה צלח ת מאמץ המיזוג אינה מובטחת. אמנם תאגידים ביטחוניים סיני ים החלו ל שנות נוהגים רבים ישנים ש אפיינו אותם ב עבר, אך המגזר הב יטחוני נותר באופן כללי בירוקרטי ו חשאי, דבר ההולך בניגוד ל תפיסת הפיתוח והחדשנות הקיימת כיום בארה"ב ובסין. ** מאת לורנד לסקאי (Loran Laskai), עמית מחקר בתכנית ללימוד אסיה במכון ה-Council on Foreign Relations 38.

הודו 4 בינואר – ע יתונאים הצליחו לקנות גישה למאגר הנתונים הלאומי של הודו – ע ל פי דיווח שהופיע בעיתון המקומי, The Tribune,, הצליחו עיתונאים לקנות גישה למאגר הנתונים הלאומי של הודו ה-Aadhaar, תמורת סכום של 500 רופי (כשמונה דולרים) מאדם שאליו פנו באמצעות אפליקציית WhatsApp. בדיווח נוסף נחשף כשל אבטחה המאפשר לאנשים בעלי גישה מנהלית למאגר, לאפשר גישה מלאה לכל אדם. בתגובה לדיווחים הודיעה הרשות לזיהוי מיוחד, ה-(UIDAI Unique Identification Authority), כי לא אירעה פריצה למאגר אלא מקרה פוטנציאלי של שימוש לא מאושר. Aadhaar הוא מאגר נתונים המכיל את פרטיהם של כ - 1.2 מיליארד אזרחי הודו וכולל מידע ביומטרי, טביעות אצבע, סריקת אישונים ועוד סוגי מידע אישי. הקמתו בשנת 2009 נועדה לאפשר לאזרחי הודו גישה לתכניות ח ברתיות, ביטוח בריאות, חינוך ורווחה. 39

יפן 4 בינואר – בכוונת יפן להקים ארגון חדש שיתמקד בהגנת מרחב הסייבר והחלל – הארגון החדש יוקם רשמית עד שנת 2020 וצפוי להיות תחת סמכותו של שר ההגנה של יפן. בראש הארגון יעמוד קצין בדרגת גנרל והוא יאויש ע"י גורמים משורות כוחות הקרקע, הים והאוויר של צבא יפן. הארגון החדש יכלול שתי זרועות מרכזיות: האחת תתמקד בהגנת מרחב הסייבר, תוך ניטור ופיקוח רציף של הרשתות הצבאיות, והשנייה תתמקד בהגנת מרחב ה חלל, באמצעות ניטור פסולת חלל וכלי נשק נגד לוויינים שעלולים לסכן פלטפורמות חיוניות. 40

אינדונזיה 3 בינואר – אינדונזיה חנכה סוכנות סייבר חדשה שתיאבק בקיצונות דתית ו ב חדשות מזויפות – הצעד בא על רקע עלייה במספר הסיפורים הכוזבים והחדשות המזויפות המופיעים במדיה הח ברתית ב מדינה. בראש הסוכנות החדשה יעמוד גנרל דג'וקו סטיאדי (Djoko Setiadi), שכיהן בעבר כיושב ראש הסוכנות הלאומית להצפנה. לדבריו של סטיאדי, הסוכנות החדשה תשלוט במרחב הקיברנטי של אינדונזיה וכן הטכנולוגיה שברשותה תסייע לה לגלות ולפרוץ לרשתות של טרוריסטים. 41

המזרח התיכון ואפריקה

ישראל 4 בינואר – התעשייה האווירית ובנק הפועלים הכריזו על שיתוף פעולה למחקר Blockchain – התעשייה האווירית ובנק הפועלים הכריזו על הקמת צוות מחקר משותף שיבחן את השימוש בטכנולוגיית ה-Blockchain לטובת פתרונות אבטחה קיברנטית, כגון העברה מאובטחת של מידע בין שירותים ושרשראות אספקה (supply chains), אימות משתמשים, מכשירים חיוניים וביצוע פעולות ללא מגע יד אדם. תחת המחקר המשותף, צפוי בנק הפועלים לבחון את הפוטנציאל לתקשורת מאובטחת עם לקוחות, פרטנרים וספק ים, בעוד התעשייה האווירית תבחן פיתוח של טכנולוגיות אבטחה קיברנטית למערכות צבאיות ואזרחיות. 42

29 בינואר – מ חקר חדש מזהיר מפני פערי אבטחה במכשירי הדמיה רפואיים – במאמר בשם Know Your Enemy: Characteristics of Cyber-Attacks on Medical Imaging Devices, הזהירו חוקרי ם מאוניברסיטת בן גוריון מפני חולשות במכשירי CT ו-MRI., שאינם זוכים לעדכוני תוכנה תדירים על פי המאמר, האקרים עלולים לחסום את הגישה למכשירים אלו כחלק ממתקפת כופרה, לפגום בתוצאות הבדיקות ואף לגרום להם לפלוט רמות גבוהות של קרינה שעלולות לסכן את המטופלים. עוד נטען במאמר, כי מתקפות על מכשירי הדמיה צפויות לגבור וכך גם רמת המורכבות שלהן. המחקר פורסם בשיתוף קופת חולית כללית כחלק מפרויקט מחקר גדול המכונה Cyber-Med, המובל על ידי ראש מעבדת הפוגענים (Malware Lab) במרכז למחקר אבטחה קיברנטית באוניברסיטת בן גוריון, ד"ר ניר ניסים. מטרת ה פרויקט היא לפתח מנגנוני הגנה ו אבטחה עבור מכשירים רפואיים כ מו רובוטים כירורגיים, קוצבי לב, מערכות מידע רפואי ועוד. 43

30 בינואר – חברות אבטח ת סייבר מישראל גייסו סכום שיא של השקעות בשנת 2017 – לפי דו"ח שפורסם ע"י Startup Nation Central, ארגון ללא כוונת רווח המעוניין לחבר ולקשר בין תאגידים בינלאומיים וממשלות זרות עם חברות הזנק ויזמים מישראל, בשנת 2017 גייסו חברות אבטח ת סייבר ישראליות כספים רבים יותר מאי פעם. במהלך השנה שעברה, השקיעו משקיעים סכום שיא שעומד על 815 מיליון דולר בתעשיית הסייבר הישראלית. סכום זה מהווה כ - 16% מסך ההשקעות בעולם בתעשיית אבטח ת הסייבר, זאת בזמן שאוכלוסיית ישראל מהווה 0.1 בלבד מאוכלוסיית העולם. לפי הדו"ח, כמעט שליש מחברות ההזנק החדשות שהוקמו בישראל בשנת 2017 התמקדו באבטחת האינטרנט של הדברים (IoT), בתחומים כמו מכשירים רפ ואיים, מערכות אוטונומיות ומערכות בקרה תעשייתיות. כ - 70 חברות אבטחת סייבר נוסדו בישראל במהלך שנת 2017, ירידה קלה לעומת ה - 84 שנוסדו בשנת 2016. נכון לסוף שנת 2017, פעלו בישראל כ - 420 חברות בתחום אבטחה,. יתרה מכך, לפי הדו"ח 30 תאגידים בינלאומיים מפעילים בישראל מרכזי מחקר ופיתוח ה 44 עוסק ים ב אבטח ת סייבר.

31 בינואר – א ראל מרגלית: המזרח התיכון זקוק לארגון אזורי דמוי נאט"ו עבור אבטחה קיברנטית – לדברי היזם ו חבר הכנסת לשעבר, אראל מרגלית, שנאם בכנס Cybertech בתל אביב, על מדינות המזרח התיכון, המתמודדות עם מתקפות סייבר אפשריות מטעמה של איראן, ליצור ברית בינלאומית אזורית כדי להגן בצורה יעילה יותר על נכסיהן ואזרחיהן. מרגלית, שכיהן בוועדת החוץ והביטחון של הכנסת, אמר שלפני כשנה האקרים, שככל הנראה נתמכו ומומנו ע"י א יראן, השתמשו בווירוס מחשב על מנת לחדור למספנות ת'יסנקרופ (ThyssenKrupp Shipyard) ולגנוב תכניות של צוללות שנבנו עבור ישראל. מרגלית אף אמר כי משמרות המהפכה האיראניים מנסים לפגוע בחוקרי גרעין ישראליים ובתשתיות אזרחיות כמעט מדי יום. 45

לבנון 18 בינואר – נחשף ק מפיין ריגול סייבר של האקרים המקושרים לשירות המודיעין של לבנון – בדו"ח שנכתב בשיתוף חברת האבטחה הקיברנטית Lookout, והחברה לטובת יזמות ופרטיות דיגיטלית, ה-(EFF Electronic Frontier Foundation), נחשף כי האקרים המקושרים לסוכנות המודיעין המרכזית של לבנון יירטו מ אות ג'יגה-בייטים של מידע ונתונים והדליפו אותם לרשת. על פי הדו"ח, הקמפיין, שנקרא “Dark Caracal”, התמקד במטרות מ - 21 מדינות, כולל ארה"ב ומדינות אירופאיות. 46 קישור לדו"ח המלא: http://bit.ly/2mZCAMJ

איראן 10 בינואר – חסימת האינטרנט באיראן בזמן המחאות הדגימה יכולות סייבר מתקדמות – בדו"ח חדש שפורסם על ידי המרכז לזכויות אדם באיראן, CHRI (Center for Human Rights in Iran,) הצביעו החוקרים על התפתחויות ביכולות השליטה של המשטר על מרחב ה סייבר של איראן והשפעותיהן על החירות שבשימ וש ברשת ועל פרטיות. הדו"ח כולל סקירה מקיפה של מדיניות האינטרנט של המשטר האיראני ושל פיתוח היכולות החדשות בתחום רשת האינטרנט הלאומית, ה-NIN (National Internet Network.) בין ממצאי הדו"ח, נמצא כי ה-NIN מאפשרת לרשויות להפריד את תעבורת הרשת הפנימית מתעבורת הרשת הבינלאומית וכך לשמר גישה רק לאתרים מקומיים. כמו כן, ה-NIN מאפשרת לרשויות לזהות משתמשים ולפרוץ לחשבונות פרטיים וכן נעשה שימוש נרחב במתקפות DDoS, מתקפות Phishing, נוזקה ויירוט מסרים. בנוסף, נמצא כי ה משטר מנתב את האזרחים להשתמש ב-NIN ע"י הפיכתו למהיר וזול יותר במתן שירותים כגון מנועי חיפוש, דואר אלקטרוני ושירותי וידאו, זאת 47 על מנת שהרשויות תוכלנה לבצע מניפולציות וסינון למידע ולתכנים המקוונים. קישור לדו"ח המלא: p://bit.ly/2n6XCcx htt

אוסטרליה

31 בינואר – חוק חדש יח י יב ארגונים וחברות לדווח על פריצות לנתו נים – על פי החוק החדש שייכנס לתוקף ב - 22 בפברואר, א רגונים עם מחזור של יותר משלושה מיליון דולר אוסטרלי (2.3 מיליון דולר), הכוללים גם סוכנויות ממשלה, ידווחו לנציב הממונה על הפרטיות ולאזרחים המעורבים על פריצות לנתונים ולמידע. אלו שייכשלו לפעול במסגרת החוק ייקנסו בסכום של עד 360,000 דולר אוסטרלי (280,000 דולר) ותאגידים ייקנסו בסכום של עד 1.8 מיליון דולר אוסטרלי (1.4 מיליון דולר). מטרת החוק החדש היא לשנות את גישתם של ארגונים כלפי דיווח על מתקפות סייבר וההגדרה שלהן. כמו כן, ההודעה על כניסת החוק החדש לתוקף גרמה להעלאת מודעות באשר לצורך בביטוח סיכוני סייבר, שהפך לענף שהראה את הצמיחה הגבוהה ביותר בשוק הביטוח האוסטרלי. 48

בין-לאומי

3 בינואר – נחשפו פרצות אבטחה בשבבים של אינטל ושל AMD – חוקרים חשפו פרטים טכניים על פרצות אבטחה ב-CPU מתוצרת אינטל, AMD ויצרניות נוספות, המאפשרות גישה לסיסמאות לו מידע רגיש מבלי להותיר עקבות. על פי האזהרות, מיליארדים של מכשירים נמצאים בסיכון. החוקרים טענו כי שתי טכניקות הפריצה המכונות Meltdown ו-Spectre מאפשרות להתקין אפליקציות זדוניות על המכשיר ולקבל גישה למידע בעת עיבודו. מידע זה כולל סיסמאות שנשמרו ב-Password manager או בדפדפן האינטרנט, תמונות, מסמכים, דואר אלקטרוני ונתונים מאפליקציות המסרים. 49 מטעם אינטל נמסר כי היה ידוע לה על ה חולש ות וכי אינה מאמינה כי ביכולתן להביא לניצול, מחיקה או שינוי של נתונים. עוד מסרה החברה כי תשח רר עדכוני ם ותשתף פעולה עם מתחרות כגון AMD לטובת פתרונות לכלל התעשייה. 50 בעקבות החשיפה, מחוקקים מוועדת האנרגיה והמסחר של בית הנבחרים האמריקני דרשו תשובות ממנכ"לי חברות טכנולוגיות באשר לחולשות ה אבטחה בשבבי מחשבים מתוצרתם. כמו כן דרשו המחוקקים הסבר ממנכ"לי החברות אינטל, Apple,, מיקרוסופט, גוגל, אמזון AMD ו-ARM באשר לשאלה מדוע החברות אינן חושפות את המידע לציבור וטענו כי יש צורך בבחינה מחודשת של תהליך גילוי החולשות המשותף. 51

11 בינואר – חברת l Signa תשתף פעולה עם מיקרוסופט בכדי לאפשר שיחות Skype מוצפנות – בהודעה שהופיעה בבלוג של החברה המפעילה את אפליקציית המסרים המוצפנים Signal נמסר כי תשתף פעולה עם מיקרוסופט על מנת להציג יישום של שיחות פרטיות בשירות Skype שיהיה מוצפן באמצעות פרוטוקול של Signal. בכך הצטרפה מיקרוסופט לחברות כגון גוגל, פייסבוק ו-Whatsapp העושות שימוש בפרוטוקול הקוד הפתוח של Signal בפלטפורמות המסרים שלהן. 52

17 בינואר – חברות הזנק בתחום האבטחה הקיברנטית בארה"ב נקלעות לתקופה קשה – לדברי בכירים בתעשיי ה בו קרנות הון סיכון, חברות הזנק בתחום נאבקות על מנת לעמוד ביעדיהן. הסיבות לכך הן שמוצרי הטכנולוגיה שהן מציעות מאבדים יתרון אל מול התפתחויות מהירות יותר בשיטות ורכיבי פריצה וכן אובדן בלעדיות מול מתחרות גדולות המייצרות טכנולוגיה דומה. כתוצאה מכך, חברות רבות מקבלות הצעות רכישה במחירים נמוכים בזמן הנפקתן לציבור, והמשקיעים נותרים ללא יכולת לעשות רווח על ההשקעה שלהן בחברות. לדברי המנכ"ל לשעבר של חבר ת FireEye, דייב דה-וולט (Dave DeWalt), נוצר מצב שבו יש יותר מדי חברות המספקות מוצרי אבטחה ורק מעטות יכולות להתקיים. 53

ביטחון סייבר 16 בינואר – דעה: מדוע א ין הסכמי בקרת נשק על נשק סייבר? – לאור היתרונות הקיימים בהסכמי בקרת נשק והתרומה שלהם ליציבות ולמניעת הסלמה, עולה השאלה מדוע אין הסכמי בקרת נשק בתחום הסייבר. לדברי הכותבים, משטרי בקרת נשק מסורתיים אינם ישימים במרחב ה סייבר מארבע סיבות: הראשונה, קשה למדוד את עוצמתן היחסית של מדינות במרחב ה סייבר. כלי תקיפה קיברנטיים אינם ניתנים לספירה כמו טנקים וטילים וכן קשה להעריך את עוצמתם שכן הם לעיתים ייעודים לשימוש עבור מערכת ספציפית. השנייה, קשה להעריך את ההשפעות הצבאיות של טכנולוגיה קיברנטית. הקצב המהיר והלא צפוי של פי תוח טכנולוגיות חדשות בתחום הסייבר מקשה מאוד על ממשלות לבצע חישובים באשר לתוצאה הצפויה וההשפעות הצבאיות של שינויים טכנולוגיים. הקצב המהיר של המחקר והפיתוח לא מאפשר לממשלות להיערך לאיום החדש או להתאים עצמן ולעדכן את הסכמי בקרת הנשק בזמן. השלישית, קיים קושי ל פקח אחר עמידה בהסכם, דבר המתבטא בחוסר יכולת להעריך את גודל המאגרים של המדינה היריבה. מעקב אחר עמידה בהסכם יצריך גישה חופשית לרשתות של המדינות הנבדקות, דבר המצריך שיתוף פעולה מצדן, החושף אותן לפעולות ריגול. הרביעית, קיים אתגר לאכוף הסכמים במרחב ה יס יבר הנובע מהקושי לייחס מתקפות לתוקפים, מכיוון שלכל מדינה יש יכולות ייחוס שונות, ומהקושי לנסח תגובה פרופורציונלית. 54 ** מאת אריקה בורגהרד ושון לונרגן (Erica Borghard and Shawn Lonergan), עמיתי מחקר במכון המחקר לסייבר במכללה הצבאית West Point.

24 בינואר – חברת Alphabet חשפה חברת בת לאבטחה קיברנטית בשם Chronicle – חברת האם של גוגל, Alphabet, חשפה חברת בת לאבטחה קיברנטית בשם Chronicle שנוסדה בשנת 2016 ע"י חברת הבת למחקר ופיתוח של Alphabet, הנקראת X (לשעבר Google X), ועוסקת בפיתוח מערכות חסינות עבור לקוחות. לדברי ר אש יחידת X, אסטרו טלר (Astro Teller), הרעיון העומד מאחורי Chronicle הוא לחזות ולהדוף מתקפות סייבר לפני שהן מסתננות לרשת של ארגון המטרה. 55

24 בינואר – הושק גוף בינלאומי חדש במטרה להיאבק במתקפות סייבר – הגוף החדש הושק בפורום הכלכלי העולמי (World Economic Forum) שנערך בדאבוס, וייקרא המרכז הגלובלי לאבטחה קיברנטית (Global Center for Cybersecurity). מטרותיו של המרכז הן לחזק את האיתנות הקיברנטית, להקים מאגר שיטות עבודה מומלצות לזיהוי מצבי מתקפה שונים ולסייע למדינות ואזורים מתפתחים לפתח אסטרטגיות להגנה על תשתיות חי וניות. המרכז צפוי לקום בז'נבה ולהפוך למבצעי במרץ 2018 56.

26 בינואר – מתקפת ya NotPet הרסה את רשת המחשבים של ענקית הספנות Maersk – בדברים שנשא בפורום הכלכלי העולמי בדאבוס, אמר יושב ראש ענקית הספנות Maersk, ג'ים הייג'מן סנבה (Jim Hagemann Snabe), כי בעקבות המתקפה שאירעה ביוני 2017, נאלצה Maersk להחליף כ - 45,000 מחשבים ו - 4,000 שרתים וכן להתקין מחדש כ - 2,500 אפליקציות. עוד לדבריו, אחד הלקחים אותם הפיקה Maersk מהמתקפה היו כי החברה הייתה ממוצעת בלבד בתחום האבטחה הקיברנטית, אך כעת היא מתכננת להפוך תחום זה ליתרון התחרותי שלה. 57

29 בינואר – שעוני כושר חכמים ניידים עלולים לחשוף אתרים רגישים – מכשירים המתעדים פעילות ספורטיבית, כגון שעוני ה-Fitbit הממפים את פעילותם של המשתמשים, ע לולים לחשוף את מיקום המשתמש ותוואים של אתרים רגישים כגון בסיסים צבאיים. מפות אינטראקטיביות העושות שימוש בנתוני המכשירים ומסתייעות במידע לווייני, ממפות את מיקום ותנועת המשתמשים עבור שירות הספורט של חברת שירותי ה-GPS, Strava ומ ציגות את תוואי הפעילות של המשתמשים בקווים מוארים. לחברת Strava יש כ - 27 מיליון משתמשים ברחבי העולם, העושים שימוש במכשירי Fitbit ו-Jawbone וכן אנשים הנרשמים לאפליקציה של החברה. בעוד רוב פעילות המשתמשים מתרכזת באירופה ובארה"ב, דווקא באזורים מבודדים או אזורי מלחמה, בהם ישנה פעילות מועטה, קיימת יכולת לבצע תקריב במפה שעלול לחשוף בסיסי צבא ושאר אתרים. בעיה נוספת היא שמשתמשים נוהגים לעיתים להשתמש במכשירים אלו כל היום לטובת ספירת צעדים יומית. על כן, כשמכשירים אלו נמצאים בשימוש חיילים, עלול הדבר לחשוף גם תוואי פטרו ל, קווי אספקה ועוד.

בתגובה מטעם הפיקוד המרכזי של צבא ארה"ב נמסר כי כוחות הקואליציה נגד דאע"ש מעדכנים חוקים וקווים מנחים על הגדרות פרטיות של מכשירים המחוברים לרשת וכי מפקדים קיבלו הוראה לאכוף אותם. כמו כן, נמסר כי טכנולוגיות מסוגים אלו נאסרו לשימוש באתרים מ סוימים שבשימוש כוחות הקואליציה. 58 גם בישראל הזהירו גולשים רבים כי המפה האינטראקטיבית של Strava חשפה בסיסי ומוצבי צה"ל, צירי תנועה, מסלולי פטרול ועוד. מטעם דובר צה"ל נמסר כי בצבא הופצה מדיניות שימוש בשעונים חכמים וכי צה"ל יבחן את השימוש באפליקציה ויפיץ הנחיו ת בקרב חיילים באשר לשימוש בה. 59

בינה מלאכותית 24 בינואר – Check Point: לבינה מלאכותית מספר אתגרים גדולים בדרך להטמעה מלאה – מנהלת ניהול ושיווק מוצרי מניעת איומים בחברת האבטחה הישראלית Check Point, אורלי גן, אמרה בכנס האירופי השנתי CPX360,, שנערך בברצלונה כי לבינה מלאכותית יש פוטנציאל להיות שימושית באבטחה קיברנטית אך היא מועדת לשגיאות רציניות. לדבריה, בעיות המפתח בבינה מלאכותית נובעות ממחסור בניסיון ובנתונים שכן אנשים חוששים לחלוק נתונים עם התעשייה לטובת צבירת ניסיון. בעיה נוספת היא שבעוד המשתמשים צריכים לב טוח בתוצאות המתקבלות, המערכות מפיקות הרבה תוצאות שגויות. לדבריה של גן, כשבעיות אלו תיפתרנה, בינה מלאכותית תייצר מהפכה באבטחה קיברנטית ומשימות שעד כה בוצעו על ידי אנליסטים תבוצענה באופן אוטונומי. 60

השפעה, דעת קהל ומעורבות בבחירות

25 בינואר – שירותי המודיעין של הולנד סיפקו מידע לארה"ב על המעורבות של רוסיה בבחירות בארה"ב – על פי דיווחים באתרי חדשות הולנד י ים שירות המודיעין של הולנד ה-IVD A סיפק ל-FBI מידע חשוב באשר להתערבות הרוסית בבחירות לנשיאות ארה"ב ב - 2016. על פי הדיווח, סוכני ה-AIVD הצליחו להסתנן לקבוצת ההאק רים הרוסית המכונה Cozy Bear והיו עדים לניסיונות הפריצה למחשבי המפלגה הדמוקרטית. עוד דווח, כי היחידה שביצעה את ההסתננות למחשבי ה-Cozy Bear מורכבת מכ - 80-100 אנשי צוו ת ומהווה חלק מיחידה משותפת למבצעי סייבר וסיגינט אשר חברים בה סוכנים מה-AIVD ומהמודיעין הצבאי ההולנדי. עוד נמסר בדיווח כי שירות המודיעין ההולנדי אף סיפק מידע ל-NSA ול-FBI תוך כדי ניסיונות של האקרים רוסיים לפרוץ למחלקת המדינה האמריקנית וכי באמצעות מידע זה, ניתקו גופי המודיעין האמריקניים את השרתים בהם עשו ההאקרים שימוש. 61

פשיעת סייב ר 24 בינואר – דו"ח חדש: הנפקות מטבע ראשוניות מותקפות כמאה פעמים בממוצע בחודש – המחקר שפורסם על ידי חברת האבטחה הקיברנטית הרוסית, Group-IB, בחן 450 מתקפות סייבר על הנפקות מטבע ראשוניות (Initial Coin Offerings – ICO) מתחילת שנת 2017, וגילה כי ניסיונות מטעם ה אקרים לגנוב כסף מ-ICO גדלו פי עשרה במהלך שנה זו. Group-IB אף לקחה חלק במחקר חדש מטעם חברת הייעוץ והביטוח Ernst & Young שבו הוצג נתון, לפיו מתוך 3.7 מיליארד דולר שהושקעו במיזמי ICO, כ - 400 מיליון דולר נגנבו. לדברי Group-IB, מיזמי ICO ומשקיעים במטבעות דיגיטליים חשופים במיוחד למתקפות Phishing דרך דואר אלקטרוני ואתרים מזויפים שמטרתן לגנוב סיסמאות ופרטים אישיים. סוג נוסף של מתקפות זוהה כפריצה לאתרים של מיזמי ICO ושינוי הכתובת והמידע כך שמשקיעים ישלחו את כספם ל"ארנק הדיגיטלי " (digital wallet) השייך להאקרים. 62

27 בינואר – מתקפות ראשונות על כספומטים בשטח ארה"ב – סכנת פגיעה בכספומטים קיימת כבר זמן מה באסיה ואירופה, אך עתה, על פי אזהרה שניתנה למוסדות פיננסיים בארה"ב על ידי השירות החשאי האמריקני (The U.S. Secret Service), נצפו בארה"ב מתקפות מסוג Jackpotting או logical attacks, במהלכן, גנבים מתקינים תוכנות נוזקה או חומרה על כספומטים על מנת לגרום להם לפלוט כסף מזומן על פי הוראה. כמו כן, אזהרה נוספת נמסרה מטעם יצרנית הכספומטים NCR ללקוחותיה, בה היא אישרה כי אירעו מתקפות על כספומטים בארה"ב שנסתיימו ב גניבה של כסף מזומן. 63

שיתופי פעולה

16 בינואר – הודו וישראל חתמו על הסכמים הכוללים גם שיתופי פעולה בתחום האבטחה הקיברנטית – במהלך ביקורו של בנימין נתניהו בהודו חתמו שתי המדינות על תשעה מזכרי הבנות בתחומים כמו הנפט, גז, אוויר, תחבורה, חלל ואבטחה קיברנטית. בהצהרה משותפת לראש ממשלת ישראל וראש ממשלת הודו, נרנדרה מודי (Narendra Modi), הביעו השניים את כוונתם להגדיל את מרכזי המצוינ ות בהודו, שבמסגרתם מתקיימים כבר מספר שיתופי פעולה בין המדינות. 64

16 בינואר – יפן תצטרף למרכז למצוינות בהגנה קיברנטית של נאט"ו באסטוניה – במהלך ביקור של ראש ממשלת יפן, שינזו אבה (Shinzo Abe), בטאלין שבאסטוניה, הכריז אבה כי יפן תצטרף למרכז למצוינות בהגנה קיב רנטית של נאט"ו, ה-CCDCOE ראשת ה-CCDCOE, מרל מייגריי (Merle Maigre), בירכה על הצעד והוסיפה כי הצטרפותה של יפן היא צעד חיובי עבור המחויבות לשיתוף פעולה בין מדינות בעלות השקפה דומה. 65

עוד באותה פגישה, הכריז אבה על הגברת שיתוף הפעולה בתחום האבטחה הקיברנטית והקשרים הכלכליים עם אסטוניה. בהמשך שוחח אבה עם ראש ממשלת אסטוניה, ג'ורי ראטס (Juri Ratas) על חיזוק קשרים עם ליטא ולטביה. ה דיאלוג המשותף בין ארבע המדינות יתקיים בסוף 2018 או בתחילת 2019 66.

30 בינואר – מפעילת רשת חשמל מפולין תשתף פעולה עם חברת החשמל של ישראל כנגד איומי סייבר – דוברי מפעילת רשת החשמל מפולין PSE, אמרו על הסכם שיתוף הפעולה כי ישראל היא מעצמה אזורית בתחום האבטחה הקיברנטית. בסוף שנת 2016 הקימה PSE צוות CERT כדי לסייע בשמירה על האבטחה הקיברנטית, שהחל בשיתוף פעולה עם מקביליו בארצות הברית ובנורבגיה. 67

תשתיות חיוניות

11 בינואר – דו"ח Chatham House: איומי הסייבר על מערכות נשק גרעיני – דו"ח חדש מטעם מכון המחקר Chatham House מפרט על האיומים וההשלכות של מתקפות סייבר על מערכות נשק גרעיני וכן על ה חולשות במערכות אלו. על פי הדו"ח, מערכות נשק גרעיני פותחו כשמערכות מחשוב לא היו נפוצות ולכן לא ניתן דגש לאיום הסייבר. כמו כן אסטרטגיות גרעיניות נוכחיות אינן מתבססות על התפוצה הרחבה של טכנולוגיה דיגיטלית במערכות שליטה, בקרה ותקשורת. חולשות רבות שמקורן בטעות אנוש, כשלי מערכת, חולש ות בשרשראות אספקה ועוד, עלולות ליצור אי ודאות ולקבלת החלטות מוטעית שעלולה לכלול שימוש בנשק גרעיני המתבסס על נתונים שגויים או שעברו מניפולציה. הדו"ח ממליץ לאמץ גישה הוליסטית לפיתוח מערכות בטוחות לשימוש, המבוססות על הערכות סיכונים וקורא לאקדמ יה ולחברה האזרחית להסב את תשומת ל יבן של ממשלות לנושא. 68 קישור לדו"ח המלא: http://bit.ly/2DdC4We

31 בינואר – דו"ח משרד המדע הבריטי: שיבוש שירותי ניווט מ הוו ה סכנה לתשתיות חיוניות – בדו"ח ה חדש Satellite-derived time and position: A Study of Critical Dependencies, שפורסם על ידי משרד המדע של בריטניה, הזהירו מומחים מפני חוסר תשומת לב לאיום של שיבוש שירותי ניווט מסוג GPS (GPS Signal jamming and spoofing), והסיכון שהדבר מהווה לשירותים ול תשתיות חיוניות. הדו"ח הנוכחי מצטרף להער כות, לפיהן בריטניה תפסיד כמיליארד ליש"ט (כ - 1.4 מיליארד דולר) ביום במקרה של שיבוש מערכות GPS. כמו כן, הדו"ח הזהיר מפני התפוצה הרחבה של טכנולוגיית שיבוש אותות GPS בידי כוחות צבא, עבריינים ואף אזרחים מן השורה. הדו"ח קרא לאמץ מערכות גיבוי ולהגביר את חסינות המע רכות הקיימות. 69 קישור לדו"ח המלא: http://bit.ly/2E2STnd

1 http://bit.ly/2Dzh7lI

2 http://bit.ly/2FGN3VJ

3 http://bit.ly/2CMcTG6

4 http://bit.ly/2DznrMs

5 http://bit.ly/2BkRRgc

6 http://bit.ly/2navxRg

7 http://on.cfr.org/2FNQM3j

8 http://bit.ly/2CTjXE4

9 http://nyti.ms/2DI8W6P

10 http://bit.ly/2CPJdfn

11 http://reut.rs/2FO4tzN

12 http://bit.ly/2mA6FSW

13 http://politi.co/2nnn4eL

14 P http://bit.ly/2DdE7FP

15 http://bit.ly/2ri2Abp

16 http://bit.ly/2DxsBWT

17 http://nyti.ms/2EyUKMx

18 http://bit.ly/2DWsZ1e

19 http://nyti.ms/2mDdxPx

20 http://bit.ly/2GXlTuI

21 http://bit.ly/2ngQkno

22 http://bit.ly/2rJpLM1

23 http://bit.ly/2C1dDWI

24 http://bit.ly/2G3wAub

25 http://bit.ly/2DlAO2w

26 http://bit.ly/2DnSYNW

27 http://bit.ly/2nnBmvS

28 http://nyti.ms/2nKX4tY

29 http://bit.ly/2n4ol9n

30 http://bit.ly/2rLpOqT

31 http://bit.ly/2DFh6Mq

32 http://bit.ly/2E2bAr7

33 http://lemde.fr/2n7qaCq

34 http://reut.rs/2EHjAKe

35 http://reut.rs/2rNZgoJ

36 http://bit.ly/2DB3eWI

37 http://bit.ly/2CDZekx

38 http://on.cfr.org/2Bawj9P

39 http://bit.ly/2mNwBeu

40 http://bit.ly/2CBjeUX

41 mLLKgI http://bit.ly/2D4eHeL http://reut.rs/2mLLKgI

42 http://bit.ly/2F4frjs

43 http://bit.ly/2E7dSkY

44 p://bit.ly/2E2h5Cj htt http://bit.ly/2E2h5Cj

45 https://bloom.bg/2nGkj7C

46 http://bit.ly/2DLMWdJ

47 http://bit.ly/2F9z0Ht

48 http://bit.ly/2nw5yUV

49 http://bit.ly/2majB2q

50 http://bit.ly/2AEqHRh

51 http://bit.ly/2rKBY3k

52 http://bit.ly/2DwRIIy

53 http://reut.rs/2G3DYXu

54 http://on.cfr.org/2mZLP0n

55 http://reut.rs/2rPdyFY

56 http://bit.ly/2DRew9k

57 http://bit.ly/2BNavSL

58 http://wapo.st/2nH5OAc

59 http://bit.ly/2BW6t6f

60 http://bit.ly/2ndlHiq

61 http://bit.ly/2nftkoT

62 http://reut.rs/2Bzx3Sj

63 http://bit.ly/2rNkNy4

64 http://bit.ly/2n00mct

65 http://bit.ly/2mZvLf0

66 http://bit.ly/2DKCrrz

67 http://reut.rs/2s6C99a

68 http://bit.ly/2B4qAic

69 http://bit.ly/2E3IkAv