אכיפה עתידנית

על העתיד של מערכות אכיפת החוק

מהנדסים בעיה בשביל להציג פתרון

בעקבות הפרעות הרבות בערים המעורבות, שהתרחשו לאחרונה, יצא המפכ"ל רב ניצב שבתאי, בהצהרה על כך שהוא יציג לממשלה מודל אכיפה טכנולוגי לטפל בבעיות באותן ערים.

מאז פרוץ הפרעות נשמעים קולות, על כך שישנה תחושה, שהפרעות האלו "מהונדסות" ומתוכננות. הסברה העיקרית היא שביבי הצית את הפרעות באמצעות בן גביר, בכדי לסכל ממשלת שינוי.

כנראה שיש אמת בסברה הזו. אך יש סיכוי שזוהי לא הסיבה היחידה "להנדוס" פרעות אלו.

 

זה ידוע שבהרבה מקרים, כשהממסד רוצה להכניס אל חיי האזרחים דבר מה חדש, שישפיע עליהם והוא יודע שבימים רגילים, מהלך שכזה יגרור התנגדות ציבורית. מה שהוא עושה זה ליצור בעיה כלשהי באותו תחום, וכשהציבור מבקש פתרון, הממסד מציע ומכניס את מה שהוא הכין מבעוד מועד.

סיכוי גבוה שזה מה שקורה פה, במקרה של הפרעות בערים המעורבות.

למעשה באמצעות הפרעות האלו המשטר מכניס אמצעי אכיפה ושיטור חדשים, שבעתיד גם יתפשטו לכל הארץ וישפיעו על חיינו.

גם ברור שאותם אמצעים שישמשו נגד פורעים, בעתיד ישמשו גם נגד מפגינים דמוקרטיים ונגד אזרחים לא צייתנים.

 

 

https://www.ynet.co.il/news/article/HyNjo00WYu?utm_source=m.ynet.co.il&utm_medium=social&utm_campaign=whatsapp

 

השיטור והאכיפה בעידן הרובוטים והבינה המלאכותית

נושא השיטור והאכיפה בעידן הרובוטים והבינה המלאכותית, הוא דבר שבעולם וגם בארץ, מפותח מאוד וגם מתפתח בקצב גבוה.

כבר היום ניתן למצוא במדינות רבות דוגמאות לאמצעים טכנולוגיים רובוטיים וממוחשבים, שנמצאים בשירות פעיל בגופי האכיפה השונים.

במאמר זה נסקור את עתיד האכיפה, החל מאמצעים שנמצאים כבר בשרות ועד פיתוחים עתידיים בתחום הבינה המלאכותית.

ברור שלא על כל האמצעים אותם נסקור, המפכ"ל דיבר. אך בהחלט דבריו מצביעים על יריית פתיחה, למהלך אשר יביא לכך, שבעתיד הקרוב נראה יותר ויותר אמצעי אכיפה רובוטיים שונים נכנסים לפעילות, תחת האמתלה של מצב החירום.

 

אתגרים עיקריים

צריך להבין שבהכנסת רובוטיקה ובינה מלאכותית לעולם אכיפת החוק והמשפט קיימים אתגרים רבים ואספקטים מהותיים.

קודם כל יש להרגיל את בני האדם לבוא במגע עם רובוטים.

בשביל שרובוטים יוכלו לבצע תפקידי שיטור שונים בני אדם צריכים להתרגל לדבר עמם, לקבל מהם מרות וסמכות ולקבל זאת כדבר שבשיגרה.

לכן מדינות כמו דובאי וסינגפור, שהכניסו כבר רובוטים למערך השיטור שלהם, עושות זאת קודם כל בצורה ידידותית, בה הרובוט משמש כמתרגם ונותן מידע תיירותי בעיקר. זה נעשה כך כדי להרגיל קודם כל את הציבור לאינטרקציה עם רובוטים ולנוכחות שלהם במרחב הציבורי.

אספקט נוסף הוא המעמד של הרובוט בחברה. וכאן מדינת אסטוניה מובילה בנושא זה, כמו גם בנושאים אחרים.

מדינת אסטוניה נחשבת למדינה דיגיטלית ומאוד מתקדמת מבחינת מהפכת המשילות והטכנולוגיה של העידן החדש.

במדינה זו מבקשים כבר להעניק מעמד אזרחי לרובוטים. כך שהם יקבלו סוג של אזרחות, ויהיה להם מעמד חוקתי.

בנוסף, באסטוניה גם מקדמים מערכת משפט המבוססת על בינה מלאכותית. ז"א שהשופט יהיה למעשה AI  (בינה מלאכותית), ולאחר הכנסת כל העדויות והנתונים של המשפט אל התוכנת מחשב, היא תקבע האם הנאשם אשם או חף מפשע.

 

 

https://www.weforum.org/agenda/2019/03/estonia-is-building-a-robot-judge-to-help-clear-legal-backlog/

 

 

https://www.independent.co.uk/news/business/news/estonia-robots-artificial-intelligence-ai-legal-recognition-law-disputes-government-plan-a7992071.html

 

 

האספקט המהותי ביותר בנושא זה מבחינתנו, הציבור, הוא האתיקה.

ישנה משמעות גדולה ליצירת חסמים ורגולציה על השימוש בבינה מלאכותית ככלל ובתחום האכיפה בפרט.

כולנו יכולים לדמיין מה יכול לקרות אם מערכת בינה מלאכותית תאבד שליטה, על אחת כמה וכמה כזו שיש לה כח אש ויכולה לפגוע באזרחים פיזית או דיגיטלית.

לכן חשוב מאוד להגדיר במערכות האלו חסמים מסויימים ואישורים שצריכים להתקבל מבן אנוש, טרם ביצוע הליכים כנגד אזרחים.

היום תחת האיחוד האירופאי ישנו גוף שעוסק בנושא האתיקה בכל הקשור לשילוב של בינה מלאכותית בחיינו. ושם נאמרת שוב ושוב מידת החשיבות של השארת בן אנוש בעמדת שליטה מרחוק על רובוט כזה או אחר, וגם על תוכנות בינה מלאכותית. אך יש לציין שעולה גם השאלה מי אוחז בשליטה על הרובוט.

אם קורה מצב שמדינה נשלטת בידי רודן דיקטטור חסר מעצורים ובידיו השליטה על כל האמצעים העוצמתיים האלו, לאזרח הפשוט ה"דלתות האחוריות" שיותקנו באמצעים החדישים האלו, לא יהיו משמעותיות מאוד.

יש לציין שנכון להיום בישראל אין רגולציה משמעותית לתחום הרובוטיקה והבינה המלאכותית. גם הגופים שפועלים בתחום האתיקה בחו"ל, לרוב עושים זאת במסגרת המלצות וניירות עמדה, אך לא כדבר מחייב רגולטורי.

נקודת תורפה נוספת בהתקדמות התעשייה הזו יכולה לקרות במידה ופשע מאורגן או טרוריסטים ישימו ידם על אמצעי רובוטי התקפי או אפילו על תוכנת AI  לביצוע פשעי סייבר. מצב כזה יכול להביא לקטסטרופה עולמית ולסכנה ממשית לציבור גדול מאוד של אנשים ואף למדינות שלמות.

 

 

להלן האמצעים הרבים בתחום האכיפה הרובוטית והבינה המלאכותית:

1) מיותר לציין את רובוטי החבלה שנמצאים כבר זמן רב בשימוש, למטרות ניטרול מטעני נפץ ובדיקת חפצים חשודים. וכן גם את הרחפנים למטרות תצפית שנמצאים גם הם בשימוש נפוץ.

2) רחפנים לפיזור הפגנות: ידוע שגם לישראל וגם להודו יש רחפנים לפיזור גז מדמיע או תרסיס פלפל על מפגינים. בישראל אלו רחפנים שמפילים רימוני גז וצה"ל עושה בהם שימוש בשטחים. ובהודו אלו רחפנים עם מיכל של גז פלפל וצינור התזה (תמונה מטה).

3) רובוט סוהר: בדרום קוריאה הכניסו לשימוש רובוט סוהר, שעשה סיורים בבית הכלא. לרובוט היתה תוכנה לזיהוי אירועים חריגים והתנהגויות בסיכון וברגע שזיהה אירוע חריג דיווח על כך לבקרה. הסוהרים יכלו לצפות באירוע מרחוק באמצעות מצלמות מתקדמות ולכרוז לאסירים עם מערכת הכריזה שמובנית ברובוט.

4) רובוטים התקפיים: חברה ישראלית בשם "ג'נרל רובוטיקס" משווקת רובוט נוסע קטן, שביכולתו לעלות במדרגות ולהתגבר על מכשולים. הרובוט מצוייד באקדח 9 מ"מ הנשלט מרחוק, במצלמות לכל כיוון ובמערכת קול דו כיוונית. הרובוט למעשה יכול לפרוץ למבנה לפני כח משטרה ולנטרל איום מבלי לסכן שוטרים. הרובוט פותח בשיתוף היחידה ללוחמה בטרור של המשטרה ועל כן ניתן להניח שהוא נמצא בסל האמצעים שלה כיום.

אותה חברה הוציאה דגם גדול יותר לשימושים צבאיים, אך לא מן הנמנע שבעתיד הרחוק נראה כאלו משמשים גם לתחום המוניציפלי.

מתוך אתר החברה:  http://www.glrobotics.com/pitbulllightweaponstation

 

5) רובוטים לזריקה: כאלו קיימים מספר דגמים וחברות. אלו רובוטים קטנים יחסית שנועדו לזריקה אל אזורים בהם רוצים לקבל מודיעין ותמונה של הנעשה בתוכם או באזורם.

ניתן להשליך את הרובוט מגובה של 9 מ' על בטון קשה והוא ישרוד את המכה ויהיה מוכן לשימוש.

על הרובוט מצלמות באיכות גבוהה וניתן אפילו לחבר אליו רימון הלם.

רובוטים אלו נמצאים בשימוש במשטרות בפולין ובארה"ב.

 

6) שומר הגבולות: בגבול שבין הקוריאות, פרשה סמסונג עבור קוריאה הדרומית, רובוטים לשמירת הגבול.

הרובוטים מצויידים ברובה 5.5 מ"מ ומטול רימונים. באמצעות חיישני חום ואינפרא אדום הרובוט יכול לזהות מטרה בלילה למרחק של 2 מייל. לפי דיווחים שונים הרובוטים האלו אוטונומיים לחלוטין, ז"א שהם יורים על דעת עצמם.

 

 

7) רחפנים התקפיים: לפי מקורות זרים ישראל רכשה רחפנים התקפיים, שמותקן עליהם רובה. יש לציין שאת הרחפנים ואת הרובה נדרש אדם להפעיל.

גם בפיתוח זה מעורבת חברה ישראלית.

 

8) רובוט שוטר: כפי שציינו קודם, הרובוטים שנמצאים כיום בשירות המשטרה במדינות כמו סין, דובאי וסינגפור, כרגע משמשים יותר כמדריכי תיירים ומרכז מודיעין. אך הם למעשה רק שלב לקראת הכנסת רובוטים למשימות שיטור אמיתיות.

 

 

9) רובוט כלב: רובנו כבר נתקלנו ב"רובוט כלב המשטרתי". רובוט של חברת "בוסטון דינאמיקס", אשר נמצא בשימוש במספר מדינות בעולם.

עד היום הרובוט שימש בעיקר לאיסוף מידע ולהזהיר את הציבור מפני הפרת תקנות הקורונה. אך לאחרונה משטרת ניו יורק תועדה, כשהיא עושה בו שימוש בעת מעצר.

לרובוט יש כח רב וביכולתו גם לפרוץ דלתות.

 

(התמונה מאתר "כלכליסט"  https://www.calcalist.co.il/technology/article/H1kZ4QsUu )

 

ועכשיו נדבר על AI.

AI  או בינה מלאכותית, לא יכול להכנס כסעיף ברשימה הנ"ל, כי למעשה הבינה המלאכותית הולכת להשפיע על כל התחומים גם יחד ולהוות מקור לפיתוחים ושידרוגים נוספים. ואם היום את כל האמצעים האלו מפעיל בן אנוש, בעתיד יהיו אלו תוכנות מחשב (AI) שיחליפו את בן האדם.

ישנם מספר תת תחומים שהבינה המלאכותית תשפיע עליהם רבות. אחד מהם הוא הניטור וההתרעה.

על אף שכיום כבר ברוב הערים במדינות המפותחות פרושות מצלמות וישנם חדרי בקרה מתקדמים. עדין, ברובם מי שמשגיח על המוניטורים הוא בן אדם (או כמה). קשה מאוד עד בלתי אפשרי לבני אדם לנטר מאות ואף אלפי מצלמות של עיר ולזהות פשעים בזמן אמת. אך ברגע שבינה מלאכותית היא זו שתנטר ותעקוב אחר המתרחש, היא תוכל לזהות במהירות רבה אם מתרחש פשע ויותר מכך, היא אף תוכל להתריע טרום ביצוע העברה.

אולי חלקכם זוכרים את הסרט בכיכובו של תום קרוז, "דו"ח מיוחד". בסרט יחידות האכיפה מקבלות התרעה לפני ביצוע הפשע ועוצרות את הפושע הפוטנציאלי לפני ביצוע העבירה.

צריך לדעת שכיום מושקעים משאבים רבים בפיתוח מערכות חיזוי פשעים כאלו. מערכות שיוכלו לזהות שפת גוף או הליכה, שיסומנו כחשודות ולהתריע על כך.

בעידן ה"ביג דאטה" כשכל המערכות יהיו מחוברות יחדיו, אותה מערכת גם תוכל לבדוק את הדירוג של אותו חשוד, האם הוא רכש כלי נשק או דבר מה שיכול לשמש לביצוע פשע ומה הרקע הרפואי פסיכולוגי של אותו חשוד בפוטנציה. בצורה הזו המערכת תוכל להתריע ולשלוח מעקב ואמצעים נוספים אחר אותו בן אדם, אם היא תגיע למסקנה שפשע עומד להתרחש.

בתוך חנויות לדוגמא מערכות פרטיות כאלו יוכלו לאתר בקלות גנבים בזמן אמת.

אמצעי הניטור מבוססי הבינה המלאכותית יכולים גם לשמש למעקב אחר אסירים משוחררים מצד אחד ומצד שני גם לזהות הונאות ושחיתויות במערכות הציבוריות.

רק אזכיר את דבריו של המפכ"ל ואת מילותיו על "רחפנים אוטונומים". האם רחפנים אלו יופעלו על ידי אדם או ע"י בינה מלאכותית? האם משלבים במרכזי הבקרה של הערים החכמות בינה מלאכותית בדרך זו או אחרת? אלו שאלות מאוד משמעותיות שעלינו לשאול היום, כי ברגע שהסכר יפרץ ואמצעים אלו יכנסו לשימוש רציף, יהיה קשה להחזיר את הגלגל לאחור וליצור חסמים וביקורת בדיעבד.

 

העתיד בצל הבינה המלאכותית

באינטרפול, סוכנות אכיפת החוק הבין לאומית, עוסקים רבות ומזה זמן רב בנושא השילוב של הטכנולוגיה בעולם אכיפת החוק. זה מתבטא בהרבה צורות, פיילוטים, פיתוחים ומחקרים.

מטה ניתן לראות תרשים מתוך מסמך רשמי של האינטרפול שמציג היכן הבינה המלאכותית הולכת להשפיע ולקדם תחום מסויים בהיבט אכיפת החוק:

 

 

 

לא אכנס פה לפירוט על כל סעיף וסעיף. אם יש קורא שמעוניין לקבל הסבר על סעיף כזה או אחר, מוזמן לכתוב בתגובות ואסביר את המשמעות שלו.

מה שכן, ניתן ללמוד מכל זה, שפשוט בעתיד הקרוב לא יהיה איפה להתחבא והפרטיות שלנו תעלם כלא היתה.

 

צריך להבין שעם התפתחות תחום הבינה המלאכותית והרובוטיקה, מתפתחות במקביל יכולות המחשוב ועיבוד הנתונים. בקרוב באמצעות מחשבי על ו"מחשוב קוואנטי" ניתן יהיה לעקוב אחר כל פינה בעולם ולנתח נתונים בזמנים אפסיים.

ניתן לראות היום איך השירות הציבורי ומשרדי הממשלה עוברים למערכת מחשוב אחידה והן יהיו מחוברת יחדיו למקור אחד. אותו מקור יהיה בידיו את כל המידע על כלל האזרחים. ואותו מקור יהיה מחובר גם לאמצעי הקצה של הערים החכמות, מצלמות וכד'.

כך למעשה למדינה תהיה מערכת "ביג דאטה" שיודעת כל מה שהאזרחים עושים ומה הרקע שלהם. מערכת זו תהיה גם חלק מ"הדירוג האזרחי" אליו מדינות העולם צועדות בעקבות סין.

 

כאמור, לא רחוק היום שמערכת ממוחשבת תנהל את חיינו ותדע עלינו הכל. מערכת אחת שבאמצעות אלגוריתמים מתוחכמים שיודעים ללמוד אותנו, את התנהגותנו ואת שיגרת חיינו, הם גם יוכלו לצפות אותנו ואת מעשינו.

אותה מערכת תשלוט ותבצע כמעט כל פעולה נדרשת, החל מתכנון עירוני, מעקב גנטי וזיהוי פנים, מעקב פיננסי, מעקב בריאותי, ניתוח התנהגותי ועוד.

למה זה מפריע לנו?

ניתן לחשוב שלמערכות אלו יתרונות רבים בצמצום הפשיעה ויצירת ערים בטוחות. באמת כך הדבר במובן מסויים ויש יתרונות רבים למערכות אכיפה אלו.

הבעיה מתחילה, כשמגיע רגע כפי שתיארנו בתחילת המאמר, שבו הממסד מפעיל את האמצעים האלו כנגד האזרחים בצורה בלתי דמוקרטית ולא אתית. כמו במצב של דיכוי הפגנות דמוקרטיות, לדוגמא.

מצב בעייתי נוסף, הוא כשהמדינה מפעילה אמצעים כאלו תוך יצירת מצב חירום מדומה (כמו שחווינו לאחרונה).

בנוסף, נושא ה"מניעת פשע באמצעות בינה מלאכותית" יכול להוביל להרבה בעיות וליצור חברה הומוגנית ומאופקת בצורה לא אנושית. אם לדוגמא התווכחת עם חברה שלך בקול רם ברחוב ודבר זה הביא את המערכת להגביר מעקב אחריך, זו חדירה קשה לפרטיות. ואם קנית חפץ חד והמערכת שלחה אליך יחידת סיור, למרות שלא היתה לך כל כוונה לבצע פשע, זה מצב הזוי.

בצורה כזו שאנחנו נהיה במעקב תמידי, לא נוכל להיות עצמנו ולהביע את עצמנו בחופשיות.

 

ניתן לראות זאת כך, שהרי לא נרצה שאדם זר יכנס אל ביתנו ויציץ אל תוך הארונות הפרטיים שלנו. עם אובדן הפרטיות שיביאו עמם אמצעי האכיפה החדשים, זה בערך מה שיקרה כמטאפורה לכלל חיינו.

 

(אילוסטרציה)

 

מה כן אפשר לעשות?

כמו שנאמר מעלה, לרגולציה ושקיפות יש תפקיד חשוב בהגנה על האינטרס הציבורי.

כרגע המצב הוא שהתעשייה הזו דוהרת קדימה והרגולטורים לא מצליחים להדביק את הקצב, עם מעט הפעולות שנעשות.

נכון להיום כל אמצעי ההגנה ו"הדלתות האחוריות" באמצעים ובפיתוחים השונים, מותקנים מטעם המפתחים והתאגידים.

אך צריכות להיות הגדרות ברורות בחוק לאילו אמצעי הגנה יש להתקין בטכנולוגיה החדשה הזו וצריך להיות גוף מבקר לתחום מתפתח זה, שבעתיד הקרוב ישתלט על חיינו.

 

עלינו להיות ערניים ולבדוק אילו אמצעים נכנסים לשימוש בחסות האירועים האחרונים.

יש לזכור שאמצעים אשר יכנסו היום לשימוש לא יצאו מפעילות יותר, אלא רק יתפשטו לערים נוספות וישלבו פיתוחים חדשים.

זה בדיוק המקום שעל הציבור להשמיע את קולו ולדאוג לפרטיותו ועתידו.

 

כבר היינו בנקודה דומה בזמן עם התפתחות הרשתות החברתיות, גם אז המחוקקים לא השכילו להשתית רגולציה על ענקיות הטכנולוגיה.

היום אנחנו רואים שהרשתות החברתיות הפכו למפלצות תקשורתיות שביכולתן להשפיע על הקהל ועל הפוליטיקה יותר מכל כלי אחר, שהיה קיים עד היום. יש האומרים שהרשתות החברתיות איבדו שליטה והן אלו שמשפיעות יותר מכל על התרבות שלנו ועל חיינו.

כך יהיה גם עם הבינה המלאכותית והרובוטיקה. אם לא נתעורר היום ונדרוש רגולציה, נמצא עצמנו בעוד כמה שנים עבדים של הטכנולוגיה הזו תרתי משמע, בדיוק כמו שקרה עם הרשתות החברתיות. אלא שפה זה יהיה בחיים הפיזים ולא רק הוירטואלים. לכן זה מסוכן ומהותי הרבה יותר.

 

 

 

 

 

 

 

 

 

מקורות ולינקים נוספים לקריאה:

הדו"ח של האינטרפול על שילוב AI:

http://www.unicri.it/sites/default/files/2019-11/Artificial%20Intelligence%20and%20Robotics%20for%20Law%20Enforcement.pdf

 

האינטרפול על רובוטיקה וAI:

https://www.europarl.europa.eu/cmsdata/196207/UNICRI%20-%20Artificial%20intelligence%20and%20robotics%20for%20law%20enforcement.pdf

 

מאמרים מומלצים:

 

https://emerj.com/ethics-and-regulatory/ai-and-machine-vision-for-law-enforcement-use-cases-and-policy-implications/

 

https://cpr.unu.edu/publications/articles/ai-global-governance-turning-the-tide-on-crime-with-predictive-policing.html

 

https://builtin.com/robotics/police-robot-law-enforcement

 

https://issat.dcaf.ch/Learn/Resource-Library2/Policy-and-Research-Papers/Artificial-Intelligence-and-Robotics-for-Law-Enforcement

 

https://www.wired.com/2016/07/11-police-robots-patrolling-around-world/

 

https://www.newsweek.com/pepper-spraying-drones-control-unruly-mobs-say-police-india-320189

 

https://www.straitstimes.com/singapore/courts-crime/spore-police-officer-to-lead-new-interpol-counter-terrorism-unit

 

https://www.hstoday.us/channels/global/robots-ai-and-digitization-innovation-in-policing-technologies-keeps-pace-with-changing-threat-picture/

 

https://investinestonia.com/robots-may-receive-the-status-of-a-legal-entity-in-estonia/

 

https://www.weforum.org/agenda/2019/03/estonia-is-building-a-robot-judge-to-help-clear-legal-backlog/

 

https://www.defenseone.com/technology/2017/07/israeli-military-buying-copter-drones-machine-guns/139199/

 

https://www.trtworld.com/magazine/israel-s-autonomous-robo-snipers-and-suicide-drones-raise-ethical-dilemma-44557

 

https://www.bbc.com/news/technology-41268996

 

https://www.bbc.com/news/technology-40026940

 

https://www.bbc.com/news/technology-41268996

 

 

ג'נרל רובוטיקס:

http://www.glrobotics.com/

בדקו גם את

שידור משולב – אקטואליה וחדשות מהשטח

הפעם אנחנו משלבים ראיונות מהשטח של המחאה הציבורית המתעוררת שוב עם שאלות ודיון עם הקהל …

5 6 votes
דירוג
Subscribe
Notify of
4 תגובות
Oldest
Newest Most Voted
Inline Feedbacks
View all comments