הגורל העגום שעלול להיות גרוע מהכחדה כלל עולמית .

כיצד היו נראים ממשלות טוטליטריות של פעם אם הן לעולם לא מובסות? הנאצים פעלו אז בטכנולוגיה של המאה העשרים ועדיין נדרשה מלחמת עולם כדי לעצור אותם. כמה חזק יותר היו יכולים הנאצים היו מקדימים את ארה"ב בבניית הפצצה האטומית? שליטה בטכנולוגיה המתקדמת ביותר באותה תקופה הייתה יכולה לבסס את הכוח הנאצי ולשנות את מהלך ההיסטוריה.

כשאנחנו חושבים על סיכונים קיומיים, אירועים כמו מלחמה גרעינית או השפעות פגיעת אסטרואידים עולים לרוב בראשנו. עם זאת, יש איום עתידי אחד שהוא פחות מוכר - ולמרות שהוא אינו כרוך בהכחדת המין האנושי , זה יכול להיות רע באותה מידה.

זה נקרא תרחיש "העולם בשרשראות", שבו, כמו ניסוי המחשבה הקודם, ממשלה טוטליטרית עולמית משתמשת בטכנולוגיה חדשנית כדי לנעול את רוב העולם בסבל תמידי. אם זה נשמע קודר, אתה צודק. אך האם זה סביר? חוקרים ופילוסופים מתחילים להרהר כיצד זה עשוי להתרחש - וחשוב מכך, מה אנחנו יכולים לעשות כדי להימנע מכך.

סיכונים קיומיים (סיכוני x) הם הרות אסון מכיוון שהם נועלים את האנושות בגורל אחיד, כמו קריסת ציביליזציה קבועה או הכחדת המין האנושי שלנו. לאסונות אלה יכולות להיות סיבות טבעיות, כמו השפעת פגיעת אסטרואיד או התפרצות הר געש, או יכולים להיות מיוצרות עי בני אנוש מקורות כמו מלחמה גרעינית או שינויי אקלים. לאפשר לזה להתרחש יהיה "סוף מוחלט לסיפור המין האנושי" ויאכזב את מאות הדורות שבאו לפנינו, אומר היידן בלפילד, מנהל פרויקטים אקדמיים במרכז לחקר הסיכון הקיים באוניברסיטת קיימברידג '.

טובי אורד, עמית מחקר בכיר במכון העתיד לאנושות (FHI) באוניברסיטת אוקספורד, סבור כי הסיכויים לפורענות קיומית ש יקרה במאה זו מסיבות טבעיות הם פחות מאחד מ2000 , מכיוון שבני אדם שרדו במשך 2,000 שנה בלי אחד . עם זאת, כשהוא מוסיף את ההסתברות לאסונות מעשה ידי אדם, אורד מאמין שהסיכוי גדל למצב מפחיד של 1 ל שש. הוא מכנה את המאה הזו הסיכון לאבד את עתידנו מעולם לא היה כה גבוה.

חוקרים במרכז הסיכון לטווח ארוך, מכון מחקר ללא כוונת רווח בלונדון, הרחיבו את סיכוני ה- X עם הסיכוי המצמרר עוד יותר סיכונים לסבל . "סיכוני s" אלה מוגדרים כ"סבל בקנה מידה אסטרונומי, העולה בהרבה על כל הסבל שהיה עד כה על פני כדור הארץ. " בתרחישים אלה החיים נמשכים עבור מיליארדי אנשים, אך האיכות כה נמוכה והתחזית כה עגומה עד כי מוות תהיה עדיפה. בקיצור: עתיד עם ערך שלילי גרוע מזה שאין לו ערך בכלל.

כאן נכנס התרחיש "עולם בשרשראות". אם קבוצה או ממשלה זדונית ישיגו לפתע כוח שולט בעולם באמצעות טכנולוגיה, ולא היה מה לעמוד בדרכה, זה עלול להוביל לתקופה ממושכת של סבל הכפפה וכפיפה. . בדו"ח מ 2017 על סיכונים קיומיים מפרויקט עדיפויות העולמי, בשיתוף עם FHI ואת משרד החוץ של פינלנד, הזהיר כי "עתיד ארוך תחת מדינה טוטליטרית עולמית אכזרית במיוחד טוען יכול להיות גרוע יותר מאשר הכחדה מוחלטת"

.

השערת סינגלטון

אף כי הטוטליטריות העולמית היא עדיין בנושאי לימודי נישה, חוקרים בתחום הסיכון הקיומי מפנים יותר ויותר את תשומת ליבם לגורם הסביר ביותר: בינה מלאכותית.

ב"השערת הסינגלטון "שלו , ניק בוסטרום, מנהל ה- FHI ב אוקספורד, הסביר כיצד ממשלה עולמית יכולה להיווצר עם בינה מלכותית או טכנולוגיות חזקות אחרות - ומדוע ייתכן שאי אפשר יהיה להפיל אותו . הוא כותב כי עולם עם "סוכנות קבלת החלטות יחידה ברמה הגבוהה ביותר" יכול להתרחש אם סוכנות זו "תשיג יתרון מכריע באמצעות פריצת דרך טכנולוגית בתחום הבינה המלאכותית או הננו-טכנולוגיה המולקולרית". לאחר שהיה בשליטה , הוא ישלוט בהתקדמות הטכנולוגיה המונעת אתגרים פנימיים, כמו מעקב או נשק אוטונומי, ועם מונופול זה יישאר יציב תמידית.

אם הסינגלטון הוא טוטליטרי, החיים יהיו עגומים. גם במדינות עם המשטרים המחמירים ביותר, דליפת חדשות פנימה והחוצה ממדינות אחרות ואנשים יכולים להתרחש . שלטון טוטליטרי עולמי יבטל אפילו את זרעי התקווה הקטנים הללו. ויהיה גרוע יותר מהכחדה, "זה אומר שאנחנו מרגישים לחלוטין לא חופש, שום פרטיות, שום תקווה לברוח, שום סוכנות שתשלוט בחיינו בכלל", אומר טאקר דייבי, סופר במכון "עתיד החיים" במסצ'וסטס, אשר מתמקד במחקר סיכונים קיומיים .

"במשטרים טוטליטריים של פעם היה כל כך הרבה פרנויה וסבל פסיכולוגי כי פשוט לא היה לך מושג אם תמות על שאתה אומר את הדבר הלא נכון," הוא ממשיך. "ועכשיו דמיין שאין אפילו שאלה, כל דבר שאתה אומר מדווח ומנותח."

"אולי אין לנו עדיין את הטכנולוגיות לעשות זאת", אמר אורד בראיון שנערך לאחרונה , "אך נראה כי סוגי הטכנולוגיות שאנו מפתחים הופכים את זה לקל וקל יותר. ונראה סביר שהדבר יתאפשר מתישהו במאה השנים הבאות. "

בינה מלכותית וסמכותיות

אף על פי שהחיים תחת ממשלה טוטליטרית עולמית הם עדיין תרחיש לא צפוי ועתיד רחוק, בינה מלכותית כבר מאפשר סמכותיות במדינות מסוימות וחיזוק תשתיות שעלולות להיות נתונות על ידי רודן אופורטוניסטי במדינות אחרות.

"ראינו סוג של התחשבות עם המעבר מחזונות אוטופיים מאוד של מה הטכנולוגיה עשויה להביא למציאות מפוכחת הרבה יותר, שמבחינות מסוימות כבר דיסטופיות למדי", אומרת אלזה קניה, עמית בכיר נוסף במרכז למען הביטחון האמריקני החדש, עמותה דו-מפלגתית המפתחת מדיניות ביטחון לאומי והגנה.

בעבר המעקב דרש מאות אלפי אנשים - אחד מכל 100 אזרחים במזרח גרמניה היה מודיע - אך כעת ניתן לעשות זאת על ידי טכנולוגיה. בארצות הברית אספה הסוכנות לביטחון לאומי (NSA) מאות מיליוני רשומות שיחות וטקסט אמריקאיות לפני שהפסיקה את המעקב הפנימי בשנת 2019 , וההערכה היא כי יש ארבע עד שש מיליון מצלמות טלוויזיה במעגל סגור ברחבי בריטניה. שמונה עשרה מתוך 20 הערים הנבדקות ביותר בעולם נמצאות בסין, אך לונדון היא השלישית. ההבדל ביניהם טמון פחות בטכנולוגיה שהמדינות מעסיקות ויותר באופן השימוש בהן.

מה אם ההגדרה מה לא חוקי בארה"ב ובבריטניה תתרחב לביקורת על הממשלה או עיסוק בדתות מסוימות? התשתית כבר קיימת כדי לאכוף אותה, ו- הבינה המלכותית - שה- NSA כבר החלה להתנסות איתו - יאפשר לסוכנויות לחפש בנתונים שלנו מהר מאי פעם.

בנוסף לשיפור המעקב, הבינה המלכותית גם מבסס את הצמיחה של מידע מוטעה באינטרנט, שהוא כלי נוסף של הסמכות. זיופים עמוקים המופעלים על ידי בינה מלכותית , אשר יכולים להפיץ מסרים פוליטיים מפוברקים , ומיקוד מיקרו אלגוריתמי ברשתות החברתיות הופכים את התעמולה למשכנע יותר. זה מערער את הביטחון האפיסטמי שלנו - היכולת לקבוע מה נכון ולפעול על פיו - ושהדמוקרטיות תלויות בהן.

"בשנים האחרונות ראינו את עליית פילטר" בועות" ואנשים נדחפים עי אלגוריתמים שונים להאמין לתיאוריות קונספירציה שונות, או אפילו אם אינן תיאוריות קונספירציה, להאמין רק לחלקים מהאמת", אומר בלפילד. . "אתה יכול לדמיין שהדברים מחמירים בהרבה, במיוחד עם תכנות כגון דיפ פייק ודברים כאלה, עד שיהיה לנו יותר ויותר קשה, כחברה, להחליט שאלה עובדות העניין, זה מה שאנחנו צריכים לעשות בקשר לזה, ו ואז נקיטת פעולה קולקטיבית. "

אמצעי מנע

הדו"ח שימוש הזדוני בבינה מלאכותית https://maliciousaireport.com/ , שנכתב על ידי בלפילד ו -25 מחברים מ -14 מוסדות, צופה כי מגמות כמו אלה ירחיבו את האיומים הקיימים על ביטחוננו הפוליטי ויציגו חדשות בשנים הקרובות. ובכל זאת, בלפילד אומר שעבודתו גורמת לו להיות עם תקווה וכי יש מגמות חיוביות, כמו דיונים דמוקרטיים יותר סביב הבינה המלכותית ופעולות של קובעי מדיניות (למשל, האיחוד האירופי שוקל להשהות את המערכת לזיהוי פנים במקומות ציבוריים), שומר עליו כאופטימי שנוכל להימנע מגורל קטסטרופלי. .

דייבי מסכים. "עלינו להחליט כעת מהם השימושים המקובלים והלא מקובלים לבינה מלכותית ", הוא אומר. "ועלינו להקפיד עם זהירות לתת לה לשלוט בכל כך הרבה תשתיות שלנו. אם אנחנו מתחמשים במשטרה במערכת לזיהוי פנים והממשלה הפדרלית אוספת את כל הנתונים שלנו, זו התחלה רעה. "

אם אתה נשאר ספקן מכך ש- בינה מלכותית יכול להציע כוח רב שכזה, חשוב על העולם לפני נשק גרעיני. שלוש שנים לפני תגובת השרשרת הגרעינית הראשונה, אפילו מדענים שניסו להשיג אותה האמינו שזה לא סביר. גם האנושות לא הייתה מוכנה לפריצת הדרך הגרעינית ונלחמה על סף "הרס מובטח הדדית" כיליון גלובלי לפני שהסכמים והסכמים הנחו את אי התפשטות הגלובלית של הנשק הקטלני ללא אסון קיומי.

אנחנו יכולים לעשות את אותו הדבר עם הבינה המלכותי , אבל רק אם נשלב את שיעורי ההיסטוריה עם ראיית הנולד כדי להתכונן לטכנולוגיה חזקה זו. העולם אולי לא יצליח לעצור משטרים טוטליטריים כמו הנאצים שיעלו שוב בעתיד - אך אנו יכולים להימנע מלהעביר להם את הכלים להאריך ולהעדיר את כוחם ללא הגבלת זמן.

-

הצטרפו למיליון מעריצים עתידיים על ידי שתאהבו אותנו  בפייסבוק , או עקבו אחרינו  בטוויטר  או  באינסטגרם .

אם אהבת את הסיפור הזה,  הירשם לניוזלטר השבועי של bbc.com המכונה "הרשימה החיונית". מבחר סיפורים שנבחרו בקפידה מן  העתיד BBC ,  תרבות ,  בעבודה וחיי אהבה מזופתים , ועל  מסעות , ישירות לתיבת הדואר הנכנס שלך כל יום שישי.

לכתבה המקורית : https://www.bbc.com/future/article/20201014-totalitarian-world-in-chains-artificial-intelligence?ocid=ww.social.link.email