על אינטיליגנציית-על

מאת נביא שקר

(בפוסט הזה לא יהיו גרפים או ניתוחים סטטיסטיים. היי! לאן אתם הולכים?)

אני מניח שלפחות אחד משני האנשים שקוראים את הבלוג הזה שמע על ׳אינטיליגנציית-על׳. זה נושא דיון פופולרי לאחרונה בקרב חוגים מסויימים. אין לי כוונה לשחזר את הטיעון בפירוט, מכיוון שאנשים אחרים עשו זאת בצורה טובה, אבל כן הייתי רוצה להוסיף מחשבה או שתיים.

אבל לפני זה ובכל זאת, לטובת מישהו שאין לו כוח לקרוא את הרקע אבל רוצה משום מה לקרוא את התוספת, הנה סיכום של הדיון/טיעון עד כה. אני לא אומר שאני מאמין בטיעון הזה, אני רק מסכם אותו למיטב הבנתי:

(פתח טיעון)

אנחנו בדרך לפיתוח אינטיליגנציה מלאכותית בעלת רמת חשיבה המקבילה לאינטיליגנציה האנושית. רוב העוסקים במלאכה כיום מסכימים שאנחנו נצליח, השאלה היא מתי. רוב העוסקים במלאכה חושבים שזה יקרה במאה הקרובה, אם כי הם חלוקים לגבי לוח הזמנים. יש כאלה שחושבים שאם זה יקרה, אז נוכל גם לפתח אינטיליגנצית-על, או יותר נכון האינטיליגנציה המלאכותית שנפתח תוכל לשפר את עצמה באופן טוב יותר ומהיר יותר, והיא תהפוך את עצמה לאינטיליגנצית-על.

ניק בוסטרום, שחיבר את אחד הספרים המשפיעים בנושא, מוסיף וטוען שאנחנו אפילו לא צריכים להניח שמדובר באירוע סביר. מספיק שיש איזשהו סיכוי שזה יקרה, ומכיוון שאנשים לא בטוחים מתי זה יקרה אז כדאי שנפזר את ההסתברות שלנו לאורך זמן ארוך.

אינטיליגנצית-על תהיה טובה יותר מאיתנו בכל דרך אפשרית, וזה מפחיד, כי יש סיכוי מאוד סביר שהיא לא תהיה בעדנו. זה לא שאותו סוכן מלאכותי ירצה להשמיד אותנו כי הוא מרושע, אלא יותר כי לא אכפת לו מאיתנו. השאלה העיקרית הופכת להיות פונקציית התועלת של אינטיליגנצית-העל.

אבל, יש לנו עוד כמה עשורים לפחות עד שזה יקרה. האם לא כדי לנצל את הזמן הזה כדי לפתח דרכים שונות לשלוט בפונקציית התועלת של אינטיליגנציות שונות? לפתח דרכי חשיבה שקשורות לשליטה ובטחון באינטיליגנציה מלאכותית? האם זה לא שווה כמה מיליונים ומוסד או שניים?

(סגור טיעון)

בינואר 2015, כל מיני אנשים שמפחדים מאוד מאינטיליגנציאת על (כמו מקס טגמרק ואלון מאסק), יחד עם ״סתם״ אנשים שעוסקים באינטיליגנציה מלאכותית (כמו ראשי deepmind וסטוארט ראסל) התכנסו כדי לדון בנושא. הכנס בכוונה לא כלל אנשי תקשורת, כיוון שהמשתתפים הרגישו שכל הזמן מעוותים את מה שהם אומרים וסתם יוצרים כותרות בומבסטיות (חוסר היכולת של עתידנים שכאלה לחזות את תגובת המדיה לדברים שלהם היא עניין משעשע אבל לא רלוונטי כרגע)

היו שם כמה דברים מעניינים, כמו דיון בהשפעה האפשרית של אינטיליגנציה מלאכותית על שוק העבודה העתידי, או סקר פנימי בקרב המשתתפים לגבי ׳זמן ההגעה׳ של אינטיליגנציה מלאכותית ברמה אנושית. היו גם דיונים רבים על אינטיליגנצית-על והסכנה הגלומה בה.

להפתעתם הרבה, כולם הסכימו פה אחד שאולי כדאי לחשוב על העסק קצת יותר, ולקראת הסוף אלון מאסק אמר ״בסדר, שכנעתם אותי, קחו 10 מיליון דולר ותחשבו על זה קצת יותר״.

אולי תצטערו לשמוע שכבר עבר הדד-ליין להגיש הצעות למימון השנה, אבל תוכלו לנסות שנה הבאה, בהנחה שלא תקום עד אז אינטיליגנצית-על שתמחץ את כולנו.

ולמה אני מזכיר את כל זה? כי העסק נשמע יחסית משכנע, וקשה לריב עם טגמרק כשכל טיעון שמעלים בפניו הוא רק הזדמנות להגיד שצריך לחשוב על זה עוד קצת, ובדיוק בגלל זה הם הקימו את המוסד שלהם, וכדאי להקדיש לזה כסף.

אבל דווקא בגלל שזה כל-כך משכנע וקשה בכלל להבין מי יכול להתנגד למשהו כל-כך סביר, אולי כדאי לקחת צעד אחורה ולהפעיל את אותו הגיון (שהוביל בינתיים להוצאת כמה מיליונים טובים) על נושאים קצת יותר איזוטריים.

הנה דוגמא:

יש סיכוי מסויים שאנחנו חיים בתוך סימולציה. ניק בוסטרום, אותו בחור שכתב את superintelligence, הציע בעבר את ׳טיעון הסימולציה׳ ומעריך אישית שיש סיכוי של 20% שאנחנו פשוט סימולציה של תרבות אחרת. בואו נגיד שאנחנו לא יודעים בדיוק מה הסיכוי שאנחנו חיים בסימולציה, אבל מיטב המוחות מסכימים שהוא גדול מאפס. האם זה לא כביר? אם זה נכון, הרי שזאת אחת התגליות הכי גדולות שהאנושות אי-פעם גילתה! מי עושה לנו סימולציה? ולמה? האם יש דרך ליצור איתם קשר? לשלוט עליהם באופן כלשהו? לנווט את חיינו בתוך הסימולציה למקום טוב יותר? אינני יודע. אינני יודע אפילו אם אלה השאלות הנכונות לשאול, אבל האם זה לא שווה כמה מיליונים ואיזה ׳מוסד סימולציה׳ או שניים בשביל לחשוב על זה?

אני מניח שאפשר להפעיל את ההגיון הזה גם על הטענה שחייזרים שולטים עלינו, או שאנחנו באיזשהו גן-חיות בין-גלקטי, או כל מיני תסריטים אחרים.

===

ואסיים במחשבה קשורה/לא-קשורה. באותו כנס שהזכרתי (ינואר 2015), סטוארט ראסל הציע את הסיפור הבא כדי להדגים מדוע צריך לחשוב ולהשקיע במחשבה סביב אינטיליגנציית-על:

״תארו לעצמכם שקיבלנו מסר מחייזרים היפר-אינטיליגנטיים, מתקדמים יותר מאיתנו באופן בלתי-נתפש. המסר מכיל רק את המשפט הבא: ׳אנחנו באים לקראתכם, נגיע עוד 30-60 שנה. התכוננו׳. האם היינו ממשיכים בחיים כרגיל? או שאולי היינו מנסים לפחות לחשוב קצת על המפגש האפשרי הזה, ומה אפשר לעשות לגביו?״

זאת מחשבה יפה ומעניינת, וכנראה שרוב משתתפי הכנס חשבו שזה טיעון משכנע מדוע כדאי להשקיע משאבים במחשבה על בקרה ושליטה באינטיליגנציה מלאכותית. זאת גם הייתה התגובה הראשונית שלי, אבל ככל שחשבתי על המסר הזה יותר, הוא רק הכניס אותי לדיכאון. מה לעזאזל הטעם בהתכוננות לקראת מפגש עם חייזרים היפר-אינטיליגנטים? הם יבואו ויעשו מה שבא להם, וזהו.

מודעות פרסומת