ביטחון ביולוגי כתחום עשייה

בסרטון זה, קלייר זאבל מ-Open Philanthropy Project מדברת על העיסוק של הארגון בהפחתת הסיכון לאסונות ביולוגיים עולמיים (Global catastrophic biological risks). היא גם עוסקת במה אלטרואיסטים אפקטיביים יכולים לעשות כדי לסייע בתחום זה, וכן בהבדלים בין סיכונים ביולוגיים לבין סיכונים מבינה מלאכותית מתקדמת. בסוף השיחה היא גם משתפת מה את יכולה לעשות כדי לעזור. זהו תרגום לתמליל השיחה של קלייר זאבל. תודה לחגית בלס על התרגום!

השיחה


היום אני אדבר אתכם על ביטחון ביולוגי (BioSecurity) כתחום עשייה, ועל איך Open Philanthropy Project חושב עליו. אני חושבת שמדובר בתחום עשייה שמוכר כבר זמן מה בקרב אלטרואיסטים אפקטיביים, אך שלא מדובר בתחום שהקהילה חקרה לעומק כמו תחומים אחרים שדיברו עליהם באירוע הזה - כמו AI, רווחת בעלי חיים ועוני עולמי - אבל אני חושבת שהוא חשוב. אני חושבת שמדובר בתחום שלאלטרואיסטים אפקטיביים יש הזדמנות להשפיע בו באופן עצום, במיוחד אלטרואיסטים אפקטיביים עם כלים ותחומי עניין מעט שונים ממה שנדרש בתחומי עשייה אחרים. הייתי שמחה מאוד לראות יותר אלטרואיסטים אפקטיביים עוסקים בביטחון ביולוגי.


כשאני אומרת ביטחון ביולוגי, אני רוצה לוודא שאנחנו סגורים על הבעיה שאני מדברת עליה. אני מתכוונת למה שאנחנו קוראים ב-Open Philanthropy Project לסיכון לאסונות ביולוגיים עולמיים. אדבר אתכם על איך אנחנו רואים את הסיכון הזה, ואיפה אנחנו רואים אותו - ומאיפה אנחנו חושבים שהוא אולי מגיע. אדבר אתכם על איך אלטרואיסטים אפקטיביים יכולים לקדם בו שינוי. ואני רוצה לציין שאני לא מתמקדת באופן מיוחד בעבודה שאנחנו עשינו ושאחרים עשו. חשבתי שיהיה יותר מעניין לאנשים לקבל תחושה לגבי האופי של התחום והמרחב האסטרטגי כפי שאנחנו רואים אותו, לפני כניסה לפרטים של ארגונים ואנשים ספציפיים, אז אני מקווה שזה יהיה מועיל לכולם.


אני גם רוצה לציין בזריזות שאני חושבת שמדובר בתחום עשייה שפחות מחשבה הושקעה בו, ושהמחשבה שכן הושקעה, הושקעה לזמן קצר יותר, אז צריך להתייחס לדברים כראשוניים ולא ודאיים. יכול להיות שנשנה את דעתנו בעתיד הקרוב.


מקור החשש, כשאנחנו חושבים על סיכונים לאסונות ביולגיים עולמיים הוא למשהו שיכול לאיים על הפריחה לטווח ארוך של אוכלוסיית בני האדם, שיכול לפגוע באפשרות שלנו לעתיד באמת גדול ומלא באושר וצמיחה עבור יצורים תבוניים רבים. זה די שונה ממה שאתם עשויים לחשוב על סיכונים ביולוגיים שבדרך כלל מדברים עליהם, כגון אבולה או זיקה. אבולה או זיקה הן טראגיות מאוד עבור האנשים המושפעים מהן באופן ישיר, אך לא נראה כי ישנן ראיות שמצביעות על כך שיש להן סיכוי סביר לגרום להתמוטטות בינלאומית של חברות אנושיות, או לאיים על עתידנו באופן ארוך טווח.


בהמשך לכך, אנחנו מעריכים שצריך אסון ביולוגי עצום במימדיו כדי לאיים על העתיד ארוך הטווח. אנחנו בעצם חושבים על משהו שמחסל או פוגם באופן ניכר בנתח משמעותי של אוכלוסיית בני האדם כולה, יותר ממה שקרה בכל אחת ממלחמות העולם או במגפת השפעת הספרדית בשנת 1918. מכאן משתמע שאנחנו חושבים על תמותה בגובה של מאות מיליונים, ואף מיליארדים. יש הרבה עבודה מדהימה שאפשר לעשות כדי למנוע סיכונים קטנים יותר, אבל זה לא המיקוד שלנו בנתיים. אני גם לא מצפה שנעסוק בזה בעתיד. באופן כללי, מניעת סיכונים לאסונות ביולוגיים עולמיים מדורגת אצלנו בעדיפות גבוהה, למרות שאני חושבת שיש אי וודאות בעניין זה. אני חושבת שיש עדיפות גבוהה לברר יותר, ואז אנחנו נעדכן את ההאמנות שלנו לגבי כמה אנחנו צריכים לתעדף את העניין.


אז מה האופי של הסיכונים האלו? אנחנו חושבים שהסיכונים הגדולים ביותר הם מסוכנים (agents) ביולוגיים שיכולים להיות מועברים בקלות, שיכולים להשתחרר באזור אחד ולהתפשט, בניגוד למשל לאנתרקס שכאשר הוא משוחרר הוא נורא, אבל קשה להאמין שמדובר במשהו שיפגע בנתח משמעותי מהאוכלוסייה.


בתוך המרחב של מחלות מדבקות, אנחנו חושבים על אם סוג ההתקפה בעל הסיכון הגבוה ביותר הוא משהו שקרה באופן טבעי שיצא מבעלי חיים, או משהו שנעשה באופן מכוון על ידי אנשים במטרה ליצור הרס מסוג זה. או שאולי מדובר במשהו באמצע, ששוחרר בטעות ממעבדה בה נעשה מחקר.


כרגע, הניחוש הטוב ביותר שלנו הוא שהסיכון הגדול ביותר הוא תקיפה ביולוגית מכוונת. סיכון התאונה הוא בינוני, והסיכון הטבעי הוא נמוך. אני רוצה להסביר מדוע הגענו למסקנה זו, בגלל שאני חושבת שהרבה אנשים יחלקו על כך. חלק מהנימוקים לכך שאני מסתייגת מהסיכון הטבעי, הם שקודם כל, זה לא באמת קרה עד כה. ברור שבני אדם לא נכחדו, אחרת לא היינו פה בכלל. לא נראה שהאנושות הגיעה קרוב להתמוטטות בעקבות סיכון טבעי בעבר, במיוחד בעבר הקרוב.


אפשר לציין התרחשויות מסויימות, כמו המגיפה השחורה, שבהחלט גרמה להשפעות דרמטיות על האנושות בתקופות מסויימות בעבר. אבל מכאן משתמע שמדובר בשיעור בסיס (base rate) די נמוך. אנחנו צריכים לחשוב שבכל מאה, יש סיכוי די נמוך למחלה שתתעורר שיכול להיות שתהיה לה השפעה הרסנית שכזו. באופן דומה, נראה שזה לא קורה באופן תכוף גם לבעלי חיים, שמתעורר פתוגן שגורם להם להיכחד. אני יודעת שיש מקרה מאומת אחד עם יונקים. אני לא מכירה אחרים. מיעוט המקרים האלו גם מעיד על כך שזה לא דבר שקורה באופן תכוף, כך שבכל עשור נתון, אנחנו צריכים להניח שיש סיכוי נמוך להתרחשות הרת אסון של פתוגן טבעי רע.


בנוסף, אנחנו נמצאים במצב הרבה יותר טוב מבעבר, וגם במצב טוב יותר מחיות במובן מסויים, נוכח היכולות הביו-רפואיות שברשותנו. אנחנו יכולים להשתמש ביכולות האלו כדי לייצר חיסונים וטיפולים המיועדים להתמודדות עם סיכונים העולים מפתוגנים שעשויים לצוץ.


לבסוף, לפי טיעון מסוג קצת אחר, יש אנשים שטוענים שיש לחץ ברירתי נגד התפתחות של פתוגן קטלני במיוחד, בגלל שפתוגן כזה בדרך כלל הורג את הגוף המארח במהירות, והגוף המארח מנסה לנוח לפני המוות כך שהוא לא מפיץ את המחלה בחברה כמו שמפיצים צינון, אם אתם הולכים לעבודה כשיש לכם צינון.


עכשיו, לפני שלגמרי תשתכנעו לגבי זה, אני חושבת שיש כמה טיעוני נגד שיש להעלות בנוגע לאנושות, שמגדילים את הסיכוי להתרחשות של סיכון טבעי עכשיו ביחס לעבר. למשל, החברה האנושית יותר גלובאלית, כך שיכול להיות שבעבר התעוררו דברים קטלניים עבור האנושות, אבל אנשים היו כל כך מבודדים כך שהם לא ממש התפשטו וזה לא היה עניין גדול. היום, הכל יכול להתפשט בגדול בכל מקום בעולם.


בנוסף, יכול להיות שהאנושות היא הרבה יותר שברירית. קשה לדעת, אבל ייתכן שאנחנו הרבה יותר תלויים זה בזו. אנחנו תלויים בכל מיני מקומות שונים בעולם שמייצרים כל מיני סוגים שונים של סחורה, כך שהתמוטטות מקומית עשוייה להיות בעלת השלכות עולמיות שאנחנו כרגע לא מבינים.


טיעון נוסף שניתן להעלות בדרך כלל, זה שלגבי תאונה או תקיפה מכוונת, אין הרבה ראיות המצביעות על כך שמדובר בעניין גדול. אני מסכימה עם הטיעון הזה. לא היו הרבה תקיפות ביולוגיות מוכוונות בתקופה האחרונה. אין תקדים חזק מאוד. בכל זאת, הניחוש הטוב ביותר שלנו הוא שאין סיכוי גבוה שסיכון טבעי יגרום לפגיעה משמעותית באנושות.


כשאנחנו חושבים ביתר פירוט על המקור של סיכונים לתקיפות ביולוגיות הרות אסון, אנחנו יכולים לשקול שחקנים אפשריים שונים. אני לא חושבת שגיבשנו עמדה חזקה בעניין זה. אני כן רוצה להסביר מספר מקורות אפשריים. מקורות אפשריים יכולים להיות מדינות שונות. למשל, בתכניות של נשק ביולוגי, מדינות יכולות לפתח פתוגנים כנשק בעל פוטנציאל הרסני. קבוצות קטנות, כמו ארגוני טרור או קבוצות קיצוניות אחרות יכולות להתעניין בפיתוח יכולות כאלה. פרטים בעלי עניין, אנשים שעובדים במעבדות מסוגים שונים: באקדמיה, מעבדות ממשלתיות, ומעבדות פרטיות. יש קהילות "עשה זאת בעצמך" בתחום הביולוגי שבהן עושים ניסויים ביולוגיים שונים. אלו הקבוצות השונות שעשויות לתרום לסיכון לאסונות ביולוגיים גלובליים.


יש כל מיני סוגים שונים של פתוגנים ואני חושבת שכאן - החשיבה שלנו היא אף ראשונית יותר - אנחנו במיוחד חוששים מפתוגנים וויראליים, בגלל שיש פוטנציאל הדבקה וקטלנות גבוה בקרב ווירוסים. הם יכולים לזוז מהר מאוד. הם יכולים לעבור מאוד מהר. יש לנו פחות אמצעים להפעיל נגדם. אין לנו משרע רחב של תרופות אנטי-וויראליות יעילות, מה שאומר שאם יש פתוגן וויראלי חדש, לא מדובר במצב שבו יש לנו מנעד רחב של כלים שאנחנו יכולים לצפות שיהיו יעילים במיוחד נגדו.



יצרתי את הטבלה הקטנה הזו שיכולה להמחיש איך חילקנו את הסיכונים הללו. למעלה יש את ההבחנה בין פתוגן טבעי ופתוגן מהונדס, ובציר האנכי יש את ההבחנה בין התפרצות טבעית לבין שחרור מכוון. הסיבה שאני מסמנת את הרביעונים הללו היא שאני חושבת שיש שתי דרכים להגביר את ההרסנות של תקיפה. אחת היא הנדסת פתוגן ברמה גבוהה, והשנייה היא ייעול של שיטת התקיפה. למשל, אם שחררתם פתוגן בשדה תעופה מרכזי, תצפו שהוא יתפשט במהירות רבה יותר מאם שחררתם אותו בכפר נידח. אלו שתי דרכים שונות שבהם אתם יכולים להיות הרסניים יותר, אם אתם מעוניינים בכך. אני מקווה שאתם לא. הניחוש שלי הוא שיש יותר מרחב התייעלות בהנדסת הפתוגן המסויים, מאשר באופן ההפצה. נראה שיש מרחב גדול יותר, אבל אנחנו לא בטוחים בכך לגמרי.

הנה הכיוון שממנו אנחנו חושבים שהסיכון מגיע. יש התקדמות בטכנולוגיות לעריכה גנטית, שזהו מקור רציני מאוד לסיכון. אני חושבת שההתקדמות הזו יצרה הרבה יותר מקום להתעסקות עם ביולוגיה באופן כללי באופן המוריד את המשאבים ואת כמות ידע הנצרכים ליצור פתוגנים חדשים שהם שונים ממה שקיים בטבע, כך שניתן להבין איך הם פועלים. יש לזה פוטנציאל מדהים לעשייה חיובית, אך יש כאן גם פוטנציאל לשימוש לרעה. נראה השרבה יותר זול לסנתז DNA ו-RNA, כדי להשיג חומר לפתוגנים שונים. זה אומר שהיכולות האלו הופכות לנגישות יותר, רק בגלל שהן זולות יותר. רגולציה סביבן ואימות קונים הופכות לנתח משמעותי יותר מהעלויות, מה שאומר שחברות מתומרצות להפסיק את הרגולציה והאימות.


יכולות ביו-טכנולוגיות הופכות גם הן להיות זמינות יותר מסביב לעולם. הם מופצות לאזורים שונים, ולמעבדות חדשות. שוב, מדובר בעיקר לסימן לקידמה. לאנשים יש נגישות לטכנולוגיה, במקומות באסיה ומסביב לכולם יש קבוצות גדולות של מדענים מוכשרים, וזה ממש מעולה לרוב, אבל זה אומר שיש יותר מקורות אפשריים לסיכון ממה שהיה בעבר.


לבסוף, כל הדברים האלו קורים בקצב הרבה יותר מהר ממה שמשטרים מסוגלים להתמודד איתו, ואז נורמות יכולות להתפתח, כך שמגיעים למצב שבו הטכנולוגיה עקפה את החברה שלנו ואת האמצעים שלנו להתמודד עם סיכון, מה שמגביר את רמת הסכנה.


עכשיו אני אשווה בטחון ביולוגי ליישור בינה מלאכותית (AI alignment) ואבחין ביניהם, כי אני חושבת שיישור בינה מלאכותית הוא נושא יותר מוכר. יכול להיות שיהיה מועיל להסב את תשומת הלב להבדלים בין הנושאים, כדי להכניס אנשים לעניינים. אני חושבת שבאופן כללי, הסיכון לשינוי כיוון שלילי של העתיד הרחוק בשל בטחון ביולוגי הוא נמוך יותר. לי נראה שמדובר בסיכון נמוך יותר.

כשמתייחסים לסיכון בטחוני ביולוגי, יש פחות יתרונות אפשריים. עם בינה מלאכותית, אפשר לדמיין שאם היא מפותחת באופן טוב, יש פוטנציאל אדיר לשיפור יכולות אנושיות, ולגרום לשגשוג האנושות. עם בטחון ביולוגי, אנחנו בגדול מקווים ששום דבר לא יקרה. המקרה הטוב ביותר הוא פשוט כלום. אין תקיפות. אף אחד לא מת. החברה מתקדמת. במקרה של יישור בינה מלאכותית, אולי מישהו מייצר בינה מלאכותית מיושרת, שזה יהיה נהדר. אבל עם בטחון ביולוגי, מדובר בעיקר במניעת סיכונים. הרבה מהסיכון כאן מגיע מאנשים עם כוונות פעילות ורעות, בניגוד לאנשים עם כוונות טובות, או אנשים שפשוט מעוניינים במחקר, במיוחד אם אתם מאמינים ומסכימים איתי שתקיפות מכוונות הן מקור החשש הסביר ביותר.


בביטחון ביולוגי, יותר מבינה מלאכותית, אני חושבת שיש הרבה יותר שחקנים הנמצאים בשני הצדדים, בניגוד למצב בבינה מלאכותית שבו יש מעט מעבדות עם הרבה יכולות. יכול להיות מצב בתחום הבטחון הביולוגי שבו יש מיליוני אנשים שמסוגלים לעשות פעולות די הרסניות. כמו כן, אנחנו יכולים באופן חד צדדי לייצר אמצעי נגד התקיפות שלהם. החיבור בין מקורות הסיכון למקורות הפחתת הסיכון הוא רופף. מדובר במקורות יותר מנותקים זה מזה. יש הרבה יותר שחקנים אפשריים בין אם בצד ההגנה ובין אם בצד ההתקפה.


אני חושבת שהאופן שבו Open Philanthropy Project רואה את התחום הזה כרגע הוא שונה מאיך שרוב האנשים רואים אותו. רוב השיח בתחום מתרכז בסיכונים הרבה יותר קטנים מאלו שמדאיגים אותנו. אני חושבת שהשיח בעניין התרחשויות עם רמת תמותה גבוהה יותר ממיליון אנשים לא היה מאוד פעיל עד לאחרונה. היה קשה לנו למצוא אנשים שמעוניינים לעסוק במשהו כזה. אני חושבת שחלק מהסיבה לכך היא שהיה מאוד קשה להשיג מימון במרחב הזה, אז אנשים רוצים לוודא שהעבודה שלהם נראית מאוד רלוונטית. ובגלל שתקיפות קטנות, והתפרצויות קטנות הן שכיחות הרבה יותר, דרך טובה לגרום לעבודה שלך להיות רלוונטית היא להתמקד דווקא בהן.


יש מחלוקת מתמשכת בתחום מה מבין שחרור טבעי, מכוון, או כתוצאה מתאונה הוא בעל הסיכון הגבוה ביותר. אני לא חושבת שאנשים מתואמים לגבי מהי התשובה לשאלה זו. אני לא חושבת שכולם מסכימים איתנו ששחרור מכוון הוא המקור העיקרי לחשש כרגע. אז אנשים ממש מנסים למצוא את האיזון של הסדרת מחקר בעל סיכון, מבלי להסדיר מחקר מועיל, תוך שימור תחרות לאומית, ועידוד מחקר ופיתוח יעיל של ביוטכנולוגיה.


בהינתן כל האמור, יש לנו כמה מטרות במרחב הזה. מדובר במטרות מוקדמות. הם לא יספיקו בעצמן. מדובר בעיקר בדוגמאות, אבל אני חושבת שהן יכולות לקדם אותנו. הדבר הראשון שאנחנו באמת צריכים להבין אלו הסיכונים הרלוונטים בפרט. אני בנתיים משאירה את זה ברמת הפשטה גבוהה, כי אין הרבה זמן, גם כי אני חושבת שלדבר על חלק מהסיכונים האלו בפומבי זה לא פרודוקטיבי במיוחד, וגם כי אנחנו לא בטוחים בהם במיוחד. אני חושבת שזה יהיה מאוד מועיל שיהיו אנשים שייכנסו לעובי הקורה של סיכונים פרטניים. חישבו מה מישהו צריך לעשות כדי להצליח לייצר תקיפה ביולוגית ממש הרת אסון. כמה מדובר באפשרות רחוקה? אילו סוגים של התקדמות טכנולוגית נדרשים כדי שזה יקרה? אם אנחנו יכולים לענות על השאלות האלו, אנחנו יכולים לפתח תחושה לגבי הגודל של סיכונים ביולוגיים הרי אסון, ומכמה שחקנים צריך לדאוג.


הבנה של סיכונים ספציפיים תעזור לנו לתעדף פעולות שאנחנו יכולים לעשות כדי לפתח אמצעי-נגד. אנחנו רוצים לתמוך באנשים שנמצאים בארגונים שמגדילים את היכולת בתחום להגיב לסיכונים לאסונות ביולוגיים עולמיים. הסיבה לכך היא שכרגע, התחום של בטחון ביולוגי היה חסר מימון להרבה זמן. הרבה אנשים עזבו את התחום. אנשים צעירים מתקשים להכנס לתחום. בתקווה מדובר במצב שמשתנה, אבל עדיין מדובר במצב קשה, להשקפתי. אנחנו רוצים לוודא שהאיכות של התחום תעלה, שיהיו הרבה חוקרים שאכפת להם מאותם סיכונים שלנו אכפת מהם, כך שאנחנו בגדול נלהבים לתמוך באנשים שמגלים סימנים מעבר לכיוון הזה.


לבסוף, אנחנו רוצים לפתח אמצעי-נגד רפואיים לדברים שאנחנו מודאגים מהם. היועצים שלנו לענייני מדע החלו לבחון את הסוגיה הזו. יש לנו כמה רעיונות לגבי מהם הסיכונים הנוראיים ביותר, ואם אנחנו יכולים לפתח ולאגור אמצעי-נגד מראש, אני חושבת שאנחנו יכולים להיות הרבה יותר מוכנים להתייחס לסיכונים לכשהם יעלו.


לבסוף, אני רוצה לדבר אתכם קצת על מה אני חושבת שאלטרואיסטים אפקטיביים יכולים לעשות כדי לעזור. אני רואה הרבה ערך פוטנציאלי בייבוא חלק מנקודות המבט של אלטרואיזם אפקטיבי לתחום. כרגע אין הרבה אלטרואיסטים אפקטיביים בתחום הבטחון הביולוגי, ואני חושבת שנקודת המבט של אלטרואיזם אפקטיבי היא די מיוחדת, ויש לה משהו מיוחד להציע. אני חושבת שחלק מהיתרונות שלה היא, בראש ובראשונה, ההיכרות עם הרעיון של בזבוז עצום (astronomical waste) והערך של העתיד הרחוק. נראה שזה רעיון שקשה להבנה. זה קצת מוזר ולא אינטואיטיבי, אבל הרבה אלטרואיסטים אפקטיביים חושבים שמדובר ברעיון משכנע. הרבה אנשים אחרים חושבים שמדובר ברעיון מטורף, או שהם לא ממש שמעו עליו. אני חושבת שיותר מחשבה על מאגר הערך הזה, ועל האנשים האלו מהעתיד שלא יכולים לדבר בעד עצמם, יכול לסייע לתחום של בטחון ביולוגי.


עוד היבט של נקודת המבט של אלטרואיזם אפקטיבי שאני חושבת שהוא מדהים, זה הנוחות עם סדרי עדיפויות ברורים, היכולת להגיד "אנחנו באמת צריכים לעשות א,ב, ו-ג'. ר', ש', ו-ת' הם בעדיפות נמוכה יותר. הם יעזרו לנו פחות. קשה יותר לנהל אותם. הם יותר מאוכלסים. אנחנו צריכים להתחיל מהדברים האחרים". אני חושבת שכרגע, לתחום אין תמונה בהירה בנוגע לזה. אין מסלול מחושב ומפותח שנוגע להיבטים האלו. אני חושבת שאלטרואיסטים אפקטיביים יכולים לעזור בהקשר זה.


לבסוף, אני חושבת שאלטרואיסטים אםקטיביים הם ספקנים, כאשר מדובר בספקנות המאופיינת בשיטות מבוססות ובמומחיות. זה מצויין כי אני חושבת שזוהי יכולת הכרחית כמעט בכל תחום. במיוחד בתחומים שמערבים יחסי גומלין מורכבים בין מדעי הטבע למדעי החברה. אני חושבת שיש מרחב די גדול שדברים יהיו מוטים בכיוונים מסויימים. לא ראיתי הטיות פוגעניות במיוחד בנתיים, אבל הגנה מפני הטיות כאלו יכולה להיות מועילה מאוד.


יש גם פעילות המתרחשת ב Future of Humanity Institute שאנו נרגשים לגביה. נראה שיש מטרות ברות השגה ממש עכשיו. יש הרבה פרוייקטים שאלטרואיסט אפקטיבי יכול לקחת על עצמו ובסיכוי סביר הוא יצליח להתקדם. אני חושבת שהתקדמות בבטחון ביולוגי יותר נוגעת לאיסוף מידע וניתוח שלו, ופחות מבוססת על תובנות.


אני חושבת שאתם צריכים לשקול להיכנס לתחום הביטחון הביולוגי אם אתם אלטרואיסטים אפקטיביים שהעתיד הרחוק מעסיק אתכם, אם אתם רוצים לוודא שכולנו נוכל להינות מהמתנה הקוסמית הנהדרת שלנו, ואם חושבים שאתם מתאימים לעבודה בקביעת מדיניות או במדעי הביו-רפואה.


זה אזור שאני חושבת ששמירה על הבטיחות בו תגיע מזה שאנשים לא ייצרו תשומת לב מוגזמת כלפי אפשרויות שונות כאשר הן עולות, לפחות עד שאנחנו מפתחים אמצעי נגד. חשוב שיהיו אנשים שמרגישים בנח עם הרעיון של עשייה מרובה אבל שיתוף מועט של מה הם עושים, ולא לחשוף יותר מדי, כי זה יכול להוביל לתוצאה ההפוכה ולהגביר סיכון. זה מה שאני מקווה שאנשים יהיו מוכנים לעשות. אני מקווה שנוכל למצוא אלטרואיסטים אפקטיביים שמוכנים לעבור לתחום הזה. אם אתם מרגישים שאתם מעוניינים לעבור לתחום הזה, אני מעודדת אתכם לפנות אליי, או לתפוס אותי במהלך הכנס הזה, ולדבר על מה הייתם רוצים לעשות ומה מונע מכם לעשות זאת.


בעתיד יכול להיות שנכתוב קצת יותר על איך אנחנו חושבים שאנשים יכולים להיכנס לתחום הזה ולעשות מחקר מועיל, אבל עוד לא ממש עשינו את זה, אז בנתיים אני מקווה שאנשים יפנו. תודה רבה, אני אענה עכשיו על שאלות.


שאלה: אוקיי, אז יש לנו כמה שאלות שהגיעו, ואני הולך לעבור עליהן ולתת לך הזדמנות לענות על כמה שיותר מהן. הדגשת את הסיכון של פתוגן ויראלי. מה אם הבעיה, נראה לי, היותר מוכרת אך לא מובנת של עמידות בפני אנטיביוטיקה? זה משהו שאתם חושבים עליו, וכמה אתם חוששים ממנה?


קלייר זאבל: כן, אני חושבת שזו שאלה טובה. ל-Open Philanthropy Project יש דו"ח על עמידות בפני אנטיביוטיקה שאני ממליצה לכם לקרוא אם הנושא הזה מסקרן אתכם. אני חושבת שכשמדברים על פתוגנים חיידקיים, מדובר בנושא מדאיג מאוד. הניחוש שלנו הוא שלא מדובר בחשש מיוחד כשחושבים על סיכונים לאסונות ביולוגיים עולמיים, ראשית, כי יש כבר לחץ ברירתי גדול על חיידקים לפתח עמידות מסויימת בפני אנטיביוטיקה, כאשר יש לזה בעיקר השלכות שליליות, אבל גם השלכה חיובית אחת שזה שאם קל לעשות את זה, זה יקרה באופן טבעי לפני שזה מתרחש באמצעות תקיפה ביולוגית מכוונת.


עוד סיבה לכך שאנחנו יותר מודאגים מווירוסים מאשר מחיידקים, היא מכיוון שווירוסים עוברים יותר בקלות, וקשה יותר לחטא דברים מפתוגנים ויראליים. אז אני לא חושבת שעמידות בפני אנטיביוטיקה תהיה בעדיפות גבוהה מנקודת מבט של בטחון הביולוגי ארוך טווח. אני חושבת שממש יכול להיות שאנחנו לחלוטין טועים לגבי זה. אני מאוד פתוחה לאפשרות הזו, ומה שאני אומרת הוא ברמת ביטחון די נמוכה כרגע.


שאלה: מעולה. שאלה הבאה. באיזו מידה סיכונים ביולוגיים קטנים וגדולים הם דומים, ובאיזו מידה אמצעים נגד כל סוג של סיכון הם דומים, כך שניתן לעבוד יחד עם אנשים שעסקו במיקוד המסורתי של סיכונים קטנים יותר?


קלייר זאבל: זו שאלה מעניינת. אני חושבת שזו שאלה מורכבת, ושתשובה פשוטה לא תתן מענה מוצלח. כשאני חושבת על סיכונים בקנה מידה גדול, הם נראים די שונה מסיכונים רגילים, בעיקר בגלל שהם מהונדסים מאוד. הם מותאמים לקטלניות. זה לא טבעי. זה לא משהו מאוד מוכר לנו, מה שאומר שהסיכוי שיש לנו תגובה מוכנה הוא נמוך. סביר שהם יוכלו להציף מערכות בריאות, גם במדינות מפותחות, שזה משהו שאין לנו הרבה ניסיון איתו.


אבל, לגבי החלק השני של השאלה לגבי מידת התועלת של מאמצים להתמודד עם סיכונים בקנה מידה קטן להתמודדות עם סיכונים בקנה מידה גדול ולהיפך, נראה לי שמדובר בשאלה פתוחה עבורנו. ככל שאנחנו מתקרבים לתעדוף של מרחב העשייה הזה, תהיה לנו השקפה ברורה יותר בנושא. יש כמה פעולות שאנחנו יכולים לנקוט בהן. למשל, פעילות מול משטרים כדי שהם יקחו את עניין הבטחון הביולוגי יותר ברצינות יכולה לעזור לשני סוגי הסיכונים. מצד שני, אני חושבת שפיתוח אמצעי-נגד פרטניים, ככל שנתקדם בציר הזה, יעזור בסיכוי סביר יותר להתמודדות עם סיכונים בקנה מידה גדול, ויהיה פחות שימושי עבור סיכונים בקנה מידה קטן, למרות שאני כבר יכולה לחשוב על דוגמאות סותרות אז בהחלט לא מדובר בטענה הרמטית.


שאלה: כשאת חושבת על הסוג הזה של תקיפות מהונדסות שיכולות ליצור סיכון בקנה המידה הגבוה ביותר, נראה שאחד מהדברים שהיה לטובתנו, לפחות בנתיים, זה שצריך די הרבה הון בשביל להשיג מעבדה ולבצע את הסוג הזה של הנדסה ביולוגית. אבל, כפי שציינת, דברים נהיים זולים יותר. זה נהיה יותר זמין באופן רחב. איך את רואה את העקומה הזו מתפתחת עם הזמן? כרגע, כמה הון צריך לדעתך כדי לפתוח מעבדה ולהתחיל את סוג העבודה הגרועה הזו אם היית רוצה, ואיך זה נראה בעוד חמש, עשר, עשרים שנה מעכשיו?


קלייר זאבל: אני לא חושבת שאני רוצה להגיד כמה זה מצריך כיום, או כמה בדיוק אני חושבת שזה יצריך בעתיד. אני חושבת שהעלויות יורדות די במהירות. זה תלוי במה נהיה הכרחי, נגיד, המחיר של סינתזת DNA יורד מאוד מהר. יכול להיות שזה המצב שזה חלק שהוא ממש זול, אבל שניסויים עם פתוגן מסויים שיש לו יכולות קטלניות לדעתך - למשל, ניסויים בבעלי חיים - הם מאוד יקרים, וזה לא נראה כאילו שהמחירים של החלק הזה של תקיפה קטלנית אפשרית יורדים במהירות.


ככלל, אני חושבת שהעלויות ימשיכו לרדת, אבל שבעשורים הקרובים העקומה תתיישר.


שאלה: מעניין. האם השבחה ביולוגית נכנסת תחת הפרוייקט שלך? האם השקעתם זמן בלחשוב על, למשל, להשביח בני אדם או לעבוד על עריכה גנטית של אנשים ואיך זה עשוי להיות מועיל או מערער בדרכו שלו?


קלייר זאבל: זה לא משהו שאנחנו ממש שקלנו כחלק מהתכנית שלנו לביטחון ביולוגי.


שאלה: הגיוני. כמה Open Philanthropy Project מעוניין במימון חוקרים מתחילים בבטחון ביולוגי או הגנה ביולוגית? ובאותו הקשר, אילו מבין התחומים הללו היית אומרת שיותר בעל ערך כרגע? האם אתם מחפשים אנשים בעלי יכולות אסטרטגיות גדולות, או אנשים שהם יותר עוסקים בביולוגיה סינטטית "רטובה"?


קלייר זאבל: כן. אני חושבת שאנחנו נלהבים בנוגע לאלטרואיטסים אפקטיביים שמעוניינים בכל אחד מאלו, פוטנציאלית, כתלות במטרות שלהם בתחום, מידת ההתאמה הערכית שלהם, והמסירות שלהם לכישורים מסויימים. אני חושבת ששני הסוגים הם שימושיים. אני מניחה שההתמקצעות, למשל, במדיניות או במדע ביו-רפואי עשוי להיות יותר מועיל לטווח הארוך. אני מקווה שאנחנו נתקדם הרבה בהיבטים האסטרטגיים, אבל כרגע אני חושבת שיש צורך בשניהם.


שאלה: עבור מישהו שההשכלה והכישורים שלו התמקדמו בלמידת מכונה, באיזו מידה הוא יכול לתרום בקלות לסוג העבודה שאתם עושים, ואיך זה יראה אם הוא ירצה להיות מעורב?


קלייר זאבל: אני לא יודעת. לא ראיתי מישהו שניסה לעשות את זה. אני חושבת שזה יהיה אפשרי בגלל שיש אפשרות שמישהו בלי שום רקע בתחום, באופן כללי, יהפוך להיות מעוד יעיל ומועיל תוך פרק זמן קצר, ואני לא חושבת שרקע בלמידת מכונה גורע מכך. יכול להיות שמדובר אף ביתרון, למרות שאני לא בטוחה באיזה אופן. אני חושבת שכרגע, הדרך הכי נכונה להתנהל היא פשוט לעשות תואר שני או דוקטורט בתחום קשור ואז לנסות לעבור לאחד מהארגונים הרלוונטים, כמו מקבל המענק הגדול ביותר שלנו the Center for Health Security. ובשביל זה אני חושבת שכנראה שרקע בלמידת מכונה לא יהווה חסרון משמעותי או יתרון גדול מאוד.


שאלה: זה הזמן שיש לנו כרגע, למרבה הצער.


צרו איתנו קשר!
EffectiveAltruismIsrael@gmail.com

©2019 by Effective Altruism Israel