ערב חשיפה לאתגרים הגדולים ב - AI SAFETY

היכולות של מודלי AI מתקדמות בקצב מהיר, לעיתים מהר יותר מהיכולת שלנו להבין, להעריך ולאבטח אותן. עדיין אין לנו דרך אמינה לדעת מה מתרחש בתוך מודל, לוודא שהוא למד את המטרה שהתכוונו אליה ולא רק למד לעבור את מבחני ההערכה שלנו, או להגן באופן מלא על מודלים מתקדמים מפני גניבה ושימוש לרעה.

אם הפיתוח של AI מתקדם ילך טוב, הוא עשוי לאפשר קפיצות משמעותיות במדע, ברפואה ובצמיחה הכלכלית. אבל לצד ההזדמנויות קיימים גם סיכונים משמעותיים, החל ממתקפות סייבר מתקדמות והנדסת פתוגנים מסוכנים, ועד שימוש ב-AI למערכות מעקב ושליטה בקנה מידה חסר תקדים. בתרחישים הקיצוניים ביותר, חוקרים וארגונים בתחום עוסקים גם בסיכונים קטסטרופליים וקיומיים.

 תחום AI Safety הינו תחום צעיר שצומח במהירות וזקוק לעוד חוקרים, מהנדסים ויזמים שיעבדו על הבעיות הפתוחות שבו.

בערב הזה נכיר את התחום דרך האנשים שעובדים עליו בפועל:

💬 פתיחה קצרה: מפת הבעיות המרכזיות ב-AI Safety, ולמה Effective Altruism, גישה שמתעדפת בעיות בין היתר לפי היקף, הזנחה ופתירות, רואה בתחום הזה אחד מתחומי העדיפות המשמעותיים.

🙋שולחנות שיח, בהנחיית מומחים שעובדים על האתגרים עצמם:

• ‏Alignment: איך מוודאים שמודלים פועלים בהתאם למטרות ולכוונות שלנו.

• ‏אבטחת מודלים: הגנה על מודלים מתקדמים מפני גניבה, פריצה ושימוש לרעה, והתמודדות עם בינה מלאכותית ככלי לביצוע תקיפות.

• ‏Verification: פיתוח מנגנונים טכניים שמאפשרים לוודא אילו מודלים פועלים על מערכות מחשוב ולפקח על עמידה בהסכמים ובהגבלות.

• ‏Bio × AI: הערכת הסיכון שבינה מלאכותית תשפר את היכולת לפתח איומים ביולוגיים, ופיתוח דרכים למנוע שימוש כזה.

• ‏Interpretability: ניסיון להבין כיצד מודלים מגיעים להחלטות, באמצעות פענוח הייצוגים והמנגנונים הפנימיים של רשתות נוירונים.

• ועוד!

האירוע מיועד למי שרוצה להבין מה האתגרים הטכנולוגיים של AI Safety, להכיר את האנשים שעובדים עליהם בישראל, ולבחון כיצד הניסיון והכישורים שלו.ה יכולים להשתלב בתחום.

מיקום מדויק ורשימת הדוברים.ות יפורסמו בקרוב.