מ-Theory ל-Impact: מועדון ה-AI פתח את הקופסה השחורה

בשבוע שעבר התקיים מפגש של מועדון ה־AI, הפועל תחת אופק - מרכזים לפיתוח מיומנויות, שעסק בעולם ה־Applied Interpretability - תחום מחקר מתקדם המבקש להבין את המתרחש בתוך מודלי בינה מלאכותית וכיצד ניתן להפוך את ההבנה הזו למחקר יישומי בעל השפעה.
 
במסגרת המפגש התארח עמית לוי, ממקימי מעבדת ATLAS וחוקר AI ב־ Zenity, להרצאה מקצועית שעסקה בדרך שבה מחקר AI יכול להפוך מרעיון תיאורטי לתובנות בעלות אימפקט אמיתי בתעשייה, באקדמיה ובתחומי מחקר נוספים.
 
במהלך ההרצאה נחשפו המשתתפות והמשתתפים למושגים מרכזיים בעולמות ה־AI, בהם Transformers, Activations, LLMs, VLMs, Hallucinations ו־Evaluation, ולמדו כיצד נעשה שימוש במודלי שפה ובכלים של Applied Interpretability כדי להבין, לנתח ולשפר מערכות מבוססות בינה מלאכותית. כמו כן, הוצגו מחקרים העוסקים במנגנוני הבטיחות של מודלי שפה, בתגובות של מודלים למצבי ציות וסירוב, ובתופעות של "תעתועים" - מצבים שבהם מודלים מייצרים תשובות בטוחות גם כאשר המידע החזותי חלקי או חסר.
 
המפגש העניק הצצה לעולם המחקר המתקדם ב־AI, והמחיש כיצד ניתן לקחת אתגרים מורכבים בעולמות ה־AI, ולתרגם את התובנות לשאלות מחקר בעלות ערך ממשי לתעשייה ולאקדמיה.
 
אורית זנדברג-פאר, אחראית מועדוני הסטודנטים באפקה: "מועדון ה־AI נועד לחשוף את הסטודנטיות והסטודנטים לעולמות העדכניים ביותר בתחום, לא רק ברמת הכלים אלא גם ברמת החשיבה המחקרית שמאחוריהם. ההרצאה של עמית לוי פתחה צוהר לעולם מרתק של Applied Interpretability, והראתה איך מחקר מדויק יכול להפוך להבנה עמוקה יותר של מודלי AI ולייצר אימפקט אמיתי בתעשייה ובאקדמיה."