『מדברים פתוח』のカバーアート

מדברים פתוח

מדברים פתוח

著者： ilan & josh
無料で聴く

ג׳וש סלמון ואילן פינטו מדברים על קוד פתוח טכנולוגיה וכל מה שביניהםCopyright 2022 All rights reserved.
エピソード
  • עונה 4 פרק 9 - המטה הלאומי לבינה מלאכותית - שחר ברכה

    עונה 4 פרק 9 - המטה הלאומי לבינה מלאכותית - שחר ברכה
    2026/07/05

    בשנה האחרונה עולם הבינה המלאכותית לא הפסיק להאיץ מודלים, גרסאות ומוצרים חדשים בקצב מסחרר. אבל מעבר לאפליקציות ולצ'אטבוטים שכולנו מכירים מסתתרת שאלה גדולה בהרבה

    מה באמת נדרש כדי לממש בינה מלאכותית ברמה של מדינה שלמה?

    בפרק הזה אנחנו מארחים בפעם השנייה את שחר ברכה, סגן מנהל המטה הלאומי לבינה מלאכותית (ובעברו ראש מערך התקשוב הממשלתי), לשיחה סביב השאלה שחזרה שוב ושוב מהקהל: על תפקידי המטה הלאומי לבינה מלאכותית ומדוע הוא תחת משרד ראש הממשלה?

    שחר מסביר למה AI הוא "המשאב הקריטי החדש" כזה שיקבע מחדש מי יהיו מדינות עולם ראשון, שני ושלישי —ולמה, בדיוק כמו האטום בשעתו, "המועדונים" סביבו נסגרים מהר. מ"מהפכת הכתב השנייה", דרך פאקס סיליקה ושבבים כחול-לבן, ועד רגולציה, חינוך ותעסוקה בעידן ה-AI — זו שיחה אסטרטגית, פרקטית ואופטימית על איך הופכים למעצמה באמצעות ה-AI, ולא סתם ל"מעצמת AI".
    続きを読む 一部表示
    47 分
  • מדברים פתוח עונה 4 פרק 8 - סקילים

    מדברים פתוח עונה 4 פרק 8 - סקילים
    2026/05/18

    הבאזוורדס של עולם הפיתוח לא מפסיקים להתחלף, והפעם ג'וש ואילן עושים סדר במעבר מסוכני AI כלליים לעבודה ממוקדת עם Skills ו-Claude Code.

    דיברנו על הפער בין ההבטחה לאוטונומיה לבין המציאות, למה ה-Harness חשוב לא פחות מהמודל עצמו, מה קורה כשנותנים ל-MCP לפתוח כרטיסיות ב-Jira או לעשות Code Review, ואיזה סכנות אבטחה מסתתרות כשנותנים ל-AI לרוץ ב-YOLO Mode. האם מקצוע הפיתוח שינה את פניו לתמיד?
    続きを読む 一部表示
    40 分
  • עונה 4 פרק 7 - adversarial machine learning - איתי יונה

    עונה 4 פרק 7 - adversarial machine learning - איתי יונה
    2026/02/01

    בפרק זה אירחנו את איתי יונה, חוקר לשעבר ב-Google DeepMind ומומחה לאבטחת מידע ולמידת מכונה. בשיחה שכל כולה צוללת אל תוך עולם ה-Adversarial Machine Learning ובודקת עד כמה קל "לשבור" את מודלי השפה המתוחכמים ביותר שאנו מכירים כיום.

    הנושאים המרכזיים בפרק:

    • מה זה בכלל Jailbreak? איתי מסביר כי בניגוד לאבטחת תוכנה קלאסית, כאן התקיפה מתמקדת במודל עצמו ובניסיון לגרום לו להתנהג בניגוד למטרה המקורית שלו דרך שינויים יצירתיים באינפוט.

    • מתקפת "דאבל-ספיק" (DoubleSpeak): חשיפה של מחקר המראה כיצד ניתן "לחטוף" את המשמעות של מילים בתוך שיחה. על ידי החלפת מילים רגישות במילים תמימות (כמו החלפת "פצצה" ב"גזר"), ניתן לעקוף את שכבות ההגנה ולגרום למודל לייצר פלט מסוכן במסווה של טקסט לגיטימי.

    • הסכנה שבמודלים הפתוחים: מתברר כי מתקפות שמתגלות על מודלים בקוד פתוח (כמו Llama) הן Transferable. מאחר שכל המודלים אומנו על דאטה דומה, ניתן לפתח מתקפה "בבית" ולהשתמש בה כ-Zero Day נגד מודלים סגורים כמו GPT-4.

    • איך מתגוננים באמת? איתי טוען ששיטות ההגנה הנוכחיות (פילטרים של מילים) הן רק פלסטר. הפתרון דורש התערבות עמוקה בחישובים הפנימיים של המודל ואימוץ גישה שמרנית שמתייחסת לכל פלט AI כאל מידע ממקור לא אמין (Untrusted)

    לינקים:

    - המאמר של איתי - IN-CONTEXT REPRESENTATION HIJACKING
    続きを読む 一部表示
    46 分
adbl_web_anon_alc_button_suppression_t1
まだレビューはありません