אורי כץ | Hailo | איך מנהלים מוצר חומרה מבוסס AI? - Product Builder Podcast episode with Eyal David
00:40:49

אורי כץ | Hailo | איך מנהלים מוצר חומרה מבוסס AI?

מנחה: · אורח: אורי כץ · על המנחה

כל חברת חומרה היא למעשה חברת תוכנה, כי מי שקונה שבבים הם מפתחים שרוצים להריץ עליהם AI — לא להתעסק בברזל. לדברי אורי כץ, שמוביל את תחום ה-AI SoC בחברת השבבים Hailo, הלב של ניהול מוצר בחומרה הוא דווקא ה'פחות סקסי': מחיר, שרשרת אספקה, זמני אספקה וצריכת חשמל, ולא הפיצ'רים הנוצצים שמושכים תשומת לב.

בפרק הזה

  • כל חברות החומרה הן בעצם חברות תוכנה: ב-Hailo יש ~30-40 אנשי חומרה מול 100-150 אנשי תוכנה, כי מי שקונה את הצ'יפים הם מפתחי תוכנה שרוצים להריץ עליהם AI — לא להתעסק בברזל.
  • הלב של ניהול מוצר בחומרה הוא דווקא ה'פחות סקסי': מחיר, supply chain, lead times, צריכת power ואיכות. כדי לנהל מוצר שמוכר מיליוני יחידות בשנה חייבים לשלוט בזה ברמות אובססיביות — לא בפיצ'רים הנוצצים.
  • קהילת Raspberry Pi (ה-AI HAT) היא גם ערוץ הפצה וגם חותמת איכות: היא מאפשרת לתמוך בעשרות אלפי מפתחים בלי צבא customer success, והופכת לבסיס אמון ואינובציה ש-Hailo ממנפת למוצרים הבאים (רובוטים, דרונים).
  • האתגר הגדול ב-Gen AI בקצה הוא כלכלי לא פחות מטכני: לדחוס מודל של 2-7 מיליארד פרמטרים למכשיר, בתוך משבר זיכרונות שבו DRAM עולה ~150$ — ומי יוסיף 150$ למצלמה חכמה? היתרון של edge על ענן: פרטיות, latency, power ועלות.
  • ההימור האסטרטגי הוא physical AI ורובוטיקה לעוד 3-4 שנים, כשסרווילנס הוא השוק שמתפוצץ עכשיו; סין כבר שנה-שנתיים לפני המערב בהרצת VLMs בפרודקשן בסרווילנס, בפחות כסף.
  • Cost reduction הוא בעצמו אינובציה: לתת את אותם ביצועים בחצי מחיר זה מה שמפצח שוק אמיתי כמו מצלמות האבטחה, שבו מתחרים נלחמים על כל סוקט וחייבים גם quality, lead time ו-supply יציבים.

תיאור הפרק

אורי כץ הוא איש חומרה ותיק ומנהל מוצר ב-Hailo — חברה ישראלית שמפתחת צ'יפים של AI ל-Edge Computing. אורי הגיע ל-Hailo לפני שמונה שנים כשהחברה מנתה 15 אנשים, אחרי שנים ב-Mellanox ובעולמות החומרה. היום Hailo מונה כ-280 עובדים.

כשאומרים AI כולנו מיד חושבים צ'אט GPT או קלוד, אבל באופן קלאסי בינה מלאכותית משמשת כבר הרבה שנים לזיהוי והבנה של סיטואציות, למשל במערכות אבטחה - זיהוי אנשים, זיהוי רכבים, זיהוי סיטואציות על פי מנח הגוף וכדומה. עם ההתקדמות של Generative AI, מכשירי קצה כגון מצלמות אבטחה, רכבים, רחפנים ורובוטים יכולים היום להבין סיטואציות מורכבות מאד ולייצר התראות מדויקות בזמן אמת. המוטיבציה להריץ את ה AI במכשיר עצמו ולא בענן, מעבר למהירות, היא כמובן הפרטיות הנובעת מכך שאפשר לא לשלוח תמונות וקבצי וידאו לענן, וכן הזמינות. מערכות EDGE זמינות תמיד גם כשאין חיבור יציב לרשת.

בפרק הזה צללנו לעולם שרוב אנשי המוצר לא מכירים — ניהול מוצר בחומרה. מה קורה כשמחזור פיתוח לוקח שנים ולא שבועות, כשטעות אחת עולה מיליונים, וכשאתה צריך להבין פיזיקה, סיליקון ו-supply chain לפני שאתה מדבר על פיצ'רים. דיברנו על איך AI משנה את הקצב בעולם החומרה, למה סין מעוררת השראה ודאגה בו זמנית, ואיך הרכב האוטונומי קרוב הרבה יותר ממה שחושבים.

פרקים בשיחה

  1. 0:20 · פתיחה: בין טיסות לטאיוואן וקוריאה
  2. 0:52 · מה Hailo עושה: האצת AI על edge
  3. 1:40 · Raspberry Pi וה-AI HAT: חיבור לקהילה
  4. 2:38 · הדרך של אורי: מ-R&D לפרודקט
  5. 3:36 · מ-15 עובדים לכ-280: איך נראית חברת חומרה
  6. 4:38 · למה בחרו ב-accelerator מול הענן
  7. 5:24 · הערך של השותפות עם Raspberry Pi
  8. 6:03 · מעבר לצ'יפים ייעודיים למצלמות חכמות
  9. 7:18 · לראות בחושך: AI ל-denoising
  10. 8:20 · הקמת יחידת ה-SoC
  11. 9:32 · הצד הפחות סקסי של חומרה: מחיר ו-supply chain
  12. 10:21 · דוגמה מהתעשייה: מפעל הבירה בגרמניה
  13. 11:57 · איפה Hailo פועלת היום
  14. 12:28 · Gen AI על ה-edge: מצלמות שאפשר לדבר איתן
  15. 13:42 · האתגר הטכני: לדחוס מודלים קטנים
  16. 14:19 · משבר הזיכרון והעלות (DRAM/HBM)
  17. 15:39 · למה לא להריץ הכל בענן
  18. 17:03 · Physical AI ורובוטיקה: ההימור הבא
  19. 18:30 · סרווילנס כתחום שמתפוצץ
  20. 20:33 · קהילה ו-distribution כמנוע אימוץ
  21. 21:12 · סין מול המערב בסרווילנס
  22. 24:47 · AI בפיתוח חומרה: Cadence, Synopsys ו-debug
  23. 28:42 · רכב וגנרטיב AI: לדבר עם הרכב
  24. 32:09 · המתחרים: Axelera, DEEPX, Ambarella, Qualcomm
  25. 33:37 · שוק המצלמות, פרודקשן ו-cost reduction
  26. 36:47 · מה באמת חשוב בניהול מוצר בחומרה
  27. 39:52 · סיום
קראו את התמלול המלא
תמלול מלא עם דוברים וחותמות זמן

ציטוטים נבחרים

“כל חברות החומרה בעולם הן בעצם חברות תוכנה — שאף אחד לא יספר לך משהו אחר.”
— אורי כץ
“יש אינובציה, ויש האינובציה של איך לתת את אותם ביצועים בחצי מחיר — זה אחד הדברים הכי חשובים שיש, בטח בעולם החומרה.”
— אורי כץ
“אם אני צריך לשים את האצבע — זה היכולת להתעסק במה שבאמת חשוב ללקוח, שהרבה פעמים בחומרה זה החלק הכי פחות מעניין של המוצר.”
— אורי כץ

שאלות ותשובות

מה Hailo עושה?

Hailo היא חברת חומרה שמפתחת ומתכננת שבבים להאצת בינה מלאכותית על מכשירי קצה (edge) — לא בענן. ההישג המוכר הוא ה-AI HAT ל-Raspberry Pi (תוסף האצת AI שדרכו עשרות אלפי מפתחים מריצים מודלים), ובהמשך נוספו צ'יפים למצלמות חכמות (SoC). החברה הוקמה לפני כ-9 שנים, גדלה מ-15 עובדים לכ-250-280, ופועלת בשווקים של מצלמות אבטחה, תעשייה, רכב ורובוטיקה.

למה להריץ AI על הקצה (edge) ולא בענן?

בגלל פרטיות, latency (מהירות תגובה), צריכת power ועלות. הענן חזק מאוד, ולכן Hailo מוצאת את עצמה כל הזמן צריכה להוכיח ללקוחות את ה-ROI של הרצה בקצה — כמה זה חוסך, למה זה משתלם ומה מקבלים מזה. באונבורדינג של Gen AI לקצה זה אחד האתגרים הגדולים ביותר כרגע.

מהו משבר הזיכרונות ולמה הוא רלוונטי ל-AI בחומרה?

בעקבות רכישות זיכרונות מסיביות (בין היתר על ידי Nvidia) ומעבר ל-HBM לעיבודים כבדים בענן, זיכרונות ה-DRAM ה'רגילים' של מכשירים (כולל טלפונים) נעשים מוזנחים ומתייקרים. כשמנהל מוצר רוצה להריץ מודל ג'נרטיבי על מצלמה, DRAM שעולה ~150$ הופך את זה ללא-כלכלי — וזה אספקט מובהק של ניהול מוצר חומרה בקצה.

באילו שווקים Hailo מתמקדת ולאן היא הולכת?

שלושה רבדים: הבסיס הוא ה-accelerators וקהילת ה-makers (כולל תעשייה, שנתמכת מסחרית תחת סגמנט ההאצה); הקומה השנייה, שבה אורי פועל בעיקר היום, היא סרווילנס/מצלמות חכמות; והכיוון האסטרטגי קדימה הוא physical AI — רובוטים ודרונים — לעוד 3-4 שנים.

מהם הסקילים הכי חשובים בניהול מוצר בחומרה?

היכולת להסתכל על כל האספקטים — ולא רק על כמה התוכנה נוחה ומגניבה: השילוב בין קונטנט למחיר, איכות, lead time, supply, אמינות לאורך שנים. הרבה אנשי מוצר מתמקדים ב'וואו' (למשל VLM במצלמה), אבל בחומרה החלק שבאמת חשוב ללקוח הוא לרוב החלק הפחות זוהר — וזה בדיוק מה שצריך להצטיין בו.

אנשים ומקורות שהוזכרו

אנשים

  • יעל (Yael) — מנחת הפרק בפודקאסט Product Builder
  • אורי כץ (Ori Katz) — מוביל תחום ה-AI SoC ב-Hailo

חברות וארגונים

כלים

  • AI accelerators / AI HAT ל-Raspberry Pi
  • System-on-Chip (SoC) למצלמות חכמות
  • כלי EDA לפיתוח חומרה (Cadence, Synopsys) עם AI מובנה
  • כלי AI לפיתוח קוד (Cursor, Claude)
  • VLM / Gen AI על edge
ניהול מוצר חומרה Edge AI Hailo שבבים Physical AI רובוטיקה סרווילנס Gen AI