אורי כץ | Hailo | איך מנהלים מוצר חומרה מבוסס AI? - Product Builder Podcast episode with Eyal David
00:40:49

אורי כץ | Hailo | איך מנהלים מוצר חומרה מבוסס AI?

Host: · Guest: Ori Katz

In this episode

  • Hailo היא חברת שבבים (AI accelerators ו-AI SoC) שמריצה AI על מכשירי קצה — לא בענן — ומנגישה AI ללקוחות שמעולם לא יכלו להשתמש בפתרונות בסדר גודל של NVIDIA.
  • "כל חברות החומרה בעולם הן בעצם חברות תוכנה": פיתוח הצ'יפ קשה, אבל התוכנה שרצה עליו היא האינסופית — ורוב הלקוחות הם מפתחי תוכנה.
  • שיתוף הפעולה עם Raspberry Pi הוא גם ערוץ הפצה וגם חותמת איכות, והקהילה הפכה למנוע אימוץ ולבסיס לאינובציה שאפשר למנף גם למוצרים האחרים.
  • ניהול מוצר בחומרה הוא "הצד הפחות סקסי": מחיר, זמינות, שרשרת אספקה, צריכת הספק ו-lead time חשובים לא פחות מהפיצ'ר — ומשבר הזיכרונות (DRAM/HBM) מקשה להריץ מודלים גדולים בקצה.
  • הכיוון האסטרטגי הבא הוא physical AI ורובוטיקה; בהווה סרווילנס הוא השוק המתפוצץ, וסין מובילה בפער בקצב ההטמעה של Gen AI ו-VLMs במצלמות וברכב.

Episode Description

אורי כץ, שמוביל את תחום ה-AI SoC ב-Hailo, מספר איך חברה ישראלית קטנה יחסית הפכה לשחקן משמעותי בעולם ה-AI על קצה המכשיר — מצלמות חכמות, סרווילנס, תעשייה, רכב ורובוטיקה. לאורך השיחה עולים האתגרים הגדולים של התקופה: איך לדחוס מודלים גדולים למכשירי קצה, איך להתמודד עם מחיר, זיכרון ו-Power, ולמה דווקא חומרה מחייבת ניהול מוצר הרבה יותר עמוק ממה שנהוג לחשוב.

Chapters

  1. 00:20 · פתיחת השיחה
  2. 00:52 · מה Hailo עושה
  3. 01:40 · Raspberry Pi וחיבור לקהילה
  4. 02:38 · הדרך של אורי בחברה
  5. 03:36 · כמה גדולים נהייתם
  6. 04:38 · למה בחרו ב-accelerator
  7. 05:24 · הערך של שיתוף הפעולה עם Raspberry Pi
  8. 06:03 · מעבר למצלמות חכמות
  9. 07:18 · לראות בחושך: AI לשיפור תמונה
  10. 08:20 · איך בונים יחידת SoC
  11. 09:32 · הצד הפחות סקסי של חומרה
  12. 10:21 · דוגמה מהתעשייה (Industrial)
  13. 11:57 · איפה Hailo פועלת היום
  14. 12:28 · Gen AI על edge
  15. 13:42 · האתגר הטכני: לכווץ מודלים
  16. 14:19 · משבר הזיכרונות (DRAM/HBM)
  17. 15:39 · למה לא רק ענן
  18. 17:03 · Physical AI ורובוטיקה
  19. 18:30 · סרווילנס כתחום מתפוצץ
  20. 20:33 · Community ו-distribution
  21. 21:12 · סין מול המערב
  22. 24:47 · AI בפיתוח חומרה
  23. 28:42 · רכב ו-Gen AI
  24. 32:09 · המתחרים של Hailo
  25. 33:37 · איך נראה שוק המצלמות
  26. 36:47 · מה חשוב באמת בניהול מוצר בחומרה
  27. 39:52 · סיום הפרק
Read the full transcript
Full transcript with speakers and timestamps

Selected quotes

“אנחנו בבסיס חברת חומרה — מפתחים ומתכננים שבבים להאצה של בינה מלאכותית.”
— אורי כץ
“כל חברות החומרה בעולם הן בעצם חברות תוכנה — שאף אחד לא יספר לך משהו אחר.”
— אורי כץ
“התשובה היא physical AI — שם אנחנו צריכים לשים את השיטונים היום כדי להתפוצץ עוד שלוש-ארבע שנים.”
— אורי כץ

Questions & answers

מה Hailo עושה?

Hailo מפתחת שבבים — AI accelerators ו-AI SoC — להרצת בינה מלאכותית על מכשירי קצה (edge) בפאוור נמוך ובמחיר נמוך, בלי תלות בענן. השבבים משמשים מצלמות חכמות, סרווילנס, תעשייה, רכב ורובוטיקה, וזמינים בין היתר כ-AI accelerator ל-Raspberry Pi.

מי זה אורי כץ?

אורי כץ מוביל את תחום ה-AI SoC ב-Hailo. הוא הגיע מ-R&D ומעולמות השבבים והחומרה (עבד ב-Mellanox ו-NVIDIA), הצטרף ל-Hailo כשהייתה בת ~15 עובדים, והוביל תחילה פיתוח צ'יפים ואז את מעבר החברה משוק ה-accelerators לשוקי מצלמות, סרווילנס ו-physical AI.

למה להריץ AI בקצה (edge) ולא בענן?

בגלל פרטיות, latency, צריכת הספק ומחיר. אבל הענן חזק מאוד, אז לדברי אורי צריך כל הזמן להוכיח ללקוחות את ה-ROI של פתרון edge — למה זה משתלם ומה מקבלים ממנו.

מה האתגר הטכני הגדול בהרצת Gen AI בקצה?

לכווץ מודלים גדולים (אפילו מודל של 2B פרמטרים) ולאמן אותם על דאטה ספציפי כך שייתנו תוצאות מדויקות — כשמשבר הזיכרונות מייקר DRAM ומקשה להוסיף עלות משמעותית למצלמה חכמה.

מה באמת חשוב בניהול מוצר בחומרה?

לא הפיצ'רים הנוצצים, אלא התאמה לשוק, איכות, עלות, זמינות ושרשרת אספקה — והיכולת של המוצר לשרוד שנים. להיות "עמוק בברזל", לא רק לרוץ אחרי Gen AI.

People & resources mentioned

People

  • אורי כץ — מוביל תחום ה-AI SoC ב-Hailo

Companies & orgs

Tools

  • AI accelerator / AI SoC
  • LLM
  • VLM
  • Gen AI
  • Claude
  • HBM / DRAM
AI חומרה שבבים Edge AI AI SoC Hailo ניהול מוצר Physical AI סרווילנס רובוטיקה