אורי כץ | Hailo | איך מנהלים מוצר חומרה מבוסס AI? - Product Builder Podcast episode with Eyal David
00:40:49

אורי כץ | Hailo | איך מנהלים מוצר חומרה מבוסס AI?

מנחה: · אורח: אורי כץ

בפרק הזה

  • Hailo היא חברת שבבים (AI accelerators ו-AI SoC) שמריצה AI על מכשירי קצה — לא בענן — ומנגישה AI ללקוחות שמעולם לא יכלו להשתמש בפתרונות בסדר גודל של NVIDIA.
  • "כל חברות החומרה בעולם הן בעצם חברות תוכנה": פיתוח הצ'יפ קשה, אבל התוכנה שרצה עליו היא האינסופית — ורוב הלקוחות הם מפתחי תוכנה.
  • שיתוף הפעולה עם Raspberry Pi הוא גם ערוץ הפצה וגם חותמת איכות, והקהילה הפכה למנוע אימוץ ולבסיס לאינובציה שאפשר למנף גם למוצרים האחרים.
  • ניהול מוצר בחומרה הוא "הצד הפחות סקסי": מחיר, זמינות, שרשרת אספקה, צריכת הספק ו-lead time חשובים לא פחות מהפיצ'ר — ומשבר הזיכרונות (DRAM/HBM) מקשה להריץ מודלים גדולים בקצה.
  • הכיוון האסטרטגי הבא הוא physical AI ורובוטיקה; בהווה סרווילנס הוא השוק המתפוצץ, וסין מובילה בפער בקצב ההטמעה של Gen AI ו-VLMs במצלמות וברכב.

האזינו לפרק

האזינו בספוטיפייהאזינו ב-Apple Podcastsצפו ביוטיוב

תיאור הפרק

אורי כץ הוא איש חומרה ותיק ומנהל מוצר ב-Hailo — חברה ישראלית שמפתחת צ'יפים של AI ל-Edge Computing. אורי הגיע ל-Hailo לפני שמונה שנים כשהחברה מנתה 15 אנשים, אחרי שנים ב-Mellanox ובעולמות החומרה. היום Hailo מונה כ-280 עובדים.

כשאומרים AI כולנו מיד חושבים צ'אט GPT או קלוד, אבל באופן קלאסי בינה מלאכותית משמשת כבר הרבה שנים לזיהוי והבנה של סיטואציות, למשל במערכות אבטחה - זיהוי אנשים, זיהוי רכבים, זיהוי סיטואציות על פי מנח הגוף וכדומה. עם ההתקדמות של Generative AI, מכשירי קצה כגון מצלמות אבטחה, רכבים, רחפנים ורובוטים יכולים היום להבין סיטואציות מורכבות מאד ולייצר התראות מדויקות בזמן אמת. המוטיבציה להריץ את ה AI במכשיר עצמו ולא בענן, מעבר למהירות, היא כמובן הפרטיות הנובעת מכך שאפשר לא לשלוח תמונות וקבצי וידאו לענן, וכן הזמינות. מערכות EDGE זמינות תמיד גם כשאין חיבור יציב לרשת.

בפרק הזה צללנו לעולם שרוב אנשי המוצר לא מכירים — ניהול מוצר בחומרה. מה קורה כשמחזור פיתוח לוקח שנים ולא שבועות, כשטעות אחת עולה מיליונים, וכשאתה צריך להבין פיזיקה, סיליקון ו-supply chain לפני שאתה מדבר על פיצ'רים. דיברנו על איך AI משנה את הקצב בעולם החומרה, למה סין מעוררת השראה ודאגה בו זמנית, ואיך הרכב האוטונומי קרוב הרבה יותר ממה שחושבים.

פרקים בשיחה

  1. 00:20 · פתיחת השיחה
  2. 00:52 · מה Hailo עושה
  3. 01:40 · Raspberry Pi וחיבור לקהילה
  4. 02:38 · הדרך של אורי בחברה
  5. 03:36 · כמה גדולים נהייתם
  6. 04:38 · למה בחרו ב-accelerator
  7. 05:24 · הערך של שיתוף הפעולה עם Raspberry Pi
  8. 06:03 · מעבר למצלמות חכמות
  9. 07:18 · לראות בחושך: AI לשיפור תמונה
  10. 08:20 · איך בונים יחידת SoC
  11. 09:32 · הצד הפחות סקסי של חומרה
  12. 10:21 · דוגמה מהתעשייה (Industrial)
  13. 11:57 · איפה Hailo פועלת היום
  14. 12:28 · Gen AI על edge
  15. 13:42 · האתגר הטכני: לכווץ מודלים
  16. 14:19 · משבר הזיכרונות (DRAM/HBM)
  17. 15:39 · למה לא רק ענן
  18. 17:03 · Physical AI ורובוטיקה
  19. 18:30 · סרווילנס כתחום מתפוצץ
  20. 20:33 · Community ו-distribution
  21. 21:12 · סין מול המערב
  22. 24:47 · AI בפיתוח חומרה
  23. 28:42 · רכב ו-Gen AI
  24. 32:09 · המתחרים של Hailo
  25. 33:37 · איך נראה שוק המצלמות
  26. 36:47 · מה חשוב באמת בניהול מוצר בחומרה
  27. 39:52 · סיום הפרק
קראו את התמלול המלא
תמלול מלא עם דוברים וחותמות זמן

ציטוטים נבחרים

“אנחנו בבסיס חברת חומרה — מפתחים ומתכננים שבבים להאצה של בינה מלאכותית.”
— אורי כץ
“כל חברות החומרה בעולם הן בעצם חברות תוכנה — שאף אחד לא יספר לך משהו אחר.”
— אורי כץ
“התשובה היא physical AI — שם אנחנו צריכים לשים את השיטונים היום כדי להתפוצץ עוד שלוש-ארבע שנים.”
— אורי כץ

שאלות ותשובות

מה Hailo עושה?

Hailo מפתחת שבבים — AI accelerators ו-AI SoC — להרצת בינה מלאכותית על מכשירי קצה (edge) בפאוור נמוך ובמחיר נמוך, בלי תלות בענן. השבבים משמשים מצלמות חכמות, סרווילנס, תעשייה, רכב ורובוטיקה, וזמינים בין היתר כ-AI accelerator ל-Raspberry Pi.

מי זה אורי כץ?

אורי כץ מוביל את תחום ה-AI SoC ב-Hailo. הוא הגיע מ-R&D ומעולמות השבבים והחומרה (עבד ב-Mellanox ו-NVIDIA), הצטרף ל-Hailo כשהייתה בת ~15 עובדים, והוביל תחילה פיתוח צ'יפים ואז את מעבר החברה משוק ה-accelerators לשוקי מצלמות, סרווילנס ו-physical AI.

למה להריץ AI בקצה (edge) ולא בענן?

בגלל פרטיות, latency, צריכת הספק ומחיר. אבל הענן חזק מאוד, אז לדברי אורי צריך כל הזמן להוכיח ללקוחות את ה-ROI של פתרון edge — למה זה משתלם ומה מקבלים ממנו.

מה האתגר הטכני הגדול בהרצת Gen AI בקצה?

לכווץ מודלים גדולים (אפילו מודל של 2B פרמטרים) ולאמן אותם על דאטה ספציפי כך שייתנו תוצאות מדויקות — כשמשבר הזיכרונות מייקר DRAM ומקשה להוסיף עלות משמעותית למצלמה חכמה.

מה באמת חשוב בניהול מוצר בחומרה?

לא הפיצ'רים הנוצצים, אלא התאמה לשוק, איכות, עלות, זמינות ושרשרת אספקה — והיכולת של המוצר לשרוד שנים. להיות "עמוק בברזל", לא רק לרוץ אחרי Gen AI.

אנשים ומקורות שהוזכרו

אנשים

  • אורי כץ — מוביל תחום ה-AI SoC ב-Hailo

חברות וארגונים

כלים

  • AI accelerator / AI SoC
  • LLM
  • VLM
  • Gen AI
  • Claude
  • HBM / DRAM
AI חומרה שבבים Edge AI AI SoC Hailo ניהול מוצר Physical AI סרווילנס רובוטיקה

פרקים נוספים