בהשראת המוח

פרופ' שחר קוטינסקי צילום: רמי שלוש

פרופ’ שחר קוטינסקי
צילום: רמי שלוש

הדוקטורנט לואי דאניאל צילום: רמי שלוש

הדוקטורנט לואי דאניאל
צילום: רמי שלוש

חוקרים בטכניון ובחברת טאואר ג’אז פיתחו טכנולוגיה המתאימה טרנזיסטורים מסחריים לעידן הבינה המלאכותית

חוקרים בטכניון ובחברת טאואר ג’אז (Tower Jazz) פיתחו טכנולוגיה מהפכנית ההופכת את רכיבי זיכרון הפלאש המסחריים של טאואר ג’אז לממריסטורים – התקנים המכילים זיכרון וכוח חישוב. הטכנולוגיה, שפותחה בהשראת פעולת המוח האנושי, מאיצה באופן משמעותי את פעולתם של אלגוריתמים של בינה מלאכותית (AI).

את המחקר שהתפרסם בכתב העת Nature Electronics, הובילו הדוקטורנט לואי דאניאל ופרופ’ שחר קוטינסקי מהפקולטה להנדסת חשמל ע”ש ויטרבי בטכניון, תוך שיתוף פעולה עם פרופ’ יעקב רויזין וד”ר יבגני פיחאי מחברת טאואר ג’אז ופרופ’-משנה ראמז דניאל מהפקולטה להנדסה ביו-רפואית בטכניון.

כבר מתחילת דרכם גברו המחשבים על האדם בפתרון בעיות חשבוניות, אולם בזיהוי תמונות, בסיווג מאפיינים בתוך התמונה ובקבלת החלטות פיגר המחשב אחר האדם במשך עשרות שנים. את הפער הזה מדביקה בשנים האחרונות הבינה המלאכותית, המצליחה לבצע פעולות מורכבות על סמך אימון המבוסס על דוגמאות. בעשורים האחרונים הוקדשו משאבים עצומים בפיתוחה של בינה מלאכותית ברמת התוכנה, השקעה שהובילה לקפיצת מדרגה באפקטיביות של הבינה המלאכותית בתחומים רבים ומגוונים ובהם רפואה, תחבורה חכמה, רובוטיקה וחקלאות.

הדלק המניע את עולם הבינה המלאכותית הוא נתונים, וליתר דיוק נתונים בכמות עצומה (big data). זו הסיבה שהפריצה הגדולה בבינה מלאכותית “המתינה” לשיפור הדרמטי בכוח המיחשוב. אולם ההתפתחות המהירה בביצועי התוכנה הותירה מאחור את החומרה, ופיתוחה של חומרה המתאימה לדרישות של תוכנות בינה מלאכותית התעכב במשך שנים רבות. חומרה כזו נדרשת לעבוד היטב במונחים של  מהירות, הספק נמוך, דיוק, שטח ומחיר. כל אלה קשים מאוד להשגה במודל החומרה המסורתי – מודל של חישוב דיגיטלי (ספרתי).

המודל הדיגיטלי מגביל את ביצועי החומרה בשני הקשרים עיקריים: 1. חומרות כאלה מתקשות לבצע פעולות רבות במקביל , שכן הן נועדו לבצע מספר קטן יחסית של פעולות; 2. הן יכולות להפגין דיוק רב רק בתמורה לצריכת משאבים גדולים מאוד במונחי אנרגיה וזמן. לכן, אומרים החוקרים, נדרשת חומרה חדשנית שתתאים לעידן הבינה המלאכותית.

“אחד האתגרים הגדולים שמציבה הבינה המלאכותית בפני מהנדסי חומרה,” מסביר פרופ’ קוטינסקי, “הוא המימוש של אלגוריתמים מורכבים הדורשים (א) אחסון של מידע רב בזיכרון המחשב; (ב) שליפה מהירה מהזיכרון; (ג) ביצוע חישובים רבים במקביל; ו(ד) דיוק גבוה.  החומרה הדיגיטלית הסטנדרטית (מעבדים) לא מתאימה לכך מהסיבות שצוינו לעיל.”

זה הרקע לטכנולוגיה החדשה המוצגת במאמר ב-Nature Electronics. לדברי פרופ’ קוטינסקי, “הטכנולוגיה שלנו הופכת את החומרה, שהיא דיגיטלית במהותה, לתשתית נוירומורפית – תשתית מעין-אנלוגית הדומה למוח. כפי שהמוח מבצע מיליוני פעולות במקביל, גם החומרה שלנו מבצעת פעולות רבות במקביל וכך מאיצה את כל הפעולות הקשורות בה.”

“החישוב הנוירומורפי,” אומר הדוקטורנט לואי דאניאל, “מעניין אותי ברמה האישית הן כסטודנט להנדסת מחשבים והן כמי שאיבד את אביו כתוצאה ממחלה נוירולוגית נדירה. המוח תמיד היווה מקור השראה למערכות מחשוב, והאתגר שלי הוא להבין את המנגנון החישובי של פעולת המוח על ידי ארגז כלים הנדסי. במחקר הנוכחי הראינו שבב חשמלי המבוסס על טכנולוגיה סטנדרטית מסחרית ומפגין שתי יכולות קריטיות: זיכרון אסוציאטיבי, העובד בדומה למוח על סמך תכונות ולא לפי חיפוש באינדקס; ויכולת למידה.”

הזיכרון האסוציאטיבי, המוכר לנו מפעולת החשיבה האנושית, פירושו שכאשר אנחנו רואים עיניים, לדוגמה, איננו מחפשים התאמה של העין לסעיף כלשהו באינדקס של פריטים, אלא מזהים את העין באופן אסוציאטיבי. זהו מנגנון מהיר, אפקטיבי וחסכוני באנרגיה. וכמו במוח, יכולת הלמידה של המערכת משתפרת מתוך שינוי ועדכון של הקשרים בין הסינפסות ותאי העצב.

לדברי פרופ’ רויזין מטאואר ג’אז, “הטכנולוגיה החדשה פשוטה להטמעה והופכת את הטרנזיסטור של טאואר ג’אז, שתוכנן במקור לאחסון מידע בלבד, לממריסטור – יחידה המכילה לא רק זיכרון אלא גם יכולת חישוב. מאחר שהממריסטור יושב על הטרנזיסטורים הקיימים של  טאואר ג’אז, הוא מתממשק באופן מיידי עם כל ההתקנים שאיתם עובדים טרנזיסטורים אלה. הטכנולוגיה החדשה נבחנה בתנאי אמת והראתה כי אכן היא ניתנת להטמעה בבנייה של רשתות עצביות בחומרה ובכך משפרת משמעותית את ביצועיהן של מערכות בינה מלאכותית מסחריות. בדומה למוח, המערכת המשופרת מצטיינת בשמירת מידע לטווח ארוך ובצריכת אנרגיה נמוכה מאוד.”

לדברי פרופ’-משנה ראמז דניאל, בעבר מהנדס חשמל בטאואר ג’אז וכיום חבר סגל בפקולטה להנדסת ביו-רפואית בטכניון, “כוח החישוב של ההתקן המשופר נובע מיכולתו לתפקד בתחום התת-הולכה, ובמילים פשוטות – באופן דומה למנגנונים ביולוגיים טבעיים. כתוצאה מכך אנחנו משיגים יעילות גבוהה בהספק נמוך, כמו המנגנונים שהתפתחו בטבע במשך מיליארדי שנות אבולוציה.”

במחקר השתתפו חוקרי הטכניון אריק הרבלין, ניקולס ויינשטיין, ואסו גופטה ונמרוד וולד מקבוצת המחקר של פרופ’ קוטינסקי.

 המחקר נערך בתמיכת ות”ת (הוועדה לתכנון ולתקצוב), מענק קמין מטעם משרד הכלכלה, מלגת אנדרו וארנה פינצ’י ויטרבי לתלמידי תארים מתקדמים ומענק ERC. לאחרונה הציג לואי דאניאל את המחקר שלעיל בכנס של Nature בסין ואף זכה בפרס המאמר הפוסטר המצטיין בכנס.

 

על השותפים במחקר:

פרופ’ שחר קוטינסקי השלים תואר ראשון ושני באוניברסיטה העברית ודוקטורט בטכניון ועבד באינטל בתכן מעגלים. לאחר פוסט-דוקטורט באוניברסיטת סטנפורד הוא חזר לטכניון כחבר סגל בפקולטה להנדסת חשמל ע”ש ויטרבי. במרוצת השנים הוא זכה בפרסים רבים ובהם פרס קריל של קרן וולף על מצוינות במחקר מדעי, מלגת ויטרבי, מלגת ג’ייקובס ומענק ERC וכן בשבעה פרסי הצטיינות בהוראה.

לואי דאניאל השלים תואר ראשון בטכניון, ובשנים 2016-2013 עבד במעבדות המחקר של IBM בחיפה. כיום הוא עושה את הדוקטורט (במסלול ישיר) בהנחיית פרופ’ קוטינסקי. הוא זכה בפרס הרשל ריץ’ לחדשנות ויזמות, בפרס אנדרו וארנה פינצ’י ויטרבי לתלמידי תארים מתקדמים ובמלגת ות”ת לדוקטורנטים מצטיינים בני החברה הערבית.

פרופ’ יעקב רויזין הינו מנהל מחקר ופיתוח של טכנולוגיות עתידניות ו-Fellow בחברת טאואר-ג’אז. הוא פרופסור אורח בטכניון ובאוניברסיטת תל-אביב. ליעקב ניסיון נרחב של 40 שנה בתחום פיתוח רכיבים בענף המוליכים-למחצה. ב-23 השנים האחרונות הוא עובד בטאואר ג’אז ומתמחה בפיתוח טכנולוגיות CMOS ייחודיות ורכיבים חדשניים.  הוא פרסם מעל ל-200 מחקרים ומחזיק ביותר מ-50 פטנטים (USA patents) בתחום טכנולוגיית המוליכים-למחצה ורכיבים.

ד”ר יבגני פיחאי הוא מהנדס רכיבים בכיר בטאואר ג’אז. הוא בעל ניסיון של 15 שנה בפיתוח רכיבי CMOS  הכוללים זיכרונות משולבים (embedded NVM), תאים סולאריים וחיישני קרינה מייננת. יבגני השלים תואר ראשון בטכניון, תואר שני באוניברסיטת תל-אביב ודוקטורט בטכניון. הוא פרסם מעל ל-40 מאמרים ופטנטים.

פרופ’-משנה ראמז דניאל השלים תואר ראשון בפקולטה להנדסת חשמל ע”ש ויטרבי בטכניון ותואר שני בהנדסת אלקטרוניקה וחשמל אוניברסיטת תל אביב שאחריו יצא לתעשייה. לאחר שמונה שנות עבודה בטאואר ג’ז הוא יצא לדוקטורט ואחריו פוסט-דוקטורט ב-MIT, שם בנה את המחשב הביולוגי הראשון בתוך חיידק. כיום הוא עומד בראש המעבדה לביולוגיה סינטטית בפקולטה להנדסה ביו-רפואית בטכניון.

 

למחקר בכתב העת  Nature Electronics לחצו כאן