פרק 11: תכירו את המוח החדש שלכם | ד"ר שרון ילוב הנדזל

דובר 1: בינה מלאכותית היא 1 הנושאים החמים ביותר בתעשיית הטכנולוגיה ושמענו עליה גם בפרקים הקודמים בפודקאסט הזה , לאן הולך המחקר והיישומים בתחום והאם יש שתחליף למוח האנושי ד"ר שרוני עליו הנזל חוקרת ומרצה בכירה באפקה מפתחת מערכות רובוטיות שלום

דובר 1: אנחנו שומעים בינה מלאכותית כל הזמן בכל מקום על כל דבר לפעמים עד לרמת מגוחכות מה זה בעצם אומר ?

דובר 2: אז כמספר האנשים שמתעסקים בתחום , כן מספר התשובות השונות שאפשר לתת ההגדרות השונות שצריך לתת לבינה מלאכותית אה יש כמה אסכולות שונות וכל אחד מהן היא נותנת תשובה אחרת אבל בגדול בינה מלאכותית זה היכולת לחקות את מה שהמוח האנושי מסוגל לעשות מבחינה פונקציונלית ויש הטוענים שכל דבר שהיום אדם מסוגל לעשות תוך פרק זמן כהרף עין כמו למשל זיהוי של מכונית נוסעת זיהוי של ההבדל בין כלב לחתול וכן הלאה כל דבר שאנחנו עושים שאנחנו לא צריכים להפעיל את השכל לא איזושהי רמת חשיבה עמוקה מדי הבינה המלאכותית היא מסוגלת לעשות בעתיד הקרוב תוך 5 שנים

דובר 1: אבל אני יודע שהיום יש לי מחשבון שיכול להיחשב הרבה יותר מהר ממני שורש של מספר גדול זה לא עושה אותו לבינה מלאכותית

דובר 2: הבינה המלאכותית היא כל דבר שבא המחשב מקבל החלטות בצורה אוטונומיות איזשהו משהו שמתקרב לבינה האנושית שאנחנו בכל רגע ורגע מקבלים החלטות אנחנו רואים חיה עוברת אנחנו צריכים להחליט אם זה כלב או חתול אנחנו רואים מכונית נעה לעברנו אנחנו צריכים להחליט אם היא תגיע והיא תפגע בנו שיש לנו מספיק זמן לחצות את הכביש יש טענה שאומרת שכל דבר שאנחנו מסוגלים נחשב הבינה המלאכותית תהיה מסוגלת גם נחשב בעתיד הקרוב היכולת האוטונומית איש שעושה את ההבדל בקבלת ההחלטות

דובר 1: חלק ממערכות הבינה המלאכותית היום נמצאת בשלבים יחסית ראשונים ולא מאוד מורכבים אם הם באמת יצליחו לדמות או אפילו להחליף מוח אנושי

דובר 2: זה תלוי בפונקציונליות שבה אנחנו מדברים יש דברים שהבינה המלאכותית כבר השיגה את המוח האנושי למשל במהירות חישוב במהירות שליפה מזכרון בגודל של זכרון ואנחנו רואים את זה באמת בדיפלו באלפאגור ששמה זה בעיקר זכרון ויכולת חישוב של הרבה מסעים הרבה מהלכים קדימה אז המחשב הבינה המלאכותית השיג הפך את הבינה האנושית בדברים שקשורים ליצירתיות לתודעה למודעות הבינה המלאכותית עוד לא מתחילה להתקרב לבינה האנושית יש תחומים שאנחנו יודעים שאנחנו מאוד מאוד רחוקים ולא יודעים בכלל היא מגיעה עם הבינה המלאכותית כמו התודעה לא יודעים בכלל היא תגיע לשם

דובר 1: אז איפה כן ואיפה לא ?

דובר 2: אז כל הדברים שהם תלויי זכרון בהיקף נרחב שליפה של נתונים של בגדי השליפה של נתוני עתק שהמוח האנושי בכלל לא מסוגל לקלוט לראות כל הנושא של עיבודים מהירים ופונקציונליות שהיא יחסית מוגבלת שיחסית נקודתית אנחנו מאוד מאוד מתקדמים בנושא של עיבוד תמונה כל הפונקציות של המוח האנושי בערך שליש ממנו מתעסק בעיבוד של בנושא הראייה בעיבודים של ראייתית ממנה ושם הבינה המלאכותית הגיעה להישגים נפלאים זה דברים מאוד נקודתיים שאנחנו יודעים לזהות בטרנס מסוימים דפוסים מסוימים וההישגים מאוד גבוהים לעומת זה בדברים שהם יותר כמו אפילו כמו אפילו בנושא של NLP של איבוד שפה ששמה הדברים הם קצת יותר גמישים הם קצת יותר יש השונות הווריאביליות הרבה יותר גבוהה אז שמה הבינה המלאכותית הגיעה להישגים בכלל לא רואים בשנים בשנתיים 3 האחרונות הייתה שם הקפיצה מאוד משמעותית אבל זה פחות מאשר בתחומים של עיבוד תמונה ועוד פעם בכל התחומים האלה של יצירתיות ותודעה אנחנו עוד רחוקים

דובר 1: וזה טוב שאנחנו רחוקים ? כי המדענית בטח רוצה שנגלה יותר ויותר ונצליח לעשות יותר ויותר וכעת בת אנוש אז אולי החשיבות שלנו כבני אדם המהות שלנו אולי קצת פחות חשובה ממה שחשבנו אם נחליף את עצמנו במעגלים אלקטרוניים ובסיליקון

דובר 2: אז נכון יש פה שתי נקודות לכאן ולכאן יש בכיוון 1 כל ילד שתשאל אותו מה הוא חולם שיהיה לו אז הוא יגיד רובוט שיכין לי את השיעורים וכל אמא של ילד שתשאל אותה מה היא חולמת שיהיה לה  זה רובוט שיכין לי קפה וכן הלאה אז אנחנו תמיד יש לנו את השאיפה שמשהו יעשה עבורנו את הדברים אבל אם אנחנו חושבים על זה קצת יותר לעומק יכול להיות שאנחנו נאבד את הצורך שלנו בעצמנו יותר לא יהיה תכלית לקיומנו באמת ונכון לשני כיוונים שוב שני כיוונים שמתחרים 1 בשני

דובר 1: המחקר של בינה מלאכותית מאוד מפותח הרבה חברות גדולות מאוד עוסקות בזה הרבה מדענים לאן הוא הולך מה אנחנו רואים איזה מחקרים לוהטים יש בעולם הזה בימינו

דובר 2: אז הדברים אה DEEP LEARNING זה הנושא מאוד חזק בשנים האחרונות זה בעצם כל מה שאנחנו מדברים על רשתות נוירונים יכולת עיבוד מאוד גבוהה חדשות לבקרים יוצאות רשתות חדשות עם ארכיטקטורות חדשות ורשתות מדהימות המצוי שיש הן מסוגלות לעשות דברים מדהימים לייצר לבד לסנתז לבד מוזיקה לסנתז לבד תמונות לקחת תמונות של פרצופים של אנשים ולייצר אותם בסגנון בפת"ם של צעירים מסוימים כמו מנגו עד אז הדברים האלה זה הדברים הכי חמים התחום של NLP מאוד מאוד חם היום ובאמת אנחנו אומרים כל אחד מאתנו שמשתמש בגוגל טרנסלייט יכול להרגיש ממש כל שנה שעוברת איך הרמת תרגום הולכת ומשתפרת וזה באמת אודות לרשתות ומודלים הרבה יותר הרבה יותר מתקדמים כוח החישוב אנחנו מסוגלים היום לעבוד עם big data הישנות כל הטכנולוגיה שתומכת בbig data  יש את כל הנושא הזה של IOT אינטרנט תפסו X שמייצר כמויות אדירות של DATA אנחנו מסוגלים לעבוד איתו לעבד אותו למצוא שמה אינסייט פנימיים תובנות פנימיות בתוך כמויות אדירות של DATA כל העניין של הענן שכבר לא צריכים לשמור את הנתונים במקום ללא אפשרות לשמור אותם בענן כל הטכנולוגיות אלא איזה טכנולוגיה שבאמת תומכות בה יכולות האלה בעתיד הלא רחוק יתווסף בכל הנושא הזה של מחשוב קוונטי שהוסיף עוד כוח מחשוב אדיר לכל הסיפור הזה עם המודלים שיש לנו היום החומרה הטכנולוגיה שתהיה שיש כבר היום אבל תהיה בעתיד תתפתח אנחנו יכולים להגיע רחוק

דובר 1: את חושבת שהבינות המלאכותיות יחליפו בני אדם בדברים שאנחנו לא אוהבים לעשות או לא עושים מספיק מהר או שהם ילכו יותר לכיוון של דברים שאנחנו בכלל לא מסוגלים ולא יכולנו לחשוב עליהם אפילו לפני שהיה הפיתוחים את מדברת על בגדי תעלה אפשרות היא לגלות תובנות ש מי שחוקר את מי שבנה את האלגוריתם לא בכך כדי להסביר איך הוא מצא את זה אבל הוא מצא אם זה משהו שהיא שאלה אולי זה אולי הכיוון היה יותר רלוונטי לתחום הזה מכיוון שהוא עושה משהו שלא יכולנו לעשות קודם

דובר 2: אז היום מדברים על זה שכמובן בשלבים הראשונים ואנחנו איכשהו די בשלבים הראשונים שהדברים האלה קיימים זה כמה עשרות שנים בודדות שיש לנו את האינטליגנציה מלאכותית אז נכון להיום קודם כל אנחנו מנסים להשתמש בה לצרכים של מלכות סיזיפיות כל מיני שאנחנו אוהבים לעשות מלאכות שהם רפטטיביות חוזרות על עצמן

דובר 1: את זה כי אנחנו יודעים על הרבה עבודות הדאיג את עולמי של דברים שאנשים עושים כי מחשבים לא חבל לבזבז את הזמן שלהם וללמוד את זה אם אנחנו עושים OCR זיהוי טקסט והפיכתו לדיגיטלי ואז בן-אדם עובר על זה כדי לעשות הגהה אז בעצם זה לא שהרובוט עושה את העבודות השחורות שהאדם לא רוצה לעשות האדם עושה את העבודות השונות שהרובוט חבל לו להשקיע ולעשות מחווה לפתח אותו בשביל זה נכון

דובר 2: אז כל הדברים האלה ש או שהם מאוד קשים לפיתוח ע"י ארובות או ע"י בינה מלאכותית ואנחנו לא מסוגלים אנחנו לא מסוגלים כרגע לתכנת אותם מזמן מגבלות של אלגוריתמיות אז באמת עדיין אנחנו עושים אותם אנחנו עושים אותם אבל הכוונה הראשונית אני חושבת הכוונה אחי בסיסית זה שהבינה המלאכותית תחליף את האדם ופונקציונליות או שמלכוד שאנשים לא רוצים לעשות או מסיבות שונות או באמת בגלל שמשעממות ורפטטיבית חוזרות על עצמן או מסיבות של סכנה למשל רובוט שהולך למפות כור גרעיני אחרי רעידת האדמה ביפן אז מסיבות של אבטחה והמסוכנות וכן הלאה אבל יש אסכולה שלמה שמדברת על תורה על הסינגולריות הסינגולריות זה איזושהי נקודה בזמן שבא הבינה המלאכותית תגבר על הבינה האנושית ובעצם זה נקודה בזמן שבא הבינה המלאכותית תוכל לתכנת את עצמה לפתח את עצמה להמשיך ולהתפתח ושם רב הנסתר על הגלוי כשנגיע לנקודה הזאת אם נגיע זה שנוי במחלוקת בכלל יש כאלה שטוענים שלא נגיע אבל אם נגיע לנקודה הזאתי שהיא לא מאוד רחוקה בזמן אז זה שנוי במחלוקת אם בכלל מה המחשב יהיה מסוגל לעשות בעצמו

דובר 1:             אמרתי דברים שאמר לנו רפטטיביות דברים מסוכנים מה לגביה טיסה הזאת שאלגוריתמים ובינות מלאכותיות יכולות לקבל החלטות בצורה יותר אובייקטיבית יותר עניינית מבני אדם

דובר 2: אז גם בזה כמובן יש משהו למרות שהנושא גם הנושא הזה כמעט כל נושא שקשור לבינה מלאכותית יש סביבו ויכוח גדול כי מהוויכוח נובע משתי סיבות דבר ראשון אנחנו לא באמת יודעים לאן זה יגיע זה הכל ספקולציות על סמך מה שאנחנו רואים שזה יגיע זה דבר ראשון הדבר השני יש את הפחד האנושי כל הזמן מהפחד תראי טבעי מפני הבינה המלאכותית כמעט כולנו מי שיותר טכנולוגי מי שפחות הטכנולוגי אנשים טוב בוגרים התוצרים אנחנו פוחדים מהייצור הזה שנקרא בינה מלאכותית

דובר 1: הסרטים הפחידו אותנו העיתונות הפחידו אותנו

דובר 2: אז זה לא במקרה שהסרטים הפחידו אותנו בסך הכל אם אנחנו נסתכל על מאיפה השראה לכל הדברים האלה אנחנו יכולים איפשהו זה נמצא בתוך המדע

דובר 1: הגולם בדיוק

דובר 2: ככה המדעים

דובר 1: לבינוני יגיד לו מה לעשות זה אלגוריתם נכון ממש עשוי סיליקון זה אותו דבר

דובר 2: נכון  ומשם אנחנו שואבים את ההשראה אין ספק אם תיקח את ספרי מדע בדיוני שפורסמו בחצי הראשון של ה-100 הקודמת ותראה היום את התוצרים של הבינה המלאכותית אתה תראה שם מאוד מתיישרים עם הקו הזה של מה שכתבו הסופרים של המדע הבדיוני

דובר 1: בואי נדבר על המחירים שאת עושה בתחום הזה

דובר 2: אז אני מאוד יש לי נטייה מאד חזקה על לעבוד על data הרפואי אני עושה הרבה מחקרים של DATA SCIENCE לקחת דעתה ולנסות לקבל ממנו תובנות אנחנו עשינו את זה על איזושהי תרופה שהיא תרופה שמקבלים חולים כרוניים זה היה בשיתוף עם בית חולים מאיר תרופה שמקבלים לחולים כרוניים שהייתה הייתה השערה שהיא גורמת להשמנה ניסינו לבדוק עד כמה זה נכון ההשערה הזאת נכונה אנחנו יודעים על עוד מחלות כרוניות לזה לנסות לזהות איזשהם התקפים אנחנו עובדים במסגרת 1 הקורסים שאנחנו מקיימים לתלמידי תואר שני אנחנו עובדים על דאטה אונקולוגי אדיר שנאסף בארצות הברית הלך כל החולים האונקולוגיים משנת 73 ועד ימינו וועדת הזה פתוח לציבור ואנחנו מנסים בעזרתם של רופאים מהמחלקה אונקולוגית בבית החולים בילינסון אנחנו מנסים להפיק תובנות מתוך הדת הזה אז זה תחום 1 אחר כך יש מחקרים נוספים שאני עושה שם מה שנקרא את המחקרים האידאולוגיים שלי אני טוענת שאני יש לי איזושהי השערה שחלק מהעבודה עשיר של שופט כמובן אנחנו מכירים את הוויכוח האם שופטים אם הם אובייקטיביים עד כמה

דובר 1: שיקול הדעת של שופטים יכול לקבוע את התוצאה של המשפט נכון סתם למה אתה חושב שזה לא תמיד עובד נכון למנות את כל השופטים ולעשות טוב ועדיין הם לא ישפטו לטובתך נכון מאוד

דובר 2: נכון מאוד אז אנחנו לקחנו במסגרת כמה שנים כמה פרויקטי סיום של סטודנטים אנחנו הורדנו נתונים על משפטים בארץ שנעשו בעל עבירות תנועה וניסינו לראות האם ניתן לחזות באמצעות מערכת NLP ובינה מלאכותית האם ניתן לחזות בעבירה מסוימת מה ייתן שופט מסוים האם יש לשופטים מסוימים הטיות אם שופט רועי אישה עבריינית תנועה או גבר עבריין האם העונש יהיה חמור יותר ב-1 ב-1 המקרים ובאמת הצלחנו יש לנו תוצאות ראשוניות שאנחנו ראינו שיש טעויות משפטיות לשופטים מסוימים העבודה הזאת לידי בראשיתה אנחנו עובדים עליו כבר כמה שנים נכון לרגע זה יש קבוצת סטודנטים שעובדת על משפטים בארצות הברית היא עושה את אותו דבר מנסה למצוא טעויות כאלה בבתי המשפט בארצות הברית אנחנו מנסים לעשות את זה גם בשפה האנגלית גם בשפה העברית כל דבר זה אתגר בפני עצמו אז זה עוד משפחה של מחקרים שאני עובדת עליהם משפחה נוספת של מחקרים שאני עובד עליהם זה כל הנושאים שקשורים לטבע ונשיונל ג'יאוגרפיק ככה במרכאות אז אנחנו עושים עכשיו שיתוף פעולה עם מרכז הצפרות באילת קיבלנו מהם data  של נדידת ציפורים דאטה בהיקף די רחב ואנחנו מנסים לזהות כל מיני מגמות האם יש מינים שנכחדים האם יש מינים שמתעצמים

דובר 1: בואי ניכנס לדוגמה הזאת איך עושים את זה באמצעות big data ובינה מלאכותית

דובר 2: אז יש להם מספר בסיס הנתונים שהם אספו 1 מהם בסיסי נתונים זה פשוט ספרים שיושבים וסופרים את הציפורים בסיס נתונים נוסף שיש להם זה מצלמות שמצלמות כל הזמן הזה באמצעות עיבוד תמונה בעצם אפשר לספור את מספר ההופעות ואת סוג נוסף של בסיס זאת אומרת יש סיפורים שהצמידו להם השדרים או טבעת ואז תופסים אותם ויודעים את המסלול את מסלול נהגה כל הבסיס הנתונים האלה נאספים יש להם המון שיתופים הבינלאומיים ממרכז ספרות בווינה ובעוד כל מיני מקומות השיתופיים בינלאומיים ואנחנו עכשיו בתחילתו של הפרויקט אז בינתיים אנחנו איבדנו רק DATABASE 1 אבל המטרה היא לשלב כמה בסיסי נתונים יחד ולנסות לעשות מחקר רחב-היקף ישנו פה הזדמנות בישראל באמת במרכז של אזור של אילת נקש של נדידת ציפורים וזה הזדמנות פז לנצל את המידע הזה מחקר נוסף שאנחנו עומדים לפני איזשהו פרסום של תוצאות זה מחקר בשיתוף בית החולים מעייני הישועה שמה יש לנו אוכלוסייה מאוד מיוחדת של יולדות שעוברות לידות מרובות וזה לא נדיר למצוא שמה יולדת שילדה 10 10 ילדים ויש שמה אנחנו עובדים בשיתוף עם רופאה גינקולוגית שיש לה כל מיני השערות לגבי משקל העוברים בין לידות מרובות וכל מיני התופעות שקורות בלידות מרובות אנחנו לקראת סיום הסיום המחקר הזה עם ממצאים מאוד מעניינים

דובר 1: אם נסתכל על איך שמהערכות האלה עובדות זה נראה כמעט אנטי מדעי אנטי השיטה המדעית הם אומרים לנו תמיד לחפש קורלציה לחפש התאמה ואז לא נניח שיש סיבתיות בגלל שיש התאמה אלא לבדוק את הדבר הזה ופה את אומרת לי יש לנו הרבה נתונים ניקח את המשקל של העובר ניקח היא נתון אחר ונמצא איזושהי קורלציה היי ובגלל שבדקת המון המון נתונים אז אנחנו יודעים שזה נכון ולא צריך לחקור את הדבר הזה זאת אומרת אנחנו משנים את עצם השיטה המדעית

דובר 2: אז אנחנו נמצאים אני חושבת זה זו אמירה מאוד יפה ונכונה אני חושבת שאנחנו נמצאים היום במעבר בין פרדיגמה מדעית הקודמת הישנה לבין הפרדיגמה המדעית החדשה והשילוב שלהם כנראה ימשיך לשלוט הפרדיגמה ישנה אמרה תעלה השערה ותבדוק את נכונותה אז בעצם היום אמנם הרופאים מעלים עבורנו השערות ואנחנו מנסים לבדוק אותם אבל במקום ולבדוק אותם באמצעות הכלים המסורתיים הכלים הסטטיסטיים המסורתיים אנחנו בודקים אותם עם ארגז כלים הרבה יותר מפותח שכולל את כל הרשתות נוירונים DEEP LEARNING אלגוריתמים הרבה יותר מורכבים יש לנו ארגז כלים היום ארגז של DATA SCIENCE ארגז מאוד מפואר ורחב הרבה יותר ממה שהיה לנו לפני 30 40 ו-50 שנה אז זה כיוון 1 כיוון מחקרי אחר הכיוון ומכיוון המחקרי החדש יחסית זה כיון שאמר תכניס לתוך ברשתות נוירונים האלה שמבחינתנו זה כמו קופסה שחורה BLACK BOX כזה תכניס לתוך קופסה הזאתי איזה שהם נתונים ותן לנו לבד למצוא את התובנות שאנחנו אפילו לא לגמרי מבינים תמיד מה יש בתוך הקופסה השחורה בעצם הקופסה השחורה הזאת חוסכת את עבודה של המתכנת כי אם התוכניות המסורתיות הכנסנו קלט כתבנו תוכנית שעבדה על הקלט ויוצא למטופלת אז בעצם בתוכניות הנוכחיות אך לא כותבים תוכניות , אנחנו מכניסים קלט אנחנו נכנסים פלט ואנחנו אומרים למחשב תמצא אותה את התוכנית

דובר 1: זה כמעט מיסטיקה וכמעט להאמין באלגוריתמים בינות מלאכותיות שאנחנו יודעים שהם פגומים שאנחנו יודעים שהם משכפלים את הטעויות שלנו ופגמים אנושיים כי הם נכתבים ע"י בני אדם ולהגיד המידע שנמצא שם הוא הוא יש לו ערך והחוקרים לחקור אותך כאילו יוצרים לעצמנו הם היסטוריים חדשים ומחפשים לקרוא באירוע שגורמים בקפה כאשר יש המון מסתורין בעולם החיצוני שאפשר לבדוק אותו באמת זה נשמע קצת כאילו הרמנו ידיים קצת בבחינה של העולם האמיתי

דובר 2: אז התשובה היא שזה לא ממש מדויק העניין הזה כי דבר ראשון זאת אומרת החדשות הוראותיהם שאם אתה מנסה לומר שאנחנו נפטרים מכל הבעיות האנושי ההטייה האנושית הלא אובייקטיבית לצערנו הרב אנחנו לא נפתחים ממנה כי ברגע שאנחנו מכניסים דאטה מוטא אז גם התוצאות מוטות והדוגמה הכי טובה לזה זה ועדות השחרורים בארצות הברית שהיו יושבים שמה עובדים סוציאליים שופטים הם אנשי מבחן והיו מחליטים לגבי כל אסירים לשחרר אותו או לא לשחרר אותו כל אסיר שהגיש בקשה אם לשחרר אותו לשחרר אותו הוחלפו העבודות האלו הוחלפו בשנים האחרונות ע"י מערכת בינה מלאכותית ומה שהכניסו לה זה את הנתונים של כל האסירים עשרות שנים אחורה נתונים מה צבע עור של האסיר הגיל של האסיר איזה פשע הוא עשה וכן הלאה והכניסו את כל הנתונים והאם בסוף ועדת השחרורים החליטה לשחרר אותו או לא לשחרר אותו נתנו לבינה מלאכותית ללמוד את הקשרים האלה והיום מכניסים אסיר חדש ומבקשים ממנה שתיתן המלצה האם לשחרר אותו או לא לשחרר אותו ומה שגילו שההטייה האנושית למשל זה פחות לשחרר אסירים בצבע עור שחור מאשר אסירים לבנים הוכנסה גם לתוך הבינה המלאכותית לא הצלחנו להיפטר מאתרי הזאת כי אדם ממשיך לעצמו

דובר 1: בארצות הברית של מישהו שנעצר ל-10 ימים בגלל שבינה מלאכותית זיהתה תמונה שנתפסה ברישיון הנהיגה מזויף והיא זיהתה אותה כאותו אדם מכיוון שהוא כבר היה אסיר בעבר והתמונה שלו הייתה במערכת הזיהוי לא היה נכון , אנחנו יודעים שתוכנות כאלה לפי מחקר של מכון התקנים האמריקאי  טועות יותר בין שחורים ובאסיאתיים והינה הבן-אדם ישב 10 ימים בכלא עכשיו תובע את כל  העולם ויש איזו תחושה אדירה אפילו ברמה הכי עממית והמונית אם זה לא בגוגל זה לא קיים או אם גוגל אמר ככה אז זה נכון ואנחנו רואים שזה לא נכון והוא כל הזמן נתקלים אדומות שזה לא נכון אז בגלל זה אולי זה מתחבר לשאלה הקודמת שניהל מיסטיקה אנחנו מסתכלים עליהם בתור סוג של אלוהים חדש אומרים נעשה ונשמע נציית ואז נראה למה במקום להגיד זה כלים שאנחנו פיתחנו אם אני מפתח קומביין והוא קוצר לאנשים את הידיים כשהם מנסים להפעיל אותו אז צריך לבנות את הקומביין מחדש לא את האדם

דובר 2: אז זה נכון כל מה שאתה אומר זה נכון אבל אנחנו צריכים לזכור שאנחנו די בראשיתו של עידן הבינה המלאכותית ובעודנו מדברים 1 הנושאים הכי חמים המחקרי 1 מנושא המחקר הכי חמים זה בעצם הסיבתיות לדעת להבין למה המכונה הבינה המלאכותית החליטה לשחרר אסיר הזה או לא לשחרר אותו ובאמת היום עוד לרוב משתמשים בה מערכות בינה מלאכותית האלה בתור מערכות המלצה ולא בתור מערכות החלטה

דובר 1: כן אבל העובדה שיש המלצה כזאת היא יש לה משקל

דובר 2: נכון אז היום 1 מנושאי המחקר החמים ביותר שיש לנו זה הנושא של להבין את הסיבתיות למה המחשב החליט לשחרר את זה ולא שחסון אז שהוא יגיד

דובר 1: את מכירה את מדריך הטרמפיסט לגלקסיה אז כדור הארץ היה מחשב שנועד לענות על שאלת החיים היקום וכל השאר הוא נתן את התשובה 42 ואז אמרו רגע מה השאלה זה מה שעושים פה קיבלנו את התשובה עכשיו אנחנו צריכים להבין מהשאלה

דובר 2: נכון אבל זה נושא מחקרי של טווח של עוד 5 שנים אומנות מתפתח חדשות לבקרים יש לנו מחקרים שמראים אנחנו עכשיו בעצם יצרנו את הגולם ועכשיו אנחנו מתחילים לחקור מה קורה בתוך הגולם אז אנחנו עדיין לא מבינים הכל אנחנו יודעים לתת את הסיבתיות זה במחקר מידע לתת את זה אנחנו למשל שאנחנו משתמשים בדיפ לעניים ברשתות נוירונים אנחנו לא באמת מבינים מה קורה שם בתוך הרשתות אנחנו חוקרים את זה היום ובכל יום שבו דנו מדברים מתפרסמים מחקרים חדשים שמראים למשל עד לפני כמה שנים לא הבנו לגמרי מה קורה היום אנחנו מבינים שכל שכבה כל שכבה בתוך הרשתות נוירונים האלה בעצם עושה איזושהי הכללה של השכבה הקודמת אנחנו מבינים מה נותן העומק ואנחנו אנחנו יודעים כבר קצת לכמת את הדברים האלה מה שלפני 5 שנים לא ידענו השתמשנו ברשתות נוירונים בלי לדעת את הדברים האלה

דובר 1: וזה לא מפחיד אותך זה לא מפחיד אותך לאן העולם הולך עם שימוש בה כי השימוש בה בינה מלאכותית שהוא קל ונוח אנחנו נעשה אותו גם אם הוא לא מדויק אנחנו נעדיף לחפש בגוגל מאשר ללכת לספריה לתוך המשל אם זה לא מפחיד אותך עולם שבו אנחנו סומכים יותר ויותר עלה על אלגוריתמים פגומים ובינות מלאכותיות שלא מספרות לנו מה הן חושבות

דובר 2: אז יש בזה איזשהו אלמנט של פחד בפחד האנושי טבעי מהדברים האלה ואני חושבת שקודם

דובר 1: כל זה פחד בתור מישהי שחוקרת את התחום ואולי עוזרת לפתח אותו אולי את יוצרת את הגולם שיהרוג את כולנו

דובר 2: נכון בהחלט יכול להיות אני אומרת אנחנו יודעים שכל דבר כזה ניתן לניצול רע אנחנו יודעים למשל היום אנחנו יודעים שיש לנו רשתות נוירונים מסוימות שיש שלמשל שמשתמשים בהם במכוניות אוטונומיות שיודעות לזהות תמרורים ואנחנו כבר הבנו שאפשר לעשות את ההתקפות על הרשתות האלה בשינוי של פיקסל 1 בתוך תמונה של תמרור הוא יכול כבר מפרש את זה בצורה אחרת לגמרי ברמה של משהו שבן-אדם לא יבחין בפיקסל הזה ואז אה וזה לגמרי מהווה את התוצאות של הרשתות אנחנו מודעים לזה אנחנו מודעים לזה שצריכים לתת את הדעת על הדברים האלה שזה יכול לגרום לאסונות טבע הדברים האלה אבל גם אנחנו שיקול הדעת שלנו תראו כמה תאונות קורות אנחנו אותו סובלניים לשיקול הדעת האנושי מאשר לשיקול של הבינה המלאכותית יש לה כמובן יתרונות יש לה חסרונות יש דברים שהיא מביאה שהם לא טובים משלימים שהיא מביאה את הדברים החיוביים והחכמה כמו בכל טכנולוגיה זה לדעת להשתמש בדברים הטובים ולנטרל את הדברים הפחות טובים

דובר 1: ראית את הסרטון של בוסטון דינמיקס של רובוטים רוקדים לשנה החדשה

דובר 2: כן

דובר 1: זה יותר מרגש אותך או יותר מטריד אותך ?

דובר 2: מרגש בצורה בלתי רגילה כי הם מצליחים בעצם לפתור בעיות שהרבה שנים אנחנו ניסינו לפתור אותן כל ה לראות את הרובוט עושה מבחינת דינמית מבחינה פיזיקלית מבצע את כל הגלגולים והסחרור עם הסיפורים האלה זה דבר מדהים וכמובן שאנחנו גם יכולים להשתמש בזה נגיד הכלב הזה משמש בתור תומך לחימה בצבא הכלב שרואים שמה בא בריקוד הזה אז זה דבר נפלא שחייל לא צריך לסחוב על הגב שלו את כל המשקל הזה אלא הכלב יודע להתחקות אחריו ללכת אחריו אז יש גם המון דברים מאוד חיוביים בטכנולוגיות האלה אני ראיתי את זה ממש התרגשתי

דובר 1: הם בעצם עוברים מבחן טיורינג ברמה הפיזיולוגית הם נראים כמו בני אדם אנחנו יודעים שהם לא בני אדם ובכל זאת הם נראים ממש כמו בני אדם ממש משכנעים

דובר 2: לגמרי זה כל כך אתה בדיוק פה נוגע בנקודה שאם אנחנו מסתכלים באופן כללי על הבינה המלאכותית אנחנו רואים שאחד הנושאים שהכי אכזבו זה כל הנושא הזה של רובוטיקה עד לפני כמה שנים כי וזה היה קשור באמת לזה שזה לא רק ההבינה עצמה החשיבה היכולת חשיבה וחישוב וזיכרון אלא בעצם יש לנו פה גם מוטוריקה כל הנושא הזה של תנועה ואנחנו ידענו שבנושא הזה של תנועה אנחנו בפיגור רציני ובעצם בוסטון דיינמיקס צמצמו את הפער הזה בצורה כל כך משמעותית ובעצם נתנו תקווה חדשה על הנושא של רובוטיקה התחיל לאפשר בשנות ה-80 של ה-100 הקודמת ודי נעצר משקיעים לא רצו לתת שם כסף והמחקר היה יקר מדי ולא התפתח בגלל העניין הזה שהייתה אכזבה גדולה ממה שרובוט מסוגל לעשות ובעצם בוסטון דיינמיקס נתנו לזה פוש רציני וזה הפך להיות שוב נושא מאוד לוהט כן הביאו את הרובוטים לדור חדש לגמרי עם יכולות באמת אדירות

דובר 1: ד"ר שרון הלבן ז"ל עוקבת במצב דחייה באפקה ומפתח מערכות רובוטיות בתעשייה תודה רבה לך תודה רבה ותודה לכן ולכם על ההאזנה כדי לשמוע את הפרקים הבאים יירשמו לפרויקט בספוטיפיי גוגל אפל דיזל או ביישומון האהוב עליכם אני עידו קינן