העולם על אוטומט

איור: גיא חרל"פ

הוא נחשב למהפכן פורץ דרך ולמי שהמציא את הבינה המלאכותית. אבל המדען הנערץ, פרופ' מרווין מינסקי שביקר לראשונה בישראל כדי לקבל את פרס דן דוד היוקרתי, אינו מסתפק במחשבים הקיימים וחולם על מכונות חדשניות בעלות "שכל ישר" שמסוגלות גם ללמוד. אובדן הפרטיות? שטויות, הוא אומר, הסכנה העיקרית היא שהמין האנושי ישמיד את עצמו.
דודי גולדמן

תארו לעצמכם עולם המנהל את עצמו, בלי התערבות של בני האדם: מכוניות אוטומטיות ייקחו אותנו לכל מקום לפי פקודה; מטוסים יטוסו על "טייס אוטומטי" בלי טייסים בקוקפיט, כשהם מבוקרים על ידי מחשבים שישגיחו עליהם מרחוק. התרגלתם לרעיון? יופי. אז עכשיו קחו אותו צעד אחד קדימה: המחשבים שינהלו את העולם לא יהיו סתם מכונות, אלא מכונות לומדות, שהאינטליגנציה הפנימית שלהן מתפתחת ללא הרף, תוך כדי צבירה בלתי פוסקת של ידע וניסיון.

אבי החזון הזה, ומי שנחשב ל"אבי הבינה המלאכותית", הוא מרווין מינסקי (87), פרופסור להנדסת חשמל ולמדעי המחשב במוסד האקדמי היוקרתי MIT, המכון הטכנולוגי של מסצ'וסטס, המכונה על ידי תלמידיו ומעריציו "אולד־מן מינסקי". בשבוע שעבר הוא הגיע לראשונה בחייו לישראל וביום ראשון השבוע קיבל באוניברסיטת תל־אביב את פרס דן דוד היוקרתי, שאליו צורפה המחאה של מיליון דולר.
כל המומחים שעימם שוחחנו העידו שתרומתו של מינסקי לתחום עצומה. כל מי שמחזיק בטלפון סלולרי עם ג'י־פי־אס ואפליקציות שונות, שיודעות לזהות היכן אנו נמצאים ושולחות לנו הצעות ספציפיות, חייב לו תודה. כל רובוט — כולל אלה של נאס"א, סוכנות החלל האמריקאית — המהלך על אדמת מאדים, אוסף דגימות קרקע, מעבד ומנתח אותן ושולח את ממצאיו לכדור הארץ, חב לו את קיומו.
"הוא אחד החלוצים החשובים ביותר", מעיד עליו יזם הטכנולוגיה יוסי ורדי. "למעשה, תחום הבינה המלאכותית לא היה קיים לפניו. כל נושא הרובוטים והמכונות האוטונומיות, המזל"טים, הסחר האוטומטי בניירות ערך, הנעשה בין מחשבים למחשבים, וגם פיתוח של מציאות רבודה (אוגמנטד ריאליטי) – כל אלה נגזרות של מחשבתו פורצת הדרך של מינסקי ושל עבודתו".

מבחן השחמט

אחת התוכנות הראשונות שפיתח מינסקי הייתה למשחק שחמט מול מחשב. בפברואר 1996 ניצח המחשב "כחול עמוק" את גארי קספרוב, אלוף העולם בשחמט דאז. אחרי ההפסד, קספרוב סיפר שהבחין בתבונה עמוקה וביצירתיות במהלכי המחשב. מאוחר יותר התברר שקוד התוכנה שונה בין המשחקים כדי להבין טוב יותר את סגנון המשחק של קספרוב וכדי להימנע מנפילה למלכודת שטמן, שהבינה המלאכותית נפלה אליה פעמיים קודם לכן.

פרופ' מינסקי, חשת סיפוק כש"כחול עמוק" ניצח את קספרוב?
"לא. אלה מכונות שחשבנו עליהן לפני 50 שנה והיה ברור שהאבולוציה של הפיתוחים שלהן תביא אותן בסופו של דבר למצב כזה. השאיפה של הבינה המלאכותית הייתה להקנות למכונות לא רק מומחיות בתחום דעת מסוים, אלא גם שכל ישר (קומון סנס). בתחום הזה אנחנו עוד רחוקים מאוד. רק בשנים האחרונות מושגת התקדמות, אבל מפירותיה ניהנה רק בעוד עשרות שנים או יותר. ב־20 השנים הראשונות, האינטליגנציה המלאכותית התקדמה הרבה יותר מאשר בדורות שבאו אחר כך".

למה? איך אתה מסביר את זה?
"מפני שבעשורים הראשונים נהנינו מתקציבי ממשל נדיבים. המחשבה שמאחוריהם הייתה הקניית יתרון בשדה הקרב. כלומר, היוזמה הייתה במקורה צבאית־ממסדית, אבל הכסף הזה הזין את הכישרונות. פעם, דווקא בצל המלחמה הקרה בין ארה"ב לבריה"מ, היה לנו הרבה מימון ציבורי. משנות ה־60 עד שנות ה־80, רוב הסטודנטים שלי שעשו דוקטורט במעבדה לאינטליגנציה מלאכותית ומחשבים ב־MIT המשיכו במחקר והפכו לפרופסורים־חוקרים בטובות שבאוניברסיטאות. היום אין מימון ציבורי, אין תקנים ויש קיצוצים. לכן דוקטורנט יחשוב פעמיים אם כדאי לו להתמחות בבינה מלאכותית, שכן ברור לו שהוא יתקשה להשיג תקציבים ולחיות באופן שיאפשר לו להתמסר לעבודה מחקרית. היום, גם כאשר משיגים מימון פרטי, המשקיעים רוצים לראות פירות מהירים בתוך שנתיים־שלוש. אבל המדע מתקדם דרך השקעה במחקר בסיסי, לא במחקר יישומי".

מה ההבדל?
"מחקר יישומי עוסק בתוכניות לפתרון בעיה מיידית, ומזה מפתחים כל מיני טכנולוגיות נחמדות. לעומת זה, מדען חוקר שעוסק במחקר בסיסי לא ישאל איך לעשות, אלא למה. כל ילד בן שלוש מבין את ההבדל בין המשפטים 'כאשר יורד גשם, כדאי לתפוס מחסה כדי להישאר יבש', לבין 'נעים להתקלח בכל יום' – אבל אין מחשב אחד בעולם שמסוגל להבין את משמעותו, והם יצטיירו בעיני המחשב כלא הגיוניים. כי הרי בשני המקרים יורדים מים מלמעלה. אז לוגית, למה לא להירטב מהגשם, ולחסוך מקלחת?"

זה המשל. ומה הנמשל?
"שרק מחקר בסיסי יוכל לגרום למדענים לחקור לעומק מה יש במוח של האדם, שיודע לבצע מיליוני פעולות בשברירי שנייה באופן אוטומטי כדי להוציא לפועל החלטה, וכיצד לילד בן שלוש יש שכל ישר שלמחשב עדיין אין. איש לא בנה עדיין מערכת מלאכותית, מחשב, למשל, שרוכשת ידע על החשיבה עצמה, כך שהיא יכולה להשתפר וללמוד בעצמה. לכן אני מעודד אנשים לעשות מחקר בסיסי ולבחון מה מהותו של השכל הישר, כי אם נבין כיצד הוא פועל במוח שלנו, נדע להקנות את היכולות האלה למכונות. זה החזון הגדול שהיה למייסדי תחום הבינה המלאכותית".

בוא נחשוב על דוגמאות: בעתיד כל המכוניות יסעו לבד?
"זה ברור. כבר עכשיו גוגל עושה ניסיונות מוצלחים מאוד בניהוג אוטונומי. ואם זה מצליח בקטן, אין סיבה שזה לא יצליח בגדול".

וכל בקרת הרמזורים והכבישים תהיה אוטונומית, בלי שום התערבות אנושית?
"ברור. היום מחשבים בבורסות העולם עושים סחר מניות וסחורות באופן אוטומטי, ואין סיבה שמחשבים לומדים לא יידעו להתמודד עם ניהול אופטימלי של בקרת תנועה ורמזורים, תוך התחשבות בעומסי תנועה והפנייה של חלק מהמכוניות לנתיבים חלופיים. ברור שזה יקרה. זו רק שאלה של זמן".

מחשבים ינהלו גם את התנועה לחלל?
"ברור. תראה מה קורה עם 'אופורטיוניטי' של נאס"א – הרובוטרקטור החכם, שמשוטט על אדמת מאדים, חופר עם מקדחה ודופק עם פטיש, לוקח דגימות, מנתח אותן, מאחסן אצלו בתא המטען חלקים מכל דגימה, ומשדר את כל זה לתחנת החלל בכדור הארץ. אני מעריך שבעתיד כל התנועה, בים ביבשה ובאוויר תתנהל באופן אוטונומי, גם הניהוג, גם הניווט, גם קבלת החלטות ודיאלוג עם מערכת מרכזית שתנהל את כל זה וטיסות החלל – הן לצורכי מחקר והתיישבות והן לצורכי תיירות־חלל – ייעשו באופן אוטונומי, יעיל וחסכוני".

ומה לגבי רובוטים חכמים? הם ילוו את חיינו?
"כל עבודה שהיא לא נעימה, או מסוכנת, או משעממת וחדגונית, רובוטים יבצעו וביעילות גדולה יותר. תחשוב שברגע שנגיע לפריצת דרך, ונצליח להקנות למחשבים יכולת לימוד, אין גבול לאפשרויות שנוכל להנות מהן ובאופנים שעכשיו אפילו קשה לחשוב עליהם. מה שכן, אנחנו עדיין רחוקים משם, וזה מאכזב".

אז חזון הבינה המלאכותית טרם הוגשם במלואו?
"הוא לא עמד בקבועי הזמן שרבים מדובריו הבטיחו. חשבנו שלעת הזו, תחילת האלף השלישי לספירה, כבר נהיה במקום הרבה יותר מתקדם. זה לא קרה, אבל זה בוודאות יקרה. אי־שם יושב עכשיו באיזה שהוא מקום בעולם, אולי בדירה בתל אביב, בחור שמתעניין במדעי המחשב. הוא יילך לאוניברסיטה וילמד וישכלל את כלי החשיבה והעבודה שלו, והוא יעשה את פריצת הדרך".

העתיד על פי מינסקי

סופרים והוגים לא מעטים מדברים על "האח הגדול" ועל חשש מפני השתלטות המחשבים על החיים שלנו. אינך חושש?
"ממחשבים, מרובוטים ומבינה מלאכותית אינני חושש. למדע אין תודעה ואין אג'נדה פוליטית, זה בסך הכל אלגוריתם חכם, שיודע לבצע ואינו מתעייף וכאשר גם יידע ללמוד – הוא רק יכול לעזור לנו. אבל אני בהחלט חושש מפני השמדה עצמית של הגזע האנושי. הבעיות שאני רואה הן רבות, ומהקל אל הכבד אפשר לחשוב על התמיכה באוכלוסייה המזדקנת בעולם, דרך טיפול באסונות שהם מעשי ידי אדם. זה כולל נגיף או חיידק שמתפשטים מהר מאוד ולוקח לנו זמן רב למצוא תרופה, ובינתיים המגיפה עלולה להמיט אסון גלובלי, ועד אסונות במימדים קטסטרופליים".

כיצד אתה מציע למנוע אסונות אפשריים כאלה?
"בהחלטה אחת. זו ההחלטה שמובילה למסקנה כי האדם צריך לקחת את ההגה, ולהיות האדריכל לא רק של חייו, אלא גם האדריכל של עתיד התרבות האנושית. רק אם נבין, שאין איזו יישות בעלת אחריות, שהיא המנהלת את העניינים לטובה, נוכל להגיע למסקנה הרציונלית המתבקשת והיא שעלינו לקחת את העתיד בידיים שלנו, ונדע להיערך כראוי. עם ההחלטה הנכונה ועם הפיתוחים העתידיים, שתחום הבינה המלאכותית יניב בעתיד, נוכל להיערך לקראת רוב המצבים האפשריים".

למה שנרצה להשמיד את עצמנו?
"אתה שואל כל הזמן על הסכנות מפני מחשבים, מפני רובוטים ומפני בינה מלאכותית, ובכך אתה מפנה תשומת לב לדברים לא חשובים, שלא קיימת בהם שום סכנה עתידית, ובאותו זמן אתה מתעלם מסכנות ההווה. למשל, עליית פני הים, שעלולה להציף ולהשמיד שדות חקלאיים המשמשים כאסם האכלה של מיליארדי בני אדם בעולם השלישי. איני המדען היחיד החושש מפני כך, אבל גם אני חושש מפני מצב שבו יהיו מלחמות על אוכל, עד מוות. זה עלול להחזיר את הציביליזציה שלנו אלפי שנים לאחור. גם הפחד מפני מלחמה גרעינית הוא אמיתי, וגם החשש מפני מגיפה מהירה והחשש המוצדק מפני אסטרואיד גדול שיתנגש בנו. אבל החשש הכי גדול שלי הוא מפני הבורות".

הבורות?
"הבורות של האדם, חוסר ההיכרות של בני אדם רבים עם המציאות כפשוטה, אשר גורמת להם לפעול בדרכים לא רציונליות, שלא רק שאינן מועילות, אלא בעליל הן מזיקות, כל היחס המיתי והמאגי כלפי המציאות הוא מדרון חלקלק".

מינסקי אינו מוכן להיגרר לוויכוח על אלוהים, אבל בדומה לאלברט איינשטיין, גם הוא שווה נפש כלפי שאלת קיומו של האל. למעשה, הוא מגדיר את עצמו כאתאיסט, אף שאינו מוכן להשמיע הצהרות כנגד אנשים דתיים.

מה עם אובדן הפרטיות? רבים חשים אותה כבר היום. היא תלך ותגבר?
"תמורת דולרים בודדים אפשר לקנות היום מערבל תקשורת ולחבר את המחשב אליו, כך שהפרטים שלך לא ייחשפו. העיתונים והאתרים מלאים במודעות למוצר הזה. עכשיו תשאל את עצמך כמה אנשים קונים כזה מערבל בכמה דולרים בודדים. מספר שואף לאפס. למה? כי בפועל, האדם אינו חושש מפני אובדן הפרטיות. אלה כותבים שונים והוגים בעיני עצמם שמפחידים את עצמם ואת הקוראים שלהם. עובדה, שרוב האנשים ששים לוותר על הפרטיות לטובת נוחות או לטובת בידור או לטובת קשרים חברתיים. ראה את הפייסבוק. לדעתי, אנחנו, המין האנושי, נמצאים במצב נמשך שבו אנחנו מבינים את המשמעות של כרסום הפרטיות, אבל אנחנו זורמים עם הטכנולוגיה, ומי שחושש – שיקנה מערבל בכמה דולרים. זו לא סוגייה רצינית, היא רק נראית כזו".

שתי נדנדות בסלון

"מרווין הזקן" נולד בניו יורק ב־1927 לפאני רזייר ולהנרי מינסקי, שסביהם וסבתותיהם ברחו בשנות ה־80 של המאה ה־19 מרוסיה, בעקבות הפוגרומים ביהודים ("סופות בנגב"). הוא סיים את התיכון למדעים ברונקס, ולאחר תואר ראשון במתמטיקה בהרווארד, המשיך לתואר שני ולדוקטורט באוניברסיטת פרינסטון. מגיל צעיר הגדיר את עצמו כאתאיסט. בשלהי מלחמת העולם השנייה שירת בצי האמריקאי. מאז, זכה פרופ' מינסקי באינספור פרסים חשובים. על שמו רשומים פטנטים רבים, בהם גם מכונה שאותה בנה ב־1951 והייתה הראשונה שביצעה למידה באמצעות רשת נוירונים אקראית.

צילום: ויקיפדיה

מינסקי שימש כיועץ מדעי לסרט "2001: אודיסיאה בחלל" ומוזכר בסרט וגם בספר. בתחילת שנות ה־70 הוא ושותפו סימור פפרט החלו לפתח תיאוריה לה קראו "The Society of Mind" המנסה להסביר התנהגויות המכונות "תבוניות" כריאקציה של חלקים בלתי־תבוניים. בשנת 86' הוא פרסם ספר שעסק בתיאוריה זו, אשר כוון לקהל הרחב וזכה להצלחה רבה.

מינסקי היה אחד ממשתתפי הכינוס שהתקיים בקיץ של שנת 1956 בקולג' דרמוט' בהאנובר, ניו־המפשייר. תלמידו הישראלי, פרופ' שמעון אולמן, חוקר בכיר במדעי המחשב במכון ויצמן למדע וחבר באקדמיה הלאומית למדעים, שעשה את הדוקטורט במעבדה של מינסקי והמשיך לעבוד בה כמה שנים כחוקר, מספר כי באותה פגישה נטבע לראשונה המונח אינטליגנציה מלאכותית – Artificial Intelligence וראשי התיבות AI.

"זו הייתה פגישה היסטורית, שכן ההתכנסות הזו הולידה הצהרה, מניפסט, שכוננה תחום מחקר אקדמי חדש. מעטות הפעמים בהיסטוריה המודרנית שלנו, שבה נוצר תחום דעת חדש", מסביר פרופ' אולמן, ממייסדי "אורבוטק" וטייס קרב לשעבר. במעבדה שלו במכון ויצמן אולמן חוקר כיום את הדרכים, שבהן אפשר להקנות למחשב, המחובר למצלמה, המשמשת לו עיניים, את היכולת להבין תמונה ולזהות בה עצמים.

פרופ נתן אינטרטור, חוקר בבית־הספר למדעי המחשב ובבית-הספר למדעי המוח של אוניברסיטת תל-אביב, מסביר: "מינסקי הצליח להציג מכונה מלאכותית לומדת, המשנה את עצמה כל הזמן, וככל שחולף הזמן, היא לומדת יותר ויותר. זה היה האלגוריתם הראשון של מערכת לומדת וזו תרומה כבירה, ולכן מינסקי הוא אבי המכונות הלומדות ואבי הבינה המלאכותית".

מינסקי נחשב לאדם מקורי עם חוש הומור מפותח. "בבית שלו בברוקליין היו מחוברות שתי נדנדות בסלון, וכל אחד יכול היה להתנדנד בהן, תוך שהוא מקשיב ליצירות בפסנתר שמינסקי וחבריו ניגנו בהן להנאתם של האורחים. היו לו בסלון הבית כמה פסנתרים, והיה מאוד נעים להתארח שם עם עמיתים אחרים", מספר פרופ' אולמן.
גם כאשר תוקפים בפניו את תחום הבינה המלאכותית, ואומרים לו שהמחשב אינו מודע לפעולות שהוא מבצע, כלומר הוא מבצע אותן בלי הכרה, נוהג מינסקי לענות ש"זה בסדר, שכן רוב בני האדם אינם מודעים בדרך כלל לפעולות שלהם".

פרופ' מינסקי, בספרך, "סואסייטי אוף מיינד", כתבת שמודל הפעילות של המוח האנושי מבוסס על מאות או אלפי מחלקות נפרדות, כשכל מחלקה לעצמה חפה מהבנה או הכרה, ועדיין סך התוצרים של המוח האנושי מניב תפוקות רציונליות. איך זה ייתכן?
"זו תופעה מעניינת. למוח יש ייצוגים של מה שהוא עושה. כל חלק שלו, כל קטגוריה, פועלת בלי הכרה או מודעות. אבל הסך של הכול באמת מניב מעשים עם הכרה. התעלומה הזאת היא בין האתגרים שעלינו לפצח".

כשאסימוב דחה הזמנה

אייזק אסימוב, סופר המדע הבדיוני שהיה פופולרי מאוד בחייו, היה אדם שהכיר בערך עצמו, ורבים יגידו שבצדק. אבל למרות ביטחונו העצמי הגבוה ולמרות תחושת הערך שלו, אסימוב בעצמו הודה כי יש שני אנשים חכמים ממנו. הראשון שבהן הוא מרווין מינסקי. אגב, השני, היה האסטרופיזיקאי וכוכב הטלוויזיה ("קוסמוס"), קרל סייגן, שאף הוא היה יהודי ואמריקאי. מאחר ששררו בין מינסקי לאסימוב הערכה וכבוד הדדיים, וגם שכנות, מינסקי הציע פעם לאסימוב שיבוא אליו למעבדה כדי לראות את הרובוטים שהוא מפתח. היתה זו הצעה אדיבה, שכן לא היה סטודנט אחד למדעי המחשב או חוקר בתחום שלא רצה לקבל סיור במעבדה הכי עתידנית ונחשבת בעולם, באם־איי־טי. אבל להפתעתו שלמינסקי, אסימוב דחה את ההצעה באדיבות. "שאלתי את אסימוב, למה שלא תבוא לבקר? הוא אמר שזה בגלל שהוא כותב על רובוטים אינטליגנטיים של העתיד, וברגע שיראה את הרובוטים העלובים של ההווה, זה יגרום לו אכזבה ומפח־נפש, וגם זה עלול לפגוע בדימיון שלי. אז חשבתי שאסימוב באמת צודק", מספר מינסקי.