האם אנחנו רק רובוטים ביולוגיים מתוחכמים?

לאחרונה מתרחשים כל כך הרבה קפיצות שקשורות לבינה מלאכותית. אנחנו בהחלט חיים בזמן מהפכני ומרתק!
אתמול פורסם בעיתון כלכליסט מאמר דיעה של הנוירולוג ד"ר יהונתן ריינר בשם למה ה-AI לא יוכל להחליף אותנו לעולם?

העתידן המבריק (וחברי, אבל אני לא משוחד..) , רועי צזנה, ענה לו בפוסט משל עצמו. רועי מזכיר לנו עד כמה הבינה המלאכותית התפתחה ואיך היא מאיצה את התפתחותה ואט אט סוגרת פערים עם היכולות האנושיות. האם אנחנו באמת יכולים להתחייב שתוך כמה עשורים הבינה המלאכותית לא תגיע לרמת המוח האנושי ואף תעקוף אותו? הרי אחרי הכל גם המוח שלנו הוא מכונת חישוב ביולוגית ובאופן כללי אנחנו רובוט ביולוגי מתוחכם.

בגדול אני מסכים עם מה שכתב רועי. אנחנו בהחלט רובוט ביולוגי. מצד שני האם כל מה שהמוח עושה הוא "רק" חישובים? זה כבר לא בטוח ויש כאן עוד עומק שצריך לחשוף. מי שהראה לנו למה זה כנראה לא יכול להיות המצב הוא הפילוסוף ג'ון סרל בעזרת טיעון החדר הסיני.  אם הטיעון שלו נכון הרי שהמוח חייב לעשות משהו מעבר לחישובים ואנחנו מעבר ל"רק" רובוטים ביולוגיים מתוחכמים.

החדר הסיני הוא ניסוי מחשבתי שהציע ג'ון סרל בשנת 1980, כדי להראות שלא יכול להיות שהמוח הוא רק מכונת חישוב.
בניסוי המחשבתי של החדר הסיני, אדם שאינו מבין סינית יושב בחדר סגור בו יש חריץ בדלת. מחוץ לחדר יושב אדם שמבין סינית ומכניס דף ועליו שאלה בסינית דרך החריץ לתוך החדר.

בתוך החדר נמצא ספר שמכיל אוסף מורכב של כללים שנקבעו מראש כיצד להגיב לסימני הכתב על גבי הדף. הכללים מנוסחים באופן חד משמעי, בתור אלגוריתם.

האדם שבחדר מבצע את הוראות האלגוריתם שבספר, ובסופו של התהליך מתקבל דף ועליו אותיות סיניות, שכאמור אינן אומרות דבר לאדם שבחדר. את הדף הזה הוא מעביר בחזרה לאדם שמחוץ לחדר. על הדף כתובה תשובה בסינית לשאלה. מבחינת האדם מבחוץ שיודע סינית התשובה טובה ואינטיליגנטית ולכן הוא יסיק שמי שענה על השאלה הבין את השאלה ויודע סינית. אבל האדם בחדר שענה על השאלה, כלל לא יודע סינית!

החדר הסיני מדמה פעולת מחשב (מכונת טיורינג) באופן מושלם. האדם שאינו מבין סינית מתפקד בתור המעבד, בעוד ספר ההוראות הוא התוכנה או האלגוריתם.

סרל תוקף את ההנחה שניתן לבנות תודעה במחשב, מורכב ככל שיהיה. לטענתו, גם אם ניתן לבנות מחשב בעל יכולות מורכבות כמו יכולת שפתית, אין בכך שום התקדמות ליצירת תודעה או הבנה.

לשם כך מדגים סרל מחשב, שלפי כל הכללים של מדידה מבחוץ מבין שפה – הישג תודעתי גדול – ופועל על פי כללי מדעי המחשב, אבל הדבר היחיד שיכול להבין משהו במערכת – האדם שבחדר – בוודאות אינו מבין שפה.

המסקנה היא שחישוביות (אלגוריתם) אינה מספיקה כדי לייצר הבנה ומשום שלנו כבני אדם יש את יכולת ההבנה הרי שהמוח שלנו עושה עוד משהו מעבר לחישובים. מכך נובע שמוח האדם אינו רק רובוט ביולוגי.

יש כמובן טיעונים נגד החדר הסיני, אבל לדעתי הם לא משכנעים. למשל, מול טענות שבהדמיה לא נכלל שימוש בזיכרון או האפשרות לאלגוריתם אקראי ניתנה התשובה שניתן לצייד את האדם שבחדר במחברת לכתיבה וקוביות, בהן ישתמש על פי הוראות הספר.
עוד טיעון נגד הוא שאמנם האדם שבחדר אינו יודע סינית, אך האדם והחדר ביחד נחשבים כמערכת כוללת היודעת סינית, והעובדה שמדובר בחדר דומם, ספר הוראות ואדם שבוודאות אינו יודע סינית אינה מהווה בעיה בדיוק כמו שנוירון אחד במוח אינו מבין שפה. סרל ענה לטענה שבאופן עקרוני אדם יכול ללמוד בעל פה את כללי הספר ואז לא צריך את הספר יותר. הוא יוכל להתנהג כאילו הוא יודע סינית אבל הוא רק ימלא אחר ההוראות בלי להבין אותן.

מה המסקנה מתוך טיעון החדר הסיני? האם זה אומר שאכן אנחנו יותר מרק חישובים? יותר מרובוט ביולוגי?
זו שאלה טובה. זהו רק טיעון ולא הוכחה מתמטית ולכן הכל עוד פתוח. מצד שני אסור להתעלם מהטיעון הזה. הוא רומז לנו שיש כאן עניין עמוק יותר שעוד לא הבנו ובהחלט יכול להיות שהמוח שלנו הוא יותר מרק תוכנת חישוב ביולוגית. בהחלט יכול להיות שבשביל להגיע להבנה צריך עוד משהו. עוד רכיב שלא קשור לחישוביות.

עכשיו השאלה איך ממשיכים הלאה, אחרי שנחשפנו לטיעון שמצד אחד נשמע נכון ומצד שני מערער את תפיסת עולמנו?
לצערי, מנסיוני עם טיעונים שכאלה, מירב האנשים בוחרים בהתעלמות. הם מתעלמים מהרמזים הללו וממשיכים הלאה כאילו לא צריך להסתקרן, לעצור ולחשוב על עומק הדברים. במקום הגישה הזו אני מציע גישה אחרת. גישה בה אנו לא מפחדים מהעירעור הזה על מה שחשבנו שאנחנו מבינים, אלא, במקום, אנחנו מסתקרנים ממנו. אנחנו אוהבים את הערעור.

מדוע שנאהב משהו שמטלטל את תפיסת עולמנו?
משום שאנחנו יודעים שהמציאות עולה על כל דימיון ושאנחנו עוד לא יודעים הכל. יותר מזה, הבנו רק טיפה מתוך אוקיינוס המציאות ולכן כל טיעון כזה שמצד אחד נראה טוב ומצד שני מערער על כל מה שהנחנו שאנחנו יודעים הוא חשוב, כי הוא רמז כיצד אפשר לשבור את תבניות המחשבה שלנו כדי להתקדם עוד צעד לעבר הרחבה הידיעות שלנו על המציאות. זו הדרך שלנו לצאת החוצה מהמערה של אפלטון (או, אם תרצו, מהמטריקס. מעניין שבדיוק יצא פרק איתי בפודקאסט מה לעזאזל קורה פה על נושא זה).

ונקודה אחרונה לסיום. גם אם טיעון החדר הסיני נכון וצריך משהו נוסף מעבר לחישוביות כדי להגיע להבנה, עדיין זה יהיה חלק מחוקי הטבע. במילים אחרות, עדיין נוכל להבין זאת בעזרת הפיזיקה ואז להטמיע זאת במחשבים. אומנם אז זה כבר לא יהיה מודלי שפה כמו שאנחנו מכירים היום, אבל הם בהחלט יהיו בינה מלאכותית כללית.

אגב, כמו שרבים ממכם יודעים, פיתחתי תיאוריה פיזיקלית להסביר מהי תודעה ואכן לפי התיאוריה, כדי ליצור תודעה לא מספיקה רק חישוביות. צריך בנוסף עקרון פיזיקלי בשם עקרון היחסות. מאד יכול להיות שבשביל להגיע להבנה צריך קודם כל תודעה ולכן, כמו שרומז לנו טיעון החדר הסיני, אכן צריך משהו מעבר לחישוביות והמשהו הזה הוא אולי עיקרון היחסות כפי שהתיאוריה שלי מציעה. כמובן שמתעוררות פה הרבה שאלות כמו למשל איך מגדירים בכלל הבנה ותודעה?אבל זה כבר מצריך פוסט בפני עצמו.
בינתיים נסתפק בזה שיש לנו רמז חשוב וחזק על כך שבשביל הבנה חייבים משהו מעבר לחישוביות ולכן נראה שהמוח שלנו הוא מעבר לרק רובוט ביולוגי מתוחכם.