מחשבות על מחשבות

על חשיבה אנושית, בינה מלאכותית, וההזמנה לעלות למדרגה גבוהה יותר

נניח שאתם מבקשים ממני לכתוב מאמר, ולהשוות אותו למאמר שהבינה המלאכותית כבר כתבה: מהיר יותר, רהוט יותר, ללא שגיאות כתיב. השאלה שתלויה באוויר היא לא "מי טוב יותר" אלא מה עושה אדם שמכונה לא.

מה היא מחשבה?

הגדרה פשוטה: מחשבה היא המאמץ לראות את מה שיש, להבין מה נובע ממנו, ולתפוס מה זה אומר (כלומר מה המשמעות). שלוש שכבות - תפיסה, לוגיקה, משמעות. כל אחת בונה על קודמתה, אבל כולן יחד אינן מספיקות אם חסר הדבר הרביעי: אמת.

מחשבה טובה דורשת ענווה בפני המציאות. מי שאינטליגנטי יותר לא חושב טוב יותר בהכרח. מי שמוכן יותר לראות גם את מה שאינו נוח - הוא לדעתי החושב האיכותי. אדם יכול להחזיק בידע רחב, להיות מהיר רהוט, ועדיין לחשוב גרוע - משום שהוא מגייס את האינטלקט שלו להגן על מה שכבר החליט, במקום לבדוק בכנות. הרבה מכישלונות החשיבה האנושית אינם בשל חוסר ידע אלא בשל חוסר נכונות לראות את האמת. וכאן חשוב לומר ש-AI לא יכול לראות אמת... כי הוא לא יודע מה זה.

מחשבה גרועה נובעת לרוב לא מריק אינטלקטואלי, אלא מהתנגדות אינסטינקטיבית לשמור על הסיפור שאנחנו מספרים לעצמנו.

מה ה-AI עושה - ומה לא

בינה מלאכותית מסוגלת לדברים מרשימים: לזכור המון, להסיק במהירות, לזהות דפוסים, לכתוב, לסנתז, להציג אלטרנטיבות. בשכבות מסוימות של חשיבה - היא מובילה בגדול, ללא עייפות, ללא הטיות רגשיות, וללא צורך להגן על "אגו".

אבל רוב החשיבה האנושית היומיומית אינה עמוקה כלל. מה שאנחנו מכנים "לחשוב" הוא לרוב תגובה, הרגל, ניחוש, חרדה עם כתוביות subtitles למטה - מילים רצות בראש. בדרך כלל בתוך מסך של ערפל אם אנחנו לפני הקפה של הבוקר. אנחנו נוטים להשוות את ה-AI לגרסה האידיאלית של החשיבה האנושית - לפילוסוף, לשופט, ליוצר בשיאו. אבל כאשר משווים AI לאדם הממוצע מתגלה אמת לא נוחה. השוואה הוגנת צריכה לכלול גם את הבוקר אחרי 4 שעות שינה, גם את הפגישה שבה ניסינו להישמע חכמים יותר ממה שהבנו, גם את ההחלטה שהתקבלה בלחץ. כלומר, החשיבה שלנו רחוקה מאוד מלהיות "אינטליגנטית"

אפשר לחשוב על חשיבה בשלוש שכבות:

שכבה שטחית - עיבוד מידע, זיכרון, זיהוי דפוסים. כאן ה-AI מוביל. שכבה אמצעית - ניתוח, השוואה, פתרון בעיות. כאן ה-AI שותף שימושי. שכבה עמוקה - שיפוט, חוכמה, יצירה, אחריות מוסרית, משמעות. כאן ה-AI נעדר.

ה-AI הוא מתחרה חזק לחשיבה שטחית, שותף שימושי בחשיבה בינונית, ולא רלוונטי לשכבה העמוקה. הבעיה היא, שרוב היום רובנו מבלים בשכבה הראשונה. ושם - אם נהיה כנים - הוא טוב יותר מאיתנו. בהרבה.

ה-AI כמראה

תובנה חשובה: הבינה המלאכותית אינה רק כלי. היא מראה.

כאשר AI יכול לכתוב ניתוח, לנסח מסקנות, לסכם דיון - ולעשות זאת היטב - הוא חושף כמה מהמלאכה שהאדם ביצע הייתה מכאנית במהותה. לא מחשבה אמיתית, אלא עיבוד. לא יצירה, אלא שכפול בשינוי קל. כל פעם שה-AI מצליח לחקות בצורה מדויקת פלט שהאדם ייצר - שווה לשאול: האם זה הפלט היה מחשבה מלכתחילה, או רק נראה כך?

אל תיקחו זאת כהשפלה. זו הזמנה. ה-AI מנקה מהשולחן כל מה שניתן להאציל, ונותן לנו להחליט: מה נשאר שרק אדם יכול לעשות, או: במה מותר האדם מהמכונה?

הסכנה האמיתית היא לא שה-AI יחשוב כמונו. אלא שאנו נתחיל לחשוב כמו ה-AI - שטחי יותר, מכאני יותר, ממוקד תהליך ופלט.

לאן עולים?

כאשר ה-AI מטפל בשכבה התחתונה, והוא שותף בשכבה האמצעית - מה נשאר לאדם? .

שיפוט. לא כל תשובה נכונה שווה לכל שאלה. לדעת מה לשאול, איך לסנן, מתי להפסיק לחפש ולהתחיל להחליט - זהו שיפוט. ה-AI מייצר אפשרויות. האדם בוחר. והבחירה הזו, כשהיא מגיעה ממקום של ניסיון, ערכים, ואחריות אישית - אינה ניתנת לאוטומציה.

יצירה ותזמור. כשה-AI מטפל בשליפה, בניסוח, בהשוואה - האדם יכול לנצח על תזמורת. לשלב מספר כלים, לכוון לתוצאה שלא הייתה אפשרית בלעדיהם, לראות מה שהכלים עצמם אינם רואים. היוצר האנושי אינו פחות - הוא עובר מנגינה לניצוח. ומנצח טוב הוא לא מי שמנגן הכי מהר, אלא מי שיודע מה הוא רוצה לשמוע.

חוכמה. ה-AI אינו חי. אין לו ניסיון, אין לו חלק במשחק החיים, אין לו את הצלקות שמייצרות שיפוט עמוק. הוא מעבד דפוסים מהעבר - אבל לא חי בהווה. חוכמה - בניגוד לידע - גדלה מתוך חיים שחיו, מתוך טעויות שעלו ביוקר, מתוך הבחנה שנרכשה בכאב. את זה אי אפשר לאמן על מידע.

משמעות. הסיבה שאנחנו חושבים, בסופו של דבר, היא כי משהו אכפת לנו. משמעות אינה פונקציה. היא לא ניתנת לאופטימיזציה. היא מה שנשאר כאשר מסירים את כל מה שניתן לאצול למכונה - ומגלים שנשאר עוד משהו. שכדאי לשמר אותו. שכדאי לגדל אותו.

בנוסף - ישנה עוד שאלה שמחכה מתחת לפני השטח: האם מה שאנחנו, כבני אדם, מביאים לעולם - הוא רק תוצר ביולוגי, או שיש בו מימד שמעבר למנגנון? האם יש בנו מרכיב שהוא עמוק יותר מהנפש או השכל? אני מאמין שכן, וזה הופך את האדם באמת למשהו אחר שמכונה לעולם לא תוכל לשכפל.

השימוש הגבוה ביותר בבינה מלאכותית אינו להפוך את האדם למיותר, אלא להפוך רדידות אנושית למיותרת - ולעורר את האדם למשהו לחשוב טוב יותר

ה-AI לא יגנוב את מחשבותיך אבל הוא יעזור לחשוף מה הערך שלהן.