מחשבות על מחשבות

על חשיבה אנושית, בינה מלאכותית, וההזמנה לעלות למדרגה גבוהה יותר: ה-AI לא יגנוב את מחשבותיך -

הוא יעזור לך לחשוף את ערכן.

נניח אתם מבקשים ממני לכתוב מאמר, ואז משווים למאמר שבינה המלאכותית כבר כתבה: רהוט יותר, זורם, ללא שגיאות כתיב. לכאורה, הרבה יותר טוב. אבל השאלה שלי היא לא "מי טוב יותר" אלא מה יש באדם שמכונה לא תהייה לעולם - למרות שהחיקויים הולכים ומשתפרים.

מה היא מחשבה?

הגדרה פשוטה: מחשבה היא המאמץ לראות את מה שקיים, להבין מה נובע ממנו, ולתפוס מה זה אומר (כלומר מה המשמעות). שלוש שכבות - תפיסה, לוגיקה, משמעות. כל אחת בונה על קודמתה, אבל כולן יחד אינן מספיקות אם חסר הדבר הרביעי: אמת.

מחשבה טובה דורשת ענווה בפני המציאות. מי שאינטליגנטי יותר לא חושב טוב יותר בהכרח. מי שמוכן יותר לראות גם את מה שאינו נוח - הוא לדעתי החושב האיכותי. אדם יכול להחזיק בידע רחב, להיות מהיר רהוט, ועדיין לחשוב גרוע - משום שהוא מגייס את האינטלקט שלו להגן על מה שהוא כבר החליט, במקום לבדוק בכנות אפשרויות אחרות. הרבה מכישלונות החשיבה האנושית אינם בשל חוסר ידע אלא בשל חוסר נכונות לראות את האמת. וכאן חשוב לומר ש-AI לא יכול לראות אמת... כי הוא לא יודע מה זה.

מחשבה גרועה נובעת לרוב לא מריק אינטלקטואלי, אלא מהתנגדות אינסטינקטיבית לשמור על הסיפור שאנחנו מספרים לעצמנו.

מה ה-AI עושה - ומה לא

בינה מלאכותית מסוגלת לדברים מרשימים: לזכור המון, להסיק במהירות, לזהות דפוסים, לכתוב, לסנתז, להציג אלטרנטיבות. בשכבות מסוימות של חשיבה - היא מובילה בגדול, ללא עייפות, ללא הטיות רגשיות, וללא צורך להגן על "אגו".

אבל רוב החשיבה האנושית היומיומית אינה עמוקה כלל. מה שאנחנו מכנים "לחשוב" הוא לרוב תגובה, הרגל, ניחוש, חרדה עם כתוביות subtitles למטה - בליל מילים שרץ בראש - בדרך כלל בתוך מסך של ערפל אם אנחנו לפני הקפה של הבוקר. אנחנו נוטים להשוות את ה-AI לגרסה האידיאלית של החשיבה האנושית - לפילוסוף, לשופט, ליוצר בשיאו. אבל כאשר משווים AI לאדם הממוצע מתגלה אמת לא נוחה. השוואה הוגנת צריכה לכלול גם את הבוקר אחרי 4 שעות שינה, גם את הפגישה שבה ניסינו להישמע חכמים יותר ממה שהבנו, גם את ההחלטה שהתקבלה בלחץ. כלומר, החשיבה הרגילה שלנו רחוקה מאוד מלהיות "אינטליגנטית"

אפשר לחשוב על חשיבה בשלוש שכבות:

שכבה שטחית - עיבוד מידע, זיכרון, זיהוי דפוסים. כאן ה-AI מוביל. שכבה אמצעית - ניתוח, השוואה, פתרון בעיות. כאן ה-AI שותף שימושי. שכבה עמוקה - שיפוט, חוכמה, יצירה, אחריות מוסרית, משמעות. כאן ה-AI נעדר.

ה-AI הוא מתחרה חזק לחשיבה שטחית, שותף שימושי בחשיבה בינונית, ולא רלוונטי (ואולי גם מזיק) לשכבה העמוקה. הבעיה היא, שרוב היום רובנו מבלים בשכבה הראשונה. ושם - אם נהיה כנים - הוא טוב יותר מאיתנו. בהרבה.

ה-AI כמראה

תובנה חשובה: הבינה המלאכותית אינה רק כלי. היא מראה.

כאשר AI יכול לכתוב ניתוח, לנסח מסקנות, לסכם דיון - ולעשות זאת היטב - הוא חושף כמה מהמלאכה שהאדם ביצע הייתה מכאנית במהותה. לא מחשבה אמיתית, אלא עיבוד. לא יצירה, אלא שכפול בשינוי קל. כל פעם שה-AI מצליח לחקות בצורה מדויקת פלט שהאדם ייצר - שווה לשאול: האם זה הפלט היה מחשבה מלכתחילה, או רק נראה כך?

אל תיקחו זאת כהשפלה. זו הזמנה. ה-AI מנקה מהשולחן כל מה שניתן להאציל, ונותן לנו להחליט: מה נשאר שרק אדם יכול לעשות, או: במה מותר האדם מהמכונה?

הסכנה האמיתית היא לא שה-AI יחשוב כמונו. אלא שאנו נתחיל לחשוב כמו ה-AI - שטחי יותר, מכאני יותר, ממוקד תהליך ופלט.

לאן עולים?

כאשר ה-AI מטפל בשכבה התחתונה, והוא שותף בשכבה האמצעית - מה נשאר לאדם? .

שיפוט. לא כל תשובה נכונה שווה לכל שאלה. לדעת מה לשאול, איך לסנן, מתי להפסיק לחפש ולהתחיל להחליט - זהו שיפוט. ה-AI מייצר אפשרויות. האדם בוחר. והבחירה הזו, כשהיא מגיעה ממקום של ניסיון, ערכים, ואחריות אישית - אינה ניתנת לאוטומציה.

יצירה ותזמור. כשה-AI מטפל בשליפה, בניסוח, בהשוואה - האדם יכול לנצח על תזמורת. לשלב מספר כלים, לכוון לתוצאה שלא הייתה אפשרית בלעדיהם, לראות מה שהכלים עצמם אינם רואים. היוצר האנושי אינו פחות - הוא עובר מנגינה לניצוח. ומנצח טוב הוא לא מי שמנגן הכי מהר, אלא מי שיודע מה הוא רוצה לשמוע.

חוכמה. ה-AI אינו חי. אין לו ניסיון, אין לו חלק במשחק החיים, אין לו את הצלקות שמייצרות שיפוט עמוק. הוא מעבד דפוסים מהעבר - אבל לא חי בהווה. חוכמה - בניגוד לידע - גדלה מתוך חיים שחיו, מתוך טעויות שעלו ביוקר, מתוך הבחנה שנרכשה בכאב. את זה אי אפשר לאמן על מידע.

משמעות. הסיבה שאנחנו חושבים, בסופו של דבר, היא כי משהו אכפת לנו. משמעות אינה פונקציית מטרה. היא לא ניתנת לאופטימיזציה. היא מה שנשאר כאשר מסירים את כל מה שניתן להאציל למכונה. היא הדבר שכדאי לשמר, ולהעצים בעולם שהופך יותר ויותר לדיגיטלי.

ועוד שאלת עומק: האם מה שאנחנו, כבני אדם, מביאים לעולם - הוא רק תוצר ביולוגי, או שיש בו מימד שמעבר למנגנון? רוח/spirit האם יש בנו מרכיב שהוא עמוק מהנפש והשכל? אני מאמין בכל ליבי שכן - וזה הופך את האדם באמת למשהו אחר שמכונה לעולם לא תוכל לשכפל.

השימוש החכם בבינה מלאכותית אינו להפוך את האדם למיותר, אלא להפוך רדידות אנושית למיותרת - ובכך לעורר את מחשבת האדם למשהו טוב יותר.