שוליית הקוסם וסכנת הבינה המלאכותית
- Oren Farber
- 29 במאי
- זמן קריאה 2 דקות
עודכן: 31 במאי
יום אחד מיקי מאוס נשאר לבד בבית הקוסם
בסצנה ישנה מ״פנטזיה״ של דיסני (1940), שמרגישה פחות כמו אנימציה ויותר כמו נבואה על העידן שלנו.
מיקי עייף מלסחוב דליים של מים הלוך וחזור, שוב ושוב. זו עבודה פיזית איטית, משעממת.. מהסוג שאף אחד לא רוצה לעשות -
אז מיקי משתמש "בטכנולוגיה" של קוסמים:
הוא חובש את כובע המאסטר, מזמן את כוחות הקסם ומעורר מטאטא לחיים!
בהתחלה זה עובד מושלם, והמטאטא מתחיל לסחוב את המים במקומו. אין יותר מאמץ, אין יותר עבודה שחורה - מיקי פתר את הבעיה.
זה החלום הטכנולוגי במצבו הטהור: להסיר עומס, למכן (automate) משימה, להכפיל את היכולת האנושית - ולהפוך פעולה איטית מעייפת ומבאסת למשהו שקורה כמעט מעצמו.
אבל אז קורה משהו מטריד.
המטאטא לא עוצר.
הוא ממשיך לשאוב ולשפוך מים גם אחרי שהמשימה הושלמה. מיקי מנסה ללא הצלחה להשתלט עליו, מנסה לשבור אותו - אבל למרבה האימה הבעיה לא נפתרת אלא מוכפלת. מטאטא אחד הופך לצבא של מטאטאים והמים עולים ומציפים הכל.
שימו לב מה הביא לאסון:
מיקי לא מרושע, וגם לא טיפש -הוא פשוט ילדותי.
וזו הנקודה המטרידה בסיפור. יש למיקי גישה לכוח לפני שיש לו חוכמה. הוא יודע להפעיל את המערכת, אבל לא יודע למשול בה. הוא יודע לזמן עוצמה, אבל לא מבין את המשמעויות.
וזו אולי אחת התמונות המדויקות ביותר של עידן ה-AI.
אנחנו לומדים להעיר את המטאטאים.
כמה מילים - ויש סיכום. כמה מילים - ויש מצגת + אתר. פרומפט וחצי - ויש קוד, דיבוב, וידאו, אסטרטגיה, עיצוב וצבא של סוכנים! אנחנו יכולים למכן יחסית בקלות ובזול תהליכים שאנחנו לא באמת מבינים, לפני ששאלנו מדוע עבודה זו באמת נחוצה ומה קורה לנו בתוך התהליך. אנחנו יכולים להכפיל פי מאה פלט לפני שלמדנו למדוד משמעות.
וכמו מיקי - אנו מוקסמים ועפים על עצמינו:
תראו מה זה יודע לעשות! תראו כמה זמן זה חוסך! תראו איזה כוח! תראו כמה הכל נהיה קל!
אבל השאלה המהותית אינה כמה מים המטאטא יכול לשאת. השאלה היא האם אנחנו יודעים מתי (ואיך) הוא צריך לעצור.
זו השאלה שה-AI מניח לפתחנו. כי הסכנה אינה רק שה-AI ייכשל, יטעה, ימציא או יזיק בגלל תקלה טכנית. הסכנה העמוקה יותר היא שהוא יעבוד טוב מדי: מהר מדי, זול מדי, חלק מדי, אוטומטי מדי - מהר יותר מהחוכמה האנושית הקולקטיבית שנמוכה בהרבה מהאינטליגנציה שלנו.
מטאטא ה-AI המכושף צייתן בלי שיפוט, מבצע בלי הבנה, וממשיך בלי לשאול האם הפקודה המקורית עדיין משרתת אותנו.
זו מהות הבעיה של כוח בלי בגרות.
ה-AI נותן לנו תחושה שהפכנו לקוסמים, אבל במובנים רבים אנחנו עדיין שוליות עם כובע שלא הרווחנו.
זוכרים איך הסצנה נגמרת? על סף אסון, הקוסם האמיתי חוזר.
וזה פרט חשוב.
השולייה לא מצליח לעצור את ההצפה עם עוד פאניקה, עוד פקודות או מטאטאים שבורים. המים עוצרים רק כאשר המבוגר האחראי חוזר.
וזה אולי המסר לעידן שלנו: התקווה של האנושות היא לא עוד כלים טכנולוגיים מדהימים אלא חזרה לחוכמה, איפוק, ענווה, רצינות מוסרית, והבנה מחודשת עבור מה נועד האדם, ובמה הוא מותר מהמכונה.
אנחנו נמצאים עכשיו בצומת: בשיא האופוריה וממש לפני ההצפה. הערנו את המטאטאים, אבל האם אנו מבינים לאן כל זה מוביל?
תגובות