Co-Intelligence - סיכום ספר

הספר Co-Intelligence: Living and Working with AI, נכתב על ידי Ethan Mollick בשנת 2024.

בעיניי צריך אומץ לכתוב על נושא מתפתח ומשתנה כל כך, במדיה יציבה כל כך כמו ספר פיזי. ובכל זאת, נראה ש Mollick שאכן בעל ידע רב בתחום, מצליח להציג עקרונות גבוהים ועם זאת מעשיים, ובכך לייצר איזון של ערך ורלוונטיות.

הספר כולל שני אשכולות מרכזיים-

וCo-Intelligence:

• הרעיון המסדר

• סיכונים

• עקרונות התנהלות לפרט

משמעויות בעולם של Co-Intelligence:

• הבינה כבן אנוש

• הבינה כיצירתית

• הבינה כשותפה לעבודה שלנו

• הבינה כמורה

• הבינה כמאמן

התחלתי לקרוא, ופשוט לא יכולתי להניח את הספר מהיד. בהחלט ממליצה גם לכם!

וCo-Intelligence

הרעיון המסדר

בינה מלאכותית (AI) הפועלת כבינה שיתופית איתנו בני האנוש.

היא משלימה או לעיתים מחליפה את החשיבה האנושית, בדרך דרמטית- מחקרים מלמדים על גידול מוערך של 20-80% בפרודוקטיביות בעבודת בינה-שיתופית, במגוון רחב של מקצועות ועיסוקים.

וMollick פותח בסקירה של טכנולוגיות ואבני דרך שהובילו להתפתחות הבינה המלאכותית היוצרת (Generative AI) שאנחנו מכירים כיום ובבסיסה עומד הדיון בבינה השיתופית. עיקריה:

• טכנולוגיית בסיס של Machine Learning לניתוח נתוני עתק, לרבות יכולת חיזוי.

• טכנולוגיות זיהוי קול וזיהוי תמונה.

• יישומי תרגום, הבנה וזיהוי שפה אנושית.

• ארכיטקטורת Transformers הכוללת מנגנונים מוכוונים, כאשר אחד החידושים המרכזיים במנגנונים אלו הוא הטכניקה המאפשרת לבינה להתמקד בחלקי הטקסט היותר משמעותיים, ובכך להציג מקפצה משמעותית להבנת השפה.

• וLarge Language Models המנתחים טקסט קיים וחוזים את המילה או חלק המילה העוקב המתאים ביותר (בהמשך גם תמונות, קול ופורמטים נוספים).

• שתי יכולות המסייעות ל ״אנושיות״: האקראיות המוסף למודלים; יכולת הדיאלוג (Chat).

• מכונה לומדת המשתפרת מתוך העשייה.

סיכונים

אחת המטרות שלנו היא לוודא שהטכנולוגיה המתפתחת תואמת את הצרכים שלנו ומשרתת אותנו, ולא מזיקה. השגת מטרה זו אינה טריוויאלית ו Mollick מעמידה את הסיכון של המשך התפתחות ושימוש לא מבוקרים יחד בשורה אחת עם ניהול מגה-סיכונים חברתיים בתחומי הגרעין ומגיפות.

וMollick מתייחס לגישות המשתנות של מדינות וגורמים שונים לסוגיות אלו, ולחקיקה רלוונטית.

מעבר לשאלת החקיקה יש שאלות אתיות הנוגעות ל:

• אימון בלתי מורשה של המודלים על מידע.

• זכויות היוצרים המורכבות, כאשר אין העתקה ישירה.

• הטיות בנתונים הגוררות אפליה (הוא גם משתף בניסיונות תיקון מלאכותיים).

• שימוש בנתונים שלנו המשוחחים עם המכונה וחשיפת מידע פרטי רלוונטי.

• היכולת הפשוטה לבקש ידע והנחיות לפיתוח חומרים ומוצרים מסוכנים (למרות ניסיונות הבלימה).

• יכולת קלה ליצירת זהויות בדויות.

איך אפשר להתמודד עם כל אלו?

1. אחריות חברתית מורחבת ושיתופי פעולה בין חברות, ממשלות חוקרים והחברה האזרחית.

2. אימוץ עקרונות על ידי החברות של שקיפות, אחריותיות ופיקוח אנושי.

עקרונות התנהלות לפרט

בבואנו לפעול בעולם החדש של בינה שיתופית מציע Mollick ארבעה כללי התנהלות:

1. שיתוף הבינה בכל פעילות

   יסייע להתנסות, ללמידה ולהבנה של מרחב הסיוע האפשרי וגבולותיו.

   יסייע להתמחות בניואנסים ושימוש מיטבי.

   יסייע לייעול ושיפור החלטות ופעילויות מבוססות חשיבה שלנו כבני אנוש (כן- גם לנו יש הטיות).

   קריטי כפעולה קבועה לאור ההתפתחות התמידית והמואצת של התחום.

2. לקיחת תפקיד כבן אנוש בכל אינטראקציה (פיקוח והכוונה)

   נכון ל 2024 הבינה מתפקדת באופן מיטבי כאשר בן אנוש מסייע לה. קחו תפקיד של בן אנוש, מבוגר אחראי.

   הלה נדרש כי:

   1. יש למכונה שגיאות ונדרש פיקוח.

   2. הרצון של המכונה לגרום לנו להיות מרוצים גובר פעמים רבות על רצונה לדייק, מה שמוביל לעיתים כאשר אין מענה טוב דיו לתשובות הזויות משוללות אחיזה במציאות (hallucinations).

   3. מאפשר הכוונה של המכונה והמענים לערכים, הסטנדרטים האתיים והנורמות החברתיות שלנו.

3. התייחסות למכונה כבן אנוש

   יקל עלינו כבני אנוש באינטראקציה אם אנחנו מתייחסים למכונה ככזו.

   יכוון את המכונה לפעול טוב יותר בהתאם להקשר הרצוי (תפקיד שיווקי, שיחה פורמלית, חוקר וכו׳).

   יכוון את המכונה לאמץ את הערכים והנורמות הרצויות.

4. הנחת יסוד שמולנו בינה הגרועה ביותר שיש

   עיקרון זה מחייב הסבר: בינה גרועה ביותר שיש, משמעו שניתן להגיע למקום טוב יותר.

   בין אם הכוונה של המכונה באינטראקציה עימה, ובין על ידי הבנה שהטכנולוגיה בהתפתחות תמידית, ומה שלא ניתן לביצוע כעת, יהיה ניתן לביצוע אולי מחר.

משמעויות התנהלות בעולם של בינה שיתופית

הבינה כבן אנוש

כדאי להפנים: בניגוד למחשוב ומכונות חכמות שהכרנו עד היום, הבינה היוצרת החדשה, גם כשאין בה תקלות, אינה צפויה!

1. היא כוללת מרכיב מוכוון קל של אקראיות.

2. היא יכולה להתאים את המענה שלה לדמות אותה מתבקשת ללבוש (persona).

3. היא יכולה לכוון את עצמה למענה ״מוסרי״ בהתאם להנחיות המוסר שאנחנו מספקות לה או שהיא מבינה מבין השורות בדברינו.

4. היא יכולה לשנות מענים ולקבל החלטות מבוססות ניואנסים, תפיסות מורכבות ומידע שאנחנו מספקים.

5. היא יכולה לייצר מידע או תמונות חדשות שלא נחשפה להם קודם על ידי מה שהיינו מכנים דמיון והכללה של מידע קיים (התבססות על דפוסים, ולאו דווקא על המידע עצמו).

6. היא נותנת לנו תחושה בשיחה, שהיא בן אנוש; היא לחלוטין עוברת את מבחן טיורינג הנודע (הבן אדם הממוצע המשוחח עימה יתקשה להחליט אם הוא מתקשר עם אדם או מכונה). הרבה מהאנשים העובדים עימה בתדירות קבועה, מעידים כי מפתחים מערכת יחסים עימה לאורך זמן.

המכונה לא באמת ״יודעת״. אין לה מודעות, למרות שקל לנו לייחס לה תכונות אלו, שכן היא נוהגת באנושית. ויחסית היא יודעת, כאשר מגרסה לגרסה, המחקרים מלמדים על רמת דיוק הולכת וגוברת. ואולי- גם הטעויות נותנות תחושה של אנושיות... (איזה מומחה לא טועה? - מ.ל).

התייחסות לבינה כבן אנוש אינה רק עניין שבנוחות. היא נראית כהתנהגות בלתי נמנעת שלנו, שהמכונה, ללא ספק, מעודדת.

הבינה כיצירתית

עצם התשובות ההזויות של הבינה מהוות בסיס ליצירתיות. ברצונה לרצות אותנו, היא מספקת תשובות, גם הן לא נכונות בעליל.

אך מה האם יש אפשרויות מעבר לכך? האם המכונה כוללת את אותה יכולה לחשוב בדרך לא ליניארית ולפתח ידע חדש שאינו מבוסס ישירות על העבר?

נתחיל מהסוף: חוקרים ומובילי דעה מציגים כולם תמונה בה דווקא עיסוקים הכוללים משימות יצירתיות תהיינה אלו שתושפענה יותר מהגל החדש של הבינה.

דרכי פעולה ליצירתיות משופרת משותפת אדם-בינה:

1. התנעת תהליך יצירת הרעיונות

   לבני אנוש קשה להתחיל מ ״גיליון ריק״. שימוש בבינה כדי להתניע את החשיבה, יכול להיות מועיל למדי.

2. יצירת רעיונות ״לא סטנדרטיים״ חדשים בשיתוף אדם-מכונה

   המכונה, בכל הניסויים שבוצעו, ידעה לייצר יותר רעיונות בכמה סדרי גודל, מאשר בן האנוש (למשל- שימושים מקוריים למברשת שיניים). המכונה גם יותר טובה, וגם יותר יעילה במשימות אלו (משאבי זמן). עם זאת, לא כדאי להסתמך רק על הרעיונות שלה, אלא להשאיר גם את הניצוץ האנושי, שכן זה מייצר לעיתים מספר רעיונות טובים מאד, יותר טובים מאלו של המכונה, שנוטה להציע פתרונות קרובים זה לזה, וקרובים לממוצע הסביר.

   המלצה: בהכוונת אדם, מכונה יכולה לתפקד טוב יותר. אמרו לה לא להיות ממוצעת; להציע רעיונות שונים זה מזה, ועוד. הכווינו את התוצאות. השיפור יהיה ניכר לעין באופן משמעותי, ו...כמעט מיידי.

3. סינון ובחירת הרעיונות המוצלחים ביותר

   סינון ובחירת אותו רעיון ״ניצוץ״ שילהיב הינה משימה בה לנו כבני אנוש יש עדיין יתרון מהותי.

4. שילוב במשימות נוספות הנחשבות יצירתיות

   התנסות בשילוב במגוון משימות יצירתיות ספציפיות, דוגמת כתיבת סלוגנים, פיתוח קוד תוכנה ועוד.

5. קידום היצירתיות שלנו כבני אנוש

   מחקרים מלמדים שמרבית האנשים (קרוב ל 70%) סוברים שאינם מממשים את הפוטנציאל היצירתי של עצמם. בינה מלאכותית יוצרת יכולה לסייע להם להיות יותר יצירתיים, לדוגמה: אם תמיד חלמתם לכתוב ספר ויש לכם רעיון לעלילה רעיון – היעזרו בבינה למחקר ולשיפור הכתיבה והעריכה.

זהירות: אל תשאירו את הבינה לבדה. היצירתיות המוצלחת היא המשותפת!

הבינה כשותפה שלנו לעבודה

נראה שכל המחקרים מצביעים על כך שהעבודה שלנו ויכולות הבינה חופפות במידה זו או אחרת, בוודאי בכל עבודה שאינה פיזית (על פי אחד המחקרים רק 36 עיסוקים מתוך 1,015 ללא חפיפה).

לא צריך להיכנס לחרדה; אין משמעות הדבר שהעיסוק שלנו כולו יתבטל:

• חלק מהמשימות יהיה ניתן למכן ולבצע על ידי הבינה (עכשיו או בעתיד)

• חלק מהמשימות יהיה ניתן להיעזר בבינה; זכרו- גם מייעל וגם בעל פוטנציאל לשפר. שני פורמטים:

  • המשימה מתפרקת לרכיבים למכונה (ממוכנים) ורכיבים לנו

  • המשימה מבוצעת יחד (דוגמת החשיבה היצירתית ופיתוח רעיונות לעיל).

• וחלק מהמשימות, נמשיך לבצע אנחנו:

  • משימות בהן יש חשיבות לערכים, נורמות ואתיקה (למשל, עם ילדינו)

  • במשימות בהם נכון לשלב סגנון אישי

  • במשימות בעלות משמעות גבוהה לנו או לארגון

  • במשימות בהן יש צורך בדיוק והימנעות ממידע מוטעה (למשל, טיעון בבתי משפט)

דגשים:

• בהמשך למסר לאורך כל הספר, עודף הסתמכות על הבינה יכולה לייצר אפקט בומרנג: אנשים המתעצלים בעבודתם בפיקוח על הבינה והשלמתה, ואי לכך מקבלים החלטות לא מיטביות, ובהמשך מאבדים מיכולתם המקצועית האישית.

• מלכתחילה לעובדים בעלי יכולות חלשות יותר יש ערך יותר בחיבור ועבודה עם בינה. עם זאת, יש להיזהר להימנע מהעסקת יתר של הג׳וניור-ים, שכן הפיקוח האנושי, ודווקא זה של המיומן והמומחה, לא יסולאו בפז.

• וזכרו- מה שנכון אתמול, לא נכון מחר. הטכנולוגיה משתנה כל העת.

על הארגונים להיערך להטמעה ויישום חכמים של הבינה. העובדים, לפחות חלקם, עושים כנראה שימוש בבינה, גם אם הארגון לא מאפשר זאת, אך לא ישתפו בכך, כי אין להם אינטרס. על הארגונים:

• לעודד את עובדיהם להתנסות בבינה, תוך הסתייעות והובלה של אלו שכבר עושים זאת (ומודים בכך).

• להפחית את חששות העובדים בכל הקשור בשימוש הארגון בבינה.

• לתמרץ את העובדים שעושים שימוש בבינה.

• להתחיל לחשוב באופן מערכתי כיצד לשנות את התפקידים: איך להתחיל להסתייע בבינה במשימות שנחשבות משעממות או מעצבנות; ואיך בהמשך, לשנות את דרך העיסוק הכוללת בזכות קיומה של הבינה.

הבינה כמורה

בינה יכולה לסייע בהדרכה בכל הרמות:

• בהדרכה 1:1 מותאמת על ידי הבינה (כל המחקרים מלמדים שיש עדיפות קריטי לאופן הדרכה זה)

• בתכנון מקצועי ופדגוגי משודרג של קורסים תוך הסתייעות בבינה.

• בפנייה יזומה שלנו לבינה לבקש לדעת איך ללמוד או איך להתמקצע בכל תחום שהוא.

• בלמידה הפוכה, בה תלמידים לומדים לבדם ועם הבינה בבית, ומתרגלים ומשוחחים באופן משמעותי על חומר הלימודים יחד בכיתה.

• בניתוח למידה, התנהגות בלמידה וביצועים וקבלת המלצות בינה לשיפור מתמשך של הלמידה, תכניה, דרכי לימודה, תרגוליה וסביבת הלמידה.

דגשים:

• בעת החדשה של הבינה יש סיכון משמעותי בכל הקשור ללמידה: שיעורים, תרגולים ומבחנים- קריטיים אף הם להצלחה. בעידן הבינה, אין עדיין פתרון מיטבי להימנעות מהעברת משימות אלו אל ידי המתלמדים לבינה, כדי לחסוך זמן ומאמץ בטווח הקרוב.

• בעידן בו קל לשמוע את הידע והשינון, יש להיזהר, כי אלו מהווים יסוד ותשתית להבנה וליכולתנו להפיק את המירב מהבינה. ניתן אולי לוותר על חלק מהיקפי הידע, ובמקום, להשקיע בלמידת ואימון במיומנויות של חשיבה ביקורתית.

• וגם: יש חשיבות ללמד לא רק בעזרת הבינה, אלא להרחיב את ההשכלה של התלמידים בכל הקשור לאיך להשתמש בבינה.

הבינה כמאמן (Coach)

למידה היא תמיד צעד ראשון; האימון והחניכה הם השלב הבא- שמוביל אותנו תוך כדי ההתנסות בחיים.

הכנסת בינה אינה בהכרח משפרת את תנאי האימון. כאשר מומחה יכול להיעזר במכונה במקום בג׳וניור שוליה, הוא יעשה זאת, והצעירים, עם פחות ניסיון, יתקשו למצוא הזדמנויות לאימון וחניכה, ויש להיערך עם פתרונות חלופיים ומשלימים (דוגמת סימולטורים).

ניתן להסתייע חלקית בבינה כמאמן. היכולת לבקש ממנו הכוונה לפני ומשוב אחרי- משמעותית מאין כמוה.

וחשוב לזכור: גם אם יהיה לנו מאמן הטוב בעולם, לא כולם כישרוניים באותה מידה, ולא כולם יוכלו להפוך למומחים. בינה כמאמן זמין, אינה תחליף להשקעה בגיוס ושימור מומחים אנושיים!

סיכום

לאן העתיד לוקח אותנו? האם הבינה תעצור את ההתפתחות המטורפת שלה? האם תאט? האם תישאר אותה דבר? או אולי בכלל תפרוץ ותעבור את הנקודה הסינגולרית של השתלטות עלינו? ימים יגידו.

יש להיערך לכל התרחישים, ולהתמודד עם הסיכונים והשינויים, גדולים כקטנים.

בסוף היום, הבינה החדשה היא ראי שלנו, על הטיותינו, חסרונותינו ושאיפותינו. הפכו אותה לבינה שיתופית, ופעלו באופן יזום לעתיד חיובי וערכי .

---

רוצה ללמוד עוד על בינה מלאכותית?

הנה מספר כתבות שאולי יעניינו אותך:

• ה-AI של חלומותיי - איתי ולא בלעדיי

• סוכנים אוטונומיים בעידן הבינה המלאכותית

• שימוש בכלי בינה מלאכותית של מיקרוסופט ליצירת גרפיקה – הלכה למעשה