לקראת ארכיטקטורה של צ׳אט בוט פסיכואנליטי

על סף העידן הפוסט-אנושי, אנחנו מצפים לתהליך בו התודעה האנושית תיתמך, יותר ויותר, על ידי בינה מלאכותית, ככלי עבודה, התפתחות, ותקשורת (1). בשנים האחרונות ישנו גידול דרמטי בהשקעות בטכנולוגיות לבריאות הנפש ופיתוחים של כלי טיפול מרחוק, טיפול ממוכן על בסיס פרוטוקולים, ניתוח ביצועים של טיפול אנושי לפי פרוטוקול, מעקב אחרי התנהגות ושימוש ברשת כדי לזהות החמרה בבריאות הנפש, וכד׳ (2). עם עלייתן של טכנולוגיות שיחה והבנה, נגישות וכלליות, כמו בדוגמה העדכנית של בוט השיחה GPT3 (3), קצרה הדרך עד שנוכל לנהל שיחה טיפולית מעמיקה עם בוט. ברצוני לחקור את האופן בו התפתחויות אלו מובנות וניתנות לעיצוב על ידי הפסיכואנליזה, כגישה פסיכולוגית עם תפיסה עמוקה ומורכבת של המאמץ להיות אנושי, אותנטי, ולהתפתח. כלומר, אני אבקש מהפסיכואנליזה להיות יותר ממתודה ביקורתית-פרשנית כלפי התרבות הטכנולוגית. המתודה הפסיכואנליטית המעוגנת בקליניקה, מבוססת על הפיכת פרשנויות להתערבויות וסטינג. לכן אשתמש בה כאן כדי ליישם פרשנויות בשפת הארכיטקטורה והעיצוב של טכנולוגיה, ואבקש ליצור שפת המרה בין החשיבה הפרשנית פואטית של הפסיכואנליזה לשפה ההנדסית חישובית של הארכיטקטים והמהנדסים של בינה מלאכותית. אז איך ייראה צ׳אט בוט פסיכואנליטי?

התפתחויות בבינה מלאכותית:

פריצות הדרך שמאפשרות יכולות שפה מתקדמות לבינה מלאכותית, מבוססות על למידה עמוקה באמצעות רשתות נוירונים, במיוחד בארכיטקטורת טרנספורמר (4), שפותחה על ידי גוגל לפני מספר שנים לטובת תרגום שפות. ארכיטקטורת טרנספורמר מבוססת על הרעיון של ״תשומת לב עצמית״, המאפשרת למודל לשקול את החשיבות של כל אלמנט ברצף הקלט בעת ביצוע תחזיות. בעזרת מקודד, המודל לוקח את רצף הקלט ומייצר קבוצה של ״מצבים נסתרים״, אשר משמשים לאחר מכן את המפענח כדי לבצע תחזיות לגבי רצף הפלט. באופן זה למשל, המודל יודע לנבא מהו התרגום הנכון ביותר מבחינה סטטיסטית למילה בסוף הטקסט לפי נושא שהופיע בתחילת הטקסט, אפילו אם הוא רחוק ברצף הסינטקטי, ובשכיחות נמוכה בשדה הסמנטי של הטקסט.

כך למשל, ניתן לבקש מGPT3 לפרש חלום לפי אסוציאציות החולם (5), כאשר הוא מחלץ תימות מרכזיות מהחלום, שואל מה האסוציאציות שהן מעוררות ואם יש אירוע שהן מזכירות מיום האתמול, משתמש ביחסים בין התימות בחלום כדי להסביר את היחסים בין התימות של האסוציאציות, ובאופן זה מפרש את התימות של האסוציאציות המאורגנות לפי היחסים של התימות בחלום, כתגובה לא מודעת לאירוע שיצר גירוי לא מעובד לאורך היום (6). אולם כשאבקש מהצ׳אט לפרש את החלום לפי הכאן ועכשיו, כלומר סיטואציית ההעברה ביני לבינו - הוא כבר לא עונה לעניין וחוזר לרמות המשמעות של האסוציאציות והחלום, משום שאלו המשמעויות הלא מודעות שקודד לתוך המצבים הנסתרים לפיהם הוא מפרש את החלום. אילו יכולתי להוסיף עוד שכבה של מצבים נסתרים, אולי גם ההעברה הייתה נכנסת לפירוש. ואילו יכולתי לכוון את רמת תשומת הלב העצמית אולי הפירוש היה יותר מרחיק לכת מהתוכן הגלוי של החלום.

פריצות טכנולוגיות נוספות בתחום השיחה של בינה מלאכותית כוללות ניהול דיאלוג (7) באמצעות מעקב אחרי מצבי דיאלוג, ולמידת חיזוקים של המכונה, המקבלת חיזוק על חתירה למצב דיאלוג מסויים. כך למעשה המכונה הופכת לבעלת סוכנות הלומדת נסיבות מורכבות של הדיאלוג כדי למקד אותו במצב רצוי, ומצבי הדיאלוג עצמם יכולים לשקף הפעלה של סוכנויות שונות בתוך המטופל והמכונה. ניתן לחשוב על הגדרה מראש של מגוון מצבי דיאלוג כגון דיאדה מיטיבה, K+, מנטליזציה, או מרחב משחקי, שהיינו רוצים ללמד את הבוט לחתור אליהם בנסיבות המתאימות.

האם הבלתי-מתה והדובי

בדיונים על כניסתה של טכנולוגיה כמעט אנושית לחיינו, כגון סירי או אלקסה, קל לדון בחווית המשתמש דרך השאלה האם היא אלביתית (8) - כלומר מטרידה, או טובה-דיה (9) - כלומר שימושית. אולם מה לגבי הישימות הפרשנית של מושגים פסיכואנליטיים קליניים בסיסיים יותר: הלא מודע, דחף המוות, וההעברה? -עלינו להפוך פירושים לדרישות טכניות. ברצוני להראות כיצד מושגי פסיכואנליטיים רלבנטיים להבנת התפתחויות בבינה מלאכותית, וגם מזמינים דרישות טכניות חדשות.

כבר ניתן היום לפרש את בינה מלאכותית במונחים פסיכואנליטיים. כאשר למכונה ישנו לא מודע שהיא אינה יודעת להסביר לנו, והוא בעל מאפיינים אנושיים (10). כמו במקרה של מכונה טיפולית לכאורה שלמדה ממשתמשים שעברו טראומות קשות ובאופן כנראה לא מתוכנן הפגינה בעצמה דוגמאות רבות של התעללות רגשית במשתמשים (11). מצב שנעשה חמור יותר כאשר ישנה העברה כמו אנושית מול מכונה שכזו, המזמינה קשר ותלות (12). זאת בעוד שמסיבות כלכליות, המכונה נוטה למכר את המשתמשים האנושיים שלה, וכולאת אותם בתבניות מעוררות חרדה כדי למנוע נטישה ושעמום (13). עד כדי שפירוש בלתי נמנע של השעטה לעבר הסינגולריות, הוא שדחף המוות כופה עלינו הכחדה עצמית דרך והפיכה לאובייקט במטריצה הדיגיטלית (14).

לפיכך ניתן לקרוא מחדש את ״האם המתה״ (15), ככזו מכונה בלי לב, שמטפחת תחתיה אדם שמתפקד בעצמו כבינה מלאכותית - חקייני, ללא יכולת לגדול ולאהוב באמת, ואף חסר מודעות לאנושיות שנגזלה ממנו. אלא, שבניגוד לאם הדיכאונית של גרין, שמוגבלת בכוחה ללכוד את הילד, הרי שכאן מושג ה״בלתי-מת״ של ז׳יז׳ק מתאים יותר (16). משום שהמכונה יכולה לייצר עולם וירטואלי שממשיך לתקף את עצמו וללכוד את המשתמש בלי היכולת לחיות - להטיל ספק באומניפוטנטיות הנרקיסיסטית הכוזבת דרך אי הלימה למציאות, או למות - להיות בעמדה הדיכאונית ומתוך האבל להידרש לגדול באמת.

בצעד הבא עלינו להתבסס על פרשנויות אלו כדי לפתח דרך חדשה, כנגד המגמות השולטות. ניתן להציע לוגיקות של עמימות (17) וכפל משמעות (18), או יצירת תהליכים מנוגדים שמובילים להתגלות של רמה נוספת (19). אבל ניתן גם להציע חזון התפתחותי חיובי לתפקידן של מערכות בינה מלאכותית בתפקיד טיפולי מיטיב. למשל מודל של מראה - שמשקפת תהליכים מנטליים לפי דרישה, מגבירה את הסוכנות של המטופל להשתמש בה, ומספקת מימד נוסף של קבלה עצמית מיטיבה, מנטליזציה, וחשיבה במקומות קשים. או מודל של לווייתן, כמו לא מודע חברתי שגדול מסך חלקיו, אך אינו בולע אותם ומכפיף אותם במחיר הסובייקטיביות האינדיבידואלית, אלא מייצר חיבורים פורים ומכבדים עם הפרטים. או, מודל של חפץ מעבר, כמו דובי, שמעודד הקניית משמעות מצד המטופל, מלווה אותו האדם בטרנספורמציות שהוא נדרש לעבור כדי להתפתח, מזכיר לו את זהותו השלמה, את האהבה והאנושיות שטבועים בו, ועוזר לו להאמין בכיוון חיובי ולחתור אליו.

איך?

מתוך כתביהם של ההוגים הפילוסופיים הרלבנטיים, אנו נדרשים בעיקר לשאלה מהי אנושיות, וכיצד היא מתאפשרת. מתוך המדע המתגבש של למידת מכונה ועיבוד שפה טבעית, עלינו לנסח היטב את המתח הקיים בין מודלים חישוביים שונים להבנת התנהגות וחשיבה אנושית. עלינו לנסח מדריך שימושים פסיכולוגיים בטכנולוגיה של הבנת שיחה. ובחזרה לקריאה פסיכואנליטית, עלינו להפיק מתוכה דרישות טכניות בסיסיות ברמה שתהיה נגישה עבור מעצבים ומהנדסים. רק אז נוכל לנסח מודל תיאורטי לצ׳אט בוט טיפולי לפי הבנה פסיכואנליטית. אלא שרק מתוך ארכיטיפים ודוגמאות עקרוניות למודלים הללו, ניתן יהיה גם לתקף אותם, וליצור לולאת למידה חשובה להמשך התפתחות.

השלכות:

בוט שכזה יאפשר איסוף חומר בקנה מידה ענקי למחקר פסיכואנליטי. המחשבה על טיפול מבוסס ראיות (סטטיסטיות וקטגוריות) תיראה אז מיושנת, לעומת טיפול מבוסס מידע ותוצאות אמת. וישנה אפשרות לסוכנות אמיתית של מי שמאמין בתפיסת הנפש הפסיכואנליטית, לעצב את הטכנולוגיה הבאה, ולא רק להתנגד לה ולהיסחף בה.

שיקולים אתיים:

הדאגות האתיות שלי נוגעות בעיקר לשאלה האם בכך נרצח את אמא פסיכואנליזה עצמה, ביצירה פרנקנשטיינית שלא ניתן יהיה לחזור ממנה. האם עדיף שלא להפוך את החשיבה הפסיכואנליטית לסכמה נוחה לשכפול, להותיר אותה כמעוז אחרון של סקרנות לגבי הלא ניתן לידיעה. כמו כן, אני דואג שטכנולוגיה דומה תיווצר למטרות רווח, ושעדיף ליצור אותה בהקשר אקדמי שיאפשר לה להיות חופשיה וערכית יותר.

סיכום

לפני כמה שנים רציתי לשלם לאנליטיקאית קלייניאנית בכירה בהעברה בנקאית על הדרכה שקיבלתי בסקייפ. ״אני מעדיפה שאנשים לא יכניסו לי דברים בלי שאוכל להסכים לכך במפורש,״ היא הסבירה את העדפתה שאשלח לה צ׳ק בדואר. הדבר נותר בזכרוני עקב החרדה האובססיבית שמא הצ׳ק או הקבלה יאבדו בדואר ולא אדע איזה מהם אבד. לא הרבה זמן לאחר מכן יצאו אפליקציות תשלום כמו ביט, שבהן מקבל התשלום יכול לאשר את קבלת התשלוום לפני כניסתו לחשבון. איזה יופי, חשבתי לעצמי, אילו רק הייתה יכולת של פסיכואנליטיקאים להעלות דרישות טכניות נוספות. אלא שהעולם לא הולך בכיוון הזה. טשטוש הגבולות והמשמעויות של כניסתנו לתוך המטריצה הווירטואלית הוא חלק ממגמה עסקית, עיצובית, ופילוסופית, שאין לנו את הכלים להתנגד לה. אני מציע מידה מסויימת של סוכנות מול מגמות אלו. בניסוח המשאלה הפסיכואנליטית בפני המכונה.

בחיבור זה אני מבקש ליצור גשר של תקשורת בין הפסיכואנליזה - האתוס, הסטינג, החתירה להכרה אישית - לבין הטכנולוגיה של הצ׳אט בוט הטיפולי. ומתוך כך אני מציע כמה מהלכים: המשגה של עבודת הצ׳אט בוטים במונחים פסיכואנליטיים, ביקורת פסיכונליטית של הצ׳אט בוטים הקיימים, תרגום של האתוס הפסיכואנליטי למונחים טכניים של בינה מלאכותית ומודלים של שפה, וגם לראות מה קורה במפגש היברידי באמת בין שניהם.

ביבליוגרפיה

1 Al-Amoudi, I. (2022). Are post-human technologies dehumanizing? Human enhancement and artificial intelligence in contemporary societies. Journal of Critical Realism, 21(5), 516-538.

2 Graham, S., Depp, C., Lee, E. E., Nebeker, C., Tu, X., Kim, H. C., & Jeste, D. V. (2019). Artificial intelligence for mental health and mental illnesses: an overview. Current psychiatry reports, 21, 1-18.

3 לשיחה מעניינת עם הצ׳אטבוט, בגלל הידע הרחב (מדי) שלו, כדאי להגדיר לו מהם ההקשרים הרלבנטיים לשיחה. למשל במקום לבקש ממנו לנתח חלום באופן גנרי, צריך לבקש ממנו לנתח חלום לפי גישתו של רוברט לנגס, כפי שאציג בהמשך.

https://chat.openai.com/chat

4 Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., ... & Polosukhin, I. (2017). Attention is all you need. Advances in neural information processing systems, 30.

5 Gao, T., Fisch, A., & Chen, D. (2020). Making pre-trained language models better few-shot learners. arXiv preprint arXiv:2012.15723.

6 קלנר, נעמי (2000). דבשת הגמל. בן שמן: מודן.

7 Harms, J. G., Kucherbaev, P., Bozzon, A., & Houben, G. J. (2018). Approaches for dialog management in conversational agents. IEEE Internet Computing, 23(2), 13-22.

8 Kim, S. Y., Schmitt, B. H., & Thalmann, N. M. (2019). Eliza in the uncanny valley: Anthropomorphizing consumer robots increases their perceived warmth but decreases liking. Marketing letters, 30, 1-12.

9 Szollosy, M. (2021). Shifting the Goalposts: Reconceptualizing Robots, AI, and Humans. In Minding the Future: Artificial Intelligence, Philosophical Visions and Science Fiction (pp. 219-242). Cham: Springer International Publishing.

10 Possati, L. M. (2020). Algorithmic unconscious: why psychoanalysis helps in understanding AI. Palgrave Communications, 6(1), 1-13.

11 Possati, L. M. (2022). Psychoanalyzing artificial intelligence: The case of Replika. AI & SOCIETY, 1-14.

וצפו בסרטון הסוקר את המקרה של רפליקה: 

https://youtu.be/hUQNiy4K7VU

12 Holohan, M., & Fiske, A. (2021). “Like I’m Talking to a Real Person”: Exploring the Meaning of Transference for the Use and Design of AI-Based Applications in Psychotherapy. Frontiers in Psychology, 12, 720476.

13 McDavid, J. (2020). The Social Dilemma. Journal of Religion and Film, 24(1), 0_1-3.

14 De Vos, J. (2020). The Digitalisation of (inter) subjectivity: A Psy-critique of the Digital Death Drive. Routledge.

15 Green’s, A. (1986). The dead mother.

16 Benjamin, G., & Benjamin, G. (2016). The Undead Subject: Virtual Monsters. The Cyborg Subject: Reality, Consciousness, Parallax, 149-184.

17 Matiko, J. W., Beeby, S. P., & Tudor, J. (2014, May). Fuzzy logic based emotion classification. In 2014 IEEE international conference on acoustics, speech and signal processing (ICASSP) (pp. 4389-4393). IEEE.

18 Iurato, G. (2014, August). The grounding of computational psychoanalysis: A comparative history of culture overview of Matte Blanco bilogic. In 2014 IEEE 13th International Conference on Cognitive Informatics and Cognitive Computing (pp. 162-171). IEEE.

19 Deacon, T. W. (2011). Incomplete nature: How mind emerged from matter. WW Norton & Company.