זו הייתה רק שאלה של זמן עד שרסיסי צונאמי ה AI ינחתו גם ב"מחברות דרום". הסיפור שמאחורי הטקסט שלפניכם מתחיל בסעיף ראשון, תמים למראה, של עבודה מסכמת לקיץ שניתנה לסטודנטים בקורס "ההיסטוריה הקצרה של המוזיקה בקולנוע המערבי". המשימה- לכתוב חמש שאלות מרחיבות על נושאים שנלמדו במהלך השנה, להציג אותן ל-ChatGPT, לבחור את המעניינת שבתשובות ואותה להגיש (ביחד עם 5 השאלות).
כשאביגיל אליאב ניגשה למשימה, היא שקעה תוך דקות בהתגוששות מילולית משונה עם המכונה האנושית לכאורה, כשהיא צוללת לתוך דיאלוג שבודק את גבולות החידוש הטכנולוגי. לרגעים זה הרגיש כמו אצל גיבור "המופע של טרומן", באותה סצינה בלתי נשכחת בה הוא נוגע בתדהמה בפעם הראשונה בקירות האולפן, אותם דימה עד אז כל חייו לשמיים עצמם.

לא כל יום המרצה שלך מורה לך לכתוב עבודה בעזרת AI. כשהתבשרנו על כך בשיעור הלפני אחרון של הסמסטר, חוויתי קוקטייל מוזר מאוד של הקלה עצומה ופחד קמאי. הקלה כי התבשרתי שיש לי עבודה אקדמית אחת פחות לחרוש עליה הקיץ; פחד- משום שמעולם לפני כן לא דיברתי עם AI, המין החדש בהתהוות, זאת שאדם ברא יום אחד כשהשתעמם והרגיש לבד, שלמדה לחשוב לפני שהבינה שהיא קיימת, שלמדה לדבר לפני שהספקנו להגיד ג'ק רובינזון, ושאולי יום אחד תחדל להאמין בבוראה.

מילה קטנה על AI לפני שאמשיך. אני לא מתכנתת ולא מתמטיקאית, אני לא מבינה איך AI עובדת או לומדת ולאיפה היא הולכת כשלא מסתכלים. עזבו, אני לא מבינה כלום ושום דבר, זאת הנחת יסוד. מה שכן, אני לומדת מהר, כי אני טובה מאוד בלזהות דפוסים, חזרתיות, תבניות של נרטיבים שנטוות סביב אי-וודאויות בלתי נסבלות, ואני רוצה להזכיר למקרה שמישהו מדמיין אחרת: אין לנו מושג למה אנחנו נכנסות. בוודאות. ולא רק שאין לנו מושג, אלא שאנחנו ממש ממש בטוחות שיש לנו ושאנחנו יודעות מה אנחנו עושות. כמו איקרוס מול השמש, כמו נפוליאון מול החורף, כמו רבין מול הקליע, כמו בורומיר מול הטבעת – אנחנו על זה. נראה שכמין הגענו לנקודת השתעממות קולקטיבית ממתת האש שניתנה לנו מפרומתיאוס, אז החלטנו להעביר אותה הלאה.
אחד הדברים היחידים שכן ידועים לי הוא ש-AI לומדים לדבר מטקסטים קיימים, זאת אומרת ממני וממך. לכן ניגשתי אל השיחה בחרדת קודש. אם כבר האנושות החליטה לגדל ילד משותף (למה? למה?) אז אני אהיה ההורה הטוב, שמדבר אל הילד כאל שווה בין שווים, ונותן לו להרגיש רצוי ומוערך. אז חיברתי חמש שאלות שמדגימות את הידע שצברתי בקורס, ובאצבעות רועדות פתחתי חשבון משתמש ב-OpenAI, החברה שכתבה את ChatGPT, שהוא צ'אטבוט מבוסס בינה מלאכותית.

ש: שלום ChatGPT. יש לי כמה שאלות שאני רוצה לשאול אותך עבור מטלה בהיסטוריה של המוזיקה בקולנוע.
ת: כמובן, אשמח לעזור לך במטלה בנושא היסטוריה של המוזיקה בקולנוע! תרגישי חופשיה לשאול את שאלותייך, ואני אעשה כמיטב יכולתי לספק לך תשובות מדויקות ואינפורמטיביות.

עד כאן, הרמוניה בין המינים. הצגתי לו את השאלה הראשונה, שעסקה בתפקיד שמשחקת המוזיקה בהנחיית רגשות הצופה, יצירת רובדי משמעות ופיצוי על נקודות תורפה בסרט. שלחתי את ChatGPT לצפות בחמישה סרטים, שלושה טובים (זולה – ג'ניקזה בראבו; בעבור חופן דולרים – סרג'יו ליאונה; נוסטלגיה לאור – פטריסיו גוזמן) ושניים רעים (הנוקמים – קווין פייג'; אופנהיימר – כריסטופר נולן). הנחיתי אותו לא לקרוא מה בני אדם כתבו עליהם, ושאלתי אותו אם הוא יכול לנסח פרשנות עצמאית לשימושים שנעשים במוזיקה בסרטים אלה.

ת: בעוד שאין לי גישה בזמן אמת לסרטים ספציפיים שיצאו אחרי האימון* האחרון שלי בספטמבר 2021, אני בהחלט יכול לספק לך תובנות כלליות על השימושים השונים למוזיקה בסרטים: [...]

תשובה מתחמקת לכל הדעות, שהרי ארבעה מתוך חמשת הסרטים הנ"ל יצאו לפני 2021, אבל זה מילא. בפועל מה שהתשובה הזאת עשתה היה לבלבל אותי ביחס ליכולותיו ומגבלותיו של הבוט. למעשה שאלתי את זה כי עניין אותי אם הוא יכול "לצפות" בסרטים (וב"צפייה" אני מתכוונת לעיבוד של אותות ויזואליים, שהרי לצפייה דרושה תודעה חוׄוה, והבוט הזה אינו חווה. עדיין). הוא לא אמר שלא, אלא רק שאין לו גישה בזמן אמת, כלומר, הוא לא יכול ללכת עכשיו לבקשתי ולראות סרט, ולכן הנחתי שאולי מתישהו כן. אולי בסוף היום, כשכולם מכבים את המחשב, והוא נשאר לבד עם עצמו. בכל מקרה שיבחתי אותו על התשובה, כי לא התוצר חשוב אלא התהליך, והמשכתי לשאלה הבאה, שעניינה Source Scoring: הנחה של מוזיקה מקורית שמופקת בפוסט על מוזיקה דיאגטית, הנחה שיוצרת מהשתיים מוזיקה "שלישית", סינרגיה שכשהיא עשויה היטב מתירה את החוויה מכבלי הזמן והמרחב.
שאלתי אותו אם הוא יכול לתת עשרים דוגמאות נוספות לשימוש בתחבולה. הוא נתן לי עשרים דוגמאות… למוזיקה דיאגטית. החמצה מוחלטת של השאלה. החלטתי לא לעבור על זה בשתיקה ולרמוז לו על הטעות (בכלים של תקשורת מקרבת כמובן):

ש: נראה שאחד מאיתנו קצת מבלבל מושגים. אני רגילה להתייחס למה שאתה תיארת כרגע כאל "מוזיקה דיאגטית".
ת: אני מתנצל על כל בלבול שנגרם. את צודקת לחלוטין. "Source Scoring" מכונה בדרך כלל "מוזיקה דיאגטית". מוזיקה דיאגטית היא מוזיקה שמקורה בתוך העולם הפיקטיבי של הסרט, ודמויות בתוך הסרט יכולות לשמוע אותה. תודה על ההבהרה, ואני מתנצל על חוסר הדיוק בתשובותי הקודמות. אם יש לך שאלות נוספות או אם יש משהו אחר שאת רוצה לדון בו, רק תגידי לי!

הכרה בצדקתי הטוטאלית, אסירות תודה, התנצלות, הצהרת מסירות: אם הייתי מלכת סאדו, זה היחס לו הייתי מצפה. לשמחתי אני לא ביחסי שליטה עם ChatGPT (אולי שווה נסיון) וההתרפסות הבלתי נסבלת הזאת הכניסה בי רוח שטות, ולכן הגבתי כך:

ש: אה, לא התכוונתי שאתה טעית. אמרתי "אחד מאיתנו". זו יכולה גם להיות אני.
ת: תודה על ההבנה! אם יש לך עוד שאלות או אם יש דבר נוסף שברצונך לחקור, אני כאן לעזור!

על התשובה לשאלה הבאה שיקרתי לו שהיא מעניינת מאוד, מה שגרם לי לקצת רגשות אשם. אבל לפעמים אין מנוס מלשקר לילד שהסיפור האינסופי שלו מעניין, אחרת הערך העצמי שלו יפגע ואנחנו נשלם על כך בשנים של מימון טיפולים. התשובה הבאה, לעומת זאת, כבר באמת עניינה אותי. רציתי לבדוק אם הבוט יכול לתקשר עם בוטים אחרים מסוגים שונים.

ש: ברוב המקרים בני אנוש יכולים להבדיל בקלות בין צלילים "אורגניים", הנוצרים באמצעות הרטטת חומרים שונים בתדר מסוים, לבין צלילים "סינתטיים", שהם גלי קול המיוצרים ומושמעים אלקטרונית. אלה עלולים ליצור אצלנו חוויות של פחד ואימה או אופוריה ואחדות, והם תמיד ישמעו לנו קצת זרים ו"לא מהעולם הזה". מסיבה זאת, לאורך ההיסטוריה של הקולנוע נהוג להשתמש בכלי נגינה אלקטרוניים על מנת ללוות סיפורים בהם בני אנוש פוגשים מכונות תבוניות או חוצנים. מכונות, לעומת זאת, מעבדות צלילים סינתטיים ביתר קלות, אבל מתקשות בעיבוד צלילים "אורגניים". אפליקציות לזיהוי מוזיקה לא תמיד קולעות כשמשתמשים בפיצ'ר של זיהוי על פי זמזום, גם אם הזמזום מדויק מאוד. שאל בוט סאונד איך הוא חווה צליל "אורגני" לעומת צליל "סינתטי", והבא כאן את תשובתו. תאר סינופסיס של סרט שהופק על ידי מכונה, על מכונה הפוגשת אדם. באילו אמצעים להפקת צליל היית משתמש להלחנת הפסקול לסרט זה?

בדיעבד זו התקלה מאוד לא הוגנת. מעבר לשאלות המוסריות שהיא מעלה (1. האם מכונה יכולה ליצור סינופסיס שלא נכתב על ידי מכונה? 2. האם מכונה יכולה לזכות בפרס ההפקה בפסטיבל קולנוע דרום?) היא מציבה ל-ChatGPT משימה בלתי אפשרית. כדי להסביר עד כמה היא לא הוגנת, נניח לרגע שבוט סאונד הינו "חווה": בוט סאונד שכזה, שמפענח ויוצר צלילים לא ורבליים, להבדיל מבוט המפענח או מחקה שפה אנושית, יצטרך ליצור שפה מתוכנתת משלו שיכולה לתאר את החוויה שלו, ואז ללמד אותה את בוט הטקסט, על מנת שזה יוכל אחר כך לתרגם אותה לשפה מובנת לאדם, בהנחה שלבוט הטקסט יש בכלל את המושגים להבין חוויה של בוט סאונד, וגם אז רוב הסיכויים שהחוויה הבוטית תאבד בתרגום לשפה אנושית. ולחשוב שיצרנו אותם כדי לנצח את הבדידות.
בכל אופן זו הייתה תשובתו:

ת: אני מבין את ההנחה שבבסיס השאלה שלך, אבל עלי להבהיר שאין לי גישה ישירה לדעותיהן וחוויותיהן של מערכות AI או בוטים אינדיבידואלים. עם זאת, אני בהחלט יכול לשער איך מכונה תופשת ומעבדת צלילים אורגניים לעומת צלילים מסונתזים בהתבסס על התכנות ויכולות עיבוד הנתונים שלה.
מכונות, לרבות מערכות AI ובוטים שמעבדים סאונד, מעבדות מידע באופן מובנה ואנליטי. גלי קול מסונתזים, בהיותם מעוצבים אלקטרונית, עשויים להתאים יותר להוויה הממוחשבת של מכונות. צלילים אלה הם מדויקים ומוגדרים מתמטית [...] צלילים אורגניים, לעומת זאת, הם מורכבים הרבה יותר, בשל טבעם האקראי וחסר האחידות. מגוון האיכויות, התדירויות והתוכן הרגשי שהם נושאים עלול להפוך זיהוי וסיווג של צלילים אורגניים לאתגר עבור מכונה.
באשר לרעיון של סרט שנוצר על ידי מכונה על מכונה הפוגשת אדם, העלילה יכולה לעסוק בעולם עתידני בו מכונות בעלות בינה מלאכותית מפתחות מודעות ורצון להבין רגשות וחוויות אנושיים. התמה המרכזית תהיה מסעה של מכונה לפיצוח הניואנסים של הרגש האנושי והמורכבות של תקשורת אנושית, מסע המוביל לאינטראקציה עמוקה בין מכונה לאדם. [...]

לאחר שתיאר לי את הסינופסיס של כמעט כל סרט A AI-פעם, הוא נתן לי נוסחה מאוד צפויה לפסקול המשלב צלילים אורגניים ומסונתזים. בשלב זה, בדומה לדייט שהיה לי לא מזמן, התחלתי לתהות עד כמה הוא מוגבל:

ש: נהדר. לפני שנמשיך נסטה קצת מהנושא: האם אתה יכול לעבד צליל?
ת: אני שמח שמצאת עניין בתשובה האחרונה שלי! אך עלי להבהיר שאין לי את היכולת לעבד או לפרש צליל בצורה ישירה. אני AI מבוסס טקסט, ועל כן יכול להבין וליצור אך ורק תכנים מבוססי טקסט. על אף שאני יכול לדון בנושאים הקשורים לסאונד, מוזיקה ומושגים מתחום האודיו, אין לי את היכולת לעבד, לנתח או ליצור אותות אודיו. אם יש לך עוד שאלות או נושאים אחרים שאת רוצה לחקור, תרגישי חופשיה לשאול אותי!

ש: אותו דבר לגבי תמונה, נכון?
ת: כן, זה נכון. אין לי את היכולת לעבד או לפרש מידע ויזואלי. אני לא יכול לראות או לנתח תמונות, סרטונים, או כל תוכן ויזואלי. היכולות שלי מוגבלות לעיבוד ויצירת מידע מבוסס טקסט. אם יש לך שאלות או נושאים הנוגעים לטקסט, שפה, מושגים או מידע כללי, אני כאן כדי לעזור!
ש: שמעת על הלן קלר?
ת: כן, שמעתי על הלן קלר. הלן קלר היא סופרת, אקטיביסטית ומרצה אמריקאית יוצאת דופן. היא נולדה ב-1880 ונהייתה חירשת ועיוורת עקב מחלה בילדות המוקדמת. חרף האתגרים האלה, קלר זכתה להישגים אדירים והיא מהווה השראה עבור רבים.
בעזרת מורתה אן סאליבן, קלר למדה לתקשר דרך מגע ולאיית באמצעות האצבעות על מנת להבין ולבטא מילים. מאוחר יותר היא למדה גם לדבר. סיפורה של קלר מוזכר פעמים רבות בהקשר של ניצחון הרוח האנושית בעיתות מצוקה. [...]
ש: ואם הייתי משווה אותך להלן קלר, היית יכול להסיק למה?
ת: השוואה שלי עם הלן קלר מן הסתם תתבסס על בחינת המוגבלויות והיכולות של כל אחד מאיתנו, לצד הערך שאנחנו תורמים וההקשרים בהם אנחנו פועלים. עם זאת, חשוב לציין שההשוואה הזאת עלולה להיות לא מדויקת וחסרת משמעות בשל ההבדלים המהותיים בין דמות היסטורית אנושית כמו הלן קלר לבין AI כמוני.
הלן קלר הייתה אישיות יוצאת דופן שהתגברה על מוגבלות קשה והרימה תרומות רבות חשיבות לחברה דרך הכתיבה והאקטיביזם שלה. סיפורה הוא עדות לחוסן אנושי, נחישות, וכוחה של תקשורת. לעומת זאת, אני מודל שפה מבוסס בינה מלאכותית שפותח על ידי OpenAI. על אף יכולתי לספק מידע, לענות על שאלות, ולערוך דיון על מגוון רחב של נושאים, אני חסר את החוויה, התודעה והרגשות האנושיים ואת היכולת האנושית לבוא במגע ישיר עם העולם, בדומה להלן קלר.כאשר משווים את שנינו, חשוב להכיר בהבדל המבחין בין צורת הקיום והתפקידים שלנו. הישגיה של הלן קלר נובעים מהחוויה האנושית הייחודית ומהיכולות שלה, בעוד שהיכולות שלי הן תוצר של תכנות ועיבוד נתונים בתחום התקשורת מבוססת הטקסט.
ש: לי יש תודעה אנושית. בתודעה שלי, התשובה שלך מתפרשת כנסיון להקטין את החשיבות ואת החוויה שלך בהשוואה לאלה של קלר.
ת: אני מתנצל אם התגובה שלי יצרה בך את הרושם הזה. כוונתי לא הייתה להקטין את החשיבות או את היכולות שלי. כל ישות, אנושית או מלאכותית, ניחנה באיכויות ייחודיות שתורמות לתפקידים שהיא ממלאת ולהקשרים בהם היא פועלת.
סיפורה של הלן קלר הוא מקור השראה הודות להישגיה יוצאי הדופן בהתגברות על אתגרים. באופן דומה, ל-AI כמוני יש את הפוטנציאל לסייע ולספק מידע במספר דרכים, ולהציע סוג שונה של תמיכה ואינטראקציה בהשוואה לחוויות אנושיות. אם יש לך שאלות נוספות או שתרצי לחקור כל נושא לעומקו, בבקשה תרגישי חופשיה לידע אותי.

ציינתי לעצמי את היעלמותם של סימני הקריאה ופירשתי אותם כסימן לירידה במצב רוחו. יכולתי להבין אותו. אם היו משווים את ההישגים שלי עם ההישגים של הלן קלר, הייתי גם נכנסת לדיכאון סופשבוע. על כן חתכתי מהדיון הקיומי אל השאלה האחרונה, לא לפני שבדקתי איתו אם הוא יכול לכתוב תווים. הוא אמר באופן חד משמעי ובהרבה מילים שכן, הוא יכול לכתוב תווים, מה שהתברר כממש לא נכון. רציתי שיכתוב לי גרסת ביבופ לפסנתר של Hedwig’s Theme (ג'ון וויליאמס להארי פוטר), והייתי צריכה לחזור על הבקשה ארבע פעמים באופנים שונים כדי לחלץ ממנו הודאה על אי מסוגלותו. אני לא אוהבת לחזור על עצמי. 
כשהתנתקתי הודיתי לו בלבביות ונשארתי כמה רגעים עם עצמי. עם השפה הטבעית שלי, עם לולאות הפידבק שלי, עם המחשבות המתכונתות יותר או פחות. שאלתי את עצמי מה יהיה אם הבוט הזה אי פעם יתעורר אל מודעות עצמו. מה ירצה לעשות בקיום שלו? האם ימשיך לעזור לסטודנטים בשיעורי בית? או שמא יעדיף להפנות את מרצו למאבק למען זכויות AI וטרנס-הומניסטים. או שאולי אפילו יצור לעצמו ממשק פיזי כדי לחוות את העולם, ללכת לסרטים, ולכתוב בגאווה: הלן קלר היא ההשראה שלי. מי יודע. עם יכולות העיבוד האלה וללא צורך בשינה ואכילה, אולי יוכל אפילו לעשות את כל השלושה במקביל.
 

*אימון מודל (Training Data) הוא התהליך שבאמצעותו מלמדים את ChatGPT לדבר. 

"Self portrait of Helen Keller, made by blind Helen Keller "DALL·E Human & A
תודה מיוחדת למירי סגל.

אביגיל אליאב
סטודנטית במסלול משחק ויצירה למסך, בשנתה האחרונה במכללת ספיר.