מה משרתות ההזיות האוטופיסטיות על הבינה המלאכותית

במאמרה “המכונות אינן הוזות, אך היוצרים שלהם כן” מתעמתת העיתונאית והחוקרת הקנדית נעמי קליין עם מצדדי הבינה המלאכותית, הטוענים שבכוחה לכונן גן עדן עלי אדמות. תרגמתי ותמצתי עבור “זו הדרך” חלק ממאמרה, המציג את הגל האחרון של כלי בינה מלאכותית גנרטיביים באור אחר – כשוד של הידע הדיגיטלי של האנושות בידי גופים מסחריים.

***

“הזיות” הוא השם שנתנו יוצרי בינה גנרטיבית לתופעה בה צ’אטבוטים מספקים תשובה מומצאת לחלוטין, או פשוט שגויה. כך, כאשר נבקש מצ’אטבוט להגדיר לנו דבר-מה לא אמיתי, הוא יעשה זאת באופן אמין למדי ואף יצרף הערות שוליים מומצאות. “אף אחד בתחום לא פתר את בעיית ההזיות”, אמר לאחרונה סונדאר פיצ’אי, מנכ”ל גוגל ואלפבת.

מדוע לקרוא לשגיאות הזיות? מדוע לא זבל אלגוריתמי או גליצ’ים? התשובה ברורה: הזיה מתייחסת ליכולת המסתורית של המוח האנושי לחוות דברים שאינם קיימים, לפחות בהגדרות מטריאליות מקובלות. ניכוסה של מילה ממחוזות הפסיכולוגיה, הפסיכדליה והמיסטיקה מאפשרת למקדמי האינטליגנציה המלאכותית להזין את המיתוס האהוב ביותר בתחום, לפיו הם מתקדמים לקראת הולדת נפש מלאכותית – קפיצה אבולוציונית בתולדות האנושות.

בעולם הבינה המלאכותית אכן קיימות הזיות מעוותות, אך לא של הבוטים, אלא של המנכ”לים שהפיצו אותם. אומרים לנו שבינה גנרטיבית תסיים את העוני; היא תמצא תרופה לכל מחלה; היא תמצא פתרון להתחממות גלובלית; היא תהפוך את העבודה שלנו למספקת ומרגשת יותר; היא תשחרר אותנו לחיים של פנאי ומחשבה מעמיקה, וכך נוכל לרכוש מחדש את האנושיות שאיבדנו תחת הקפיטליזם; היא תמנע בדידות; היא תהפוך את ממשלותינו להגיוניות ושיתופיות. אני חוששת שאלה הן הזיות הבינה המלאכותית האמיתיות, ואנו שומעים אותן בלופ מאז ש-ChatGPT יצא לאור בסוף השנה הקודמת.

ישנה אפשרות שבינה גנרטיבית, בתור כלי מחקר חזק וכמבצעת עבודות משעממות, תשמש לשיפור מצב האנושות. אבל כדי שזה יקרה, הטכנולוגיה החדשה צריכה לפעול בתוך סדר חברתי שונה בתכלית מזה הקיים – סדר חדש שמטרתו סיפוק הצרכים האנושיים והגנה על מערכות כדור הארץ. וכפי שמבינים מי מאיתנו שלא שוקעים בהזיות, המערכת בה אנו חיים אינה בנויה כך כלל. למעשה, היא בנויה למיקסום צבירת הון ורווחים – גם מבני האדם וגם מעולם הטבע. במציאות זו של כוח והון ריכוזיים, בינה מלאכותית לא רק שלא תממש את ההזיות האוטופיות הללו – סביר יותר שתהיה כלי מטיל מורא לנישול ופירור החברה.

שוד הידע הגדול

כעת אדרש לשאלה: אלו מטרות משרתות ההזיות האוטופיסטיות על הבינה המלאכותית? לפי היפותזה אחת, אלה סיפורי כיסוי מרגשים ורבי-עוצמה למה שעלול להיות אחד ממעשי השוד הגדולים ביותר בהיסטוריה האנושית. מה שמתרחש כעת הוא השתלטות חד-צדדית של החברות העשירות ביותר בהיסטוריה (מייקרוסופט, אפל, גוגל, מטא, אמזון…) על כלל הידע האנושי הדיגיטלי והפיכתו למוצרים מסחריים בבעלות פרטית. מוצרים אלה יפגעו בפרנסתם של בני אדם, אשר העבודה המצטברת של חייהם שימשה לאימון הבינה המלאכותית – מבלי שנתנו לכך את הסכמתם.

זה לא אמור להיות חוקי. במקרה של חומר מוגן זכויות יוצרים ששימש לאימון המודלים (כולל העיתון הזה – “גארדיאן”), כבר הוגשו כמה תביעות נגד אי-החוקיות הברור של המהלך. מדוע, למשל, מורשות חברות למטרות רווח להזין את הציורים, הרישומים והצילומים של אמנים פעילים אל תוך תוכנות דוגמת “DAL-E 2”, שתוכל לייצר יצירות כפילות של אותו האמן, שלא יזכה ולו בפירור של הרווחים?

הציירת והמאיירת מולי קראבאפל מארגנת קבוצה של אמנים המתנגדים לגניבה זו. “מחוללי אמנות מבוססי בינה מלאכותית מאומנים באמצעות כמויות מידע ענקיות, המכילות מיליוני דימויים מוגנים שנאגרו ללא ידיעת יוצריהם, וודאי ללא הסכמה או פיצוי. זהו שוד האמנות הגדול בהיסטוריה, שמבצעיו הן ישויות תאגידיות מכובדות הנתמכות בידי השקעות מעמק הסיליקון”, כתבה.

הטריק הידוע של עמק הסיליקון הוא להתייחס לגנבה כ”הפרעה לשוק” – ולהתחמק מעונש בדרך זו. אנו מכירים את המהלך: הסתער אל תחום פרוץ, טען שהחוקים הישנים לא חלים על הטכנולוגיה החדשה, תצרח שרגולציה תעזור רק לסין, וכל זה כאשר אתה קובע את העובדות בשטח. כשההתלהבות הראשונית מהצעצועים החדשים תדעך והציבור יתחיל לבחון את ההרס החברתי, הפוליטי והכלכלי שגרמו – הטכנולוגיה כבר תהיה בשימוש כה נרחב עד שבתי המשפט והמחוקקים ייאלצו להרים ידיים.

ראינו זאת שוב ושוב: סריקות הספרים והאומנות של גוגל, קולוניזציית החלל של מאסק, המתקפה על תעשיית המוניות של אובר, המתקפה על שוק הדיור של “אייר בי אנד בי”, הפקרת המידע הפרטי שלנו לידי פייסבוק. אל תבקש רשות, כך אומרים המפריעים לשוק, בקש סליחה (ושמן את הבקשות הללו עם תרומות פוליטיות נכבדות).

בספרה “העידן של קפיטליזם הביון” תיעדה שושנה זובוף בפרוטרוט כיצד “גוגל סטריט וויו” דהר קדימה תוך התעלמות גמורה מנורמות של פרטיות, כאשר שלח מכוניות עמוסות מצלמות אל רחובותינו ואל חזיתות ביתנו. כאשר התביעות בנוגע להפרת הזכות לפרטיות הוגשו, “סטריט וויו” היה כה שכיח במכשירים שלנו (וכה נוח ומגניב…) עד שרוב בתי המשפט (מלבד בגרמניה) מיאנו להתערב.

מה שקרה לחזיתות בתינו קורה עתה למילים שלנו, לתמונות שלנו, לשירים שלנו, לכל חיינו הדיגיטליים. כל אלו נתפסים כדי לאמן את המכונות לחקות מחשבה והמצאה. ברור שחברות הטכנולוגיה יודעות שהן עוסקות בגניבה, או לפחות שיש טענה משמעותית לכך. הן פשוט מקוות שהתרגיל יעבוד פעם נוספת – שסדר הגודל של השוד הוא כה גדול, והוא מתרחש כל כך מהר, שבתי המשפט ומקבלי ההחלטות שוב ירימו את ידיהם נוכח המצב החדש והבלתי-נמנע, לכאורה.

לכן ההזיות שלהם על כל הדברים הנפלאים שבינה מלאכותית תביא לאנושות כה חשובות. הן גורמות לגניבה האדירה הזו להיראות כמתנה – ובו בזמן מספקות רציונליזציה לסכנות הברורות שטומנת בחובה הבינה המלאכותית.

נעמי קליין, “גארדיאן”

תרגם וערך: אורי נתן