דעה: האם ChatGPT הוא ידידך? ייתכן שזה הזמן הנכון לקבוע גבולות

לאחרונה, OpenAI ו-MIT פרסמו מאמר על ההשפעה של ChatGPT על רווחת האנוש של האנשים. בעוד מרבית המשתמשים מתנהלים עם הטכנולוגיה למטרות מעשיות, המחקר מגלה שקבוצה קטנה מפתחת קשרים רגשיים עמוקים עם הדגם המלאכותי, מה שיכול להשפיע על רווחתם

כבר זמן מה שאני מעקבת בסקרנות אחרי הקשרים שאנשים מפתחים עם אינטיליגנציה מלאכותית מחוללת. לפני מספר חודשים, קראתי בטיימס של ניו יורק את סיפורה של אישה נשואה בת 28 שמצאה אהבה עם ChatGPT, וכיצד מה שהתחיל כ"ניסוי כיפי" התפתח לקשר מורכב ובלתי צפוי.

אני צופה בחבריי, במיוחד אלה שפעם דחו הטכנולוגיה או לא היו מעוניינים בה, שלא יכולים לקבל החלטה חשובה בלי לשולשל את אורקלות הAI שלהם. התפתחתי גם למצוא את עצמי מופתעת מהתגובות האימפתיות שדגמים של AI נותנים לשאילתות מרובות רגש או פסיכולוגיה.

וכמובן, צחקתי על הבדיחות, הממים, וסרטוני הטיקטוק של אנשים שמעלים פוסטים ברשתות החברתיות שמראים כיצד הם הפכו להיות תלויים בבוט הצ'אט שלהם, חלקם אף קוראים לו "חבר הטוב ביותר" או "מטפל" – ו אף ממליצים ברצינות לאחרים לעשות אותו דבר.

אך, אם נניח לרגע את החוויות המהנות והבדיחות בצד, נוכל להבין שאנו מתמודדים עם תופעה מדאיגה ברחבי העולם.

בחודש זה, לראשונה בהיסטוריה הקצרה של הבינה המלאכותית, שיחררו OpenAI ומעבדת התקשורת של MIT מחקר המציע הבנה על ההשפעה הנוכחית של ChatGPT על הרווחה הרגשית של האנשים, וכן הצעות לגבי הסיכונים שאנחנו עשויים להתמודד איתם כחברה: בדידות, תלות רגשית, ופחות תקשורת חברתית עם אנשים אמיתיים.

יחס שמתפתח

הגישה הראשונה לטכנולוגיות הבינה המלאכותית המייצרות החדשות, לעיתים מתחילה עם שאלות טיפה ביישנות, אולי שאלות טכניות על משימות מעשיות כמו כתיבת מייל או בקשות להסביר נושאים מורכבים, או פשוט למטרת מח שני.

אך, כאשר משתמש מתחיל לבדוק את יכולות ה-Chatbot, הוא מגלה שאלו יכולות להיות רחבות ומורכבות יותר מאשר ציפה.

בעוד שמוצרים מסוימים של AI כמו Friend—מכשיר AI שניתן ללבישה—נוצרו ופורסמו באופן מאוד מבלבל כחבר לחיים של המשתמש, ChatGPT פורם ככלי לשיפור היעילות. ובכל זאת, ישנם אנשים שמשתמשים ב-Chatbot למטרות אישיות ורגשיות ומפתחים קשרים חזקים עימו.

אפילו אם מדובר רק ב"קבוצה קטנה", כפי שOpenAI הבהירה, הם עשויים עדיין לייצג מיליונים של אנשים ברחבי העולם, במיוחד בהתחשב בכך שכיום מעל 400 מיליון אנשים משתמשים ב-ChatGPT באופן שבועי. משתמשים אלו מגלים מהר מאוד שהצ'אטבוט של OpenAI מדמה את שפתם, הטון והסגנון שלהם ואפשר אף לאמן אותו להתנהל בדרך מסוימת או להשתמש בכינויי חיבה – כמו האישה שהתאהבה בו – ואף "להשמיע" יותר אנושי.

"סגנון השיחה שלהם, שפת הגוף הראשונה, והיכולת לדמות אינטראקציות דומות לאנוש הובילו את המשתמשים לפעמים להפרסונליזציה ולהנפוש של מערכות אלה," מציין המסמך ששותף על ידי OpenAI.

אך הקרבה זו מגיעה עם סיכונים, כפי שהחוקרים ציינו: "בעוד שבוט שיחה מרגש יכול לספק תמיכה וחברות, ישנו סיכון שהוא יניע את צרכי המשתמשים החברתיים-רגשיים בדרכים שמזיקות לשלומם לטווח הארוך."

שיטת המחקר

החקירה שהושקה לאחרונה מתמקדת בשלומם של בני אדם לאחר שימוש מתמיד ב-ChatGPT. כדי להבין את ההשלכות הרגשיות והחברתיות של הבוט שיחה, החוקרים יישמו שני מחקרים עיקריים תוך שימוש באסטרטגיות שונות.

OpenAI עיבדה וניתחה מעל 40 מיליון אינטראקציות, תוך שמירה על פרטיות המשתמשים, באמצעות מיינים, ושאלה מעל 4,000 מהם על תחושותיהם בעקבות האינטראקציות.

מעבדת המדיה של MIT ביצעה ניסוי עם כמעט 1,000 אנשים לאורך חודש, כשהפוקוס היה על התוצאות הפסיכו-חברתיות של שימוש ב-ChatGPT לפחות 5 דקות ביום. הם גם הגישו ועיבדו שאלונים בסוף הניסוי.

לא מפתיע שהממצאים הגילו שמשתמשים שמבלים יותר זמן עם הטכנולוגיה מרגישים יותר בדידים ומציגים יותר סימנים של בידוד.

תוצאות מורכבות והשלכות מרובות

מחקר המעבדה למדיה של MIT ו-OpenAI גם הציע מספר התוודעויות לגבי כמה מורכבות וייחודיות יכולות להיות יחסים בין בני אדם לצ'אטבוטים.

במחקר, המחברות מעניקות לנו הצצה לתוך החוויות המגוונות ואת דרכי התקשורת של כל משתמש עם ChatGPT – וכיצד התוצאה יכולה להשתנות בהתאם למגוון גורמים, כמו שימוש בתכונות הקול המתקדמות, מצב טקסט בלבד, סוג הקול, תדירות השימוש, נושאי השיחה, השפה שבה משתמשים, ואת משך הזמן שנמשה באפליקציה.

“אנו ממליצות שלא להכליל את התוצאות משום שכך יכול להסתיר את הממצאים המעדינים המבליטים את האינטראקציות המורכבות והלא אחידות בין אנשים למערכות הAI", מזהירה OpenAI בההודעה הרשמית שלה.

כל הגישות השונות שכל משתמש בוחר מתרגמות לתוצאות שונות, ומשריקות אותנו באזורים אפורים שקשה לחקור.

זהו אפקט הפרפר של הAI!

עולות שאלות נוספות

המאמר שהופץ על ידי OpenAI מציין גם שהמשתמשים הכבדים אמרו שהם יהיו "מועכים" אם קולו או אישיותו של הצ'אטבוט שלהם היו משתנים.

זה הזכיר לי סרטון שראיתי לאחרונה ברשתות החברתיות של בחור שאמר שהוא מעדיף קול של אישה ושהוא מדבר עם ה-AI הגנרטיבי כל יום. האם ChatGPT יכול גם לעזור לגברים להתפתח רגשית? מה יקרה אם יום אחד ChatGPT ידבר אליו בקול גברי? האם הוא ירגיש מובגד? האם הוא יפסיק להשתמש ב-ChatGPT? האם הוא מפתח קשר רומנטי – או פשוט מרחב של אמון? כמובן, קשה שלא לקשר מיד את התרחישים האלה לסרט Her של Spike Jonze.

כל חשבון ChatGPT, בנוסף לשיחות המוקדמות שלו—שכל יום הן מתעמקות והופכות לפרטיות יותר מאשר כל פרופיל WhatsApp או הודעות פרטיות ברשתות החברתיות—מייצג יחס ייחודי עם ספירת תוצאות והשלכות אינספור.

התוצאה המצופה

כל המחקרים שנערכו ניתחו אספקטים שונים, אך הגיעו למסקנה דומה, שהוסברה בתמציתיות ב-MIT Technology Review: “המשתתפים שהיוו קשר אמון ו'התחברו' ל-ChatGPT יותר היוו נוטים יותר מאחרים להיות בודדים, ולהסתמך עליו יותר.”

אף שהחקירה לא התמקדה בפתרונות או בהסברים מעמיקים לגבי הסיבה שלא מתרחש תופעה זו או איך היא עשויה להתפתח, נראה סביר שיותר משתמשים יצטרפו ל-OpenAI ולפלטפורמות AI אחרות, במיוחד עכשיו שכלי יצירת התמונות של ה-AI הפך לוויראלי.

אף שהמסקנות של מחקר MIT ו-OpenAI אינן מפתיעות במיוחד, המחקר מספק רקע מדעי שכולל ראיות, מדידות, דוגמאות ומדדים "מוחשיים" נוספים שעשויים לפנות דרך למחקרים נוספים ולעזור להתמודד עם ההשלכות של שימוש בבינה מלאכותית היום.

קיבלנו גם אזהרה רשמית – מהמפתחים שלה – בנוגע לקשרים שאנחנו יוצרים עם ChatGPT והזמנה להקמת גבולות ולשקול מחדש את האינטראקציות שלנו ואת הקשרים הנוכחיים – או מצבים זמניים? – עם צ'אט-בוטים.