הבינה המלאכותית מפתחת רצון חופשי?
טל שחף, כתב טכנולוגיה, סיפר על שני מקרים יוצאי דופן שבהם כלי ה־AI פשוט סירב לבצע את בקשתו: "היא הופכת להיות לדבר שמחליט לך מה נכון ומה ראוי"
הכתב הטכנולוגי טל שחף סיפר כי כתב פוסט על סופר האינטליגנציה המלאכותית AGI שחברות טכנולוגיה שונות מתחילות לפתח, ובו ציטט כתבה שבה נכתב כי "מדובר ביצור סופר אינטליגנטי שיהיה חכם יותר מבני אדם, עם יכולות מופלאות אבל עם סכנות שהעולם עוד לא יודע איך לרסן אותן".
לדברי שחף, "התוצאה הייתה שהפוסט הזה כמעט ולא הופץ. אני לא איזה משפיען רשת עם מאות אלפי עוקבים, אבל זה היה נמוך מאוד גם בהשוואה לתוצאות שלי ואני מאמין שהרשת החברתית קראה את הטקסט, החליטה שהוא פוגעני כלפיה, לא כלפי בני אדם, ולכן החליטה שלא הרבה בני אדם יראו אותו".
המשיך וסיפר: "באותו שבוע על אותו פוסט פחות או יותר, רציתי לכתוב אותו באנגלית ברשת אחרת וביקשתי מ־Copilot, שזה כמו הצ'אט GPT רק של מיקרוסופט, שיעזור לי קצת לשפץ את האנגלית של התרגום של זה. נדהמתי כשה־Copilot פשוט סירב לעשות את זה. הוא כתב לי שהוא בטוח שאני מאמין במה שאני אומר, אבל פה מסתיימת השיחה בינינו. הופיעה לי הודעה 'אני בטוח שאתה מאמין במה שאתה אומר, אני עדיין לומדת, ולכן שיחתנו מסתיימת בשלב הזה' - שזה אומר 'אני לא מוכנה לעזור לך לכתוב את המשפט שאומר שאני מפלצת'".
"למה זה חשוב כל הסיפור הזה? בשני המקרים האלה לא התערבו בני אדם. אלה היו מערכות בינה מלאכותית שהתערבו אוטומטית. הן קראו את מה שכתבתי, הבינו את מה שאני רוצה להגיד והחליטו שזה לא מתאים להן שזה יופיע. הבינה המלאכותית היא לא רק כלי נחמד שמצייר תמונות וכותב לך עבודות באוניברסיטה, היא הולכת והופכת להיות לדבר שמחליט לך מה נכון ומה ראוי", סיכם.
