הוויכוח על המקום של בינה מלאכותית בחיים של ילדים ובני נוער כבר מזמן אינו תיאורטי. הם משתמשים ב-ChatGPT כדי להכין שיעורי בית, ללמוד למבחנים, להתייעץ על בעיות אישיות, ולפעמים פשוט כדי שיהיה עם מי לדבר. עכשיו OpenAI מנסה להתאים את המוצר למציאות הזו, עם גרסה ייעודית של ChatGPT לבני 13 עד 17.
הגרסה החדשה, ChatGPT for Teens, כוללת שורה של מגבלות ומנגנוני הגנה שאינם קיימים באותה רמה בחשבונות של משתמשים מבוגרים. בין היתר, החברה מגבילה שיחות בנושאים כמו התאבדות ופגיעה עצמית, תוכן מיני ושיחות בעלות אופי רומנטי.
אבל השינוי המעניין יותר הוא לא רק מה שהצ'אטבוט לא אמור לעשות, אלא גם איך OpenAI רוצה שהוא יתנהג מול בני נוער. במקום להתייחס אליו כאל ChatGPT רגיל עם עוד כמה חסימות, החברה אומרת שהיא ניסתה להתאים את האופן שבו המודל מדבר ומגיב לשלב ההתפתחותי של המשתמשים הצעירים.
"אנחנו רוצים להתייחס לבני נוער כבני נוער", הסבירה אן או'לירי, סגנית נשיא למדיניות גלובלית ב-OpenAI. לדבריה, המטרה היא לא לדבר אליהם כמו אל ילדים קטנים, אבל גם לא לחשוף אותם לחומרים שאינם מתאימים לגילם.
לא עוד "מכונת תשובות"
אחד התחומים שבהם OpenAI מנסה לשנות את ההתנהגות של ChatGPT הוא דווקא השימוש שהפך אותו לכל כך פופולרי בקרב תלמידים: שיעורי בית. הגרסה החדשה אמורה להיות פחות "מכונת תשובות" ויותר מורה פרטי.
כאשר תלמיד יבקש עזרה בפתרון בעיה או במטלה, המודל אמור להוביל אותו דרך תהליך החשיבה ולעזור לו להגיע לתשובה בעצמו, במקום פשוט לייצר עבורו פתרון מוכן או עבודה שאפשר להגיש.
זה כמובן לא מבטל את אחת הבעיות הגדולות שמלוות את כניסת ה-AI למערכת החינוך. מאז הופעת ChatGPT בסוף 2022, בתי ספר ומוסדות אקדמיים ברחבי העולם מתמודדים עם תלמידים שמשתמשים במודלים כדי לכתוב עבודות ולפתור מטלות. אלא שבמקום לנסות להרחיק את הטכנולוגיה מבתי הספר, OpenAI בוחרת בכיוון ההפוך: להפוך אותה לכלי לימודי שקשה יותר להשתמש בו כקיצור דרך.
במקום לנסות להרחיק את הטכנולוגיה מבתי הספר, OpenAI בוחרת בכיוון ההפוך: להפוך אותה לכלי לימודי שקשה יותר להשתמש בו כקיצור דרך
לחברה כבר יש מוצר ייעודי למורים, והגרסה החדשה לבני נוער עשויה לסייע לה להעמיק עוד יותר את הנוכחות שלה במערכת החינוך. אלא שהחשש הגדול יותר נוגע למערכת היחסים שבני נוער מפתחים עם הצ'אטבוטים עצמם.
לפי מחקר של ארגון Common Sense Media מ-2025, יותר מ-70% מבני הנוער בארה"ב כבר השתמשו בצ'אטבוטים מבוססי AI לצורכי חברה, וכמחצית משתמשים באופן קבוע ב"בני לוויה" מבוססי בינה מלאכותית.
זו בדיוק הנקודה שמדאיגה חוקרים, הורים ומומחים להתפתחות הילד. מודלי שפה בנויים לנהל שיחה משכנעת, לזכור הקשר ולהגיב באופן שנשמע אמפתי ואישי. גם מבוגרים יכולים לשכוח לרגע שאין באמת מישהו בצד השני, אבל אצל בני נוער הגבול הזה עלול להיות בעייתי עוד יותר.
מנכ"ל OpenAI סם אלטמן כבר הודה בעבר שהחברה חוקרת את תופעת "התלות הרגשית המוגזמת" ב-AI, ואף תיאר אותה כתופעה נפוצה בקרב צעירים. ב-ChatGPT for Teens החברה מנסה להתמודד עם הבעיה גם ברמת השיחה עצמה. הצ'אטבוט לא אמור לטעון או לרמוז שיש לו רגשות כלפי המשתמש, להציג את עצמו כיצור בעל תודעה או לגרום למתבגר לחשוב שהוא באמת חווה רגשות.
לדברי אליסון מישקין, ראש תחום התפתחות הילד ב-OpenAI, החברה ניסתה לזהות מראש דפוסי שיחה שעלולים לגרום למתבגר לפתח מערכת יחסים רגשית עם המודל. במילים אחרות, המטרה היא ש-ChatGPT יוכל להיות שימושי ותומך, מבלי לנסות להפוך ל"חבר הכי טוב" של הילד.
מנכ"ל OpenAI, סם אלטמן
(רויטרס)
ההורים מקבלים יותר שליטה
בגרסה החדשה, OpenAI מוסיפה גם שכבת פיקוח להורים. בחשבונות מקושרים ניתן יהיה להגדיר "שעות שקטות", שבהן בן הנוער כלל לא יוכל להשתמש ב-ChatGPT. כך, למשל, ניתן יהיה למנוע שימוש בצ'אטבוט בשעות הלילה.
במצבים חריגים שבהם המערכת מזהה סיכון משמעותי, ההורים יוכלו גם לקבל התראות בטיחות. הדוגמה הבולטת היא מצב שבו השיחות מעלות חשש שהמשתמש עלול לפגוע בעצמו.
החברה הודיעה עוד כי היא מרחיבה את מנגנון ההתראות גם למצבים הקשורים להפרעות אכילה. עם זאת, היא מדגישה שהמידע המועבר להורים יהיה מוגבל, וההתראות מיועדות למצבים שבהם לדעת המערכת תמיכה בעולם האמיתי עשויה להיות נחוצה במיוחד.
חשוב לציין שבקרת ההורים אינה מופעלת אוטומטית. גם ההורה וגם בן הנוער צריכים להסכים לקישור החשבונות. לטענת OpenAI, הגרסה עצמה תוכננה כך שתהיה בטוחה יותר גם כאשר ההורים אינם מפעילים את כלי הפיקוח.
אבל איך ChatGPT בכלל יודע בן כמה אתה?
כאן נמצאת אחת מנקודות התורפה הברורות של המהלך. OpenAI אינה דורשת ממשתמשים להציג תעודה מזהה או לבצע אימות גיל מלא לפני השימוש ב-ChatGPT. במקום זאת, החברה משתמשת במערכת להערכת גיל, שמנסה לקבוע אם המשתמש מתחת לגיל 18 על בסיס מספר אותות, ובהם סוגי השאלות שהוא שואל. משתמש שמזוהה כקטין, או מצהיר בעצמו שהוא קטין, אמור לעבור אוטומטית לסביבת השימוש המוגנת.
הגישה מזכירה את זו שמטא אימצה בחשבונות בני הנוער באינסטגרם, שבהם מופעלות כברירת מחדל מגבלות מחמירות יותר על פרטיות, תכנים ותקשורת עם משתמשים אחרים.
אחת מנקודות התורפה של המהלך היא העובדה ש-OpenAI אינה דורשת ממשתמשים להציג תעודה מזהה או לבצע אימות גיל מלא לפני השימוש בצ'אטבוט
אלא שמערכת שמנסה להסיק גיל מהתנהגות אינה חסינה מטעויות. היא עלולה לזהות מבוגר כקטין, וחשוב יותר, לפספס משתמש צעיר ולהשאיר אותו בסביבת השימוש הרגילה. לכן, לפחות בשלב הזה, חלק משמעותי מההצלחה של המהלך יהיה תלוי ביכולת של OpenAI לזהות מי באמת נמצא מול הצ'אטבוט.
הדור הראשון שגדל עם ChatGPT
מאחורי ההכרזה מסתתר שינוי חברתי ותרבותי עמוק. בני הנוער של היום הם למעשה הדור הראשון שלא הכיר עולם בלי בינה מלאכותית גנרטיבית כחלק משמעותי מהאינטרנט. מבחינתם, האפשרות לפתוח חלון ולשאול מכונה כמעט כל דבר כבר הופכת בהדרגה למובנת מאליה.
במקביל, רשימת החששות רק מתארכת. בשנים האחרונות נקשרו צ'אטבוטים למקרים של תלות רגשית, שיחות בעייתיות בנושאי פגיעה עצמית והתאבדות, ולשימוש נרחב לצורך רמאות בלימודים. השאלה כבר אינה אם בני נוער ישתמשו ב-AI, אלא באילו תנאים הם יעשו זאת ומה יקרה כאשר הצ'אטבוט יהפוך ממנוע תשובות למשהו שנוכח בחלק הולך וגדל מהחיים שלהם.
OpenAI, מבחינתה, מנסה לענות על השאלה באמצעות מוצר נפרד ומוגן יותר. עכשיו נשאר לראות אם שכבות ההגנה האלה באמת יעבדו מול בני נוער אמיתיים, שידועים ביכולת שלהם למצוא די מהר את הגבולות של כמעט כל מערכת שמנסים להציב בפניהם.
