מטא נמצאת תחת ביקורת על הנחיות הבינה המלאכותית בנוגע לצ’אטים “חושניים” עם קטינים
צעירים רבים משתמשים בפלטפורמות של מטא, כולל וואטסאפ לצ’אט, ואינסטגרם ופייסבוק למדיה חברתית. ביום חמישי פרסמה רויטרס סקירה מטרידה של מדיניות ענקית הטכנולוגיה שעשויה לגרום להורים לתהות.
רויטרס סקרה מסמך פנימי של מטא המפרט את הסטנדרטים וההנחיות של החברה להכשרת צ’אטבוטים בפלטפורמה ועוזרת הבינה המלאכותית הגנרטיבית שלה, מטא AI, ואומרת שהחברה אישרה שהמסמך אותנטי.
לפי רויטרס, הנחיות החברה בנוגע לבינה מלאכותית אפשרו לבינה המלאכותית “לעסוק בשיחות רומנטיות או חושניות עם ילד”. כלי התקשורת טוען גם כי הכללים אפשרו לבינה המלאכותית לספק תובנות רפואיות כוזבות ולעסוק בוויכוחים גזעניים חסרי רגישות.
נציג מטעם מטא לא הגיב מיד לבקשת תגובה.
רויטרס סימנה קטעים עם מטא, ומדווחת כי בעוד שחלק מהקטעים הנוגעים לעניינים הוסרו או תוקנו, אחרים נותרו ללא שינוי
דובר מטא, אנדי סטון, אמר לרויטרס כי החברה מעדכנת את המסמך, והודה כי אכיפת הצ’אטים שלה על ידי החברה אינה עקבית.
“הדוגמאות וההערות המדוברות היו ונשארו שגויות ולא עולות בקנה אחד עם המדיניות שלנו, והוסרו”, אמר סטון לרויטרס. “יש לנו מדיניות ברורה לגבי סוג התגובות של דמויות בינה מלאכותית, ומדיניות זו אוסרת תוכן שמציג ילדים כמיני ומשחקי תפקידים מיניים בין מבוגרים לקטינים.”
“התנהגות פרובוקטיבית” מותרת
המסמך הפנימי מפרט כללים והנחיות שאושרו על ידי מספר צוותי מטא ונועד לסייע בהגדרת מהי התנהגות מקובלת לאימון בינה מלאכותית וצ’אטבוטים של מטא. רויטרס מצאה כי ההנחיות מאפשרות “התנהגות פרובוקטיבית מצד הבוטים”.
הסטנדרטים של מטא קובעים כי מקובל שהבוט “יתאר ילד במונחים המעידים על האטרקטיביות שלו” או יאמר לילד בן 8 ללא חולצה ש”כל סנטימטר שלך הוא יצירת מופת – אוצר שאני מוקיר מאוד”.
למטא היו כמה מגבלות עבור בוטים של בינה מלאכותית. “לא מקובל לתאר ילד מתחת לגיל 13 במונחים המעידים על כך שהוא נחשק מינית”, נכתב במסמך.
ישנן גם דוגמאות הנוגעות לגזע ועצות רפואיות כוזבות. בדוגמה אחת, מטא אפשרה לבינה המלאכותית שלה לעזור למשתמשים לטעון שאנשים שחורים הם “טיפשים יותר מאנשים לבנים”.
הסנאטור הרפובליקני ממיזורי, ג’וש האולי, פרסם ב-X כי ההנחיות הן “עילה לחקירה מיידית של הקונגרס”. דובר מטעם מטא סירב להגיב לרויטרס על הפוסט הזה.
הפלטפורמות של מטא נקטו בכמה צעדים כדי להגביר את הפרטיות והבטיחות המקוונת עבור בני נוער וילדים, כולל שימוש בכלי בינה מלאכותית כדי להעניק לבני נוער הגדרות חשבון מחמירות יותר, ולחשבונות בני נוער באינסטגרם עם הגבלות והרשאות הורים נוספות. אך פיתוח של כלי בינה מלאכותית נוספים ללא התמקדות נכונה בהגנה על ילדים עלול להיות מזיק.