ניו יורק נגד ענקיות הרשת: האלגוריתם שממכר ילדים עומד להיחסם

"חברות המדיה החברתית, אתן על הכוונת". במסר חריף זה הכריזה מושלת ניו יורק קתי הוקול על פרסום התקנות הסופיות ליישום חוק "סייף פור קידס", אחד המהלכים התקיפים ביותר שננקטו בארצות הברית נגד מנגנוני הרשתות החברתיות שנועדו להשאיר ילדים מול המסך. החוק נחתם כבר ביוני 2024, אך רק כעת הושלמו הכללים המפורטים שיאפשרו למדינה להתחיל לאכוף אותו. הוא ייכנס לתוקף המלא ב־25 בינואר 2027, לאחר תקופת היערכות של 180 יום.

על פי החוק, פלטפורמות שיוגדרו כ"רשתות מקוונות ממכרות" לא יוכלו להציג למשתמשים מתחת לגיל 18 פיד אישי המבוסס על ניתוח התנהגותם, העדפותיהם והזמן שהם מבלים מול תכנים שונים, אלא אם התקבל לכך אישור מהורה. במקום זרם אינסופי של סרטונים ופוסטים שהאלגוריתם בוחר כדי לעודד עוד גלילה, הקטינים יוכלו לראות תוכן מחשבונות שבחרו לעקוב אחריהם, לחפש נושאים מסוימים ולקבל תכנים בסדר שאינו מותאם באופן ממכר להתנהגותם.

על פי החוק, פלטפורמות שיוגדרו כ"רשתות מקוונות ממכרות" לא יוכלו להציג למשתמשים מתחת לגיל 18 פיד אישי המבוסס על ניתוח התנהגותם, העדפותיהם והזמן שהם מבלים מול תכנים שונים, אלא אם התקבל לכך אישור מהורה. במקום זרם אינסופי של סרטונים ופוסטים שהאלגוריתם בוחר כדי לעודד עוד גלילה, הקטינים יוכלו לראות תוכן מחשבונות שבחרו לעקוב אחריהם, לחפש נושאים מסוימים ולקבל תכנים בסדר שאינו מותאם באופן ממכר להתנהגותם.

החוק אוסר גם לשלוח לקטינים התראות הקשורות לפידים האלגוריתמיים בין חצות לשש בבוקר, אלא באישור הורי. מטרת ההגבלה היא לעצור את רצף הצלילים, הרטט וההודעות שמושכים ילדים ובני נוער בחזרה לטלפון גם בשעות שבהן הם אמורים לישון. גורמי המדינה טוענים כי פידים מותאמים אישית והתראות ליליות נקשרו לחרדה, דיכאון, הפרעות אכילה ובעיות שינה בקרב צעירים.

"השינוי המרכזי הוא בברירת המחדל", הסבירה התובעת הכללית של ניו יורק, לטישיה ג'יימס, שמשרדה ניסח את התקנות. לדבריה, חברות הטכנולוגיה לא יוכלו עוד להכניס קטינים באופן אוטומטי למערכות שתוכננו למקסם מעורבות ולהאריך ככל האפשר את זמן השהייה באפליקציה. הסנאטור אנדרו גונרדס מברוקלין, מיוזמי החוק, הדגיש כי ילדים עדיין יוכלו לעקוב אחר חברים, בני משפחה, אמנים או עמודי מעריצים — אך האלגוריתם לא יוכל להחליט במקומם מה להמשיך לדחוף למסך כדי לגרום להם לגלול ללא הפסקה.

האתגר הגדול ביותר יהיה לקבוע מי מהמשתמשים אכן צעיר מגיל 18. התקנות מאפשרות לפלטפורמות להשתמש בתעודה ממשלתית, אך מחייבות אותן להציע לפחות אפשרות נוספת, כדי שאנשים שלא ירצו למסור צילום של רישיון נהיגה או דרכון לא ייחסמו. בין השיטות האפשריות נמצאות הערכת גיל באמצעות תמונה, וידאו או קול, בדיקת היסטוריית החשבון והצלבת מספר טלפון או כתובת דואר אלקטרוני עם מקורות מידע אחרים. השיטות יידרשו לעמוד ברמות דיוק מוגדרות ואף לזהות ניסיונות לעקוף את המערכת.

כדי לצמצם את החשש מפני איסוף מידע אישי, התקנות קובעות כי מידע מזהה שנאסף לצורך אימות הגיל יימחק לאחר השלמת הבדיקה ולא ישמש למטרות אחרות. גם ילד וגם הורה יוכלו לבטל בהמשך אישור שניתן להפעלת הפיד האלגוריתמי או ההתראות הליליות. סירוב לאשר את המנגנונים הללו לא יאפשר לפלטפורמה לחסום את המשתמש מכל יתר השירותים, ובהם חיפוש, צפייה בתכנים ותקשורת עם חשבונות שאחריהם בחר לעקוב.

חברות הטכנולוגיה טענו לאורך הדיונים כי קביעה מדויקת של גיל המשתמשים מורכבת ועלולה ליצור סיכוני פרטיות חדשים. הוקול דחתה את הטענה בתקיפות ואמרה כי חברות שמסוגלות להשתמש בבינה מלאכותית כדי לזהות העדפות, תחומי עניין והרגלי קנייה יכולות גם לפתח דרך סבירה להבחין בין מבוגר לילד. לדבריה, אותן חברות כבר נדרשות למנוע מקטינים גישה לשירותים מוגבלים אחרים, ולכן אינן יכולות לטעון כי אין בידיהן כל דרך להתמודד עם הבעיה.

התגובה מצד תעשיית הטכנולוגיה הייתה זהירה. קואליציית "טק ניו יורק", המייצגת חברות הפועלות במדינה, מסרה כי היא תומכת במטרה להגן על צעירים ברשת, אך הזהירה כי דרישות אימות הגיל חייבות לפעול בפועל מבלי ליצור פגיעה בלתי צפויה בפרטיות, במשפחות, בצרכנים ובחברות עצמן. ארגוני זכויות דיגיטליות וחלק מנציגי התעשייה עשויים לטעון גם כי ההגבלות פוגעות בחופש הביטוי ובאפשרות להשתמש ברשת באופן אנונימי, וסביר שהחוק יעמוד בפני מאבקים משפטיים.

החוק יחול על פלטפורמות המציגות תוכן שנוצר בידי משתמשים, ושבהן לפחות 20% מזמן השימוש מוקדש לפידים המותאמים אלגוריתמית. ההגדרה נועדה למקד את האכיפה בשירותים המבוססים במידה משמעותית על זרם תוכן אישי וממכר, ולא בכל אתר או יישומון שבהם מופיע תוכן של משתמשים. חברה שתפר את ההוראות עלולה להיקנס בסכום של עד 5,000 דולר לכל הפרה.

ניו יורק מצטרפת בכך לשורה מתרחבת של מדינות המבקשות להגביל את כוחן של חברות הטכנולוגיה על חייהם של ילדים ובני נוער. אלא שבניגוד ליוזמות כלליות הקוראות לחברות "לפעול באחריות", החוק החדש משנה בפועל את ברירת המחדל: ילדים לא יקבלו עוד באופן אוטומטי את המנגנונים הרווחיים ביותר של הרשתות החברתיות, והחברות יצטרכו לבקש רשות לפני שיוכלו להפעיל אותם.

מבחינת הוקול, זהו מאבק על דור שלם שגדל כאשר האלגוריתם מכיר את חולשותיו, פחדיו והעדפותיו לעיתים טוב יותר מהוריו. "הילדים מביטים בנו, המבוגרים, ומבקשים שנציל אותם מעצמם", אמרה. "והתשובה שלנו היא: כן, נעשה זאת".