גווין ניוסום, מושל קליפורניה הדמוקרטי, הטיל וטו על הצעת חוק S.B. 1047, שהייתה אמורה להיות הרגולציה המחמירה ביותר בארצות הברית על בינה מלאכותית (AI). החלטה זו מהווה ניצחון משמעותי לחברות טכנולוגיה וקרנות הון סיכון שלחצו נגד החקיקה, ומכה למצדדי הרגולציה המחמירה על AI.
החוק המוצע היה דורש מחברות לבדוק את מערכות ה-AI החזקות ביותר לפני שחרורן, ומטיל עליהן אחריות במקרה שהטכנולוגיה שלהן תשמש לפגיעה באנשים, למשל בתכנון מתקפת טרור.
הוטו של ניוסום מהווה מכה משמעותית לתנועת בטיחות ה-AI, קבוצה של חוקרים ופעילים המאמינים שAI חכם מאדם עלול להיות מומצא בקרוב, וטוענים שהאנושות חייבת להתכונן בדחיפות לתרחיש זה
מנהלי חברות טכנולוגיה, משקיעים ופוליטיקאים בכירים בקליפורניה, כולל חברת הקונגרס ננסי פלוסי, טענו שהחוק יפגע בחדשנות על ידי יצירת סיכון משפטי בפיתוח מערכות AI חדשות. המתנגדים טענו גם שיש להעניש את מי שמשתמש ב-AI לרעה, ולא את המפתחים.
תומכי החוק, ביניהם חוקרי AI מובילים כמו ג'פרי הינטון ויושוע בנג'יו, טענו שהחוק רק יפורמל התחייבויות שחברות הטכנולוגיה כבר לקחו על עצמן באופן וולונטרי. סקוט וינר, הסנאטור הדמוקרטי שיזם את החוק, אמר שהמדינה חייבת לפעול כדי למלא את הוואקום שנוצר בוושינגטון, שם רוב החקיקה תקועה בקונגרס.
גם הוליווד התערבה, כאשר יותר מ-120 שחקנים ומפיקים, ביניהם ג'יי ג'יי אברמס ומהרשלה עלי, חתמו על מכתב המבקש מניוסום לחתום על החוק.
הצעת החוק כבר נחלשה מספר פעמים בבית המחוקקים של קליפורניה, וזכתה לתמיכה מחברת ה-AI אנתרופיק ומאלון מאסק, הבעלים של X. אולם לוביסטים ממטא, גוגל וקרנות הון סיכון גדולות, כמו גם מייסדים של סטארט-אפים רבים בתחום הטכנולוגיה, עדיין התנגדו לה.
בהצהרתו על הטלת הוטו, ניוסום כתב שהחוק טעה בכך שהתמקד רק בפרויקטי AI המשתמשים בכוח מחשוב מעל לסף מסוים, תוך התעלמות מהשימוש הספציפי במערכת ה-AI, כמו למשל האם היא מעורבת בקבלת החלטות קריטיות או משתמשת במידע רגיש.
ניוסום הכריז גם שמנהל המדינה יעבוד עם אקדמאים מובילים לפיתוח מה שמשרדו כינה "מעקות בטיחות ישימים" לפריסת טכנולוגיית AI גנרטיבית.
אנתוני אגווירה, מנכ"ל מכון עתיד החיים, ארגון ללא מטרות רווח שתמך בחוק, אמר בתגובה שהוטו מאותת על הצורך ברגולציה פדרלית או אפילו גלובלית לפיקוח על חברות הטכנולוגיה הגדולות המפתחות טכנולוגיית AI.
למרות הוטו על חוק זה, ניוסום חתם על 17 חוקים אחרים הקשורים ל-AI, הכוללים איסור על תמונות מיוצרות על ידי AI שמנסות להטעות בוחרים לפני בחירות, דרישה מאולפני קולנוע לנהל משא ומתן עם שחקנים על זכויות השימוש בדמותם בסרטוני AI, וכללים המחייבים חברות AI ליצור טכנולוגיית "סימן מים" דיגיטלי כדי להקל על זיהוי תוכן AI.
הוטו של ניוסום מהווה מכה משמעותית לתנועת בטיחות ה-AI, קבוצה של חוקרים ופעילים המאמינים שAI חכם מאדם עלול להיות מומצא בקרוב, וטוענים שהאנושות חייבת להתכונן בדחיפות לתרחיש זה.
למרות החששות הללו, רוב מנהלי ה-AI, המהנדסים והחוקרים מתמקדים באתגרים של בניית ומכירת מוצרי AI ישימים, ולא בסיכון שהטכנולוגיה תתפתח יום אחד לעוזר מיומן לטרוריסטים או תשפיע על בחירות באמצעות דיסאינפורמציה.
