"סכנה גדולה בהרבה משינוי האקלים" – מהנדס לשעבר בגוגל ‏חושף את האימה האפשרית תחת משטר הבינה המלאכותית

‏הופעתה של טכנולוגיית הבינה המלאכותית (AI) עלולה להוות איום "‏‏בעל דחיפות רבה יותר"‏‏ לקיום האנושות משינוי האקלים, כך לדברי המדען זוכה פרס טיורינג ג'פרי הינטון, שנחשב לחלוץ הטכנולוגיה מעוררת המחלוקת. "לא הייתי רוצה להפחית מערכו של שינוי האקלים. לא הייתי רוצה לומר, 'אתם לא צריכים לדאוג לגבי שינוי האקלים'. גם זהו סיכון עצום",‏‏ אמר לרויטרס, ‏‏"אך אני חושב שבינה מלאכותית עלולה בסופו של דבר להיות בעלת דחיפות רבה יותר".‏

‏הינטון הידוע כאחד ה"סנדקים" של טכנולוגיית הבינה המלאכותית, חשף לאחרונה כי עזב את תפקידו בחזית הפיתוח כדי שיוכל להקים פלטפורמה שתתריע על הסיכונים הטבועים בבינה מלאכותית ללא פיקוח.

הינטון עבד בגוגל אשר ‏במרץ שחררה את צ'אטבוט הבינה המלאכותית שלה 'Bard' כמתחרה לתוכנת ChatGPT של OpenAI.

‏

אזהרתו הגיעה לאחר שכמה מנהיגים בתעשיית הטכנולוגיה - כולל מנכ"ל SpaceX, אילון מאסק - חתמו במרץ על מכתב פתוח המזהיר מפני ההשלכות האפשריות של מרוץ חימוש AI לא מפוקח בעמק הסיליקון.‏ ‏במכתב, מאסק ושותפיו החתומים טענו כי "‏‏אינטליגנציה אנושית-תחרותית"‏‏ מציבה אתגר עמוק למספר מגזרים בחברה, כולל תעסוקה והפצת מידע. המכתב גם קרא להפסקה של שישה חודשים בפיתוח טכנולוגיית בינה מלאכותית חזקה ולמינוי רגולטור עצמאי שיפקח על החזית המתפתחת.‏

‏ChatGPT הפכה לאפליקציה הצומחת ביותר בהיסטוריה זמן קצר לאחר השקתה בשנה שעברה- היא עברה את רף ה-100 מיליון משתמשים תוך חודשיים בלבד.‏

‏"עם שינויי האקלים, קל מאוד להמליץ מה לעשות: פשוט להפסיק לשרוף פחמן"‏‏ הינטון הסביר לרויטרס.

‏‏"אם תעשה את זה, בסופו של דבר הכל יהיה בסדר. אבל בשביל בינה מלאכותית לא כל כך ברור מה צריך לעשות".‏

‏עם זאת, במקום להשהות את המחקר, שלטענת הינטון ‏‏היא מטרה "בלתי מציאותית לחלוטין",‏‏ הוא אומר שיש להשקיע משאבים כדי "‏‏לגלות מה אנחנו יכולים לעשות בקשר לטכנולוגיה" שהוא מכנה "סיכון קיומי".‏ ‏בשבוע שעבר נפגש נשיא ארה"ב ג'ו ביידן עם נציגי גוגל ומיקרוסופט, והבהיר במה שהבית הלבן כינה "‏‏דיון כן ובונה"‏‏ כמה חברות הטכנולוגיה חייבות להבטיח שתוכניות בינה מלאכותית יהיו בטוחות עבור האנושות.