נביא ה-AI נוטש את גוגל ומזהיר: "בינה מלאכותית מסכנת את המין האנושי"
ג'פרי הינטון עבד בענקית הטכנולוגיה עד השבוע כאשר הגיש את מכתב התפטרותו - עתה הוא מזהיר מפני ההשלכות ההרסניות של הטכנולוגיה על החברה האנושית
05.01.2023 12:42
המדען זוכה פרס טיורינג, ג'פרי הינטון, נחשב לדמות מרכזית בהופעת הבינה המלאכותית (AI), אך בעיצומו של מרוץ חימוש דה-פקטו בעמק הסיליקון, כאשר גוגל ומיקרוסופט פועלות זו נגד זו כדי לשכלל את הטכנולוגיה, הוא החל מזהיר מפני הסיכונים שמפעל חייו עלול להציב בפני האנושות.
הרשמה לקבלת הניוזלטר היומי ועדכונים חשובים
Phone
הינטון התפטר מגוגל בחודש שעבר, שם בילה את רוב העשור האחרון בפיתוח תוכניות בינה מלאכותית גנרטיבית. טכנולוגיה זו היוותה את הבסיס לתוכנות בינה מלאכותית גנרטיבית כמו ChatGPT וגוגל בארד, כאשר ענקיות מגזר הטק טובלות את אצבעותיהן בחזית מדעית חדשה, כזו שהן מצפות שתהווה את הבסיס לעתידן.
המניע של הינטון לעזוב את גוגל פורסם בראיון ארוך לניו יורק טיימס שפורסם ביום שני.
מדובר היה ברצונו לדבר ללא פיקוח על הטכנולוגיה שהוא רואה כעת כמהווה סכנה לאנושות.
"אני מנחם את עצמי בתירוץ הרגיל: אם לא הייתי עושה את זה, מישהו אחר היה עושה את זה", אמר לעיתון האמריקני.
צ'אטבוטים ציבוריים כמו ChatGPT סיפקו הצצה לסיבה מדוע דואג הינטון. בעוד שהם נתפסים על ידי כמה כמו רק עוד חידושים באינטרנט, אחרים הזהירו מפני ההשלכות האפשריות כפי שהם מתייחסים להפצת מידע שגוי באינטרנט, ואת ההשפעה שלהם על תעסוקה.
הגרסה האחרונה של ChatGPT, ששוחררה במרץ על ידי OpenAI מסן פרנסיסקו, הביאה לפרסום מכתב פתוח שנחתם על ידי יותר מ-1,000 מנהיגים במגזר הטכנולוגיה – כולל אילון מאסק – שהדגישו את "הסיכונים העמוקים לחברה ולאנושות" שהטכנולוגיה מציבה. ובעוד הינטון לא הוסיף את חתימתו למכתב, עמדתו לגבי השימוש לרעה האפשרי בבינה מלאכותית ברורה: "קשה לראות איך אתה יכול למנוע מהשחקנים הרעים להשתמש בה לדברים רעים".
הינטון טוען כי גוגל פעלה "באחריות רבה" בניהול הבינה המלאכותית, אך בסופו של דבר, לדבריו, בעלי הטכנולוגיה עלולים לאבד שליטה באופן בלתי נמנע.
זה יכול להוביל לתרחיש, הוא אומר, שבו מידע כוזב, תמונות וסרטונים אינם ניתנים לאימות, ולהוביל לכך שאנשים כבר לא יידעו "מה נכון".
"הרעיון שהחומר הזה יכול להיות חכם יותר מאנשים – כמה אנשים האמינו בזה" אמר הינטון לניו יורק טיימס.
"אבל רוב האנשים חשבו שזה רחוק. וחשבתי שזה רחוק. חשבתי שזה 30 עד 50 שנה או אפילו יותר. ברור שאני כבר לא חושב ככה".
