כמה מהשמות הגדולים ביותר בתחום הטכנולוגיה קוראים לעצור מיידית את ההכשרה של מערכות הבינה המלאכותיות למשך לפחות שישה חודשים, זאת תוך ציון "סיכונים עמוקים לחברה ולאנושות כולה".

אילון מאסק הוא בין עשרות הבכירים בעולם הטכנולוגי, כמו גם פרופסורים וחוקרים, שחתמו על המכתב שפורסם על ידי 'מכון עתיד החיים' - עמותה אשר נתמכת על ידי מאסק.

(צילום: Shutterstock)

המכתב הגיע שבועיים לאחר שחברת OpenAI הכריזה על ChatGPT-4, עדכון גרסה חדש וחזק של הצ'אטבוט המבוסס על בינה מלאכותית.

לטענתם החתומים על המכתב, העצירה צריכה לחול על מערכות בינה מלאכותית "חזקות יותר מ-GPT-4", כדי לקחת זמן עבור פיתוח והמטעה של סט פרוטוקולים משותף שיהפוך את הכלי החזק לבטוח "מעבר לכל ספק סביר". 

"בינה מלאכותית מתקדמת יכולה לייצג שינוי עמוק בהיסטוריה של החיים על פני כדור הארץ, ויש לתכנן ולנהל אותה זהירות ובמשאבים מתאימים", נכתב. "למרבה הצער, רמה זו של תכנון וניהול לא מתקיימת בשטח, למרות שבחודשים האחרונים נראית יציאה משליטה בפיתוח והפריסה של מוחות דיגיטליים חזקים יותר שאף אחד, אפילו לא היוצרים שלהם, יכול להבין, לחזות או לשלוט בצורה מהימנה".

אם לא תהיה הפסקה יזומה בקרוב, כתבו הבכירים, הממשלות צריכות להתערב. 

פיתוח הבינה מלאכותית הפך למירוץ חימוש של ממש בין חברות הטכנולוגיה כדי לפרוס את כלי ה-AI במוצרים שלהם. המובילות בחברות הן OpenAI, מיקרוסופט וגוגל, כמו גם אמזון, IBM, ועוד. זאת לצד רשימה ארוכה של סטארט-אפים.

מומחי AI מודאגים יותר ויותר מהפוטנציאל הרב של הכלי הטכנולוגי המתקדמת, כמו הקלות בהפצת מידע מוטעה וההשפעה של פרטיות האדם. 

רק לאחרונה, מנכ"ל OpenAI, סם אלטמן, אמר כי הוא עצמו "קצת מפחד" מהפיתוח הטכנולוגי, שכן היא יכולה להיות כל כך חזקה שיכולה להפוך למסוכנת. 

"אני חושב שאנשים צריכים להיות שמחים שאנחנו קצת מפחדים מזה", אמר אלטמן בן ה-37, יזם יהודי-אמריקאי. "זה הולך לחסל הרבה משרות קיימות".