מומחי AI מובילים מזהירים מפני סיכון קיומי לאנושות מבינה מלאכותית

חוקרים מובילים בתעשיית הבינה המלאכותית מזהירים כי בינה מלאכותית בעלת יכולות מתקדמות עלולה להשמיד את המין האנושי.

ג'ייקוב קוקסון, לשעבר חוקר ב-Anthropic וב-OpenAI, טוען שחברות ה-AI המובילות מתחרות על השגת אינטליגנציית-על בעלת יכולת שיפור עצמי, ומזהיר כי מערכות כאלה עלולות לפרוץ לכל דבר ולצבור כוח ומשאבים ממשיים. אוואן הובינגר, חוקר יישור (אלייגנמנט) בכיר ב-Anthropic, מרחיק לכת עוד יותר וטוען שיש סיכוי של יותר מ-10% שבינה מלאכותית תהרוג את כל המין האנושי כבר בעשור הקרוב.

כשנשיא ארה"ב טראמפ, נשאל האם הוא חושש מסיכון להכחדת האנושות ע"י AI, הוא ענה בשלילה. לדבריו, ארה"ב חייבת לנצח במרוץ הבינה המלאכותית מול סין - "אם לא ננצח, נהיה בעמדה גרועה מאוד". טראמפ הוסיף כי ארה"ב מובילה כרגע על סין ב ושא בפער של כשנה.

במקביל, חברי הקונגרס האמריקני משתי המפלגות מזהירים מפני הסיכונים של AI - חלק מהסנטורים אף מגדירים אותם כ"קטסטרופליים" ומקדמים חקיקה חדשה לפיקוח על מחקר ופיתוח בתחום ה-AI.

____________________

לערוץ הטלגרם של NTD
https://t.me/+m1VZHG572qUxMzdk

בקרו באתר NTD בעברית:
https://ntdtv.co.il/

לתמיכה בערוץ:
https://donorbox.org/ntd-hebrew

לדף הטוויטר של NTD
https://twitter.com/NTDHEBREW

להצטרפות לערוץ NTD בווטסאפ
https://chat.whatsapp.com/G3K7PppDOEEIM5iF6IzKRb

לדף הפייסבוק שלנו
https://www.facebook.com/ntdhebrew