חוקרים מובילים בתעשיית הבינה המלאכותית מזהירים כי בינה מלאכותית בעלת יכולות מתקדמות עלולה להשמיד את המין האנושי.
ג'ייקוב קוקסון, לשעבר חוקר ב-Anthropic וב-OpenAI, טוען שחברות ה-AI המובילות מתחרות על השגת אינטליגנציית-על בעלת יכולת שיפור עצמי, ומזהיר כי מערכות כאלה עלולות לפרוץ לכל דבר ולצבור כוח ומשאבים ממשיים. אוואן הובינגר, חוקר יישור (אלייגנמנט) בכיר ב-Anthropic, מרחיק לכת עוד יותר וטוען שיש סיכוי של יותר מ-10% שבינה מלאכותית תהרוג את כל המין האנושי כבר בעשור הקרוב.
כשנשיא ארה"ב טראמפ, נשאל האם הוא חושש מסיכון להכחדת האנושות ע"י AI, הוא ענה בשלילה. לדבריו, ארה"ב חייבת לנצח במרוץ הבינה המלאכותית מול סין - "אם לא ננצח, נהיה בעמדה גרועה מאוד". טראמפ הוסיף כי ארה"ב מובילה כרגע על סין ב ושא בפער של כשנה.
במקביל, חברי הקונגרס האמריקני משתי המפלגות מזהירים מפני הסיכונים של AI - חלק מהסנטורים אף מגדירים אותם כ"קטסטרופליים" ומקדמים חקיקה חדשה לפיקוח על מחקר ופיתוח בתחום ה-AI.
Top researchers say superintelligent AI could destroy us. That warning is growing louder in
Washington. But President Trump appears to see another existential danger as more urgent,
the threat from China. The warning from inside the AI industry is stark. Former anthropic
researcher Jacob Coxon says leading AI companies are racing towards self-improving superintelligence.
He warns that such systems could hack anything, revolutionize any field,
and acquire real power and resources. Anthropic researcher Evan Huberinger went even further.
He said AI could kill all humans and put the chance at more than 10% within the next decade.
Other AI experts are echoing the same concerns, saying the risks are real. When President Trump
was asked about the risk of AI extinction before leaving Dallas, he said no. Instead,
he has repeatedly emphasized the need for America to win the AI race against China.
I have concerns that if we don't win AI, we're going to be put in a very bad position.
We are leading China right now by a pretty good period. I would say a year.
For the Trump administration, China represents a present national security competitor that must
not gain control of the world's most powerful technology. Lawmakers from both parties are
already sounding the alarm. Senators are calling the risks catastrophic
and pushing new rules for AI research and development.