山姆·阿特曼警告人工智慧的兩大主要危險
OpenAI執行長山姆·阿特曼(Sam Altman)強調了先進人工智慧帶來的兩大主要災難性風險:嚴重誤用或技術事故,以及人類將未來的控制權永久喪失給超智慧系統。阿特曼警告,如果社會遭遇關鍵的對齊失敗,或將核心決策權讓渡給自主人工智慧,人類可能永遠無法收回主導權。
OpenAI執行長山姆·阿特曼(Sam Altman)強調了先進人工智慧帶來的兩大主要災難性風險:嚴重誤用或技術事故,以及人類將未來的控制權永久喪失給超智慧系統。阿特曼警告,如果社會遭遇關鍵的對齊失敗,或將核心決策權讓渡給自主人工智慧,人類可能永遠無法收回主導權。為了防止這些生存性後果,他呼籲在部署超智慧系統之前,採取積極的全球治理、建立國際安全護欄,並進行嚴格的對齊研究。