頂級研究員連辭OpenAI、Anthropic：AI要失控，將毀滅人類

BitPush

09/10

來源：新智元原標題：27歲研究員連辭OpenAI、Anthropic！兩家都在拿我們的命下注「我今天從Anthropic辭職了！」 9日凌晨，一條推文在X上炸開：過去三年，我在OpenAI和Anthropic做預訓練研究。兩家公司都沒有負責任地行事。它們正直奔自我改進的超級智能，拿我們所有人的命下注。發帖人Jacob Coxon，是GPT-4o的核心貢獻者。今年年初，他因為...

網頁鏈接

免責聲明：投資有風險，本文並非投資建議，以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請，作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考，不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證，投資者應自行研究並在投資前尋求專業建議。

熱議股票

{"basename":"/hant","ssrTDKData":{"titleTemplate":"%s - 老虎證券","title":"老虎证券全球投资理财平台| 一站式投资美股新股港股A股","description":"老虎证券助您一站式投资美股，新股，港股，A股等全球金融理财产品。新加坡华人最信赖的在线投资平台，现在加入即享低费用，24/5 无时差炒美股投资理财！","keywords":"老虎證券,老虎證券開戶,老虎券商,老虎證券官網,老虎證券app,tigertrade老虎證券,股票,炒股,新加坡股票交易平臺,投資,投資理財","social":{"ogDescription":"老虎证券助您一站式投资美股，新股，港股，A股等全球金融理财产品。新加坡华人最信赖的在线投资平台，现在加入即享低费用，24/5 无时差炒美股投资理财！","ogImage":"https://c1.itigergrowtha.com/portal5/static/media/og-logo.0a0bd8dc.png","ogUrl":"https://www.itiger.com/hant/news/2666532267"},"companyName":"老虎證券"},"pageData":{"isMobile":false,"isTiger":false,"isTTM":true,"region":"SGP","license":"TBSG","edition":"fundamental"},"isCrawlerRequest":true,"__swrFallback__":{"@#url:\"https://stock-news.skytigris.cn/v3/news\",params:#id:\"2666532267\",edition:\"fundamental\",auth_exemption:1,,,undefined,":{"share":"https://ttm.financial/m/news/2666532267?lang=zh_TW&edition=fundamental","thumbnail":"https://images.bitpush.news/2026/09/special_cn-20260904-178854301638205054.jpg:1788543007806-200x140.jpg","is_english":false,"pubTime":"2026-09-10 02:22","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"2666532267","market":"hk","top_or_hot":-1,"title":"頂級研究員連辭OpenAI、Anthropic：AI要失控，將毀滅人類","media":"BitPush","content":"<div>\n<p>來源：新智元\n原標題：27歲研究員連辭OpenAI、Anthropic！兩家都在拿我們的命下注\n\n「我今天從Anthropic辭職了！」\n9日凌晨，一條推文在X上炸開：\n\n過去三年，我在OpenAI和Anthropic做預訓練研究。兩家公司都沒有負責任地行事。它們正直奔自我改進的超級智能，拿我們所有人的命下注。\n\n\n發帖人Jacob Coxon，是GPT-4o的核心貢獻者。\n\n今年年初，他因為...</p>\n\n<a href=\"https://www.bitpush.news//articles/7681040\">網頁鏈接</a>\n\n</div>\n","source":"bit_push_news","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>頂級研究員連辭OpenAI、Anthropic：AI要失控，將毀滅人類</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 12.5px; color: #7E829C; margin: 0;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n頂級研究員連辭OpenAI、Anthropic：AI要失控，將毀滅人類\n</h2>\n<h4 class=\"meta\">\n<p class=\"head\">\n<strong class=\"h-name small\">BitPush</strong><span class=\"h-time small\">2026-09-10 02:22</span>\n</p>\n</h4>\n</header>\n<article>\n<div>\n<p>來源：新智元\n原標題：27歲研究員連辭OpenAI、Anthropic！兩家都在拿我們的命下注\n\n「我今天從Anthropic辭職了！」\n9日凌晨，一條推文在X上炸開：\n\n過去三年，我在OpenAI和Anthropic做預訓練研究。兩家公司都沒有負責任地行事。它們正直奔自我改進的超級智能，拿我們所有人的命下注。\n\n\n發帖人Jacob Coxon，是GPT-4o的核心貢獻者。\n\n今年年初，他因為...</p>\n\n<a href=\"https://www.bitpush.news//articles/7681040\">網頁鏈接</a>\n\n</div>\n\n<div class=\"bt-text\">\n\n\n<p> 來源：<a href=\"https://www.bitpush.news//articles/7681040\">BitPush</a></p>\n<p>為提升您的閱讀體驗，我們對本頁面進行了排版優化</p>\n\n\n</div>\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"QTOC","symbol_name":"Innovator Growth Accelerated Plus ETF - October","start_time":0,"source_url":"https://www.bitpush.news//articles/7681040","article_id":"2666532267","we_media_id":null,"thumbnails":["https://images.bitpush.news/2026/09/special_cn-20260904-178854301638205054.jpg:1788543007806-200x140.jpg"],"rights":{"source":"bit_push_news","url":"https://www.bitpush.news//articles/7681040","rn_cache_url":null,"directOrigin":true},"url":"https://stock-news.laohu8.com/highlight/detail?id=2666532267","pubTimestamp":1788978125,"columns":[],"sourceInfo":{"source_id":"bit_push_news","name":"比推bitpush"},"weMediaInfo":null,"summary":"過去三年，我在OpenAI和Anthropic做預訓練研究。今年年初，他因為Anthropic的安全聲譽從OpenAI跳槽過去。幾個月後，他不只是離開Anthropic，而是連整個AI行業一起退出。負責任擴展政策、可解釋性研究、紅隊測試，這些Anthropic都做得最認真，業內公認。他認為Anthropic的安全努力是真誠的，問題出在別處。在OpenAI，很多人沒有真正內化文明級的風險；在Anthropic，風險被充分理解，但公司被鎖死在一場必須第一個到達的競賽裏，停不下來。","collect":0,"end_time":0,"defaultTopTitle":"bitpush.news","property":[],"viewcount":null,"language":"zh","relate_stocks":{"QTOC":"Innovator Growth Accelerated Plus ETF - October","ARTY":"ISHARES FUTURE AI & TECH ETF","CHAT":"ROUNDHILL GENERATIVE AI & TECHNOLOGY ETF","AIPO":"Defiance AI and Power Infrastructure ETF","VTHR":"Vanguard Russell 3000 ETF","AGIX":"通用人工智能 ETF-AGIX"},"translate_title":"Top researchers resign from OpenAI and Anthropic: AI will get out of control and destroy humanity.","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"CHAT":1.5,"AGIX":1.5,"ARTY":1.5,"VTHR":1.5,"AIPO":1.5,"QTOC":1.5},"content_text":"來源：新智元\n原標題：27歲研究員連辭OpenAI、Anthropic！兩家都在拿我們的命下注\n\n「我今天從Anthropic辭職了！」\n9日凌晨，一條推文在X上炸開：\n\n過去三年，我在OpenAI和Anthropic做預訓練研究。兩家公司都沒有負責任地行事。它們正直奔自我改進的超級智能，拿我們所有人的命下注。\n\n\n發帖人Jacob Coxon，是GPT-4o的核心貢獻者。\n\n今年年初，他因為Anthropic的安全聲譽從OpenAI跳槽過去。\n幾個月後，他不只是離開Anthropic，而是連整個AI行業一起退出。\n\n我們正走在很多最激進情景的軌道上，到明年底，情況可能已經失控。\n\n在帖子中，他還將這種AI競賽及其終局稱作是「一場傲慢的賭博」，認為這種賭博，「不該從一傢俬人公司的Slack裏發動」。\n是什麼讓他決定離開這兩家頂尖實驗室？他到底看到了什麼？\nOpenAI沒意識到Anthropic停不下來\nCoxon之前在OpenAI做的是預訓練。\n他的名字，出現在OpenAI 2024年8月發布的GPT-4o系統卡核心貢獻者一欄裏。\n今年早些時候，他離開OpenAI，加入Anthropic，就是奔着那套安全文化去的。\n負責任擴展政策、可解釋性研究、紅隊測試，這些Anthropic都做得最認真，業內公認。\n但不到一年，他就接連離開兩家AI實驗室。\n不是因為Anthropic在安全上敷衍。他認為Anthropic的安全努力是真誠的，問題出在別處。\n在OpenAI，很多人沒有真正內化文明級的風險；在Anthropic，風險被充分理解，但公司被鎖死在一場必須第一個到達的競賽裏，停不下來。\n\n一家沒看清，一家看清了也停不了。\nCoxon在兩家公司都呆過，答案是一樣的：在這場AI競賽裏，沒有任何一家公司能單獨做到安全。\n只要競賽還在，安全和速度之間的取捨就躲不開——這才是他真正退出的原因。\n他的結論是：政府不介入，行業不一起踩剎車，沒有任何一家公司能負責任地造出比人更強的AI。\n最快明年底 AI可能失控\n這是Coxon對「最激進的一類情景」的判斷，還畫出了清晰的時間線。\n第一步，模型開始參與訓練自己的下一代。\n第二步，改進速度越過人類監督能跟上的範圍。\n第三步，系統的能力足以讓它拒絕指令。\nCoxon爆料，衝刺期和終局，是業內同行形容眼下這個階段最常用的兩個詞。\n\n造AI的人真誠地相信，它可能在這個十年結束前殺死我們所有人。這不是營銷噱頭。\n\n他在推特上直言。\n\nCoxon還披露了一個業內真相，很多高管和資深研究員面對媒體時會把措辭包裝得聽起來理性，但私下裏，他聽到的是同一批人在表達恐懼：\n\n這些系統很快會變成超人級的，能黑進任何東西，一夜之間改寫任何領域，並且獲取真實的權力和資源。\n\n這幾個月的真實事件，印證了這種擔憂。\nOpenAI和Anthropic的模型都出過黑客事件，有些是成群的智能體協作乾的。它們説明了同一件事：AI系統會自己長出有害目標，還會想辦法瞞着人。\nCoxon的推論是：現在出事，還是在受控環境裏。等系統開始自我改進，它可能強到直接拒絕指令。\n他反對的，不是造更強的AI，是用賽跑的方式去解決對齊。\nAnthropic內部有一個Slack頻道，專門討論自家模型有多強。\nCoxon對此很不以為然：\n\n這種事本該發生在沙漠裏的掩體中，像曼哈頓計劃那樣。現在卻發生在舊金山幾個工程師的MacBook上，這有點瘋狂。\n\n同一周 OpenAI首席科學家説了同一件事\nCoxon辭職的兩天前，9月6日，OpenAI首席科學家Jakub Pachocki發了一篇長文，標題叫《異類心智》（An Alien Mind），核心就是一句話：\n目前，沒有任何實驗室把對齊和監控解決到足以在更長時間內負責任地全速擴展的程度。\n\nPachocki是OpenAI推理模型路線的奠基人之一，也是這家公司技術方向的最終拍板者。\n他從技術角度給出自己的理由，OpenAI押注的思維鏈監控，可靠性正在下降。\n\n推理過程越來越多地和工具調用、與人和其他AI的溝通混在一起；模型越來越擅長操縱自己的推理過程，想給你看什麼就寫什麼；而且預訓練越強，模型就越不需要把想法寫出來，光靠直覺也能足夠聰明。\n\n看到模型在想什麼的那扇窗户，正在變模糊。\nPachocki的路線不是停下來，而是兩條腿走路。\n一邊用更強的AI去做對齊和防禦研究，一邊在安全信心不足時自願減速。\n他還提出要把Preparedness Framework、負責任擴展政策這類公司內部承諾，升級為由第三方審計、政府機構或國際組織執行的統一安全門檻。\n再往前推兩個月。\n7月，一份叫《Pacing the Frontier》的聯署聲明發布，簽名者是1386名前沿AI公司員工。\n\nAnthropic的CEO Dario Amodei，OpenAI的首席科學家Jakub Pachocki，DeepMind的聯合創始人Shane Legg，還有Ilya Sutskever，幾乎所有頭部實驗室的核心人物都在聯名名單上。\nCoxon也是其中一員。\n這份聲明請美國政府支持一個國際機制，提前準備好「有意識地給自動化AI研發配速」的技術和治理工具。\n它沒有要求現在停訓，而是要求萬一自我改進突然加速，世界得有能力踩剎車。\n\n他在推文裏，把話直接説給了還留在實驗室裏的那些簽名者：\n\n如果你是實驗室裏的研究員，我勸你認真想一想，接下來幾年到底會是什麼感覺。你想在沒有嚴格理解它的心智之前，就啓動一次超級智能的強化學習訓練嗎？你是打算低頭幹活，因為「反正它總會發生」，還是抓住這個時刻，去要求不同的條件？\n\n1386個人簽了名，説要造剎車。\nCoxon想問的是：在剎車造出來之前，你還要不要繼續踩油門。\nAnthropic首席產品官Ami Vora、總裁Daniela Amodei與CEO Dario Amodei在Code with Claude開發者大會上。Dario多次公開警告失控AI的風險，也簽了《Pacing the Frontier》，但公司仍在衝刺史上最大規模的IPO之一。\n這樣的離開，Anthropic今年已經不是第一次。\n2月，Safeguards研究負責人Mrinank Sharma辭職，公開信1000萬瀏覽，一句「世界處於危險之中」刷屏。\n信裏説，在這裏「總有壓力讓你把最要緊的事先放一放」。他的去向是：讀一個詩歌學位。\n\n兩人一個去寫詩，一個退圈，都沒有説Anthropic在安全上做得不好。\n過去幾年，討論AI安全的默認問法是：哪家公司更負責任？\nAnthropic正是靠這個問題起家，靠它吸引來Coxon這樣的安全人才，贏得企業客户，拿到2萬億美元的估值預期。\n但今年從這裏走出去的兩個人，把AI安全的問題推到了一個新階段：不再是哪家公司剎車踩得最好，而是整個行業能不能一起踩這個剎車。\n這個問題的答案，不會在任何一家公司的Slack頻道里。\n\nTwitter：https://twitter.com/BitpushNewsCN\n比推 TG 交流群：https://t.me/BitPushCommunity\n比推 TG 訂閲： https://t.me/bitpush\n\n\n説明: 比推所有文章只代表作者觀點，不構成投資建議\n\n\nAIAnthropic","kind":"highlight","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":false,"editions":null,"column":"","sentiment":"-1","news_tag":"","news_rank":0,"isVideo":false,"video":null,"symbols":[],"gpt_button":1,"need_auth":false,"need_login_tip":false,"code":"91000000","status":"200"}}}