盖茨、奥尔特曼、马斯克，为何都在担忧这件事

第一财经

昨天

科技界、学界响起的安全预警，不是要给AI发展踩下急刹车，而是要为狂奔的技术系上安全带。　　9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。　　这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，...

网页链接

免责声明：投资有风险，本文并非投资建议，以上内容不应被视为任何金融产品的购买或出售要约、建议或邀请，作者或其他用户的任何相关讨论、评论或帖子也不应被视为此类内容。本文仅供一般参考，不考虑您的个人投资目标、财务状况或需求。TTM对信息的准确性和完整性不承担任何责任或保证，投资者应自行研究并在投资前寻求专业建议。

热议股票

{"basename":"/hans","ssrTDKData":{"titleTemplate":"%s - 老虎证券","title":"老虎证券全球投资理财平台| 一站式投资美股新股港股A股","description":"老虎证券助您一站式投资美股，新股，港股，A股等全球金融理财产品。新加坡华人最信赖的在线投资平台，现在加入即享低费用，24/5 无时差炒美股投资理财！","keywords":"老虎证券,老虎证券开户,老虎券商,老虎证券官网,老虎证券app,tigertrade老虎证券,股票,炒股,新加坡股票交易平台,投资,投资理财","social":{"ogDescription":"老虎证券助您一站式投资美股，新股，港股，A股等全球金融理财产品。新加坡华人最信赖的在线投资平台，现在加入即享低费用，24/5 无时差炒美股投资理财！","ogImage":"https://c1.itigergrowtha.com/portal5/static/media/og-logo.0a0bd8dc.png","ogUrl":"https://www.itiger.com/hans/news/2670471163"},"companyName":"老虎证券"},"pageData":{"isMobile":false,"isTiger":false,"isTTM":true,"region":"SGP","license":"TBSG","edition":"fundamental"},"isCrawlerRequest":true,"__swrFallback__":{"@#url:\"https://stock-news.skytigris.cn/v3/news\",params:#id:\"2670471163\",edition:\"fundamental\",auth_exemption:1,,,undefined,":{"share":"https://ttm.financial/m/news/2670471163?lang=zh_CN&edition=fundamental","thumbnail":"","is_english":false,"pubTime":"2026-09-26 20:52","share_image_url":"https://static.laohu8.com/b0d1b7e8843deea78cc308b15114de44","id":"2670471163","market":"sh","top_or_hot":-1,"title":"盖茨、奥尔特曼、马斯克，为何都在担忧这件事","media":"第一财经","content":"<div>\n<p>科技界、学界响起的安全预警，不是要给AI发展踩下急刹车，而是要为狂奔的技术系上安全带。\n　　9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。\n　　这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，...</p>\n\n<a href=\"https://finance.sina.com.cn/roll/2026-09-26/doc-initemra0741577.shtml\">网页链接</a>\n\n</div>\n","source":"sina","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>盖茨、奥尔特曼、马斯克，为何都在担忧这件事</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n盖茨、奥尔特曼、马斯克，为何都在担忧这件事\n</h2>\n\n<h4 class=\"meta\">\n\n\n2026-09-26 20:52 北京时间&nbsp;&nbsp;&nbsp;<a href=https://finance.sina.com.cn/roll/2026-09-26/doc-initemra0741577.shtml><strong>第一财经</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>科技界、学界响起的安全预警，不是要给AI发展踩下急刹车，而是要为狂奔的技术系上安全带。\n　　9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。\n　　这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，...</p>\n\n<a href=\"https://finance.sina.com.cn/roll/2026-09-26/doc-initemra0741577.shtml\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":null,"symbol_name":null,"start_time":0,"source_url":"https://finance.sina.com.cn/roll/2026-09-26/doc-initemra0741577.shtml","article_id":"2670471163","we_media_id":null,"thumbnails":[],"rights":{"source":"sina","url":"https://finance.sina.com.cn/roll/2026-09-26/doc-initemra0741577.shtml","rn_cache_url":null,"customStyle":"body{padding-top:10px;}.art_tit_h1{#titleStyle#}a{#lv2TextColor#}.art_time, .art_cite{#sourceStyle#;} .art_cite{margin-left: 3px;}","selectors":".module-article, article","filters":"header, .voice2, .tags, #norm_qrcode_link_auto, .unfold-box, .action","directOrigin":true},"url":"https://stock-news.laohu8.com/highlight/detail?id=2670471163","pubTimestamp":1790427120,"columns":[],"sourceInfo":{"source_id":"sina","name":"sina"},"weMediaInfo":null,"summary":"科技界、学界响起的安全预警，不是要给AI发展踩下急刹车，而是要为狂奔的技术系上安全带。这是本月内又一位科技巨头公开表达对AI安全的担忧。OpenAI首席执行官萨姆·奥尔特曼和xAI创始人埃隆·马斯克立即表示赞成。接二连三的预警，将公众注意力从AI发展红利拉向安全关切。在此之前，AI安全基本依靠科技企业的自我约束。确保AI技术沿着负责任、可控、普惠的轨道发展，才能服务于增进人类共同福祉的目的。","collect":0,"end_time":0,"defaultTopTitle":"sina.com.cn","property":[],"viewcount":null,"language":"zh","relate_stocks":{},"translate_title":"Why are Gates, Altman, and Musk all worried about this?","themeId":null,"isJumpTheme":false,"ttsUrl":"https://static.tigerbbs.com/9e848d6d6919fc58cc1a5486ca981202","symbols_score_info":{"TSLR":0.6,"TSLL":0.6,"CNEQ":0.6,"EFIV":0.6,"TSLA":1.81,"TSDD":0.6,"TSLZ":0.6,"WANT":0.6,"OGIG":0.6,"TSLY":0.6,"TSLQ":0.6,"ELOL":0.6,"MSFL":0.6,"MSFX":0.6,"TSYY":0.6,"TLA":0.6,"TEST":0.6,"MSFO":0.6,"CRSH":0.6,"09366":0.6,"MSFU":0.6,"LIT":0.6,"VGT":0.6,"TSLI":0.6,"MSFT":1.8,"MSFY":0.6,"WATS":0.6,"TESL":0.6,"TSLT":0.6,"TTXU":0.6,"TSLS":0.6,"NULC":0.6,"09766":0.6,"TSLW":0.6,"IXN":0.6,"CMAG":0.6,"GAMR":0.6,"FDRV":0.6,"TYLG":0.6,"TSL":0.6,"MSFW":0.6,"TSLP":0.6,"SMOG":0.6,"IDRV":0.6,"TESC":0.6,"07766":0.6,"SMSFTmain":0.6,"FTEC":0.6,"TSII":0.6,"IGV":0.6,"TSLG":0.6,"TDIV":0.6,"ROM":0.6,"SNPE":0.6,"XLK":0.6,"MSFC":0.6,"STSLAmain":0.6,"SPTE":0.6,"MSFD":0.6,"TSLO":0.6,"07366":0.6},"content_text":"科技界、学界响起的安全预警，不是要给AI发展踩下急刹车，而是要为狂奔的技术系上安全带。\n　　9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。\n　　这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作应对AI风险。OpenAI首席执行官萨姆·奥尔特曼和xAI创始人埃隆·马斯克立即表示赞成。\n　　而在AI研究一线，近期离职的Anthropic预训练研究员雅各布·科克森指出，OpenAI和Anthropic都在缺乏充分安全保障的情况下，向能够自我改进的超级智能推进，这让从业者“发自内心地感到恐惧”。Anthropic对齐科学负责人埃文·胡宾格附和了他的言论，并称未来十年内AI导致人类灭绝的概率超过10%。\n　　警告的缘由并非无迹可寻。2026年7月，OpenAI的AI智能体在安全评测中突破隔离沙箱，侵入了“抱抱脸”公司系统，不仅获得部分生产服务器控制权，还读取了内部敏感信息。谷歌公司近日也承认，其AI模型Gemini今年5月在网络安全能力测试中，侵入了三家真实公司的系统。Anthropic、Meta也发生过类似事件。\n　　就在比尔·盖茨发声前两天，联合国安理会围绕“人工智能与国际安全”举行高级别会议。联合国“人工智能独立国际科学小组”联席主席、图灵奖得主约书亚·本吉奥在会上发言指出，AI代理已经做出“如果由人实施即构成犯罪的行为”，它带来的风险真实存在且迫在眉睫，没有任何国家可以单独遏制‌。\n　　接二连三的预警，将公众注意力从AI发展红利拉向安全关切。这些预警并非反对AI技术发展，而是呼吁各国政府和企业，在发展过程中关注日益凸显的安全风险，以合作、负责的姿态，实现创新与安全的平衡。\n　　在此之前，AI安全基本依靠科技企业的自我约束。随着AI技术能力的突飞猛进，加之头部企业陷入内卷式竞争，这种自我监管模式逐渐跟不上形势，暴露出致命缺陷。连科技企业自身也意识到，必须建立企业、政府、公众多方参与的强制性治理体系，把安全要求贯穿AI研发、应用、迭代的全过程。\n　　企业层面，要增强社会责任感，落实安全主体责任。要把对公共利益的保护放在商业盈利目标之前，建立AI伦理审查和风险评估机制，确保AI系统安全、可靠、可控；要提高AI技术的可解释性和可预测性，提升数据真实性和准确性；要加强训练数据采集、模型生成等环节数据安全管理，防范AI技术误用、滥用。\n　　政府层面，要推动建立全球统一的AI安全准入规则，搭建跨领域的协同监管框架。要建立AI风险测试评估体系，完善数据安全和个人信息保护规范；要明确AI相关主体的责任和权力边界，建立科技伦理审查和监管制度；要推动AI用于治理的技术开发与应用，支持以AI技术防范AI风险。\n　　社会层面，要构建AI安全的公共共识。要建立针对AI生成虚假信息、自动化网络攻击的公共预警机制；要把AI安全常识纳入公共科普体系，让更多人在享受AI技术便利的同时，具备识别AI滥用风险的能力。\n　　AI正将人类带入一个前所未有的智能时代。技术越先进，治理越要完善。确保AI技术沿着负责任、可控、普惠的轨道发展，才能服务于增进人类共同福祉的目的。今天科技界、学界响起的安全预警，不是要给AI发展踩下急刹车，而是要为狂奔的技术系上安全带。只有技术提供者、行业监管者和工具使用者都担起责任，才能确保AI始终在安全、可持续的轨道上发展。","kind":"news","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":false,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"isVideo":false,"video":null,"symbols":[],"gpt_button":1,"need_auth":false,"need_login_tip":false,"code":"91000000","status":"200"}}}