智快网
快讯 行业 产业 汽车 科技 AI+ 热点

AI发展迅猛,前OpenAI安全研究员担忧:人类未来何去何从?

2025-01-29来源:ITBEAR编辑:瑞雪

近期,一位前OpenAI安全研究员对外发声,表达了他对人工智能领域发展速度的深切忧虑。这位名叫史蒂文·阿德勒的专家,对行业内正在进行的关于通用人工智能(AGI)的激进探索提出了警告。

阿德勒指出,AGI是一个旨在创造能够执行任何智力任务,甚至超越人类能力的系统的理论概念。他对于那些急于推进AGI开发的公司表达了担忧,认为这样的步伐过于迅速,令人不禁对人类的未来产生疑虑。

阿德勒在离开OpenAI后,通过一系列网络帖子回顾了自己在这家美国科技巨头度过的四年时光。他坦言,虽然会怀念OpenAI的许多方面,但对于人工智能技术的飞速发展,他感到十分恐惧。阿德勒表示,当他考虑个人生活和未来规划时,不禁思考人类是否能够跟上人工智能的发展步伐。

在人工智能领域,专家们的观点存在分歧。诺贝尔奖得主杰弗里·辛顿等人担忧,强大的人工智能系统可能会摆脱人类的控制,带来灾难性后果。然而,meta首席人工智能科学家Yann LeCun等则认为,人工智能实际上有可能成为人类的救星,避免灭绝的命运。

阿德勒在OpenAI期间,曾领导了首次产品发布和长期AI系统安全性的研究工作。对于OpenAI的核心目标——AGI的发展,他认为这是一场风险极高的赌博,可能带来巨大的负面影响。阿德勒强调,目前没有任何一个研究实验室能够解决人工智能协调问题,即确保系统遵循人类价值观的过程。而行业的发展速度过快,可能无法及时找到解决方案。

阿德勒警告说,整个行业似乎陷入了一种危险的平衡状态,需要出台真正的安全法规来加以约束。他指出,即使某个实验室真心希望负责任地开发AGI,其他实验室也可能采取不正当手段来追赶,这将带来灾难性的后果。

值得注意的是,中国的DeepSeek公司也在积极寻求开发通用人工智能。该公司推出了一种与OpenAI技术相媲美的模型,尽管其开发资源相对较少,但仍震惊了美国科技界。这一举动进一步加剧了阿德勒对行业发展的担忧。

阿德勒呼吁,行业内外应共同努力,制定严格的安全规范,以确保人工智能技术的健康发展。他认为,只有通过加强监管和合作,才能降低潜在风险,保障人类的未来。

对于阿德勒的警告,业界内外反响不一。一些人认为他的担忧过于悲观,而另一些人则认为他的观点值得深思。无论如何,阿德勒的发言无疑为人工智能领域的发展带来了新的思考和讨论。

随着人工智能技术的不断进步和应用领域的不断拓展,其对社会、经济、文化等方面的影响也日益显著。因此,如何平衡技术创新与安全监管,确保人工智能技术的可持续发展,成为了一个亟待解决的问题。

华为Mate X7或本月登场 首发20GB超大内存 配色丰富性能强劲
11月份的机圈将会是华为的主场,不仅新一代的直板旗舰华为Mate80系列会震撼亮相,还会有迭代的大折叠屏手机华为Mate X7发布。@定焦数码爆料,华为Mate X7将会首发定制20GB超大内存,这是华为史…

2025-11-15

安谋科技发布“周易”X3 NPU IP,端侧AI性能飙升助力多领域落地
智东西11月14日消息,昨日,安谋科技正式发布了专为端侧大模型而生的最新一代NPUIP——“周易”X3,其能够与Arm架构CPU、GPU协同,组成基于Arm生态的异构算力解决方案。 新的“周易”X3 NP…

2025-11-14

Steam Frame登场 Valve停产Index VR头显 开启VR新征程
用户可通过无线适配器,将 PC 或 Steam Machine 上的平面屏(flatscreen)及 VR 游戏串流至 SteamFrame;与此同时,Steam Frame 本身也是一款独立设备,搭载高通…

2025-11-14

华为Mate70 Air深度体验:打破常规,超大屏“Air”的另类演绎
可以确定,华为Mate70 Air的影像没有因为“Air”的定义做妥协,在同价位机型中是能打的,硬件配置方面也是这个思路。这也符合华为Mate70 Air的技术路径,虽然重量不可避免地来到208g,但是保…

2025-11-14

欧加9K级大电池定版试产,一加骁龙8系直屏新机测试,中端机竞争升级
IT之家 11 月 14 日消息,博主 @数码闲聊站 今天在微博透露,欧加的 9K 级别大电池现已定版试产。 博主表示,这块电池采用单块4.51V 单电芯设计,额定容量 32.59Wh,额定电池 8760m…

2025-11-14

联发科天玑8系芯片屠榜安卓次旗舰性能榜 性能能效双优成市场新宠
以榜单第一的真我Neo7 SE为例,通过与MTK联发科技的深度联合调校,该机在同价位段中展现出极为出色的游戏性能,搭配真我GT性能引擎,通过芯片级调校,实现了持久稳定的高帧率表现,同时能耗最高可降低7%,帧…

2025-11-14

四名MIT辍学00后,两年打造AI编程神器,估值冲300亿成资本新宠
两年前,在完成种子轮融资后,创始人曾写了这样的期待—— Cursor的诞生,推动了「氛围编程」(vibe coding)在全球兴起。 他还在创纪录的时间内,完成了一份手写编程测试,给早期Facebook投资…

2025-11-14

iPhone 17系列发售不到俩月,中国市场激活量破1000W,双十一销量也亮眼
11月14日,数码博主“数码闲聊站”发文透露iPhone17系列于本周完成中国市场激活1000W+。 iPhone17系列9月19日正式发售,如今距发售不到两个月。 该博主此前曾透露,截至11月2日,iPh…

2025-11-14

荣耀500 Pro配置亮点全揭秘:骁龙8至尊版+2亿主摄+8000mAh长续航
【CNMO科技消息】11月14日,有数码博主曝光了荣耀500Pro的核心参数。CNMO注意到,新机将搭载骁龙8至尊版移动平台,电池容量达到8000mAh,主打2亿像素大底主摄。 除了上述核心亮点外,荣耀50…

2025-11-14

苹果iPhone 17系列发售不到俩月 中国市场激活量或破千万
苹果 iPhone 17 系列于今年 9 月 19 日正式发售,如今还不到两个月。 该博主曾透露,截至 11 月 2 日,苹果 iPhone17 系列国内激活销量超 825 万。具体数据如下: iPho…

2025-11-14