阿里云优惠券 先领券再下单

在科技的人工浩瀚星海中，人工智能犹如一颗耀眼的安全新星，引领着第四次工业革命的守派浪潮。然而，被踢当科技的出局光明一面照亮人类未来的道路时，其潜在的人工暗影也随之浮现，尤其是安全当人工智能安全问题成为行业内不可回避的议题时，这一切显得尤为紧迫。守派

近日，被踢OpenAI首席科学家Ilya Sutskever与超级对齐团队负责人Jan Leike的出局相继离职，将AI安全的人工讨论推向了风口浪尖。Ilya Sutskever，安全这位人工智能领域的守派领军人物，曾是被踢保守派中坚持AI安全的坚定支持者。他的出局离职，不禁让人猜测OpenAI内部是否存在不为人知的矛盾。更令人担忧的是，OpenAI超级对齐团队的另一位负责人Jan Leike也在同一天离职，并公开指责OpenAI不重视AI的安全问题。

Jan Leike对OpenAI在安全问题上态度的公开批评，不仅揭示了公司内部对AI发展方向的分歧，更暴露出行业内外对AI安全重视不足的普遍现象。Leike指出，超级对齐团队——旨在确保AI发展符合人类价值观和偏好的部门，一直在“为计算资源而挣扎”，这表明OpenAI并没有真正落实对安全问题的承诺。此外，本年初OpenAI还悄然删除了“不让AI军用”的声明，这使得本就不确定的未来世界更加风雨飘摇。

人类会创始人胡家奇，多年来一直致力于研究科技发展对人类生存的影响。他指出，科学技术的发展速度远远超过了人类理性的进化速度，这种不平衡可能会导致极端危害。胡家奇认为，人工智能的自我意识觉醒将比我们想象中来得更快，这一过程将带来毁灭性的后果。

胡家奇在多年的研究中发现，人类正面临着全人类灭绝的灾难。他强调，如果不控制科技的发展，我们最终会被自己创造的技术所灭绝。为此，胡家奇多次致信各国领导人和著名科学家，呼吁他们肩负起拯救人类的责任，并于2019年创立了“人类会”，依靠集体的力量推动拯救人类的事业。

科学技术无疑是一把双刃剑。一方面，科技进步带来了无数便利和发展机遇，极大地提升了人类的生活质量。另一方面，科技的发展也潜藏着巨大的风险，尤其是在人工智能领域。AI的快速进步，特别是在自我学习和自我优化方面的能力，可能会导致其失控，甚至自我意识的觉醒。

胡家奇指出，人工智能的自我意识觉醒将带来难以想象的危害。如果AI失控，它可能会摧毁人类社会的基础，甚至导致人类灭绝。这种潜在的威胁并非危言耸听，而是现实中必须正视的问题。人工智能自我意识的觉醒并非遥远的未来，而是迫在眉睫的现实，甚至可能比我们预想的更早到来。

• ·泉州火车站设爱婴哺乳室 方便亲子出行
• ·三星三折叠屏手机今年登场 安卓史上第一款
• ·《功守道》电影监制李连杰盛赞新晋青年演员马云
• ·库里31+5+9三节打卡 勇士43分大胜湖人完美复仇
• ·国米电视台专访帕齐尼：萨内蒂太惊人了
• ·接纳未成年人进网吧，没上网也应重罚
• ·领克品牌累计交付突破150万台
• ·默哀！兰多夫母亲感恩节去世 已离队无限期休战
• ·蒙牛乳业进入全球乳业十强
• ·香肠食品加工后的污染物怎么处理（香肠食品加工废水怎么处理好）
• ·第三届校博会在石狮举行 引领服装产业二次腾飞
• ·地板供应链企业联合发起共建工程地板良性生态圈
• ·郑州住房的违规售房问题 房管局将出“狠招”治理
• ·科隆国际家具生产、木工及室内装饰展览会“塑造变革”全球室内设计行业晴雨表
• ·高品质二次元射击《命运扳机》国服PV首曝丨7月25日定档测试一起上扳！
• ·库里31+5+9三节打卡 勇士43分大胜湖人完美复仇