迷人又危险，谁来为大模型设好“紧箍咒”？
“随着以大模型为核心的AI技术快速发展，一些新的事件不断发生，我们做人工智能AI就好像生活在一个早期的黑暗丛林里面，到处都是风险，但是我们又不看清安全的全貌，只能逐步进行探索。”9月7日开幕的2023 INCLUSION·外滩大会上，中国科学院院士何积丰抛出了对大模型时代的安全问题的思考。大模型进入我们的视野不到一年，但关于大模式时代的安全问题已经引发了不少忧虑。一个好的技术才刚刚走入我们的生活，
中国科学院院士何积丰：人类和机器要持续共同学习，人工智能不会替代人类创造未来
每经记者：温雅兰 每经编辑：张凌霄人工智能是把双刃剑。技术的使用在推动社会经济飞速发展的同时，也会带来多重“安全隐忧”。9月7日，在2023 Inclusion•外滩大会上，中国科学院院士何积丰以《大模型时代的安全问题》为题，与大家共同探讨大模型发展所带来的安全问题以及应对之道。人工智能拥有超强的自主学习能力，进化速度极快，在数次迭代升级后，是否有可能
中国科学院院士何积丰：利用对齐技术给AI戴上“紧箍咒”
目前，AI大模型的通用能力，让其能够应用到人类生产生活的各个场景中，可谓“无孔不入”；AI的发展因此也带来了新的安全隐患，如何解决这一问题，在9月7日开幕的2023 INCLUSION·外滩大会上，中国科学院院士何积丰开出了他的“药方”：利用对齐技术为大模型戴上紧箍咒。何积丰认为，大模型的安全问题主要是在未经同意的情况下，收集、使用和泄露个人信息。隐私问题既可能发生在训练过程，也可能发生在使用过程
迷人又危险，谁来为大模型设好“紧箍咒”？
“随着以大模型为核心的AI技术快速发展，一些新的事件不断发生，我们做人工智能AI就好像生活在一个早期的黑暗丛林里面，到处都是风险，但是我们又不看清安全的全貌，只能逐步进行探索。”9月7日开幕的2023 INCLUSION·外滩大会上，中国科学院院士何积丰抛出了对大模型时代的安全问题的思考。大模型进入我们的视野不到一年，但关于大模式时代的安全问题已经引发了不少忧虑。一个好的技术才刚刚走入我们的生活，
外滩大会｜何积丰院士：保护隐私安全，大模型“对齐”有哪些挑战？
·“如果把人工智能看作西游记里的孙悟空，‘对齐’就是唐僧的紧箍咒。有了紧箍咒，就可以保证技术不会任意使用能力胡作非为。”模型的通用能力让其能够应用到人类生产生活的各个场景中，可谓“无孔不入”。AI的发展因此带来了新的安全隐私问题，如何解决这一隐患，9月7日开幕的2023 Inclusion·外滩大会上，中国科学院院士何积丰开出了他的“药方”：利用对齐技术为大模型戴上紧箍咒。中国科学院院士
隐私保护更困难了？院士建议：用这种技术为大模型戴上紧箍咒
中新经纬9月7日电 (常涛)大模型的生成能力让“隐私泄露”的方式变得多样化，造成隐私保护更加困难，怎么办？在9月7日开幕的2023 INCLUSION·外滩大会上，中国科学院院士何积丰开出了他的“药方”：利用对齐技术为大模型戴上紧箍咒。何积丰认为，大模型的安全问题主要是在未经同意的情况下，收集、使用和泄露个人信息。隐私问题既可能发生在训练过程，也可能发生在使用过程中。而模型的通用能力，又让其能够应
外滩大会主论坛：专家畅谈AI——人工智能还需与人类价值观“对齐”
三年前，首届外滩大会的主论坛，由一杯咖啡聊起了金融科技的发展。昨天，外滩大会主论坛的“咖啡馆”又开张了，中外院士和业界领袖们齐聚一堂，从金融科技谈到了前沿科技，畅谈AI技术带来的红利，也反思了AI带来的隐忧。AI红利才刚开始演讲前，中国科学院院士、复旦大学副校长张人禾分享了一则新鲜事：9月1日，复旦大学举办了20年来第一次户外开学典礼，超过1.6万名新同学齐聚光华楼大草坪。但当时上海阴雨连绵，开学
院士何积丰：应对大模型的安全问题，需设好“紧箍咒”
模型的通用能力让其能够应用到人类生产生活的各个场景中，可谓“无孔不入”。AI的发展因此带来了新的安全隐私问题，如何解决这一隐患，9月7日开幕的2023 INCLUSION·外滩大会上，中国科学院院士何积丰开出了他的“药方”：利用对齐技术为大模型戴上紧箍咒。何积丰院士认为，大模型的安全问题主要是在未经同意的情况下，收集、使用和泄露个人信息。隐私问题既可能发生在训练过程，也可能发生在使用过程中，而大模
