外滩大会｜何积丰院士：保护隐私安全，大模型“对齐”有哪些挑战？
·“如果把人工智能看作西游记里的孙悟空，‘对齐’就是唐僧的紧箍咒。有了紧箍咒，就可以保证技术不会任意使用能力胡作非为。”模型的通用能力让其能够应用到人类生产生活的各个场景中，可谓“无孔不入”。AI的发展因此带来了新的安全隐私问题，如何解决这一隐患，9月7日开幕的2023 Inclusion·外滩大会上，中国科学院院士何积丰开出了他的“药方”：利用对齐技术为大模型戴上紧箍咒。中国科学院院士
隐私保护更困难了？院士建议：用这种技术为大模型戴上紧箍咒
中新经纬9月7日电 (常涛)大模型的生成能力让“隐私泄露”的方式变得多样化，造成隐私保护更加困难，怎么办？在9月7日开幕的2023 INCLUSION·外滩大会上，中国科学院院士何积丰开出了他的“药方”：利用对齐技术为大模型戴上紧箍咒。何积丰认为，大模型的安全问题主要是在未经同意的情况下，收集、使用和泄露个人信息。隐私问题既可能发生在训练过程，也可能发生在使用过程中。而模型的通用能力，又让其能够应
院士何积丰：应对大模型的安全问题，需设好“紧箍咒”
模型的通用能力让其能够应用到人类生产生活的各个场景中，可谓“无孔不入”。AI的发展因此带来了新的安全隐私问题，如何解决这一隐患，9月7日开幕的2023 INCLUSION·外滩大会上，中国科学院院士何积丰开出了他的“药方”：利用对齐技术为大模型戴上紧箍咒。何积丰院士认为，大模型的安全问题主要是在未经同意的情况下，收集、使用和泄露个人信息。隐私问题既可能发生在训练过程，也可能发生在使用过程中，而大模
外滩大会|中国科学院院士何积丰：AI大模型就像孙悟空，需设好“对齐”这个紧箍咒
大模型进入大众视野不超过1年，对安全提出了怎样的挑战？中国科学院院士何积丰形容他感觉是“生活在早期的黑暗丛林里，感觉到处都埋伏着风险却又看不清”的状态。今天开幕的2023 INCLUSION·外滩大会上，何积丰指出了大模型安全与原有的AI安全的本质区别，它不仅展示出了通用人工智能的能力，而且迅速深入到社会生产生活的各个场景中，可谓“无孔不入”。AI的发展因此带来了新的安全隐私问题，如何解决这一隐患
