陈根:7巨头出席白宫峰会,为防范AI风险做出八项承诺
文/陈根
当地时间7月21日,包含亚马逊、谷歌、微软、OpenAI、Meta、Anthropic和Inflection在内的7家人工智能公司参与了白宫峰会,这些公司的代表与美国总统拜登会面,并表示同意拜登政府提出的一系列AI保障措施,以防范人工智能的潜在风险。
这7家领先的AI企业自愿签署协议,承诺对其AI系统进行内部和外部安全测试,其中部分测试将由独立专家进行,旨在防范一些重要的风险来源,如生物安全和网络安全,及其更广泛的社会影响等等。同时,这些公司也承诺与整个行业、政府、民进及学术界共享AI风险管理的信息。
除此之外,这7家企业承诺对网络安全和内部威胁防护措施进行投资,保护专有模型和未发布模型的权重不被泄露;致力于促进第三方发现与报告AI系统中的漏洞;致力于开发有力的技术机制如水印系统,使用户知晓哪些内容由AI生成;报告其AI系统的功能、局限性及适用与不适用的领域;研究AI可能带来的社会风险,包含偏见和歧视等等;开发和部署先进的AI系统,以帮助解决社会面临的最大挑战,如癌症或气候变暖等等。
这让我们看到了正在到来的人工智能时代,人类有基本的共识,就是要借助于技术的约束来让AI技术服务于人类,让AI成为人类社会的效率提升工具。
这也是全世界所有从事于AI开发与训练企业需要学习的地方,就是在追求AI技术发展的同时,必须要考虑对AI技术的监管,以及要考虑AI万一偏离设想后的风险管控与干预。训练AI服务于人类社会很难,但是如何在AI自我学习的情况下,能够管控AI不偏离服务人类社会的这个设想更难。
免责声明:凡本网站发布的文章、图片、音频、视频等内容所表述的观点和立场不代表本网站的观点和立场,若对该观点或立场有疑义或异议,请及时用电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。凡本网站发布的所有文章 、图片、音频、视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一和版权者联系,如果本网所选内容的文章作者及编辑认为其作品不宜上网供大家浏览,或不应无偿使用,请及时用电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。
相关阅读
只是偶然搜索,天工AI竟然走心回答,勾起魔兽催泪回忆杀!
2024.04.30
盘不完,根本盘不完……怎么没人早点告诉我AI音乐这么好玩
2024.04.25
中国首个音乐SOTA模型「天工音乐大模型」今日公测
2024.04.17
解码「天工SkyMusic」,填补AI音乐领域技术空白
2024.04.12
「天工SkyMusic」跨界喜剧,用实验音乐探索笑声与旋律的碰撞
2024.04.11