,他指出，横轴是AI的技术能力的提升，在transformer为代表的基础模型架构下，将以大数据、大参数量、大计算量的尺度定律，让目前的AI能力呈指数级增长；与之对比，在纵轴的AI安全维度，典型的技术如红队测试、安全标识、安全护栏与评估测量等，呈现离散化、碎片化且后置的特性。,他表示，目前世界上99%的算力用于模型的训练，只有不到1%用于更多“安全优先”的考量。所以我们需要找到AI安全优先，但又能保证AI能力长期发展的技术体系。我们把这样一种技术思想体系叫做“AI的45度平衡律”，是指从长期的角度来看，我们要大体上沿着45度的安全与性能平衡发展，所谓的平衡是指短期内可以有波动，但不能长期低于45度。周伯文：99%算力用于模型训练，不到1%用于安全优先，要探索人工智能发展的“45度平衡律”
2024年07月04日 admin 57121
7月4日至7日，2024世界人工智能大会暨人工智能全球治理高级别会议（WAIC 2024）将在上海举行。,在开幕式上，人工智能治理技术方向首席专家、清华大学惠妍讲席教授、清华大学电子系长聘教授、衔远科技创始人周伯文表示，目前AI的发展是失衡的。,,他指出，横轴是AI的技术能力的提升，在transformer为代表的基础模型架构下，将以大数据、大参数量、大计算量的尺度定律，让目前的AI能力呈指数级增长；与之对比，在纵轴的AI安全维度，典型的技术如红队测试、安全标识、安全护栏与评估测量等，呈现离散化、碎片化且后置的特性。,他表示，目前世界上99%的算力用于模型的训练，只有不到1%用于更多“安全优先”的考量。所以我们需要找到AI安全优先，但又能保证AI能力长期发展的技术体系。我们把这样一种技术思想体系叫做“AI的45度平衡律”，是指从长期的角度来看，我们要大体上沿着45度的安全与性能平衡发展，所谓的平衡是指短期内可以有波动，但不能长期低于45度。
,他指出，横轴是AI的技术能力的提升，在transformer为代表的基础模型架构下，将以大数据、大参数量、大计算量的尺度定律，让目前的AI能力呈指数级增长；与之对比，在纵轴的AI安全维度，典型的技术如红队测试、安全标识、安全护栏与评估测量等，呈现离散化、碎片化且后置的特性。,他表示，目前世界上99%的算力用于模型的训练，只有不到1%用于更多“安全优先”的考量。所以我们需要找到AI安全优先，但又能保证AI能力长期发展的技术体系。我们把这样一种技术思想体系叫做“AI的45度平衡律”，是指从长期的角度来看，我们要大体上沿着45度的安全与性能平衡发展，所谓的平衡是指短期内可以有波动，但不能长期低于45度。
相关文章
宁波银行杨超：“波波知了”金融赋能产业升级，创新服务助力发展2025年09月03日
吴晓忠：聚焦自主创新，合见工软与全国产EDA/IP发展新机遇2025年09月03日
万亿赛道新变局：西门子EDA以AI重塑半导体设计边界2025年09月03日
“金融+集成电路”产业高峰论坛圆满落幕，产融深度对接大获成功！2025年09月03日
“中国智造”全新探索，美的首个智能体工厂获世界纪录2025年08月28日
倒计时3天！观察者网“金融+集成电路”产业高峰论坛议程出炉2025年08月26日
心智观察所：一场关乎美国科技霸权的大戏2025年08月26日
心智观察所：飞鹤面临一场远超“出生率下降”的复杂战役2025年08月20日
心智观察所：老板电器的房地产“后遗症”2025年08月19日
心智观察所：1000万美金的刷子？中国光伏“内卷”背后的全球谋略2025年08月19日