酷游九州-解决方案

酷游九州AI大模型大有可为——来自第十二届互联网安全大会的声音

发布时间：2024-08-11 21:45:27 来源：酷游ku游官网 作者：九洲酷游体育

　　“安全认知，日见清晰；安全研究，路阻且长；安全行业，大有可为；紧跟创新，保障发展……”在近日举行的第十二届互联网安全大会上，中国工程院院士吴世忠的一番总结，折射了AI（人工智能）时代安全大模型行业的发展现状。

　　一直以来，技术发展伴生的安全挑战、迭代防护，贯穿着行业发展始终，也备受各界关注。大会期间，多位院士，中国互联网协会、中国信通院、世界互联网大会等机构组织负责人，以及国内外企业代表齐聚，围绕“打造安全大模型”主题，分享来自政产学研用领域的各方观点。

　　在过去的两年里，随着ChatGPT在全球范围内爆红，AI大模型热潮在国内急速升温，多家互联网巨头纷纷加速布局大模型应用。记者从会上了解到，截至目前，我国已完成备案并上线、能为公众提供服务的生成式人工智能服务大模型有180多个，注册用户数已突破5.64亿。

　　会上专家介绍，AI以激进式的科技创新，全面推进新一轮科技和生活赋能，以颠覆式的应用创新，激发出科技、经济、社会全方位的深刻变化。大模型的出现标志着AI发展进入新阶段，具备了强大的语言生成能力、人机自然交互能力、迁移（举一反三）能力。

　　“我们已初步构建了较为全面的AI技术产业体系，建成了2500多个数字化车间和智能工厂，经过AI改造研发周期平均缩短20％，生产效率提升35％……”中国信息通信研究院副院长魏亮分享了这样一组数据。他分析认为，大模型技术发展带来高质量算力基础设施和数据集语料库的大量需求，我们要加快推进大模型基础设施化，促进行业应用和中小企业普惠使用，不断创新应用生态、推动纵深发展。

　　从曾经的“百模大战”，到持续赋能千行百业，再到如今发力探寻具体应用场景。“2024年应该是场景之年，要结合业务找‘明星场景’，然后根据场景设计功能，对大模型进行专项训练。”360集团创始人周鸿祎认为。

　　有专家提到“协作”的重要性，基础大模型是企业实现数字化转型不可或缺的一环，需要应对包括强大的算力、充足的数据、高水平的研材、新应用的算法等诸多挑战，这就需要大模型提供方与垂直行业紧密合作。

　　“ChatGPT问世不到一年，科研前沿就有了风险预警。它是典型的两用性技术，具有双刃剑特性，人们担心技术发展失控、道理伦理失范、网络安全失守。”吴世忠谈到这样一组观察体会——近年来，美国人工智能公司“开放人工智能研究中心”（OpenAI）等国外行业巨头相继加大安全技术和监管措施的投入，国内诸多企业也在安全研究上布局投资。这说明，大模型能力增长需要安全研究快速跟进，这已成为业界共识。

　　在业界看来，当前AI的发展存在诸多不足。“生成式AI存在‘幻觉’缺陷，它会‘胡说八道’，很多情况下还并不知道自己说错了。它和机器产生的错误不一样，后者往往我们可以控制，但前者是本身的错误，是一定会发生且不可控的。这是开发应用中需要重点考虑的问题。”中国科学院院士、清华大学计算机系教授张钹说。

　　“AI既有向善的一面，也有向恶的一面。”中国工程院院士、国家数字交换系统工程技术研究中心主任邬江兴认为，AI应用系统安全责任与风险存在严重失衡。AI应用系统网络内生安全的共性问题，在于计算机带来了“娘胎的基因缺陷”，如果不能杜绝软硬件代码设计中的脆弱性，就无法杜绝网络问题。

　　据了解，相对于大模型本身的研究，相关的安全研究才刚刚开始，不但任重道远，而且困难重重：一是对于大模型的解释性和透明性不足；二是安全保障技术存在复杂性和多样性；三是伦理和道德问题的复杂性；四是安全测试和风险评估的复杂性。

　　多年来，互联网技术的攻防对抗，宛如一场从未停歇的“正邪较量”。“需要不断探索新的防护策略来应对日益复杂的数字化环境，数字技术应用既是安全防御的重点，也是保障的有力手段，需要将大数据、AI、物联网等技术结合，提升保障能力。”中国工程院院士邬贺铨建议，传统安全防护手段需要向云化、服务化转型，数字安全企业应构建体系化的安全运营服务框架，为各行业提供安全能力，帮助构建和维护安全防御体系。

　　“不发展是最大的不安全，约束是为了发展，没有约束的发展是不可持续发展。我们要明确这一思路。”中国互联网协会副理事长黄澄清呼吁，鼓励互联网企业利用AI技术提升安全防御的智能化水平，持续加大在人工智能与数字安全领域的研发投入，促进产学研用深度融合，加速技术成果向产业转化。

　　据了解，自今年8月1日起，欧盟《人工智能法案》生效，这是全球首部全面监管人工智能法规。截至目前，已经有数十个国家先后发布了与人工智能相关的国家战略和法规文件。人工智能的核心关切主要是透明度、公开性、非恶意、负责任、隐私、向善、信任、尊严等，治理研究是将这些落实到从大模型部署、开发、计算推理、数据输入到推广应用的各个环节。

　　“人工智能时代，确保网络安全不仅是发挥互联网作为全球纽带的核心要素，更是实现人工智能为人类社会带来福祉的基础前提。”在国际合作方面，世界互联网大会秘书长任贤良表示，我们要推动协同共治，汇聚各方力量，推动数字安全与新一代信息技术协同创新、示范应用、融合发展，构建理论交流、技术合作、人才培养的良好生态。

　　中国科学院昆明动物研究所研究员车静团队将在云南省文山壮族苗族自治州发现的棱蜥新种命名为招龙棱蜥（Tropidophorus vongx），相关研究成果日前发表于国际动物分类学期刊《动物分类学》（Zootaxa）。

　　8月7日，记者从中国海油获悉，在海南岛东南海域发现的陵水36-1气田新增探明储量顺利通过国家有关部门评审备案，探明天然气地质储量超1000亿立方米，为全球首个超深水超浅层大型气田，勘探过程中实现了海洋油气勘探理论领域的创新，填补了全球技术空白。

　　国家发展改革委、国家市场监管总局、生态环境部近日联合印发《关于进一步强化碳达峰碳中和标准计量体系建设行动方案（2024—2025年）》，有针对性部署实施16项重点任务，其中“双碳”标准重点任务8项、“双碳”计量重点任务8项。

　　“安全认知，日见清晰；安全研究，路阻且长；安全行业，大有可为；紧跟创新，保障发展……”在近日举行的第十二届互联网安全大会上，中国工程院院士吴世忠的一番总结，折射了AI（人工智能）时代安全大模型行业的发展现状。

　　8月6日，由国家发展改革委、国家能源局和国家数据局联合印发的《加快构建新型电力系统行动方案（2024—2027年）》（以下简称《行动方案》）正式公布。对于大规模高比例新能源外送攻坚行动，上述负责人解释，目前，在运跨省区输电通道主要输送煤电、水电等传统电力，新能源电量占比较低。

　　记者从中国长江三峡集团有限公司获悉：近日，我国多地出现高温天气，用电需求持续攀升。7月31日，由乌东德、白鹤滩、溪洛渡、向家坝、三峡、葛洲坝6座梯级水电站构成的世界最大清洁能源走廊顶峰保供，高峰出力超过7000万千瓦，创历史新高。

　　记者7日从清华大学获悉，该校电子系方璐教授课题组与自动化系戴琼海教授课题组在智能光芯片领域取得重大进展。“与现有训练范式不同，我们摒弃了反向传播，另辟蹊径，构建了光神经网络的对称传播模型，仅用光学系统的前向传播即可实现高效高精度光训练。

　　未来产业发展更加基于科学突破，物质结构、宇宙演化、生命起源等科学正在开辟、引领新产业方向；产业前沿技术交叉融合更加迅速，大数据、云计算等新一代信息技术同智能制造深度融合；产业发展更加依赖新型基础设施，颠覆性技术创新一旦获得成功，就能迅速发展成为通用基础技术，快速重塑市场竞争格局。

　　科技兴族兴，科技强则国家强。党的二十届三中全会提出，深化科技体制改革。中国式现代化要靠科技现代化作支撑，实现高质量发展要靠科技创新培育新动能。学习领会全会精神，要充分认识科技的战略先导地位和根本支撑作用，加强顶层设计和统筹谋划，以改革助推高水平科技自立自强。

　　雄安站是近些年铁路客站中首例建成的拉开站场，在站房中心位置形成光廊。雄安站对各系统设备进行统筹，首次结合建筑设备监控系统设置能源管理系统，实现大型枢纽客站能耗管控。

　　北京时间8月6日14时42分，我国在太原卫星发射中心使用长征六号改运载火箭，成功将千帆极轨01组卫星发射升空，卫星顺利进入预定轨道，发射任务获得成功。

　　2024年8月7日，是二十四节气中的第十三个节气——立秋。国家卫生健康委6日举行新闻发布会，介绍时令节气与健康有关情况。

　　机器人作业，离不开人工精准操控。上升、平移、张爪、安装……半空中，机器人的“手臂”和“手爪”在高压线上轻快地“舞动”。

　　当今世界面临气候变化、粮食安全、能源资源短缺等挑战，如何把二氧化碳转化成对人类有意义且有市场价值的物质？人工合成淀粉项目便是其中一个尝试。

　　随着全球对绿色能源需求的增长，太阳能光伏技术正迅速发展，其中，钙钛矿太阳能电池因其高效率和低成本而备受关注，被认为是“最有前景的下一代光伏技术”。

　　对于医学院校而言，要在健康中国建设的背景下，加强新医科建设的顶层设计和统筹谋划，增强系统观念和前瞻思维，把实现高质量发展作为最核心、最紧迫的任务。

　　在教育、科技、人才“三位一体”统筹推进的要求下，学科交叉研究成为促进高质量发展、推动新质生产力发展的有效举措。