IM电竞·(中国)官方网站

im电竞平台首页|东亚娱乐集团|实现DeepSeek671B全参数微调 HKGA

  2月25日,香港特区政府重点创科项目“InnoHK创新香港研发平台”(InnoHK)资助的香港生成式人工智能研发中心(HKGAI)正式发布业界首个基于DeepSeek671B全参数微调、持续训练产生的大模型HKGAIV1,并计划将该模型接入自研AI智能对话应用“港话通”(手机版)、公文写作系统“港文通”(HKPilot)以及其他系统,全面支持粤语、英语和普通话。   香港特区政府

在线订购

  2月25日ღღ✿,香港特区政府重点创科项目“InnoHK创新香港研发平台”(InnoHK)资助的香港生成式人工智能研发中心(HKGAI)正式发布业界首个基于DeepSeek671B全参数微调ღღ✿、持续训练产生的大模型HKGAIV1ღღ✿,并计划将该模型接入自研AI智能对话应用“港话通”(手机版)ღღ✿、公文写作系统“港文通”(HKPilot)以及其他系统ღღ✿,全面支持粤语ღღ✿、英语和普通话ღღ✿。

  香港特区政府创新科技及工业局局长孙东教授表示ღღ✿,人工智能正在引领新一轮技术革命和产业变革ღღ✿,在这波以人工智能为代表的科技浪潮中ღღ✿,香港没有缺席ღღ✿。他希望香港研发的大语言模型能够立足香港ღღ✿,尽快提供给业界及市民使用ღღ✿,服务大众ღღ✿,日后更希望利用这个平台服务数以千万的海外华人ღღ✿。

  同时ღღ✿,孙东教授表示ღღ✿:“HKGAI研发中心的团队迅速将DeepSeek完美的底座模型架构与HKGAI非常杰出的数据处理ღღ✿,微调和对齐技术有机结合ღღ✿,从当初中心的成立ღღ✿,到今天我们香港自己的大语言模型的推出ღღ✿,历时一年半ღღ✿,从无到有ღღ✿,书写了狮子山下一个美好的科创传奇ღღ✿。”

  香港科技大学首席副校长ღღ✿、香港生成式人工智能研发中心主任郭毅可教授表示ღღ✿,在香港特区政府领导和大力支持下ღღ✿,HKGAIV1通过深度融合我国的技术路径和香港特有数据和地方文化及价值观ღღ✿,实现了我国人工智能自主创新成果在香港的本土化落地ღღ✿,架设起我国人工智能技术出海的高速通道ღღ✿,为“一国两制”制度优势下香港与内地协同创新的重要案例ღღ✿。

  “狮子山精神象征着香港市民自强不息im电竞平台首页ღღ✿、同舟共济的价值观ღღ✿。要教授孩子这一精神ღღ✿,可以陪孩子参与集体活动ღღ✿,如社区清洁ღღ✿、义卖筹款等……”在HKGAIV1全球首发发布会现场ღღ✿,“港话通”正在为一位体验者出谋划策ღღ✿。

  “我们使DeepSeek通过香港本地化成为‘聪明的香港AI对话助手’ღღ✿。”郭毅可表示ღღ✿,“我们不仅植入了香港法律条例ღღ✿、政府文书等大量本地公文数据ღღ✿,更创新性地使用香港文化数据开展训练ღღ✿,使模型真正具备‘港式思维’ღღ✿、香港文化ღღ✿,努力实践与体现‘一国两制’制度优势ღღ✿。”

  据郭毅可介绍ღღ✿,在香港公务员公文处理的场景中东亚娱乐集团ღღ✿,HKGAIV1运行效率和内容丰富性较国际主流模型大幅提升ღღ✿,兼具合规性要求ღღ✿。“我们推出HKGAIV1旨在为香港打造最先进的本地化大模型ღღ✿,未来提供给市民和政府使用ღღ✿,并赋能香港产业体系变革与发展ღღ✿。”郭毅可说ღღ✿。

  “聪明的香港AI对话助手”迅速上线ღღ✿,离不开由HKGAI和北京大学联合组成的技术团队的攻关突破ღღ✿,也离不开香港数码港给予大力支持ღღ✿。“我们在短短几周内完成DeepSeek671B大模型从基座迁移到全参数微调的开发流程ღღ✿。”HKGAI预研部主任韩斯睿教授表示ღღ✿,区别于常见的轻量级微调方案ღღ✿,研发人员基于本地千卡算力集群ღღ✿,对模型千亿参数进行全参数监督微调ღღ✿,在确保通用智能水平不降级的前提下ღღ✿,完成模型的本地化ღღ✿,实现了对香港语言文化im电竞平台首页ღღ✿、政务流程ღღ✿、商业规范等垂直领域的深度适配ღღ✿。

  据核心技术人员透露ღღ✿,HKGAI技术团队成功突破671B全参数微调领域一系列技术壁垒ღღ✿,为国产大模型的持续训练提供了创新解决方案ღღ✿。开源基座的训练支持缺失是技术团队遭遇的首个“拦路虎”ღღ✿。通过深入解析核心论文ღღ✿,技术团队重构了模型架构的关键组件ღღ✿。面对数据配比这一行业共性难题东亚娱乐集团im电竞平台首页ღღ✿,技术团队通过大量实验ღღ✿,分析不同数据子集对模型收敛速度和泛化能力的影响ღღ✿,实现目前的最好效果ღღ✿。针对671B超大参数规模模型ღღ✿,技术团队成功在较短时间内攻克高并发场景下的推理计算难关ღღ✿。该框架已形成完整技术栈ღღ✿,未来可快速复用于其他超大规模模型训练ღღ✿。

  骐骥千里ღღ✿,非一日之功ღღ✿。据了解ღღ✿,在香港特区政府ღღ✿,特别是创新科技及工业局及创新科技署的资助与大力支持下ღღ✿,自2023年10月成立以来ღღ✿,HKGAI肩负着香港特区政府应对全球生成式AI浪潮的重任ღღ✿,由香港科技大学牵头ღღ✿,联合多所高校共同组建ღღ✿,致力于构建具有香港本地特色的开源大模型ღღ✿,以增强香港在AI浪潮中的全球竞争力ღღ✿。“HKGAI过去一年在算力集成ღღ✿、技术研发ღღ✿、应用拓展ღღ✿、人才培养等方面的积累ღღ✿,是HKGAIV1得以快速开发和应用的重要原因ღღ✿。”郭毅可称ღღ✿。

  郭毅可表示ღღ✿,衷心感谢香港特区政府一直以来对HKGAI的关爱和支持ღღ✿,HKGAIV1项目的推进始终遵循“国家所需ღღ✿、香港所长”的战略导向ღღ✿。“在中国科技自立自强进程中ღღ✿,HKGAIV1的诞生具有特殊战略价值ღღ✿。其采用的‘国产基座+本地化创新’双轮驱动模式ღღ✿,既保障了底层技术的安全可控ღღ✿,又充分释放了香港本地化与国际化数据要素的活力ღღ✿。”郭毅可称ღღ✿。

  香港“内联外通”优势正在AI时代焕发新机ღღ✿。郭毅可表示ღღ✿,依托香港融通中外的独特优势ღღ✿,HKGAIV1通过两大战略路径构建科技创新赋能体系ღღ✿:对内开展创新协同ღღ✿,通过内地-香港联合实验室实现技术共融ღღ✿,驱动粤港澳大湾区人工智能产业链能级跃升im电竞平台首页ღღ✿,为打造世界级科创中心注入新动能ღღ✿;对外进行国际化辐射路径ღღ✿,以香港为支点构建海外技术交流网络im电竞平台首页ღღ✿,通过向海外华人社区及国际市场输出国际化的AI解决方案ღღ✿,系统提升中国科技创新标准的全球渗透力ღღ✿。

  郭毅可坦言ღღ✿,站在新的历史节点ღღ✿,HKGAI将在AI数据治理ღღ✿、校企协同人才培养ღღ✿、AI+香港特色产业ღღ✿,如法律ღღ✿、金融ღღ✿、医疗等重点领域持续突破ღღ✿。在世界AI发展的浪潮中ღღ✿,在国家AI发展的征途上ღღ✿,我们香港不能缺席im电竞平台首页ღღ✿,我们既要做攻坚尖刀ღღ✿,又可当科技试验田东亚娱乐集团ღღ✿。”郭毅可的这番展望im电竞平台首页ღღ✿,道出了HKGAI科技工作者的共同心声ღღ✿。


热门产品