国产全自研高性能TPU架构AI芯片与计算集群
100%自研
全自主可控
为 AI大模型计算而生
计算性能匹配海外先进水平
关于中昊芯英
中昊芯英由前谷歌TPU芯片核心研发者杨龚轶凡携一批来自于谷歌、微软、三星等海外科技巨头公司的AI软硬件设计专家于2018年创立。公司致力于以自研的TPU架构高性能AI芯片「刹那?与计算集群「泰则?为核心,构建AI大模型计算所需的、国产自主可控的、能够匹配海外先进水平的AI算力基石。当前已与各地政府、运营商、企业合作建设多个超大规模智算中心。
公司介绍
中昊芯英创始于2018年,致力于研发可支撑超大规模AI大模型计算的高性能AI芯片与智算集群,通过构建「自研AI芯片 ^+ 超算集群 ^+ AIGC预训练大模型J的产业价值链,为客户提供全国产自主可控的软硬件一体化AI创新技术方案
核心团队
创始人杨龚轶凡一TPU技术与产业发展的深度参与者
研究经历
2005.09- 2007.07
2007.09- 2009.07
密歇根大学电子信息与计算机学士
2009.09- 2011.04
3 篇 54项 15项顶级国际论文 中国发明专利 欧美发明专利
产业经历
^{10+} 年高端芯片领域从业经验,产业生涯成功流片十余次,掌握从28nm到7nm各代先进制程工艺下大芯片设计与优化完整方法论,带领团队完成多次从芯片架构设计、流片生产到客户交付的全流程
曾在Google作为芯片研发核心团队深度参TPU2/3/4的设计与研发
ORACLE
在甲骨文公司参与主导了12款包括SPARCT8/M8在内的顶级高性能CPU的设计与产出
汇聚全球AI芯片及AI算法顶尖人才
中昊芯英核心团队由来自谷歌、微软、甲骨文、三星、英伟达、亚马逊、Facebook等顶尖科技公司的AI软硬件设计专家组成,全栈式的技术梯队覆盖芯片设计、电路设计、软件栈研发、系统架构、大模型算法等各类技术领域,公司研发人员占比 70% 以上
发展历程
公司核心创始团队组建,完成大算力GPTPU芯片定义,组建完整的芯
02018年 片设计团队和原型验证团队,完成芯片模块化设计公司落地杭州,完成天使轮融资,搭建完整的芯片底层软件团队以及非
02020年 技术团队公司完成Pre-A轮融资,完成了刹那?芯片的主要设计和验证,实现了祝
02021年 融推理芯片的SoC公司完成A轮融资,完成刹那?芯片的SoC设计,祝融?推理芯片成功流
02022年 片及产业化公司完成Pre-B、Pre- *{\sf B}^{+} 轮融资,刹那?芯片成功量产交付,公司实现
02023年 4.8亿元营收与8000万元利润,并引入顶尖人才强化大模型算法团队
知识产权
中昊芯英的产品为 100% 全自研,公司拥有行业领先的核心知识产权体系与资质认证
经营增长
投资机构
荣誉资质
20+项国家/省/市级资质与认证
30+项科技/创业荣誉奖项
AICOMPUTINGHARDWAREPRODUCTSANDSOLUTIONS
AI算力硬件产品与方案
中昊芯英致力于以自研的TPU架构高性能AI芯片「刹那与大规模AI计算集群「泰则为核心,构建AI大模型计算所需的、国产自主可控的、能够匹配海外先进水平的AI算力基石
刹那?:中国首枚高性能TPU架构AI芯片
全自研自主可控
历时四年多 100% 自研,完全自主可控的IP核、全自研指令集与计算平台,目前已量产交付
比GPU更适合大模型计算需求
可重构的多级存储,存算一体设计,以强大的并行处理能力实现大模型计算速度和精度的双重提升
高能效比
能耗仅为传统GPU的 70% ,单位算力成本仅为海外领先GPU芯片 50%
国内顶尖的计算性能
用于AI大模型计算场景时,算力性能可匹配国际第一梯队芯片产品水平
1024片芯片高速片间互联
系统集群性能远超传统GPU数十倍,集群扩容时性能可线性增长,以构建千卡万卡规模超算集群
同等制程下性能3-4倍跃升
TPU为AI/ML而生的架构 ^+ Chiplet技术+2.5\mathsf{D} 封装,实现跨制程代际级别的算力跃升
TPU架构:为深度学习与AI训练而生
「刹那?芯片采用的TPU架构针对包括AI大模型计算场景在内的科学计算任务而定制,专注于张量运算以实现更高的计算速度,通过优化计算单元的维度和数据传输的深度,在降低功耗的同时获得了优异的加速效果,是比GPU更适合于数据中心进行大量部署的深度学习计算单元
多维度的计算单元提高计算效率
相较于CPU中的标量计算单元和GPU中的矢量计算单元,TPU使用二维乃至更高维度的计算单元完成计算任务,通过将卷积运算循环展开的方式实现最大限度的数据复用,降低数据传输成本,提升加速效率
更省时的数据传输和高效率的控制单元
冯诺依曼架构带来的存储墙问题在深度学习任务当中尤为突出,而TPU采用更为激进的策略设计数据传输,且控制单元更小,给片上存储器和运算单元留下了更大的空间
设计面向AI的加速,强化AI/ML计算能力
定位准确,架构简单,单线程控制,定制指令集,TPU架构在深度学习运算方面效率极高,且易于扩展,更适合超大规模的AI大模型计算需求
泰则?人工智能服务器
泰则?人工智能服务器单个最小计算单元搭载8片刹那?芯片(单卡4芯片 \star 2 张卡),以超高性能、低能耗、易部署和维护的综合优势,成为全国产自主可控AI算力硬件系统的领先者
国内一流水平的高性能
行业领先的双向片间带宽,集群可线性扩容,大规模并行计算集群中多服务器间高效、稳定通信,为构建超大规模并行计算集群提供坚实支撑
高效负载均衡与高性能计算
100G以太网接口,深度优化数据并行与模型并行计算性能,细化算力调度机制,工作负载算力和存储资源动态均衡分布
行业领先的低能耗
在完成相同的AI大模型运算任务量时,能耗仅为国际领先GPU产品的 70% ,惊人的能效比是智算领域低耗高效和绿色计算的标杆
易用,可靠,高兼容
内置开箱即用的平台管理软件,安全可靠的数据加密、身份校验和持续监测,与主流模型的无缝集成的高兼容性
泰则?大规模AI计算集群系统
强大的算力支持
基于自研AI芯片刹那?构建的AI计算集群系统,单集群最大浮点运算能力达200P以上,可支撑超千亿参数AI大模型计算
顶尖的集群扩展性
1024片AI芯片的高速片间互联,集群可实现线性扩容,系统级性能比传统GPU集群提升数十倍
灵活的算力调度
通过精细化的算力调度机制,实时响应多用户需求,动态调整分配的工作负载算力和存储资源,确保各复杂应用场景下的高效协同与灵活部署
多场景大模型适配
支撑包括 AIGC大模型计算、高级无人驾驶模型训练、蛋白质结构精密预测、AlphaGo、AlphaZero等在内的各类高强度Al运算场景
快速的高效部署
泰则智能计算集群借助自动化部署工具,极大的缩短集群部署到系统上线时间,同时专业团队制定灵活的流程,以实现敏捷响应和高效执行
安全可靠的防护措施
智能计算集群采用先进的安全防护措施,可以有效防止未经授权的访问和恶意攻击,保障用户数据的安全性
客户案例:深圳联通
2024年9月,中昊芯英与深圳联通联合启动了广东地区首个全采用国产TPU芯片的高性能AI智算中心,形成训推一体化枢纽,成为中国联通在深圳的核心智算高地的重要组成部分。
中昊芯英此次提供搭载自主研发的高性能TPU芯片「刹那?的人工智能服务器及大规模AI计算集群系统「泰则」,为项目搭建坚实的AI计算底座。
搭载联通云自研的“星罗”算力管理平台,实现多元异构算力的适配和服务编排,形成“通算 ^+ 智算 ^+ 超算”的融合调度能力,面向客户提供一体化的算力运营服务,聚焦于金融、教育、医疗等领域的智能化应用场景,提升深圳地区产业的智能化水平。
客户案例:浙江大学
面对高校科研与教育领域日益增长的对高性能计算的需求,浙江大学与太极股份、中昊芯英开展三方合作,引入了基于中昊芯英全自研的TPU架构高性能AI芯片「刹那?构建的人工智能服务器「泰则?」,其强大的计算能力,以及高能效比与良好的兼容性,成功应用于浙江大学的多个科研项目和教学实验中。
经济价值
社会价值
打破高校对进口高端算力设备的依赖,实现算力资源的自主可控。与进口算力服务器相比,在完成同等AI运算量时的算力成本节约超 50% ,有效减轻了高校的财务负担。同时,师生们能够更快速地处理大规模数据、模拟复杂场景、验证理论假设等,使科研周期得以缩短,创新成果加速涌现。
高校作为科技创新的重要阵地,其对于国产芯片的接纳与应用,不仅增强了国内芯片产业的信心,也为芯片技术的迭代升级提供了宝贵的实践反馈。通过产学研深度融合,可以更好的为我国信息技术产业的自主可控和高质量发展奠定坚实的人才基础,对国产芯片技术的推广与应用起到了积极的推动作用。
客户案例:青海·海东“丝绸云谷”
“丝绸云谷”低碳算力产业园是青海省海东市2023年引进的绿色算力产业重点项目,以打造西北数据云谷为目标,在“丝绸云谷”产业园中设立“唐古拉”AI算力实验室,充分挖掘利用西部地区清洁能源资源,发展大规模绿色低碳AI超算建设。
该园区将有望成为国内最大规模零碳数据中心余热回收利用一体化项目,也是国内首个完全定位于“大算力 ^+ 大模型”形态的大型人工智能计算中心。
中昊芯英提供的搭载中国首枚高性能TPUAI芯片“刹那?”的人工智能服务器以及大规模AI计算集群系统“泰则?”,为该项目搭建AI计算底座。不仅满足海东市大数据和数字经济发展的需求,还将助力“东数西算”工程的实施。
大模型产品与方案
中昊芯英自研预训练大模型并为细分行业用户提供再训练/推理接口,赋能金融、医疗、传媒、营销、教育、编程等多行业发展。通过打造面向产业场景的领域大模型构建平台,建设起领域大模型的应用生态,实现人工智能大模型技术对产业场景的赋能
自研预训练大模型
中昊芯英致力于研发能够提供「刚性」输出能力的基础大模型,拟突破一般的通用大模型常见的精准定向性差、幻觉问题严重和输出内容意义低下等问题,构建直接接入行业知识库即可直接落地的高效落地模式。通过完成自研预训练大模型构建并为细分行业用户提供再训练/推理接口,赋能AI大模型在金融、医疗、传媒、营销、教育、编程等多行业的落地应用。
GIII LUI
从GUI转向LUI
推动基于图形(GUI)的底层数据交互逻辑转向更高效、便捷的自然语言交互(LUI),实现数据治理「轻量化」
穿透数据库底层,避免「片汤话」
以结构化数据为切入,实现数据库穿透功能,深度整合数据库/数仓及中台等基础设施,精准映射业务逻辑,赋予高效、无冗余的业务导向信息交流的能力
「文理兼修」的刚性大模型
以强大的理解和问答能力为基础,研发兼具柔性交互和刚性处理能力的高可信、易落地的大模型
金融大模型
中昊芯英与国内头部金融机构共创「泰则·练气J大模型,是业界首款适用于金融数据处理的刚性大模型,具备结构化数据分析、作图、处理、建模等功能。
应用场景
针对选股、选基等不同细分业务场景需求,对金融大模型进行精准调度,进一步构建全新的选股、选基问答应用;目前已与国内头部金融机构在NL2SQL、资讯分析等金融领域应用验证
教育大模型
中昊芯英与头部上市教育企业共研「泰则·筑基J教育大模型,提升教学效率和质量、促进教育个性化和智能化,从学习空间、学习资源和教师角色三个方面推动教育的变革。
应用场景
目前已与头部上市教育企业在学科知识图谱构建、学习路径规划、作业和考试评估等教育领域应用验证。
医疗大模型
中昊芯英自主研发「泰则·金丹J医疗大模型,通过权威医学知识加工,实现中文医学微调指令集的构建,并实现医学大模型计算的私有化部署,保障医疗信息与生物信息的安全。
创新技术
应用场景
目前已与浙江省领先医疗信息化集团合作,在医疗知识问答、病历解析、报告解读等医疗领域完成了应用验证。经医学专家评测,中昊芯英医疗大模型在药品适应症、疾病效果评测结果结果均优于ChatGLM和ChatGPT,且在医学知识问答、诊断及依据等医学场景上任务上效果与ChatGPT水平相当,优于其他开源模型。
关注微信公众号了解公司实时动态联系邮箱:contact@chipltech.com
公司地址:
杭州市滨江区火炬创新中心6号楼19-20层上海市闵行区零号湾1号楼2楼




